Dieses ist das zweite von zwei Interviews, die Lex Fridman mit Elon Musk in seiner Podcast-Reihe „Artificial Intelligence“ geführt hat. In diesem am 12.11.2019 auf YouTube veröffentlichten Video geht es unter anderem um die Innovation und Technik bei Neuralink und die Möglichkeit, eine Schnittstelle zwischen der menschlichen und maschinellen Intelligenz zu erschaffen. Mehr über und von Lex Fridman ist unter www.lexfridman.com zu finden; das englische Wortprotokoll zu diesem Interview gibt es hier.

Lex Fridman: (00:00) Das Folgende ist ein Gespräch mit Elon Musk, Teil 2. Das zweite Mal, dass wir im Podcast gesprochen haben, mit Parallelen, wenn vielleicht nicht in der Qualität, dann zumindest im Outfit zur, objektiv gesehen, besten Fortsetzung aller Zeiten, „Der Pate Teil II“. Wie viele Menschen wissen, ist Elon Musk der Chef von Tesla, SpaceX, Neuralink und der Boring Company. Vielleicht weniger bekannt ist, dass er ein Weltklasse-Ingenieur und Designer ist, der ständig das auf Urprinzipien basierende Denken betont, wenn er große technische Probleme in Angriff nimmt, deren Lösung viele vor ihm für unmöglich hielten.

Als Wissenschaftler und Ingenieure stellen die meisten von uns die Art und Weise, wie Dinge gemacht werden, nicht in Frage. Wir folgen einfach der Eigendynamik der Masse. Aber revolutionäre Ideen, die die Welt im Kleinen und im Großen verändern, entstehen, wenn man zu den Grundlagen zurückkehrt und fragt: „Gibt es einen besseren Weg?“

Dieses Gespräch konzentriert sich auf die unglaubliche Technik und Innovation, die bei Neuralink im Bereich der Gehirn-Computer-Schnittstellen geleistet wird. Diese Arbeit verspricht, bei der Behandlung von neurobiologischen Krankheiten zu helfen, uns zu helfen, die Verbindung zwischen dem einzelnen Neuron und der High-Level-Funktion des menschlichen Gehirns besser zu verstehen, und schließlich eines Tages die Kapazität des Gehirns durch Zwei-Wege-Kommunikation mit Computergeräten, dem Internet und Systemen der künstlichen Intelligenz zu erweitern.

Dies ist der „Artificial Intelligence Podcast“. Wenn er Ihnen gefällt, abonnieren Sie ihn auf YouTube, Apple Podcasts, Spotify, unterstützen Sie ihn auf Patreon, oder verbinden Sie sich einfach mit mir auf Twitter @Lexfridman, buchstabiert F-R-I-D-M-A-N. Und nun, wie ein anonymer YouTube-Kommentator unser vorheriges Gespräch als „Historisches erstes Video von zwei Robotern, die sich ohne Aufsicht unterhalten“ bezeichnet hat, hier das zweite Mal, das zweite Gespräch mit Elon Musk.

Lex Fridman: Lassen Sie uns mit einer einfachen Frage über das Bewusstsein beginnen. Ist das Bewusstsein Ihrer Ansicht nach etwas, das es nur beim Menschen gibt, oder ist es etwas, das alle Materie durchdringt, fast wie eine fundamentale Kraft der Physik?

Elon Musk: Ich glaube nicht, dass das Bewusstsein die gesamte Materie durchdringt.

Lex Fridman: Panpsychiker glauben, dass es eine philosophische…

Elon Musk: Woran würden Sie das erkennen?

Lex Fridman: Das ist wahr, das ist ein guter Punkt.

Elon Musk: Ich glaube an die wissenschaftliche Methode. Lassen Sie sich nicht verwirren oder so, aber die wissenschaftliche Methode ist folgende: Wenn man die Hypothese nicht testen kann, dann kann man auch nicht zu dem sinnvollen Schluss kommen, dass sie wahr ist.

Lex Fridman: (02:30) Glauben Sie, dass das Bewusstsein, das Verstehen des Bewusstseins, in der Reichweite der Wissenschaft oder der wissenschaftlichen Methode liegt?

Elon Musk: Wir können unser Verständnis von Bewusstsein dramatisch verbessern. Ich würde mich schwer tun zu behaupten, dass wir irgendetwas mit absoluter Genauigkeit verstehen. Aber können wir unser Verständnis des Bewusstseins dramatisch verbessern? Ich glaube, die Antwort ist ja.

Lex Fridman: Muss ein KI-System Ihrer Meinung nach ein Bewusstsein haben, um eine Intelligenz auf menschlichem oder übermenschlichem Niveau zu erreichen? Muss es einige dieser menschlichen Qualitäten haben wie Bewusstsein, vielleicht einen Körper, vielleicht Angst vor der Sterblichkeit, die Fähigkeit zu lieben, diese Art von albernen menschlichen Dingen?

Elon Musk: Es ist anders. Es gibt die wissenschaftliche Methode, an die ich sehr glaube, bei der etwas in dem Maße wahr ist, wie es überprüfbar ist. Ansonsten redet man wirklich nur über Vorlieben oder nicht überprüfbare Überzeugungen oder so etwas. Am Ende ist es also eine semantische Frage, bei der wir viele Dinge mit dem Wort Intelligenz vermengen. Wenn wir sie zerlegen und fragen, gehen wir auf eine Zukunft zu, in der eine KI in der Lage ist, uns in jeder Hinsicht zu übertreffen, dann lautet die Antwort eindeutig ja.

Lex Fridman: Damit ein KI-System uns in jeder Hinsicht übertrumpfen kann, muss es auch die Fähigkeit haben, Bewusstsein zu haben, sich selbst zu erkennen und zu verstehen.

Elon Musk: Es wird sich selbst wahrnehmen, ja. Das ist etwas anderes als Bewusstsein. Mein Bewusstsein fühlt sich an, als wäre das Bewusstsein in einer anderen Dimension. Aber das könnte nur eine Illusion sein. Wenn man ein Gehirn in irgendeiner Weise physisch beschädigt, beschädigt man auch das Bewusstsein; was impliziert, dass das Bewusstsein ein physikalisches Phänomen ist, meiner Meinung nach.

Die Sache, die ich für sehr wahrscheinlich halte, ist, dass die digitale Intelligenz uns in jeder Hinsicht übertreffen kann, und dass sie bald in der Lage sein wird, das, was wir als Bewusstsein betrachten, in einem Maße zu simulieren, dass man nicht fähig sein wird, den Unterschied zu erkennen. (05:00)

Lex Fridman: Und unter dem Aspekt der wissenschaftlichen Methode könnte es genauso gut Bewusstsein sein, wenn wir es perfekt simulieren können?

Elon Musk: Wenn man den Unterschied nicht erkennen kann, dann ist das eine Art Turing-Test. Aber stellen Sie sich das eher als eine erweiterte Version des Turing-Tests vor. Wenn Sie mit einer digitalen Superintelligenz sprechen und nicht sagen können, ob es sich um einen Computer oder einen Menschen handelt – sagen wir, Sie führen ein Gespräch über ein Telefon oder eine Videokonferenz mit etwas, das aussieht wie ein Mensch, all die richtigen Tonfälle und Bewegungen und all die kleinen Feinheiten macht, die einen Menschen ausmachen, und spricht wie ein Mensch, macht Fehler wie ein Mensch, und Sie können buchstäblich einfach nicht sagen, ob Sie eine Videokonferenz mit einem Menschen oder einer KI haben.

Lex Fridman: Es könnte genauso gut…

Elon Musk: Könnte genauso gut sein.

Lex Fridman: …ein Mensch sein. Sie haben sich ernsthaft über die existenzielle Bedrohung durch KI geäußert. Das ist vielleicht eine der größten Herausforderungen, denen sich unsere Zivilisation gegenübersieht. Aber da wir, so würde ich sagen, eine Art optimistischer Nachfahre von Affen sind, können wir vielleicht mehrere Wege finden, um dem Schaden durch KI zu entgehen. Wenn ich Ihnen also drei Optionen nennen darf, können Sie vielleicht kommentieren, welche Sie für die vielversprechendste halten.

Die eine ist also, die Anstrengungen im Bereich der KI-Sicherheit und der nützlichen KI-Forschung zu verstärken, in der Hoffnung, eine algorithmische oder vielleicht eine politische Lösung zu finden. Zweitens, so schnell wie möglich zu einer multiplanetaren Spezies zu werden, und drittens, mit der KI zu verschmelzen und auf der Welle der zunehmenden Intelligenz zu reiten, da diese sich kontinuierlich verbessert. Was ist Ihrer Meinung nach am vielversprechendsten, am interessantesten? In was sollten wir als eine Zivilisation investieren?

Elon Musk: Ich denke, es gibt eine enorme Menge an Investitionen in die KI. Wo es an Investitionen mangelt, ist bei der KI-Sicherheit, und es sollte meiner Meinung nach eine Regierungsbehörde geben, die alles, was mit KI zu tun hat, überwacht, um zu sicherzustellen, dass kein Risiko für die öffentliche Sicherheit besteht. So wie es eine Food and Drug Administration gibt, die NHTSA für die Automobilsicherheit, die FAA für die Flugsicherheit. Wir stimmen alle darüber ein, dass es wichtig ist, einen staatlichen oder nicht-staatlichen Schiedsrichter (07:30) zu haben, der dem öffentlichen Interesse dient, und sich darum kümmert, dass die Dinge sicher sind, die eine potenzielle Gefahr für die Öffentlichkeit darstellen könnten.

Ich würde sagen, dass KI eindeutig potenziell gefährlich für die Öffentlichkeit ist und daher eine Regulierungsbehörde haben sollte, so wie andere Dinge, die für die Öffentlichkeit gefährlich sind, eine Regulierungsbehörde haben. Das Problem dabei ist, dass die Regierung sich sehr langsam bewegt. Normalerweise entsteht eine Regulierungsbehörde dadurch, dass etwas Schreckliches passiert, es einen großen öffentlichen Aufschrei gibt und Jahre später eine Regulierungsbehörde oder eine Regel eingeführt wird.

Nehmen Sie etwas wie Sicherheitsgurte. Es war seit einem Jahrzehnt oder mehr bekannt, dass Sicherheitsgurte einen massiven Einfluss auf die Sicherheit haben und so viele Leben retten und schwere Verletzungen verhindern würden. Aber die Autoindustrie kämpfte vehement gegen die Vorschriften zum Einbau von Sicherheitsgurten. Das ist verrückt. Hunderttausende von Menschen sind wahrscheinlich deswegen gestorben. Und sie sagten, die Leute würden keine Autos kaufen, wenn sie Sicherheitsgurte hätten, was natürlich absurd ist.

Oder schauen Sie sich die Tabakindustrie an und wie lange sie alles über das Rauchen bekämpft haben. Das ist einer der Gründe, warum ich mitgeholfen habe, den Film „Thank You for Smoking“ zu machen, weil man darin sieht, wie schädlich es sein kann, wenn diese Unternehmen effektiv eine regulatorische Vereinnahmung der Regierung erreichen.

In der KI-Community wird das Aufkommen der digitalen Superintelligenz als Singularität bezeichnet. Das soll nicht heißen, dass es gut oder schlecht ist, sondern dass es sehr schwierig ist, vorherzusagen, was nach diesem Punkt passieren wird. Und dass es eine gewisse Wahrscheinlichkeit gibt, dass es schlecht sein wird und eine gewisse Wahrscheinlichkeit, dass es gut sein wird. Wir wollen natürlich diese Wahrscheinlichkeit beeinflussen und dafür sorgen, dass es mehr gut als schlecht ist.

Lex Fridman: Nun, im Zusammenhang mit dem Verschmelzen mit einer KI würde ich gerne Fragen stellen zu der unglaublichen Arbeit, die bei Neuralink geleistet wird. Es gibt hier eine Menge faszinierender Innovationen, die über verschiedene Disziplinen hinweg stattfinden. Die flexiblen Drähte, die Roboternähmaschine, die auf Hirnbewegungen reagiert, und alles rund um die Gewährleistung der Sicherheit und so weiter. (10:00)

Wir verstehen also derzeit sehr wenig über das menschliche Gehirn. Hoffen Sie auch, dass die Arbeit bei Neuralink uns helfen wird, mehr über den menschlichen Geist, über das Gehirn zu verstehen?

Elon Musk: Ja, ich denke, die Arbeit bei Neuralink wird definitiv eine Menge Einblicke in die Funktionsweise des Gehirns und des Geistes geben. Im Moment sind die Daten darüber, wie das Gehirn funktioniert, sehr begrenzt. Wir haben fMRI; das ist so, als ob man ein Stethoskop an die Außenseite einer Fabrikwand setzt und dann die ganze Fabrikwand abtastet, und man kann sozusagen die Geräusche hören, aber man weiß nicht, was die Maschinen wirklich tun. Das ist ein Problem. Man kann ein paar Dinge ableiten, aber das ist ein sehr grober Pinselstrich. Um wirklich zu wissen, was im Gehirn vor sich geht, muss man hochpräzise Sensoren haben, und dann will man Reiz und Reaktion verstehen. Wenn man z.B. ein Neuron auslöst, wie fühlt man sich, was sieht man, wie verändert es die Wahrnehmung der Welt?

Lex Fridman: Sie sprechen davon, dass die physische Annäherung an das Gehirn, die Möglichkeit, Signale aus dem Gehirn zu messen, die Tür ins Innere der Fabrik öffnen wird?

Elon Musk: Ja, genau, hochpräzise Sensoren, die einem sagen, was einzelne Neuronen tun, um dann Neuronen auslösen zu können, um zu sehen, was die Reaktion im Gehirn ist. So kann man die Konsequenzen sehen, wenn man dieses Neuron feuert. Was passiert, wie fühlt man sich, was ändert sich dadurch? Es wird wirklich tiefgreifend sein, das beim Menschen sehen zu können, weil ein Mensch die Veränderung beschreiben kann. Zum Beispiel, wenn sich die Stimmung ändert, oder wenn er sagen kann, ob er besser sehen oder besser hören oder Sätze besser oder schlechter bilden kann, oder ob Erinnerungen wachgerufen werden oder solche Dinge.

Lex Fridman: Also auf der einen Seite gibt es diese unglaubliche, allgemeine Formbarkeit, Plastizität des menschlichen Gehirns. Das menschliche Gehirn lernt etwas, passt sich an, und so weiter.

Elon Musk: Es ist nicht so plastisch, um ganz offen zu sein.

Lex Fridman: Es gibt also eine feste Struktur, aber dennoch gibt es eine gewisse Plastizität, und die offene Frage ist, wie viel von dieser Plastizität genutzt werden kann. Auf der einen Seite gibt es eine gewisse Plastizität im menschlichen Gehirn, und auf der Maschinenseite haben wir neuronale Netzwerke, maschinelles Lernen, künstliche Intelligenz, die in der Lage sind, sich anzupassen und Signale herauszufinden. (12:30) Es gibt also eine geheimnisvolle Sprache, die wir nicht perfekt verstehen, die im menschlichen Gehirn steckt. Und dann versuchen wir, diese Sprache zu verstehen, um in beide Richtungen zu kommunizieren.

Das Gehirn passt sich also ein wenig an, wir wissen nicht wie sehr, und die Maschine passt sich an. Auf diesem Weg zueinander, fast wie zwei fremde Spezies, wie planen Sie, dort ein Kommunikationsprotokoll zu finden, das funktioniert? Wo sehen Sie den größten Nutzen? Auf der Seite der Maschine oder auf der Seite der Menschen? Glauben Sie, dass beide zusammenarbeiten werden?

Elon Musk: Ich denke, dass die maschinelle Seite weitaus formbarer ist als die biologische, und zwar um ein Vielfaches. Es wird also die Maschine sein, die sich an das Gehirn anpasst. Das ist das Einzige, was möglich ist. Das Gehirn kann sich nicht so gut an die Maschine anpassen. Man kann nicht zulassen, dass Neuronen anfangen, eine Elektrode als ein anderes Neuron zu betrachten. Denn Neuronen, das ist wie der Puls, und so würde etwas anderes pulsieren. Es könnte also eine gewisse Elastizität in der Schnittstelle entstehen, aber der größte Teil der Formbarkeit wird auf der Seite der Maschine liegen müssen.

Lex Fridman: Aber es bleibt interessant; wenn man sich die synaptische Plastizität an der Schnittstelle ansieht, könnte eine Art emergente Plastizität entstehen. Denn es ist etwas ganz anderes, es ist nicht wie im Gehirn; es ist eine ganz andere Erweiterung des Gehirns. Wir müssen vielleicht neu definieren, was es für das Gehirn bedeutet, formbar zu sein. Vielleicht ist das Gehirn also in der Lage, sich an externe Schnittstellen anzupassen.

Elon Musk: Es wird einige Anpassungen des Gehirns geben, da es mit etwas konfrontiert wird, das das Gehirn liest und simuliert, und so wird es sich an dieses Ding anpassen. Aber die überwiegende Mehrheit der Anpassung wird auf der Seite der Maschine sein. Das muss einfach so sein, sonst wird es nicht funktionieren.

Letztlich arbeiten wir derzeit auf zwei Ebenen. Wir haben eine limbische, sozusagen primitive Gehirnschicht, aus der alle unsere Impulse kommen. Es ist so, als hätten wir ein Affenhirn, an dem ein Computer hängt. Das ist das menschliche Gehirn. Und viele unserer Impulse und alles mögliche wird vom Affenhirn gesteuert. Und der Computer, der Kortex, versucht ständig, das Affenhirn glücklich zu machen. Es ist nicht der Kortex, der das Affenhirn steuert; es ist das Affenhirn, das den Kortex steuert.

Lex Fridman: Der Kortex ist zum Beispiel der Teil, der die Geschichte des Ganzen erzählt, also reden wir uns ein, dass er interessanter ist als nur das Affenhirn.

Elon Musk: (15:00) Der Kortex ist das, was wir als menschliche Intelligenz bezeichnen. Das ist, wie einen fortgeschrittenen Computer zu besitzen. Anderen Lebewesen haben diesen Computer nicht, oder sie haben einen sehr schwachen Computer, relativ zu dem des Menschen. Eigentlich sollte man annehmen, dass das wirklich intelligente Ding das dumme Ding kontrolliert. Aber tatsächlich kontrolliert das dumme Ding das kluge Ding.

Lex Fridman: Denken Sie also, dass man einige der maschinellen Lernmethoden, z.B. Anwendungen zur Verarbeitung natürlicher Sprache, für die Kommunikation zwischen der Maschine und dem Gehirn anwenden wird? Um zu lernen, wie man bestimmte Dinge tut, wie z.B. die Bewegung des Körpers, wie man visuelle Reize verarbeitet und so weiter? Sehen Sie einen Wert bezüglich der Verwendung von maschinellem Lernen, um die Sprache der Zwei-Wege-Kommunikation mit dem Gehirn zu verstehen?

Elon Musk: Sicher. Ja, absolut. Wir sind sozusagen ein neuronales Netz; und eine KI ist im Grunde ein neuronales Netz. Es ist also so, dass sich das digitale neuronale Netz mit dem biologischen neuronalen Netz verbinden wird; und uns hoffentlich mitnehmen wird. Aber der überwiegende Teil der bestehenden Intelligenz wird digital sein. Der Intelligenzunterschied zwischen Ihrem Kortex und Ihrem limbischen System ist gigantisch. Ihr limbisches System hat wirklich kein Verständnis dafür, was zum Teufel der Kortex macht. Es ist einfach hungrig, oder müde, oder wütend, oder sexy oder sonst was. Es kommuniziert diesen Impuls an den Kortex und sagt dem Kortex, er soll das befriedigen.

Eine riesige Menge unserer Denkleistung wird dem Sex gewidmet. Ohne Zweck, ohne Fortpflanzung; und in Abwesenheit einer Fortpflanzungsabsicht ist das eigentlich eine ziemlich sinnlose Handlung. Es ist wirklich albern, also warum das tun? Weil es das limbische System glücklich machen soll, deshalb.

Lex Fridman: Das ist der Grund.

Elon Musk: Aber es ist ziemlich absurd, wirklich.

Lex Fridman: Nun, die gesamte Existenz ist in gewisser Weise ziemlich absurd.

Elon Musk: Ja. Aber ich meine, das ist eine Menge an Rechnerleistung, die in die Frage einfließt, wie man mehr davon bekommen kann (17:30), wenngleich die Fortpflanzung nicht einmal ein Faktor ist. Ich denke, das ist ein sehr wichtiger Forschungsbereich für NSFW.

Lex Fridman: Eine Agentur, die eine Menge Mittel erhalten sollte, besonders nach diesem Gespräch.

Elon Musk: Ich schlage die Gründung einer neuen Agentur vor.

Lex Fridman: Oh Mann.

Was ist das Aufregendste, oder einige der aufregendsten Dinge, die Sie in den zukünftigen Auswirkungen von Neuralink sehen? Sowohl in Bezug auf die Wissenschaft und Technik als auch auf die Gesellschaft?

Elon Musk: Ich denke, dass Neuralink zunächst eine Menge hirnbezogener Krankheiten besiegen wird. Das kann alles sein, von Autismus über Schizophrenie bis hin zu Gedächtnisverlust. Fast jeder leidet ab einem bestimmten Alter unter Gedächtnisverlust. Eltern können sich nicht an die Namen ihrer Kinder erinnern und solche Sachen. Ich glaube also, dass Neuralink bei der Behebung von kritischen Schäden im Gehirn oder Rückenmark sehr viel Gutes bewirken kann. Es kann eine Menge getan werden, um die Lebensqualität von Menschen zu verbessern. Das werden Schritte auf dem Weg sein. Letztendlich soll es um das existenzielle Risiko gehen, das mit einer digitalen Superintelligenz verbunden ist. Es wird nicht möglich sein, digitale Supercomputer bzw. Intelligenz zu übertreffen. Wenn man sie also nicht besiegen kann, sollte man sich ihr anschließen. Und zumindest diese Option werden wir haben.

Lex Fridman: Sie haben also die Hoffnung, dass Neuralink es uns ermöglicht, mit der KI zu verschmelzen und somit die sich verbessernden KI-Systeme zu nutzen?

Elon Musk: Ich denke, die Chance ist höher 0 %.

Lex Fridman: Also nicht Null?

Elon Musk: Ja.

Lex Fridman: Es gibt eine Chance.

Elon Musk: Haben Sie den Film „Dumm und Dümmer“ gesehen?

Lex Fridman: Ja.

Elon Musk: Ich sage also, dass es eine Chance gibt.

Lex Fridman: Eine Chance von eins zu einer Milliarde oder eins zu einer Million, was auch immer es bei „Dumb and Dumber“ war.

Elon Musk: Es fing wahrscheinlich mit einer Verbesserungschance von eins zu einer Million an, vielleicht wird es eins zu tausend und dann eins zu hundert werden, und dann eins zu zehn. Das hängt von den Fortschritten ab, die Neuralink macht und davon, wie schnell wir diese Fortschritte machen können.

Lex Fridman: Ich habe mit ein paar ziemlich brillanten Ingenieuren hier gesprochen und bin sehr begeistert.

Elon Musk: Ja. Ich denke, es ist auf jeden Fall gut, jemandem seine volle motorische Kontrolle zurückgeben zu können, nachdem er eine Rückenmarksverletzung erlitten hat; die Wiederherstellung der Gehirnfunktionalität nach einem Schlaganfall; (20:00) genetisch bedingte Hirnerkrankungen zu verstehen und zu behandeln. Das sind alles unglaublich tolle Sachen. Und um das zu erreichen, muss man in der Lage sein, mit den Neuronen auf einer detaillierten Ebene zu interagieren, und man muss in der Lage sein, die richtigen Neuronen zu feuern, die richtigen Neuronen zu lesen. Dann kann man effektiv einen Schaltkreis erstellen, das, was kaputt ist, durch Silizium ersetzen und im Wesentlichen die fehlende Funktionalität herstellen.

Mit der Zeit entwickeln wir eine tertiäre Schicht; also im Bezug auf das limbische System als primäre Schicht und dem Kortex als zweite Schicht. Wie bereits gesagt ist der Kortex viel intelligenter als das limbische System. Aber die Menschen mögen im Allgemeinen die Tatsache, dass sie ein limbisches System und einen Kortex haben. Ich habe noch niemanden getroffen, der eines von beiden löschen möchte. Sie wollen sie beide behalten; sie mögen das.

Lex Fridman: Das limbische System macht schon Spaß.

Elon Musk: Ja, dort entsteht der Spaß, absolut. Nomalerweise wollen die Leute auch nicht ihren Kortex verlieren. Sie besitzen also den Kortex und das limbische System. Und dann wird es noch eine tertiäre Schicht geben, die digitale Superintelligenz. Man kann optimistisch an die Sache herangehen, wenn man bedenkt, dass der Kortex sehr viel intelligenter ist als das limbische System und dennoch arbeiten sie gut zusammen. Vielleicht kann es also eine tertiäre Schicht geben, in der die digitale Superintelligenz liegt. Diese wird weitaus intelligenter sein als der Kortex, aber dennoch friedlich und gutartig mit dem Kortex und dem limbischen System koexistieren.

Lex Fridman: Das ist eine sehr spannende Zukunft; sowohl in der Low-Level-Technik, die ich hier gesehen habe, als auch hinsichtlich der tatsächlichen Möglichkeiten, die sich uns in den nächsten Jahrzehnten eröffnen werden.

Elon Musk: Es ist wichtig, dass Neuralink dieses Problem eher früher als später löst, denn der Punkt, an dem wir eine digitale Superintelligenz haben, ist der Punkt, an dem wir die Singularität passieren und die Dinge einfach sehr unsicher werden. Das heißt nicht, dass sie unbedingt schlecht oder gut sein werden. Aber an dem Punkt, an dem wir die Singularität passieren, werden die Dinge extrem instabil. Wir wollen also ein Human Brain Interface vor der Singularität oder zumindest nicht lange danach haben, um das existenzielle Risiko für die Menschheit und das Bewusstsein, wie wir es kennen, zu minimieren.

Lex Fridman: Neuralink arbeitet an einer Menge tatsächlicher Low-Level-Probleme, die ziemlich faszinierend sind.

Elon Musk: Die Probleme, mit denen wir bei Neuralink konfrontiert sind, umfassen Materialwissenschaft, Elektrotechnik, Software, Maschinenbau und Mikrofabrikation. Es ist im Grunde ein Bündel von technischen Disziplinen. (22:30) Darauf läuft es hinaus. Man muss eine winzige Elektrode haben, so klein, dass sie die Neuronen nicht verletzt. Aber diese muss so lange halten wie ein Mensch lebt, also über Jahrzehnte. Und dann muss man ein Signal aufnehmen und es lokal mit geringer Leistung verarbeiten können.

Wir brauchen also eine Menge Chipdesign-Ingenieure, denn wir müssen die Signalverarbeitung durchführen, und zwar auf sehr energieeffiziente Weise, damit wir das Gehirn nicht aufheizen. Denn das Gehirn ist sehr hitzeempfindlich. Dann sollen diese Signale bearbeitet werden. Und dann müssen wir zurück stimulieren, so dass man eine Zwei-Wege-Kommunikation durchführen kann.

Wenn also jemand gut in Materialwissenschaft, Software, Maschinenbau, Elektrotechnik, Chipdesign, Mikrofabrikation ist, sind das die Dinge, an denen wir arbeiten. Wir müssen gut in der Materialwissenschaft sein, damit wir winzige Elektroden entwickeln können, die lange halten. Die Materialwissenschaft ist wirklich kritisch, weil wir versuchen, in einem elektrisch aktiven Bereich zu lesen und zu simulieren. Das Gehirn ist elektrisch und elektrochemisch aktiv. Wie muss also eine Beschichtung auf der Elektrode beschaffen sein, damit sie sich über die Zeit nicht auflöst und im Gehirn sicher angewendet werden kann? Das ist ein sehr großes Problem.

Und wie sammelt man dann möglichst effizient diese Signale? Denn man hat wirklich nur sehr geringe Mengen an Energie zur Verfügung, um diese Signale zu verarbeiten. Dann müssen wir das Ganze automatisieren, also wie bei einer LASIK-OP. Lässt man dies von Neurochirurgen durchführen, wird man es nicht für eine große Anzahl von Menschen anwenden können. Und es muss auf eine große Anzahl von Menschen angewendet werden können, da wir letztendlich wollen, dass die Zukunft von einer großen Anzahl von Menschen bestimmt wird.

Lex Fridman: Glauben Sie, dass dies eine Chance ist, die Chirurgie zu revolutionieren? Also Neurochirurgie und Chirurgie.

Elon Musk: Ja, auf jeden Fall. Es muss wie bei einer LASIK-OP sein. Wenn LASIK von Hand gemacht werden müsste, von einem Menschen, wäre das nicht so gut. Es wird von einem Roboter gemacht. Der Augenarzt muss nur sicherstellen, dass es der richtige Patient ist und der Kopf in der richtigen Position. Dann drückt er einfach einen Knopf und los geht’s. (25:00)

Lex Fridman: „Smart Summon“ und bald „Auto Park“ werden das ganze, schöne Chaos auf Parkplätzen und die nonverbale Kommunikation von Mensch zu Mensch übernehmen. Ich denke, dies wird tatsächlich das Potenzial haben, tiefgreifend zu beeinflussen, wie unsere Zivilisation A.I. und Robotik betrachtet. Denn dies ist das erste Mal, dass Menschen, die keinen Tesla besitzen, die vielleicht noch nie einen Tesla gesehen oder von einem Tesla gehört haben, Hunderttausende von Autos ohne Fahrer beobachten können. Ist ein Tesla fast so etwas wie ein Aufklärungswerkzeug für die Welt über KI? Würden Sie sagen, dass das eher belastend oder aufregend ist, oder halten Sie dies einfach für eine intelligente Einparkhilfe?

Elon Musk: Ich glaube, Sie sprechen etwas Wichtiges an, nämlich dass die meisten Menschen noch nie einen Roboter gesehen haben. Und was ist ein Auto, das autonom ist? Es ist ein vierrädriger Roboter.

Lex Fridman: Genau. Es kommuniziert eine bestimmte Botschaft mit allem, von der Sicherheit bis hin zu der Möglichkeit, was KI bringen könnte, zu ihren aktuellen Grenzen, ihren aktuellen Herausforderungen, was alles möglich ist. Spüren Sie die Last, die das mit sich bringt? Fast wie ein Kommunikator, der die Welt über A.I. aufklärt?

Elon Musk: Wir versuchen wirklich nur, das Leben der Menschen mit autonomen Autos einfacher zu machen. Aber jetzt, wo Sie es erwähnen, denke ich, dass es den Leuten die Augen über die Robotik öffnen wird. Denn die meisten Menschen haben wirklich noch nie einen Roboter gesehen, und es gibt Hunderttausende von Teslas. Es wird nicht lange dauern, bis es eine Million von ihnen gibt, die autonom fahren können, ohne dass ein Mensch darin sitzt. Sie können die Entwicklung der Persönlichkeit und des Denkens des Autos mit jeder Iteration des Autopiloten sehen. Sie können sehen, ob es sicher oder unsicher ist, wie es sich in einer anderen Weise als zuvor bewegt.

Ich erkenne sofort, ob ein Auto auf Tesla-Autopilot läuft, weil es kleine Nuancen in der Bewegung hat. Es bewegt sich einfach auf eine etwas andere Weise. Autos mit Tesla-Autopilot, z. B. auf der Autobahn, sind viel präziser als ein Mensch, wenn es darum geht, in der Mitte der Fahrspur zu bleiben. Wenn Sie auf der Autobahn fahren und schauen, wo die Autos sind, sind die von Menschen gesteuerten Autos nicht in ihrer Spur. Sie sind wie Autoscooter. Sie bewegen sich überall hin. Ein Auto auf Autopilot fährt genau in der Spurmitte.

Lex Fridman: Ja. Es steckt eine unglaubliche Arbeit in diesem neuronalen Netzwerk und es lernt schnell. Dennoch ist das autonome Fahren eine Herausforderung. Wir wissen nicht genau, wie groß diese Herausforderung ist. (27:30) Die meisten Probleme, so auch dieses, betrachtet man mit einer exponentiellen Erwartung. Aber selbst mit einer exponentiellen Verbesserung können die Dinge manchmal länger dauern als erwartet. Wo steht Tesla derzeit bei seinem Streben nach vollständigem autonomen Fahren? Was ist Ihr Gefühl? Wann können wir den erfolgreichen Einsatz des „Full Self Driving“ sehen?

Elon Musk: Auf der Autobahn ist die Wahrscheinlichkeit eines Eingreifens des Fahrers bereits extrem gering. Für autonomes Fahren auf der Autobahn ist die Wahrscheinlichkeit, dass man eingreifen muss, wirklich sehr gering, vor allem mit der neuesten Version. Ich würde sogar sagen, dass der Autopilot im Stop-and-Go-Verkehr weitaus sicherer ist als zurzeit ein Mensch. Die Wahrscheinlichkeit einer Verletzung oder eines Aufpralls ist mit Autopilot viel, viel geringer als mit einem Menschen als Fahrer.

Mit „Navigate on Autopilot“ kann der Wagen die Spur wechseln und Autobahnkreuze meistern. Und dann entwickeln wir aus der anderen Richtung, also niedrige Geschwindigkeit und volle Autonomie, d.h. FSD. In gewisser Weise ist das wie fahren lernen. Man lernt das Fahren auf dem Parkplatz. Als Sie das erste Mal ein Auto fuhren, war das wahrscheinlich nicht auf der Market Street in San Francisco. Das wäre ja verrückt. Man lernt auf dem Parkplatz fahren, die Dinge bei niedriger Geschwindigkeit richtig zu machen.

Das fehlende Stück, an dem wir arbeiten, sind Ampeln und Stoppstraßen. Stoppstraßen sind eigentlich auch relativ einfach, weil man weiß, wo die Stoppstraßen sind. Im schlimmsten Fall kann man sie geokodieren und dann die Visualisierung verwenden, um zu sehen, wo die Linie ist, und an der Linie anhalten, um den GPS-Fehler zu eliminieren. Also würde ich sagen, dass wahrscheinlich komplexe Ampelanlagen und sehr kurvige Straßen die beiden Dinge sind, die gelöst werden müssen.

Lex Fridman: Was ist schwieriger, die Wahrnehmung oder die Kontrolle dieser Probleme? Also in der Lage zu sein, alles perfekt wahrzunehmen oder den Plan zu entwerfen, wie man mit all den Verkehrsbeteiligten und der Umgebung interagiert? Ist aus der Lernperspektive heraus die Wahrnehmung oder die Aktion schwieriger, in diesem riesigen, schönen, Multitasking lernenden neuronalen Netzwerk?

Elon Musk: Das Schwierigste ist die genaue Darstellung der physischen Objekte im Vektorraum. Man nimmt also in erster Linie den visuellen Input, etwas Sonar und Radar, und erstellt dann eine genaue Vektorraumdarstellung (30:00) der Objekte um das Fahrzeug herum. Sobald man eine genaue Vektorraumdarstellung hat, ist die Planung und Steuerung relativ einfach.

Sobald man eine genaue Vektorraumdarstellung hat, bewegt man sich im Grunde genommen wie in einem Videospiel; wie Autos sich in „Grand Theft Auto“ zum Beispiel bewegen. Die funktionieren ziemlich gut. Sie fahren die Straße entlang, sie verunglücken nicht, es sei denn, man kracht in sie hinein. Das liegt daran, dass sie eine genaue Vektorraumrepräsentation davon haben, wo sich die Autos befinden, und dann wird das als Ausgabe gerendert.

Lex Fridman: Haben Sie das Gefühl, dass Tesla auf dem richtigen Weg ist, um vollständig autonomes Fahren zu erreichen? Also auf der Autobahn …

Elon Musk: Ja, absolut.

Lex Fridman: Und immer noch kein Fahrerstatus? Fahrersensorik?

Elon Musk: Wir haben eine Fahrersensorik mit Lenkbewegung am Lenkrad.

Lex Fridman: Ja, genau. Übrigens, nur eine kurze Anmerkung zu Karaoke. Die meisten Leute denken, dass es Spaß macht. Aber ich denke zudem, dass es der Fahrsicherheit dient. Ich sage schon lange, dass Singen im Auto wirklich gut für die Aufmerksamkeitsspanne und das Reaktionsvermögen ist.

Elon Musk: Das ist richtig. Tesla Karaoke ist großartig. Es ist eine der Funktionen des Autos, die den meisten Spaß bringen.

Lex Fridman: Denken Sie manchmal an einen Zusammenhang zwischen Spaß und Sicherheit?

Elon Musk: Ja, wenn man beides gleichzeitig haben kann, ist das großartig.

Lex Fridman: Ich habe mich gerade mit Ann Druyan getroffen, Carl Sagans Frau, die bei „Cosmos“ Regie führte.

Elon Musk: Ich bin wirklich ein großer Fan von Carl Sagan; er war großartig und hatte eine tolle Art, Dinge zu formulieren. Unser gesamtes Bewusstsein, die gesamte Zivilisation, alles, was wir je gewusst und getan haben, befindet sich auf diesem winzigen blauen Punkt. Die Menschen sind auch zu sehr darin gefangen, es gibt Streitigkeiten unter den Menschen, und niemand denkt an das große Ganze. Sie nehmen die Zivilisation und unsere weitere Existenz als selbstverständlich hin. Das sollten sie nicht tun.

Schauen Sie sich die Geschichte der Zivilisationen an. Sie entstehen und sie verschwinden. Inzwischen ist die Zivilisation globalisiert, und so entsteht und verschwindet diese Zivilisation, denke ich, jetzt zusammen. Es gibt keine geografische Isolation mehr. Das ist ein großes Risiko. Es geht nicht immer aufwärts. Das ist eine wichtige Lektion der Geschichte.

Lex Fridman: 1990 drehte die Raumsonde Voyager One, eine Raumsonde, die weiter hinausreicht als alles, was von Menschenhand geschaffen wurde, auf Wunsch von Carl Sagan um, um ein Bild der Erde aus einer Entfernung von 3,7 Milliarden Meilen zu machen. Und wie Sie gerade über den blassblauen Punkt gesprochen haben, (32:30) nimmt die Erde weniger als einen einzigen Pixel in diesem Bild ein. Sie erscheint als ein winziger blauer Punkt, als ein „blasser, blauer Punkt“, wie Carl Sagan es nannte. 1994 sprach er über diesen unseren Punkt. Wenn Sie mir einen Gefallen tun könnten, würde ich Sie bitten, in den letzten zwei Minuten die Worte zu lesen, die er schrieb und die diesen blassblauen Punkt beschreiben.

Elon Musk: Sicher. Es ist seltsam. Das Universum scheint 13,8 Milliarden Jahre alt zu sein. Die Erde ist etwa viereinhalb Milliarden Jahre alt. In etwa einer weiteren halben Milliarde Jahre wird sich die Sonne ausdehnen und wahrscheinlich die Ozeane verdampfen und das Leben auf der Erde unmöglich machen. Das heißt, wenn das Bewusstsein 10 % länger gebraucht hätte, um sich zu entwickeln, hätte es sich überhaupt nicht entwickelt, nur 10 % länger. Und ich frage mich, wie viele tote Ein-Planeten-Zivilisationen es da draußen im Kosmos gibt, die es nie bis zum anderen Planeten geschafft haben und sich schließlich selbst ausgelöscht haben oder durch äußere Faktoren zerstört wurden? Wahrscheinlich ein paar.

Es ist gerade so möglich, zum Mars zu reisen, gerade noch. Wenn die Erdanziehungskraft (G) um 10% höher wäre, würde das nicht funktionieren. Wäre G 10 % niedriger, wäre es einfach. Sie können mit einer einzigen Raketenstufe von der Marsoberfläche bis zur Erdoberfläche reisen, weil die Schwerkraft des Mars nur etwa 37 % der Schwerkraft der Erde beträgt. Man braucht einen riesigen Schub, um von der Erde wegzukommen.

In Anlehnung an Carl Sagan. „Schauen Sie noch einmal auf diesen Punkt. Das ist hier. Das ist unser Zuhause. Das sind wir. Auf ihm hat jeder, den Sie lieben, jeder, den Sie kennen, jeder, von dem Sie je gehört haben, jeder Mensch, der je war, sein Leben gelebt. Die Gesamtheit unserer Freude und unseres Leids, Tausende von überzeugten Religionen, Ideologien und Wirtschaftslehren, jeder Jäger und Sammler, jeder Held und Feigling, jeder Schöpfer und Zerstörer der Zivilisation, jeder König und Bauer, jedes junge verliebte Paar, jede Mutter und jeder Vater, jedes hoffnungsvolle Kind, jeder Erfinder und Entdecker, jeder Lehrer der Moral, jeder korrupte Politiker, jeder „Superstar“, jeder „oberste Führer“, jeder Heilige und Sünder in der Geschichte unserer Spezies lebte dort – auf einem Staubkorn, das in einem Sonnenstrahl schwebte.

Unser Planet ist ein einsamer Fleck in der großen, einhüllenden kosmischen Dunkelheit. In unserer Dunkelheit, in all dieser Weite, gibt es keinen Hinweis darauf, dass Hilfe von anderswo kommen wird, um uns vor uns selbst zu retten. Die Erde ist die einzige bisher bekannte Welt, die Leben beherbergt. Es gibt, zumindest in naher Zukunft, keinen anderen Ort, an den unsere Spezies auswandern könnte. ”

Das ist nicht wahr. Das ist falsch. Mars.

Lex Fridman: Und ich glaube, Carl Sagan würde dem zustimmen. Er hatte es sich damals nicht einmal vorstellen können. Also danke, dass Sie die Welt zum Träumen bringen. Und danke für das Gespräch heute. Ich weiß das wirklich zu schätzen. Ich danke Ihnen.

Elon Musk: Danke schön. (36:09)