Und als letztes unsere Gehirne

Wie sich Facebook & Co an unser Innenleben herantasten

Dieser Text ist gekürzt und überarbeitet erschienen als Filipović, Alexander (2019): Und zum Schluss die Gehirne. Wie sich Datenysteme an unser Inneres herantasten. In: Süddeutsche Zeitung, 20.08.2019, S. 11. Online verfügbar unter https://www.sueddeutsche.de/kultur/gedankenlesen-privatsphaere-ki-1.4568220.

In dem großartigen Science-Fiction Roman “Die drei Sonnen” von Cixin Liu bedroht die hochentwickelte außerirdische Zivilisation der “Trisolarier” die Erde. Sie kennen alle unsere Aufzeichnungen und unsere Kommunikationen – und sind damit immer einen Schritt voraus. Hier unten, heute und in der Wirklichkeit unserer Erde, sind wir selbst diese Bedrohung. Das Logo unserer Trisolarier ist blau mit einem weißen f darauf. Die Frage lautet: Werden wir mit dieser Entwicklung zurechtkommen?

Die Trisolarier im Roman sind technisch in der Lage, jedwede Kommunikation und alle Information der Menschheit abzuhören und in Echtzeit in ihre Welt zu übertragen. Alles, was je aufgezeichnet wurde und was gesprochen wird, ist in dem gleichen Moment für die Feinde offenbar. Zusätzlich stören sie naturwissenschaftliche Grundlagenforschung, damit die Menschheit technisch nicht zu den Trisolariern aufschließt. Durch die technische Überlegenheit sind die Menschen den Außerirdischen hilflos ausgeliefert.

Trisolarier und Menschen

Allerdings gibt es einen fundamentalen Unterschied zwischen Trisolariern und Menschen: Trisolarier sind füreinander immer vollständig transparent, reine Subjektivität ist ihnen unbekannt. Dies macht grenzenlose Kooperation möglich – der Schlüssel für die technische Überlegenheit der Aliens. Privatheit ist als Konzept gar nicht bekannt, ein Gedanke ist sofort für alle anderen öffentlich. Wahrhaftigkeit ist gar keine Kategorie, weil es das Gegenteil, Manipulation, Lüge und Halbwahrheit, gar nicht geben kann.

Für die Menschen dagegen ist die fundamental intransparente subjektive Perspektive, mit der wir andere und die Welt erfahren, geradezu die Grundlage unserer Zivilisation. Wie ich einen Sonnenuntergang erlebe, ist für andere nicht vollständig nachvollziehbar. Wir sind voneinander isolierte Gehirne mit je eigenen Bewusstseinen und subjektiven Erlebnisgehalten.

Thomas Nagel hat in seinem berühmten Aufsatz “Wie fühlt es sich an, eine Fledermaus zu sein?” (1974) gezeigt, dass selbst wenn man alle naturwissenschaftlichen Parameter einer Wahrnehmung kennt (im Beispiel etwa das Fliegen mit einer Echoortung), man nie wissen kann, wie es sich anfühlt, eine Fledermaus zu sein. Die Diskussion um die subjektiven Erlebnisgehalte eines mentalen Zustandes (die sogenannte Qualiadebatte in der Philosophie des Geistes) ist differenziert; nicht alle sind der Meinung, dass Geist mehr ist als ein rein naturwissenschaftlich-material erklärbarer Effekt. Zur Zeit spielt die Kritik am Reduktionismus, der den Menschen auf physiologische Prozesse reduziert, eine Rolle in der Debatte um Künstliche Intelligenz: Selbst wenn der Computer ein Bewusstsein perfekt simulieren kann, hat er doch keine eigenen mentalen Zustände. Eine bewusstseinsfähige Maschine kann es also gar nicht geben.

Aber wie auch immer: Praktisch gesehen stehen wir auf jeden Fall vor der Herausforderung, mit anderen Personen, denen wir nicht in den Kopf schauen können, irgendwie zurechtkommen zu müssen. Niklas Luhmann fomuliert es so: “Überhaupt ist ja schwer zu sehen, wie Lebewesen, einschließlich dem Menschen, in der finsteren Innerlichkeit ihres Bewußtseins irgend etwas gemeinsam haben können.”1Luhmann, Niklas (1997): Die Gesellschaft der Gesellschaft. 2 Bände. Frankfurt a. M.: Suhrkamp, S. 202. Luhmann fügt hinzu: “Fast ein Hegel-Zitat. Hegel spricht von der ‘finsteren Innerlichkeit des Gedankens’ […]” Siehe Hegel, Georg Wilhelm Friedrich (1994): Vorlesungen über die Ästhetik I. 4. Aufl. Frankfurt a. M.: Suhrkamp (Werke in zwanzig Bänden – Theorie Werkausgabe, 13), S. 18. Und gerade deswegen kommunizieren wir, teilen uns unsere Erlebnisgehalte, etwa den Geschmack eines guten Weines oder das Glück eines Sonnenuntergangs, mit, komponieren gar Musik, um komplizierte emotionale innere Zustände für andere zugänglich zu machen. Intersubjektivität ist gewissermaßen der Grund für unsere kulturelle Existenz – die nur möglich ist, weil Subjektivität existiert. Wir können uns in andere hineinversetzen und behandeln uns deswegen gegenseitig gut. Wir können aber auch lügen und manipulieren, Gefühle vorspielen, unsere wahren Absichten verschleiern.

Unsere Sehnsucht, mit einem anderen Menschen in eins zu fallen, ihn zu lieben, geliebt zu werden, sich zu vereinigen, alles gemeinsam und als der oder die andere zu erfahren, findet nur selten Erfüllung, ist aber die großartigste Erfahrung des Menschen. Letztlich führt uns diese Bedeutung von Liebe aber nur umso deutlicher vor Augen, wie fundamental isoliert wir mit unseren privaten Gehirnen sind.

Im erwähnten Science-Fiction Roman ist dieser Unterschied zwischen Menschen und Außerirdischen letztlich ein Schlüssel dafür, wie die Menschen sich gegen die Bedrohung der Trisolarier erwehren können. Diese verstehen das Konzept nicht, Gedanken anderen zu verbergen, in diesem Sinne im Verborgenen planen zu können. Das rettet letztlich die Menschheit.

Facebook & Co.

Facebook hat nun ein Forschungsergebnis bekannt gemacht, das eine Forschergruppe in der Zeitschrift Nature communications jüngst publiziert hat. Demnach ist es den von Facebook unterstützten Forschern das erste Mal gelungen, in Echtzeit Wörter aus einer Beobachtung der Gehirnaktivität abzuleiten. Ein Gehirn denkt Begriffe – ein überwachender Computer schreibt diese Wörter auf. Forschungen an solchen Gehirn-Maschine-Interfaces nehmen mehr und mehr Fahrt auf, invasive wie auch vermehrt nicht-invasive Methoden ohne Chipimplantate werden getestet.

Bei Facebook und anderswo wird diese Forschung betrieben, um Steuerungssysteme für digitale Geräte zu entwickeln: durch das bloße Denken können wir dann kleine und große Geräte steuern. Selbstverständlich kann diese Technologie, an der auch Elon Musks Firma Neuralink arbeitet, Wunder im positiven Sinne bewirken: Gelähmte Menschen, die dadurch nicht sprechen oder sich überhaupt nicht mitteilen können, können endlich wieder Kontakt zu ihrer Umwelt aufnehmen – ein wirklich fantastische Technologie.

An der TU München arbeiten Forscher im Bereich Neuroengineering an der Möglichkeit, Roboter über Gehirnwellenbeobachtung menschlicher Interkationspartner erkennen zu lassen, ob sie gerade einen Fehler machen. Menschen sind verstört, wenn in der Mensch-Maschine-Interaktion der Roboter fehlerhaft agiert, etwa den Linsensalat aus dem Kühlschrank holt, obwohl der Mensch die optische Linse benötigt. Diese Irritation des Menschen manifestiert sich in spezifischen Hirnwellen, die Roboter in Echtzeit scannen können, um so zu merken, dass sie gerade etwas falsch machen.

Einen anderen Ansatz wählt eine Gruppe junger Forscher am MIT Media Lab: Arnav Kapur hat dort ein Interface erfunden, das über die Beobachtung von winzigsten neuromuskulären Impulsen an den Sprachapparat Wörter entschlüsselt, die wir bloß denkend sprechen müssen. Unsere internen Selbstgespräche können somit von diesem System aufgezeichnet und bei Bedarf wieder abgerufen werden. Auch hier ergeben sich bahnbrechende Anwendungen für beispielsweise Schlaganfallpatienten, da die Mikroimpulse auch bei diesen Personen noch unverändert funktionieren können. Interessant ist auch, dass man per Selbstgespräch in Konferenzen Notizen machen kann, aber auch ungestört und unsichtbar, ohne echte Stimme und ohne einen Finger zu bewegen, Kurznachrichten umherschicken oder mit dem Partner chatten kann. Das System heißt AlterEgo und wird von seinem Erfinder angepriesen als „eine intelligentere Version unseres Selbst in uns selbst“.

Und während die Ingenieure versuchen, das Gehirn von außen den Computern zugänglich zu machen, kommen ihnen die Chiphersteller von der anderen Seite entgegen: Intel arbeitet an Prozessoren, die wie das Gehirn funktionieren. Damit können Maschinen dann noch einfacher wie Menschen agieren. Diese Prozessoren werden lernende und autonom agierende Computersysteme noch leistungsfähiger machen.

Die ethischen Probleme dieser Gehirn-Computer-Schnittstellen sind dramatisch: Sie betreffen unser Wesen als bewusstseinsfähige Individuen, die miteinander sprachlich und symbolisch kommunizieren müssen, um zu kooperieren. Wo Maschinen unsere Gedanken wirklich lesen können, liegen diese offen – und lassen sich etwa für Kaufanreize oder politische Beeinflussung nutzen. Die Facebook-Forscher betonen, dass ihnen die Privatheit am Herzen liegt. Aber erstens hat Facebook nun wirklich alle Glaubwürdigkeit in Sachen Privatsphäre schon lange verloren und zweitens geht es um mehr – nämlich um die Abschaffung der Privatheit an ihrer Wurzel. Es geht um mentale Privatsphäre. Es geht um das Recht, wie es Sigal Samuel in ihrem Beitrag auf vox.com formuliert, zu bestimmen, wo unser Selbst endet und wo die Maschine anfängt. Die Gefahr besteht, dass wir mit Gehirn-Computer-Interfaces die Grenze zwischen unserem Bewusstsein und den Maschinen öffnen.

Steht uns eine Kultur transparenter Gedanken bevor?

Steht uns also eine Kultur transparenter Gedanken bevor? Angesichts der Bemühungen und Erfolge der großen Daten- und KI-Firmen, uns anhand unserer Lebensäußerungen zu verstehen und zu lenken, scheint diese Entwicklung nur folgerichtig. Unsere Gehirne mit unseren privaten Gedanken sind die letzte Bastion. Unsere Gehirne sind damit der Heilige Gral der Unternehmen im Zeitalter des Überwachungskapitalismus. Wer schafft es zuerst, unsere Gehirnaktivitäten wirtschaftlich nutzbar zu machen?

Noch ist die Technik rudimentär entwickelt. Wir haben etwas Zeit, uns die Folgen zu veranschaulichen und eine rechtliche Regulierung auf den Weg zu bringen. Wir müssen aber jetzt damit anfangen. Nicht weil die Trisolarier vor der Tür stehen, sondern weil Firmen im Profitinteresse sich für unsere Subjektivität und unser Innenleben begonnen haben zu interessieren.

Kommentar verfassen