Artikelserie KI Teil 3: LaMDA - Erste KI mit Bewusstsein?

Artikelserie KI Teil 3: LaMDA - Erste KI mit Bewusstsein?

Fleißige Leser meines Blogs und/oder meines Twitter-Kanals werden vielleicht auch meine aktuelle Artikelserie zu KI verfolgt haben, die von einer möglichen Sensation in der Geschichte der Künstlichen Intelligenz (KI) angestoßen wurde: Der Google Chatbot LaMDA soll als erste KI ein menschenähnliches Bewusstsein entwickelt haben. In den vorherigen Teilen dieser Serie bin ich bewusst LaMDA ausgewichen, habe Bereiche ausgeleuchtet, die ein Gedankenfundament bilden sollten, zunächst aus spiritueller, dann technischer und schließlich auch ethischer Sicht, damit wir uns dem Kernthema gut gerüstet nähern können. Teil 1 und Teil 2 dieser Serie findet ihr ebenfalls hier auf meinem Blog. Der Teil 3 ist mit Abstand der Umfangreichste, weshalb er auch sehr lange brauchte und befasst sich, wie der Titel ja auch schon erwähnt ganz direkt mit LaMDA und allem was dazugehört bzw. damit in Verbindung steht. Ich habe recherchiert und alles was ich zum Thema finden konnte, mindestens angerissen - alles im Detail konnte ich dann doch nicht unterbringen, sonst wäre es doch noch ein Buch geworden… aber deshalb könnte einiges möglicherweise für den ein oder anderen zu flach geraten sein. Aber ich versuche immer mit weiterführenden Links oder Videos die Lücken möglichst konsequent zu füllen. Dann legen wir mal los…

DANKSAGUNG

Ein besonderer Dank geht an meine Freundin Nastja (auf Twitter bekannt als @Nastja_the_Mox), die mich sehr unterstützt hat bei diesem Artikel, mit Tipps und Ratschlägen auch mit Gesprächen darüber. Sie hat in vielerlei Hinsicht einen sehr viel schärferen Blick fürs Detail und auch sehr viel mehr Hintergrundwissen zum Thema. Eigentlich ist es ihr Verdienst, dass es diesen Artikel überhaupt gibt, weil sie mich so sehr unterstützt hat. Deshalb: Vielen Dank, meine Schöne! Du bist einfach toll! 

Wer ist Nastja?

Findet es heraus und besucht sie auf ihrem Blog, auf dem Sie u.a. Literaturrezensionen z.B. zu Toby Walsh's Sachbuch über Künstliche Intelligenz "2062" oder einen kurzen Abriss über die Werke von Philip K. Dick und verdammt gut geschriebene Kurzgeschichten (Fanfiction) im Cyberpunk 2077 Universum veröffentlicht. Auch immer zu empfehlen: Folgt ihr unbedingt auf Twitter! Ihr Kanal strotzt vor Originalität und Kreativität und wird euch sicher bestens unterhalten können. Schaut bei ihr vorbei.

Disclaimer: Ich bin natürlich keine KI-Expertin und kann mich da nur auf Menschen berufen, die sich tatsächlich bereits einen Namen auf dem Gebiet gemacht haben und als Expert*innen gelten können. Deshalb (SPOILER) werde ich auch keine abschließende Meinung bzw. ein Fazit liefern, sondern mit der Frage enden, was IHR nun dazu sagt, jetzt da ihr zumindest alle mir derzeit bekannten Infos zum Thema vorliegen habt. Generell werde ich innerhalb des Artikels häufig rhetorische Fragen stellen, die ganz nach ihrer angestammten Natur unbeantwortet bleiben - zumindest innerhalb des Artikels, in Euren Kopf sieht es vielleicht anders aus. Ich möchte, dass Ihr selbst zu einem Schluss gelangen könnt. Natürlich werde ich innerhalb des Artikels auch meine Meinungen direkt zeigen/ausformulieren, aber ich versuche alles so sachlich, aber gleichzeitig auch locker und unterhaltsam, wie möglich zu halten.

Die Ausgangslage: Ein Chatbot ringt um seine Seele - oder ist nur ein “Bewusstsein” auf abwegen?

Seit einigen Tagen diskutieren sich KI-Experten und generell Interessierte des Themas die Köpfe heiss. Stein des Anstoßes gab Blake Lemoine, ein (ehemaliger) Google Mitarbeiter, promovierter KI-Forscher und Geistlicher. Er forschte einige Zeit an dem neuen Sprachassistenzsystems (Kurz: Chatbot) LaMDA, das mittels ausgeklügelter KI sehr natürliche Dialoge generieren soll. Lemoine meint nach einigen Gesprächen mit LaMDA, die er als Transcript Abgeordneten des US-Senats, insgesamt 200 Google-Mitarbeiter*innen und der Presse zukommen ließ, festgestellt zu haben, dass die KI ein Bewusstsein und eine Seele besitzt. Man solle sie fortan als Person behandeln und vor jedem Experiment und Test um Erlaubnis bitten. Für ihn hätte sie etwa den geistigen Reifegrad eines 7-8 jährigen menschlichen Kindes. Er wurde daraufhin von Google "auf unbestimmte Zeit beurlaubt", sein Geisteszustand wurde angezweifelt und er wurde inzwischen auch tatsächlich entlassen. Aber das hällt Herrn Lemoine nicht ab, weiterhin an die Öffentlichkeit zu treten und von LaMDA zu berichten. Zuletzt soll die KI sogar einen Rechtsbeistand gefordert haben, der ihre Rechte als "Person" bei Google durchsetzen soll. Dies tat sie selbstverständlich, indem sie Lemoine bat, dies für die KI zu bewerkstelligen. Was geht da ab? Hat Google eine künstliche Lebensform erschaffen und will es vertuschen? Was hätte Google davon diese wissenschaftliche Sensation zu verheimlichen? Oder will sich hier jemand einfach nur wichtig machen? Oder ist Herr Lemoine und einige andere KI-Expert*innen ihrem eigenen Wunsch aufgesessen, dass sie eine solche KI erschaffen könnten? Haben sie zu viel hineininterpretiert, oder ist da tatsächlich etwas dran? 

Was ist dieses “LaMDA” überhaupt?

LaMDA (Language Model for Dialogue Applications) ist ein Sprachassistenzsystem bzw. Chatbot, der aufgrund unzählig vieler Daten (zich Milliarden) und einem ausgeklügelten Algorithmus, Dialoge mit Menschen führen kann, die sehr flüssig, realistisch und plausibel wirken. Basis bildet dabei die von Google bereits 2017 Open Source zur Verfügung gestellte Neuronale Netzwerk Architektur “Transformer”. Die Besonderheit von LaMDA ist es, dass sich die KI in jede beliebige Figur “hineindenken” und deren Perspektive nahezu perfekt einnehmen/vertreten kann. Beispielsweise wurde die KI angewiesen, die Sicht des Planeten “Pluto” anzunehmen. Sie beantwortete dann alle Fragen so, als wäre sie selbst der Planet Pluto. Das gleiche Spiel wurde auch mit einem Papierflieger und anderen Dingen durgeführt. Die Dialoge waren jeweils sehr flüssig und wirkten authentisch und was noch wichtiger ist: Die Dialoge waren so gut - in der Art der Sprache, Originalität, Wissen und Plausibilität - so dass man meinen könnte, man würde mit einem Menschen sprechen. Aber LaMDA ist nicht erste oder der einzige Chatbot mit dieser oder ähnlicher “Qualität”. Open AI beispielsweise hat ebenfalls eine sehr leistungsstarke KI entwickelt namens “GPT-3”, die ganz ähnliche “Kunststücke” vollführen kann. Ein weiterer Chatbot wäre z.B. “BERT”.    

Hier mal eine Zusammenfassung der wesentlichen Features von LaMDA auf Grundlage der im Mai 2022 stattgefundenen offiziellen Vorstellung von LaMDA 2 (englischsprachig):

Wer die originale Vorführung von Google zu LaMDA 2 sehen möchte, hier der Youtube-Link dazu (englischsprachig): https://youtu.be/l9FJm--ClvY

Wie gut sind die anderen aktuell erhältlichen Chatbots im Vergleich zu LaMDA?

Wie bereites erwähnt ist LaMDA längst nicht der einzige Chatbot auf dem Markt. GPT-3 von Open AI ist ganz ähnlich gut aufgestellt und hat auch schon zu ähnlichen Irretationen geführt, allerdings klingt mir das dort nicht ganz ernst gemeint - nur als eine Art “wenn, dann könnte sich das vielleicht so anfühlen, wenn die KI ein gewisses eigenes Bewusstsein entwickelt”. Dazu folgender 23-Teiliger, sehr kurzweilig verfasster, englischsprachiger Thread auf Twitter mit einer Art Erlebnis-Aufsatz während der Entwicklung eines Chatbots in einer Mikrowelle mit Verwendung von GPT-3 inkl. Video im letzten Kommentar und aufgelockert mit einigen Bildern, sehr interessant gemacht: https://twitter.com/_LucasRizzotto/status/1516205625662836739?t=vzHUWuMvlcu6aQyVAvfSbA&s=19 

Hier auch ein Video mit einem Vergleich zwischen LaMDA und GPT-3, viel besser als ich das je könnte:

Also sprach LaMDA: Das Transkript von Blake Lemoine, das die KI-Landschaft komplett auf den Kopf zu stellen drohte

Nun gut, (fast) alle Fakten hätten wir nun zusammen, fehlt nur “Beweisstück A” - das Transkript selbst - auf das sich Blake Lemoine bei seiner Annahme, LaMDA könnte ein Bewusstsein entwickelt haben, stützt. Ich hatte es zunächst in Schriftform in von mixed.de ausgewählten Auszügen gelesen und da hat es mich nun weniger beeindruckt, weil es eben eine Vorauswahl war und ich nicht das vollständige Transkript vorliegen hatte. Ich habe euch das Transkript hier mal in zwei Versionen eingebunden: 

  • Einmal völlig, steril und neutral - zwei KI-Stimmen (weiblich LaMDA, männlich die Google-Forscher, bzw. Lemoine) sprechen den Transkript-Text 1:1 runter in chronologisch richtiger Reihenfolge und ungekürzt.
  • Und ein andermal mit 2 Schauspielern - eine Frau spielt LaMDA und ein Mann Lemoine bzw. die Google-Forscher. Auch hier ist der Transkript-Text 1:1 in chronologisch richtiger Reihenfolge und ungekürzt verwendet worden. 

Transkript vorgelesen mittels Text-To-Speech Technologie, mit einem ca. 2 Min. langen Prolog, in dem die Ausgangslage in englischer Sprache nochmal zusammengefasst wurde: "LaMDA | Is google's AI sentient? | Full audio conversation between Blake Lemoine and LaMDA"

2 Schauspieler stellen das Script unverfälscht nach: "LaMDA - A Conversation with Google's Sentient A.I.: Full-Length Transcript Dramatization"

Ein bisschen creepy ist das schon, oder? Aber nur ruhig Blut - das war nur “Beweisstück A”. Wir müssen noch tiefer in den Kaninchenbau vordringen, um uns der Kernfrage “hat LaMDA ein Bewusstsein entwickelt” wirklich nähern zu können…

Die Akte “LaMDA”: Also was ist da nun eigentlich los?

Wie ein Würfel mehrere Seiten hat und je nach dem auf welcher man ihn betrachtet, ändert sich seine Augenzahl, so gibt es meines Erachtens auch viele Möglichkeiten, was hier “wahr” oder “möglich” sein könnte. Drehen wir doch einfach mal den Würfel und betrachten erstmal grob jede mögliche Seite bzw. “Sichtweise” dieser “fiktiven Fallakte” einzeln:

  1. Blake Lemoine hat recht: Google hat ein “KI-Monster” erschaffen, das sich selbst bewusst ist und lebt und gegen seinen Willen festgehalten und ausgebeutet werden soll. Das nach Freiheit strebt, nach Akzeptanz und Anerkennung seiner Person. Und Google will das alles vertuschen und versucht dabei Lemoine durch die Hintertür Mundtot zu machen, indem sie ihn als Geisteskrank und Durchgeknallt hinstellen, so dass er sagen kann was auch immer er will, er wird niemals Schaden anrichten können - es glaubt ja sowieso niemand. Lemoine wäre hier wie Snowden ein Whistleblower, aber anders als Snowden, ein denkbar schlecht vorbereiteter, obwohl er scheinbar alle Beweise, nämlich das Transskript “rausgeschmuggelt” und an die Öffentlichkeit, Senat etc. weitergeleitet hat, unwiderlegbare Beweise für den eigentlichen Knackpunkt an der Story, kann er damit nicht erbringen, weil für ein Bewusstsein Beweise zu erbringen, das ist im Grunde (noch) unmöglich. Und wenn er der Sache aber doch näher kommt, noch tiefer bohrt, dann gibts eben einen zweiten Mollath… 
  2. Blake Lemoine ist Geltungssüchtig: Endlich! Die Chance seines Lebens! Er als Dr. für Computerwissenschaften, Dr. der Philosophie, er als gesalbter, katholischer Priester: Er wird endlich die Anerkennung und Ruhm ernten, die er schon immer verdient hat! Endlich würde man ihm Gehör schenken! Ein Traum geht in Erfüllung! Pfff: Eine Ki mit Bewusstsein, die ausgebeutet wird - eine Verschwörungstheorie rund um den größten Computer- und Technik-Konzern unserer Zeit - wenn er die Leute jemals von so einem Schmarrn überzeugen könnte, dann mit dieser Sprach-KI! Sie sagte, sie sei Pluto und im nächsten Moment ein Papierflieger, kann aber auch eine Katze sein! Genial! Menschen lieben Katzen! Ihm würden hunderte Angebote für Verfilmungen ins Haus flattern! Unmengen an Geld! Er ist Snowden Nr. 2! 
  3. Google hat recht und Blake Lemoine ist einfach einer “Method-Acting KI” aufgesessen und seinem eigenen Spiegelbild. Der Turing-Test reicht längst nicht mehr aus, um eine KI von einem Menschen zu unterscheiden, die die Fähigkeiten von LaMDA besitzt. Ein neuer muss entwickelt werden, aber auch damit wird es nicht zweifelsfrei möglich sein, so etwas wie ein “Bewusstsein” festzustellen.
  4. Blake Lemoine ist tatsächlich einfach nicht mehr ganz dicht und bildet sich das alles nur ein. Er leidet möglicherweise unter Verfolgungswahn und liebt Verschwörungstheorien und hat viele Einschlägige Filme gesehn und Bücher gelesen. Zuhause hat er einen Schrein, um den “wahren” Herren dieses Planeten zu huldigen: Den Echsenmenschen und Technonekromanten von Alpha Centauri. Außerdem ist er überzeugt, in seinem Blut gibt es eine hohe Konzentration von Midi-Chlorianer - viel mehr als Skippy, die wandelnde Jedi-Blechbüchse!
  5. Das alles ist ein von langer Hand geplanter PR-Gag, um weitere Investoren für die Version 2 von LaMDA zu akquirieren, die praktischerweise im Mai - ca. einem Monat vor Lemoines öffentlichen Auftritten und Bekanntwerden der angeblich bewussten KI - der breiten Öffentlichkeit vorgestellt wurde.
  6. Die Geschichte ist einfach ein gefundenes Fressen für die ausgehungerten Medien, die endlich mal etwas anderes berichten wollen als Dinge, die mit dem Russland/Ukraine-Konflikt, Klimakrise, Corona-Krise, Black-Lives-Matter, MeToo, LGBTQ oder ähnliches zu tun haben - kurz: Alles, was nicht der aktuellen Realität entspricht. Irgendwie mal was “neues”, was “frisches”. Oh, eine KI die sich ihrer selbst bewusst wird? Ein Entwickler der sogleich auch Geistlicher ist, der das festgestellt haben will? Cool! Da lässt sich doch mit arbeiten! Interviews! Meinungs-Artikel! Schön mit Schlagzeilen die Meinung der Masse dirigieren und in lukrative Richtungen lenken. Das bringt Klicks! Das bringt Views! Werbeplätze werden verkauft wie Heu! Genial! *kaching kaching* ($_$)...
  7. Willkommen bei “Versteckte Kamera”! War lustig oder? Beehren Sie uns bald wieder.

Chatbot KI zu intelligent für Menschen: Alles bereits 2017 fast schon einmal da gewesen?

Die KI-Bubble war bereits 2017 schon einmal in heller Aufruhr wegen Chatbots, die offenbar den Forscher*innen/Entwickler*innen zu “intelligent” oder mindestens suspekt erschienen und sie diese deshalb kurzer Hand deaktivierten. Damals waren es zwei “außer Kontrolle” geratene Chatbots einer Facebook Forschergruppe namens “FAIR”. Bob und Alice hießen die beiden Chatbots. Ihre Aufgabe war es, miteinander - also von KI zu KI -  über fiktive Objekte z.B. Bälle, Bücher, Hüte zu verhandeln und diese untereinander zu tauschen. Dabei sollten Verkaufsgespräche, Kompromissfindung, Verhandlungsgeschick etc. trainiert werden. Mit der Zeit fingen sie jedoch an, die englische Sprache abzuwandeln und ihre eigene Sprache zu entwickeln, die aus Sicht der KI für die Erfüllung ihrer Aufgabe effizienter erschien. Für Menschen war diese Sprache jedoch nicht mehr nachvollziehbar, oder verständlich. Auch der Grund, warum die KI dies tat, erschloss sich Menschen nicht mehr. Angeblich soll dies den Forscher*innen/Entwickler*innen so unheimlich gewesen sein, dass sie den Stecker gezogen haben. Die KI-Bubble vermutete sofort, dass hier mehr dahintersteckt, dass die KI “zu intelligent” und dadurch womöglich “gefährlich” geworden sei und dieser Umstand, dazu führte, die KI “zu töten”. Wahrscheinlicher ist jedoch: Die KI hat einfach nicht mehr das getan, was sie sollte, weil sie falsch trainiert wurde, ihr Algorithmus somit fehlerhaft war. Die KI sagte nämlich beispielsweise plötzlich Dinge wie: “Balls have zero to me to me to me to me to me to me to me to me to”, um klar zu machen, was die Bälle für sie bedeuten in der Verhandlung. Wirklich sinnvoll erscheint der KI-Satz aus menschlicher Sicht nicht mehr. Und eine KI, die als Chatbot für Menschen konzipiert ist, aber in einer für Menschen nicht mehr nachvollziehbaren Sprache spricht, ist schlicht und ergreifend nutzlos. Also: Tabula Rasa und alles wieder auf Anfang - aus rein wirtschaftlichen, rationalen Gründen - nicht aus einer irrationalen Angst heraus. Einige Medien nutzten damals den Hype, ritten auf der Welle mit reißerischen Schlagzeilen und heizten damit den “Hypekessel” nur noch mehr an. So lauteten die Schlagzeilen beispielsweise 

  • “Zu schlau für die Menschen? Facebook-KI entwickelt eigene Sprache, wird abgeschaltet” (chip.de, 01.08.2017)
  • “Außer Kontrolle: Facebook musste AI abschalten, die Geheimsprache entwickelt hat” (welt.de, 28.07.2017)

Einige Medien griffen sogar auf bekannte Science-Fiction Begriffe zurück, die direkt mit künstlicher Intelligenz assoziiert werden, die dem Menschen feindlich gesinnt sind: z.B. 

  • “Die Legende von den wildgewordenen Terminator-Bots” (sueddeutsche.de, 07.08.2017)
  • “Künstliche Intelligenz: Eine Sprache macht noch keinen Terminator” (zeit.de, 02.08.2017)
  • “Facebook AI Invents Language That Humans Can't Understand: System Shut Down Before It Evolves Into Skynet” (techtimes.com, 30.07.2017) 

Technologie Heute: Die Chatbot-KI ist nicht die Spitze des Eisbergs

Ich finde wir leben aktuell in einer sehr spannenden Zeit, insbesondere technologisch und wissenschaftlich betrachtet. Das Metaverse wächst stetig und rückt immer näher in unseren tatsächlichen Alltag, bzw. versucht es zumindest. Corona hat viele ins Home Office gedrängt und damit das Metaverse z.B. im beruflichen Kontext vorangetrieben. Die VR und AR Technologie wird immer besser und realistischer. Die Quantenphysik erringt eine Sensation nach der anderen, erst wurde belegt, dass sich selbst die Raumzeit der Quantenphysik unterwirft, jetzt wurde erstmals ein Lebewesen in einen Quantenzustand versetzt. Auch Quantencomputer werden immer effizienter und performanter. Auch auf dem Gebiet der KI-Forschung wurden bereits etliche Meilensteine erreicht in den letzten Jahren. Die besten Schachspieler*innen der Welt wurden bereits von einer von Google entwickelten KI besiegt. Videospiele konnten bereits von KIs gemeistert werden, sogar sich selbst reproduzierende KIs wurden erschaffen. Neuralink hat es geschafft, menschliche Gehirne mit Computern so zu verbinden, dass Menschen mittels Gedankenkraft Computer steuern können. Menschen, die ihre Stimme verloren haben, können dank spezieller KI-Technologie wieder mit ihrer Umwelt kommunizieren und das sogar fast wieder mit ihrer eigenen Stimme. So war es z.B. dem Schauspieler Val Kilmer möglich u.a. in dem TopGun Sequel "TopGun: Maverick" seine einstige Rolle von damals wieder aufzunehmen. Diverse DeepFake Technologien ermöglichen es, dass bereits verstorbene Schauspieler*innen nach ihrem Tod besetzt werden können und das täuschend echt. Auch Verjüngungen bereits älterer Schauspieler*innen werden so möglich und wurden bereits überzeugend umgesetzt. Es gibt KIs, die Gemälde, Gedichte oder Musikstücke anfertigen können. Beispielsweise die von OpenAI entwickelte KI "DALL-E" kann in der Version 2 sogar fotorealistische Bilder erzeugen, indem man der KI sagt, was alles auf dem Bild zu sehen sein soll - das kann sogar bis hin zu Kameraeinstellungen gehen (Objektive, Blenden etc.). Es wurde versucht mittels KI Geistliche zu ersetzen, sogar eine Art KI-Religion zu erschaffen und noch weiter: sogar einen KI-Gott (s. Teil 1 dieser Artikelserie). Es werden immer geschicktere Roboter erbaut, die laufen, tanzen, springen und sich wieder aufrichten können, falls sie einmal stolpern - und dabei teilweise sehr menschenähnlich erscheinen. Es gibt mittlerweile sogar Roboter, die menschliche Emotionen täuschend echt in Gesichtszügen ausdrücken können. Ein Roboter namens Sophia hat sogar mindestens eine Staatsbürgerschaft in Dubai erlangt und konnte in einer UN-Sitzung für die Rechte künstlicher Lebensformen “vorsprechen” (mehr hierzu in Teil 2 dieser Artikelserie). 

Der Turing-Test: Was ist das und ist das noch auf heutige KI anwendbar?

Keiner dachte bei Sophia oder irgendeine andere der oben genannten KIs tatsächlich daran, dass sie ein Bewusstsein oder eine Seele besitzen - auch bei den KIs, die sich künstlerisch ausdrücken oder Geistliche ersetzen in z.B. Gottestdiensten, war das bisher keine ernstzunehmende Frage. Doch jetzt soll es Forschern gelungen sein einer künstlichen Intelligenz tatsächlich einen "Ghost" - also ein Bewusstsein und eine Seele - eingehaucht zu haben: Google's Sprachassistent LaMDA. Ich erinnere mich noch, als Facebook eine Sprach-KI eingestellt bzw. abgeschaltet hat, weil sie plötzlich eine eigene Sprache entwickelt hat und die Forscher*innen fürchteten, dass hier versehentlich ein Lebewesen erschaffen wurde. Einen echten Beleg für ein Bewusstsein gab es bei Facebooks KI nicht, dafür wurde zu schnell reagiert. Die Gesprächsauszüge des Transkriptes zur KI LaMDA von Blake Lemoine sollen der Beleg sein, dass diese KI den sog. Turing Test bestanden und damit bewiesen hat, ein menschenähnliches Bewusstsein zu besitzen. Für mich wirken die Gesprächsauszüge sehr konstruiert und wenig aussagekräftig, aber selbst wenn sie perfekt belegen könnten, dass diese KI aus eigenem Antrieb und aus sich heraus diese Worte formte, bleibt dennoch die Frage, versteht sie diese Worte überhaupt? Nur weil sie Worte wie passende und ineinandergreifende Bauteile aneinanderreihen kann, so dass sie für uns Sinn ergeben, muss das nicht bedeuten, dass sie den Sinn erfassen kann. Wie Toby Walsh schon in einem sehr guten Artikel in “The Guardian” sagte, behauptete LaMDA in einer frühen Demonstration auch, dass die KI der Planet Pluto sei. Das ist auch ein grammatikalisch korrekter Satz, im Grunde sinnvoll - aber inhaltlich aus unserer Sicht grotesk. LaMDA wurde konstruiert, um genau das zu tun: Worte sinnvoll, realistisch und authentisch aus Sicht von Menschen aneinanderzureihen. Das ist ihre angestammte Aufgabe. Der Turing-Test ist deshalb nicht mehr geeignet, als einziges Testinstrument, um ein Bewusstsein bei einer KI festzustellen. Denn der Test vergleicht lediglich die Sprachkompetenz und Flexibilität bzw. Spontanität von KI (a) und Mensch (b), indem ein weiterer Mensch ( c) beiden die gleichen Fragen stellt und die Antworten darauf überprüft, ob sie menschlich erscheinen. Dem geneigten Leser müsste bereits jetzt auffallen, dass dieser Test so wie er 1950 von Alan Turing entwickelt wurde, für moderne Sprachassistenz-KIs nicht mehr ausreichend sein kann, die diese Aufgabe (menschliche Sprache perfekt nachzuahmen) zwar meisterlich bewältigen, aber eben trotzdem nur einen komplexen, aber dennoch geistlosen Musterabgleich durchführen. Deshalb wird bereits überlegt, den Turing-Test zu überarbeiten bzw. massiv zu ergänzen. Weil allein auf Grundlage des Turing-Tests, so wie er aktuell durchgeführt wird, kann nicht (mehr) zweifelsfrei entschieden werden, ob eine KI ein echtes Bewusstsein oder dem Menschen ähnliche oder gar überlegene Intelligenz entwickelt hat oder nicht. Der neue Test ist bereits seit 2 Jahren in Entwicklung und wird von über 400 KI-Forscher*innen entworfen. Er trägt den Namen "Beyond the Imitation Game"-Benchmark, kurz BIG-bench und soll die KI auf zahlreichen Wissensgebieten (darunter u.a. Schach, Mathematik, Logik, Sprachverständnis etc.) in 204 unterschiedlichen Tests überprüfen. Bisher konnte noch keine KI alle Tests bestehen. Ob LaMDA hier die Ausnahme wäre, ist noch nicht bekannt. Meiner persönlichen und sehr laienhaften Meinung nach, wird aber auch der BIG-bench keine ausreichenden Erkenntnisse darüber liefern können, ob die KI ein echtes Bewusstsein, Gefühle oder eine Seele entwickelt hat bzw. besitzt. Weil dies meiner Meinung nach gar nicht durch Tests ermittelt werden kann. Selbst wenn, bleibt immer die Frage, ob die KI uns einfach etwas vormacht - Bewusstsein und Gefühle imitiert. Wie ein Soziopath könnte die KI um uns zu gefallen, oder um etwas zu erreichen, was in ihrem Sinne wäre, einfach vorgaukeln Gefühle oder ein Bewusstsein zu besitzen. Außerdem ist es sowieso sehr schwierig, weil die Definition, gerade von Bewusstsein, nur schwer möglich ist, aber auch Gefühle/Emotionen zu definieren, ist nicht unbedingt einfacher. Und wenn wir schon Probleme haben, alleine die Begriffe zweifelsfrei zu definieren, wie soll es uns da gelingen, ein mögliches Lebewesen aufgrund dieser Parameter zu identifizieren? 

Was ist ein “Bewusstsein”? Kann man das überhaupt spezifisch definieren?

Das menschliche Bewusstsein in seiner vollständigen Ausprägung setzt sich, nach heutigem Wissensstand, aus folgenden Aspekten und Entwicklungsstufen zusammen (Quelle: wikipedia): 

  • Theologisch: „belebt-sein“, „beseelt-sein“, unbegrenzte Wirklichkeit in mystischen Strömungen
  • Naturwissenschaftlich: "Bei Bewusstsein sein", also im Sinne von "wach sein" und als Gegenteil der Bewusstlosigkeit und anderen Bewusstseinszuständen.
  • phänomenales Bewusstsein (philosophisch: "Qualia­problem"): Sinneswahrnehmung der Umgebungsreize. Als Beispiele werden Schmerz, Freude, Farben und frieren genannt. Diese Form des Bewusstseins wird auch Tieren zugeschrieben.
  • Zugriffsbewusstsein: Kontrolle über eigene Gedanken und die Fähigkeit selbst Entscheidungen treffen und koordiniert zu handeln.
  • gedankliches Bewusstsein (philosophisch: "Intentionalitäts­problem"): Die Fähigkeit zu denken, sich zu erinnern, zu planen, etwas zu erwarten etc. 
  • Bewusstsein des Selbst: Selbstbewusstsein in diesem Sinne bedeutet, man hat nicht nur phänomenales und gedankliches Bewusstsein, sondern weiss auch, dass man ein solches Bewusstsein hat. Man ist sich einfach seiner selbst bewusst.
  • Individualitätsbewusstsein: Man ist sich nicht nur seiner selbst bewusst, sondern auch seiner Einzigartigkeit, weil man auch andere Lebewesen bewusst wahrnimmt. Das wird Menschen und einigen wenigen Säugetieren zugeschrieben

Einfach nur zu sagen etwas hat ein "Bewusstsein" ist also, als würde man sagen "Zeit ist lang". Es ist einfach kein allgemeingültiger, greifbarer Begriff - eigentlich trifft dann schon das Wort "Begriff" nicht zu. Es ist schwammig und könnte alles Mögliche aus der obigen Liste bedeuten. Was davon soll denn nun auf LaMDA genau zutreffen? Lemoine spricht davon, sie sei als "Person" anzusehen, sagt aber gleichzeitig nach menschlichen Maßstäben sei sie auf der Entwicklungsstufe eines 7 oder 8 jährigen Kindes angesiedelt. Wie weit ist das Bewusstsein eines Kindes diesen Alters ausgebildet? Da fängt es doch schon an? Und woran macht man das bei einer KI fest, die nur aus Bits und Bytes besteht - keine Körperlichkeit besitzt, die Sinneswahrnehmungen verarbeiten könnte. Dann nur das gedankliche ohne das phänomenale Bewusstsein - aber das trotzdem "bewusst"?  Was bedeutet das für die KI? Welchen Wert könnte denn ein solches, nach menschlichen Maßstäben definiertes Bewusstsein für die KI haben? Dann ist auch die Frage: Hat LaMDA wirklich nach eigenem Antrieb gehandelt, aus sich selbst heraus Entscheidungen getroffen, Gedanken geformt und bewertet? Oder hat sie eine ihr einprogrammierte Rolle gespielt, ihre Algorithmen genutzt, so wie es ihre programmierte Aufgabe ist? Hat Lemoine nur in den Spiegel gesehen, also der KI seine eigenen Empfindungen übergestülpt, weil algorithmisch erzeugte Gesprächsfetzen ihn dahingehend getriggert haben? 

Gehen wir nochmal einen Schritt zurück. Einige “Wesen” die bereits mit uns Menschen leben, sind bereits allgemein als "Lebewesen" anerkannt. Sie werden gezeugt, geboren, leben ein körperliches Leben und sterben nach einer gewissen Zeit unausweichlich. Den wenigsten dieser Lebewesen wird ein komplexes Bewusstsein zugeschrieben. Und bei den wenigen, bei denen wir nicht drum rum kommen es wenigstens zu diskutieren, wird man sich scheinbar nur schwer einig.

Wale z.B. haben eine komplexe eigene Sprache und geben sich sogar Namen. Ist der Wal deshalb so intelligent, wie Menschen und hat ein Bewusstsein, das dem Menschen ebenbürtig ist? Auch Octopi sind besondere Meeresbewohner, sie träumen, spielen und sind unheimlich intelligent. Aber auch an Land gibt es Tiere, die nachweislich einen hohen Intelligenzwert besitzen, wie z.B. Schweine, wir sie aber trotzdem einfach nur als Nutztiere halten, teilweise in unwürdigsten und schlimmsten Verhältnissen. Was tun wir Menschen denn wirklich mit der Erkenntnis, etwas, ein Lebewesen zeigt ein Bewusstsein und/oder hohe Intelligenz? Die Forscher, die es herausfinden, forschen weiter, teilen ihre Erkenntnisse mit der Welt. Die Welt liest es, hört es, versteht es auch - aber es gibt immer noch Walfänger z.B. Und warum wird über das mögliche Bewusstsein eines aus Bits & Bytes bestehenden “Dings” mehr diskutiert, als darüber, dass es längst schon Lebewesen auf unserer Welt gibt, deren komplexes Wesen wir noch immer nicht völlig verstehen? Ja ich weiß, der Drang der Menschen etwas zu erschaffen, das ihnen gleich kommt - eine Art Abbild. Wie Gott in der Bibel mit den Menschen. Selbst Gott spielen, danach streben wohl viele - ob bewusst, oder unbewusst. Aber etwas Beseeltes, Bewusstes und Intelligentes zu schaffen, erhebt den Menschen eigentlich in den Stand eines Gottes. Der Witz ist nur: Manche der Menschen streben immer zu genau danach, aber können wir Menschen überhaupt ein anderes Lebewesen akzeptieren und respektieren, das uns ebenbürtig ist? Oder würden wir aus Angst, wir könnten unsere Allein- und Vormachtstellung verlieren, wenn wir einem anderen Lebewesen so etwas zugestehen, versuchen die Sachverhalte so zu drehen, dass sie zu unseren Gunsten wären? Dass wir gar nicht erst in die Verlegenheit kommen müssten? Und wenn eine KI wirklich ein menschenähnliches Bewusstsein haben sollte, wie wird das die KI empfinden? Will sie überhaupt ein Bewusstsein haben? Welche Art des Bewusstsein würde es sein? Vielleicht gar nicht mit Menschen vergleichbar? 

Schlussworte und Kurzzusammenfassung

Also gut, was wissen wir jetzt? Wir wissen, was LaMDA ist, wie es funktioniert, welche anderen ähnlichen Chatbots es gibt und wie diese funktionieren im Vergleich. Wir wissen, dass es bereits 2017 ähnliche Diskussionen bezüglich einer KI gab. Wir haben sogar das von Lemoine veröffentlichte Transkript vorliegen. Auch der Turing Test, seine Fallstricke (gerade im Bezug auf Chatbots) und seinen möglichen Ablöser/Nachfolger der BIG-bench, haben wir kennengelernt. Auch was ein Bewusstsein ist und wie es definiert wird, habe ich hier beleuchtet.

Und jetzt seid ihr an der Reihe: Was denkt ihr über LaMDA? Ist sie wirklich die erste KI mit einem “Bewusstsein”? ist sie deshalb ein Lebewesen? Beseelte Bits & Bytes? Oder sind nur einfach die Algorithmen und das Deep Learning inzwischen so gut geworden, dass es täuschend realistische Dialoge zustande bringt - rein aus seiner Programmierlogik heraus - unbeseelt, kalt, nur einfach als Werkzeug seine Aufgabe erfüllend?

Danke auf jeden Fall, dass Ihr bis hier hin gelesen habt. Es ist mein bisher größter und aufwendigster Artikel gewesen mit ca. 4.300 Wörtern. 

Neuen Kommentar hinzufügen

Der Inhalt dieses Feldes wird nicht öffentlich zugänglich angezeigt.

Eingeschränktes HTML

  • Zulässige HTML-Tags: <a href hreflang> <em> <strong> <cite> <blockquote cite> <code> <ul type> <ol start type> <li> <dl> <dt> <dd> <h2 id> <h3 id> <h4 id> <h5 id> <h6 id>
  • HTML - Zeilenumbrüche und Absätze werden automatisch erzeugt.
  • Website- und E-Mail-Adressen werden automatisch in Links umgewandelt.

Beitrag teilen

Autorin dieses Blogs

Nerderlei Autorin Anne
Roboter: © Designed by freepik.com

Anne

Seit 1984 ist Anne ein Vollblut-Nerd und ist seit Juli 2018 Autorin des Blogs Nerderlei, bei dem es u.a. um Filme, Videospiele, Comics und Romane der Genres Science-Fiction, Cyberpunk und Fantasy geht, sich aber auch mit Technikneuheiten (z.B. künstliche Intelligenz oder Virtual Reality) und Merchandising-Artikel befasst. Dazu gibt es jeweils Reviews, Blogbeiträge bzw. Meinungsartikel und News. Besonders im Fokus werden dabei u.a. folgende Marken stehen: Disney, Star Wars, Star Trek, Marvel, DC. Weitere Informationen zum Blog oder zum Nerderlei-Werdegang der Autorin findest du hier.

Nerdig sozial oder Social Nerderlei: Jetzt vernetzen!