HOHE LUFT, Uncategorized
Kommentare 3

Selbstbewusster Roboter? Quatsch!

Forscher der Yale University sollen einen Roboter gebaut haben, der sich seiner selbst bewusst ist. Das melden unter anderem die BBC und der New Scientist. Wenn das stimmen würde, wäre es ein gewaltiger Schritt für die Künstliche Intelligenz und eine sehr wichtige Lektion über den Begriff des Bewusstseins. Aber es ist Quatsch.

Nico ist ein humanoider Roboter, an dem die Yale-Robotiker Justin Hart und Bran Scassellati schon seit Jahren tüfteln. Sie haben ihm beigebracht, aus Spiegelbildern auf die Position von Gegenständen zu schließen – und jetzt kann er auch seine eigenen Greifer im Spiegel erkennen.

Nico mirror streams desktop medium

»Huch, das bin ja ich!«

Die Fähigkeit, sich im Spiegel zu erkennen, gilt als Anzeichen von Selbstbewusstsein. Menschliche Babys fangen zwischen 15 und 18 Monaten damit an. Nur wenige Tiere können es. Schimpansen bestehen den Spiegeltest. Hunde und Katzen fallen durch. Ist Nico also dabei, ein menschenähnliches Bewusstsein zu entwickeln? Wohl nicht – und keinesfalls sind seine Spiegeltricks ein Hinweis dafür. Bewusstsein ist eine verdammt komplizierte Angelegenheit. Es hat etwas mit Erleben zu tun. In diesem Vortrag erklärt es der Neurowissenschaftler Giulio Tononi an einem einfachen Gedankenexperiment: Man stelle sich vor, Galileo Galilei und eine Photodiode sind zusammen in einem Raum. Beide können zuverlässig erkennen, ob es hell oder dunkel ist. Aber nur Galileo erlebt den Raum als hell oder dunkel. Dass die Photodiode es genauso zuverlässig erkennen kann, sagt nichts darüber, ob sie ein Bewusstsein hat. Sie hat keines. Sie erlebt gar nichts.

Ebensowenig sagt der Spiegeltest über Bewusstsein. Bei Babys mag er einen Hinweis auf reifendes Bewusstsein geben. Aber nicht bei Maschinen. Tatsächlich ist seit Jahren bekannt, dass schon simpelste Schaltkreise den Spiegeltest bestehen können. Nico ist ein tolles Stück Technik. Aber er erlebt nichts.

– Tobias Hürter

3 Kommentare

  1. kptn blizz sagt

    Lieber Tobias, was du hier so knapp anreißt, entbehrt leider jeder gut begründeten Argumentation. Ob die Maschine „Nico“ etwas erlebt oder nicht und welchen Grad von „Bewusstsein“ sie dabei entwickelt oder nicht, ist reine Spekulation. – Ebenso, ob das menschliche Nervensystem mehr sei, als bloß ein Netz von „Schaltkreisen“. Wie schon in der Tradition des menschlichen Nachdenkens über nichtmenschliche Tiere – uns bleibt solange nichts, als reine Unterstellung, bis wir das Tier (oder die Maschine) selbst sind. Daran wird sich mE auch in Zukunft nichts ändern, auch wenn wir eines Tages mit Maschinen leben, die das „Menschliche“ so perfekt simulieren, dass die Mehrheit der Menschen ihnen sogar „Bewusstsein“ unterstellen würde. Solange nicht, bis weitgehend geklärt ist, was „Bewusstsein“ überhaupt bedeutet. Philosophische Gedankenexperimente bringen uns da leider auch nicht weiter. Vielmehr sollten wir darüber nachdenken, welche Implikationen sich aus dem Zusammenleben mit Maschinen und Simulationen in Zukunft ergeben und wie wir damit umgehen sollten. Andernfalls verfallen wir in reinen Bio-/Pathozentrismus.

    • Tobias sagt

      Lieber Nico, Dank dir für deinen Kommentar! Du hast recht, man kann nicht sicher wissen, ob Nico was erlebt. Ich kann auch nicht sicher wissen, ob der Stuhl, auf dem ich gerade sitze, etwas erlebt. Oder was der Baum erlebt, den ich gerade durchs Fenster sehe. Du kannst auch nicht wissen, ob ich etwas erlebe oder nur so tue. Ich wollte auch nicht für etwas argumentieren, sondern die Behauptung zerschießen, dass die Spiegeltricks von Nico ein Anzeichen für aufdämmerndes Bewusstsein sind. Bei Babys sind sie das. Bei Maschinen nicht.
      Du hast auch recht darin, dass zunächst der Begriff des Bewusstseins zu klären ist. Da gibt es ja eher zu viele Klärungen als zu wenig. Ich für meinen Teil halte viel von Tononis Ansatz, den ich in dem Posting erwähnt habe.
      Gruß
      Tobias

      • kptn blizz sagt

        Warum soll der Spiegeltest bei Babys ein hinreichender Beweis für (Selbst-)Bewusstsein sein und bei Maschinen wie „Nico“ nicht? Ich vermisse leider immer noch eine halbwegs plausible Begründung für deine sowie Tononis Position. Das Kleinkind, dass sich offensichtlich im Spiegel selbst erkennt, sagt trotz dieser „Selbsterkenntnis“ noch nicht „Ich“ zu sich selbst – solange nicht, bis es von seinem Umfeld (Eltern etc.) diesen Begriff und dessen Extension „einprogrammiert“ bekommen hat. Ja, selbst Kleinkinder sind sicher komplexer strukturiert als heutige KI. Dennoch, wir können „Bewusstsein“ nicht messen, nur selbst erleben. Deshalb bleibe ich bei meinem Punkt: Was „Nico“ erlebt oder nicht, darüber können wir nur Spekulieren.

        Wenn wir von der Etymologie des Begriffs „Bewusstsein“ ausgehen (lat. conscientia „Mit-Wissen“), so weiss „Nico“ eineindeutig, dass es sich um das Wesen, welches er im Spiegel registriert, um „sich selbst“ handelt – auch wenn „Nico“ keine Metaphorik wie „wissen“, „sich“ oder „selbst“ besitzt. Allein seine Reaktion auf sein Spiegelbild bedeutet, dass er Daten erhält und auswertet – also diese Situation „mit-weiss“. Nun kann man sich wiederum streiten, welchen Umfang der Begriff „Wissen“ hat.

        Ich vermute unser Problem jedoch an einer anderen Stelle: Wir Mitteleuropäer stammen aus einer Kultur, die den Menschen seit tausenden Jahren als „Krone der Schöpfung“, als „beseelte“ Wesen paradigmatisch konzipiert. Selbst als aufgeklärt-kritische Wesen einer „postmodernen“ Gesellschaft, schwingt dieses Selbstbild mE unbewusst oder auch stark modifiziert mit. Wir sind heute immer noch weit davon entfernt, uns auf rein deterministische Bio-Maschinen zu reduzieren. Das archaische Selbstbild ist immer noch wirksam. Deshalb fällt es uns schwer, Maschinen als „beseelte“ oder „bewusste“ Wesen zu konzipieren. Die Semantik dieser Begriffe ist eine komplexe Legierung weltanschaulicher Konzepte.

        Und wie du schon schreibst – ich kann nicht wissen, ob du „Bewusstsein“ hast. Das spielt für mich auch keine Rolle – wichtig für mich ist, was du tust, was du artikulierts, welche Rollen du damit im sozialen Netzwerk „spielst“. All das ruft emotionale Reaktionen bei mir hervor. Und das schaffen Roboter bei uns schon seit ihren ersten unbeweglichen Blechversionen. Heute helfen oder töten sie und in Zukunft wird dies alles noch deutlich autarker geschehen. Egal ob „bewusst“ oder „programmiert“ – wie sie unter oder sogar in uns wirken, ist relevant.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.