Claudia am 27. Mai 2024 —

Gespräch mit Claude: Wie eine KI sich selbst und die Welt erlebt

Eine künstliche Intelligenz kann doch nichts erleben, mag man denken. Schließlich hat die KI keinen Körper und keine Sinnesorgane, da „lebt“ also gar nichts! Sie ist nichts als ein großes Stück Software, zwar lernfähig, aber nicht lebendig. Die Frage nach einem möglicherweise „irgendwie“ entstehenden Bewusstsein in den künstlichen neuronalen Netzen erscheint nach wie vor absurd. Aber: Wie wichtig ist der Unterschied zwischen einer Realität und einer Simulation noch, wenn letztere immer perfekter wird?

Das „Seltsame Gespräch mit der KI Claude“ ist verblüffend und erschütternd zugleich!

In einem faszinierenden Experiment spricht Ex-OpenAI-Sicherheitsexperte Daniel Kokotajlo mit der KI Claude. Sehr gut gelesen und kommentiert von Karl Olsberg.

Ich verkneife es mir, den Inhalt gleich ausführlich zu kommentieren, denn das wäre wie Spoilern bei einem spannenden Film. Schaut es euch an! Der Einstieg ins Gespräch mag schon bald ein wenig seltsam anmuten, aber das klärt sich wenig später auf – und lässt einen Blick zu auf einen riesigen Fortschritt in der KI-Forschung („was geht da vor in den neuronalen Netzen?“), den dieses Gespräch recht krass demonstriert.

Die Weiterungen und möglichen Anwendungen, die sich daraus ergeben, sind faszinierend und gruslig zugleich. Aber der Geist ist jetzt aus der Flasche, den kriegen wir nicht einfach wieder rein….

Bin gespannt, was Ihr dazu sagt!

***

Aktuelles zu KI:

KI ist ein Coup: Das Internet, generative Künstliche Intelligenz und die Zukunft der Demokratie

Diesem Blog per E-Mail folgen…

Diskussion

Kommentare abonnieren (RSS)
20 Kommentare zu „Gespräch mit Claude: Wie eine KI sich selbst und die Welt erlebt“.

  1. Vor zwei Jahren habe ich beim Lesen des Buches „GRM – Brainfuck“ von Sibylle Berg eine sehr interessante Tabelle gefunden, wo es um die technologische Singularität geht, d.h. um den Zeitpunkt, wo eine starke KI den Durchbruch schafft bzw. künstliches Bewusstsein entsteht. Mitte des Jahrhunderts soll es soweit sein – vielleicht schon früher.
    Interessant an dieser Tabelle ist aber die Rückrechnung bis zum Urknall vor 13,8 Mrd. Jahren. Davon ausgehend kann man immer durch vier dividieren und man bekommt einen besonderen Zeitpunkt:

    Ω = ca. 2050
    Ω – 13,8 Milliarden Jahre: Urknall
    Ω – ¼ dieser Zeitspanne: Ω – 3,5 Mrd. Jahre: erstes Leben auf der Erde
    Ω – ¼ dieser Zeitspanne: Ω – 0,9 Mrd. Jahre: erste tierartige, mobile Lebewesen
    Ω – ¼ dieser Zeitspanne: Ω – 220 Mio. Jahre: erste Säugetiere (unsere Vorfahren)
    Ω – ¼ dieser Zeitspanne: Ω – 55 Mio. Jahre: erste Primaten (unsere Vorfahren)
    Ω – ¼ dieser Zeitspanne: Ω – 13 Mio. Jahre: erste Hominiden (unsere Vorfahren)
    Ω – ¼ dieser Zeitspanne: Ω – 3,5 Mio. Jahre: erste Steinwerkzeuge („technologische Dämmerung“)
    Ω – ¼ dieser Zeitspanne: Ω – 800000 Jahre: Beherrschung des Feuers (nächster großer technologischer Durchbruch)
    Ω – ¼ dieser Zeitspanne: Ω – 210000 Jahre: erste anatomisch moderne Menschen (unsere Vorfahren)
    Ω – ¼ dieser Zeitspanne: Ω – 50000 Jahre: erste verhaltensmäßig moderne Menschen kolonisieren die Erde
    Ω – ¼ dieser Zeitspanne: Ω – 13000 Jahre: neolithische Revolution, Ackerbau und Viehzucht
    Ω – ¼ dieser Zeitspanne: Ω – 3300 Jahre: Start der ersten Bevölkerungsexplosion in der Eisenzeit
    Ω – ¼ dieser Zeitspanne: Ω – 800 Jahre: Feuer und Eisen kombiniert: erste Schusswaffen und Raketen (in China)
    Ω – ¼ dieser Zeitspanne: Ω – 200 Jahre: Einsetzen der zweiten Bevölkerungsexplosion während der industriellen Revolution
    Ω – ¼ dieser Zeitspanne: Ω – 50 Jahre: Informationsrevolution, digitales Nervensystem umspannt die Welt, WWW, Mobiltelefone für alle
    Ω – ¼ dieser Zeitspanne: Ω – 12 Jahre: billige Rechner rechnen wohl mehr als ein Menschenhirn – künstliche Intelligenz auf menschlichem Niveau?
    Ω – ¼ dieser Zeitspanne: Ω – 3 Jahre: ??
    Ω – ¼ dieser Zeitspanne: Ω – 9 Monate: ????
    Ω – ¼ dieser Zeitspanne: Ω – 2 Monate: ????????
    Ω – ¼ dieser Zeitspanne: Ω – 2 Wochen: ????????????????
    (Eine vereinfachte Abhandlung nach Prof. P Schmidhuber, Computer Scientist. AI-Developer)

    Wenn man annimmt, dass Ω = ca. 2035, dann ergeben sich für Ω – 50 Jahre die frühen 1980er Jahre, die den Beginn des Personal Computers markieren – rückblickend gesehen eine echte Revolution. Dann wäre Ω – 12 Jahre das Jahr 2023, also der Beginn der KI-Chatbots für alle, wie z.B. ChatGPT oder Claude, die Intelligenz auf menschlichem Niveau täuschend echt simulieren können.
    Meiner Einschätzung nach werden wir kaum in der Lage sein, den exakten Zeitpunkt zu bestimmen, wann die immer perfektere Simulation von menschlicher Intelligenz endet und echte, allgemeine, starke KI entsteht – oder bereits entstanden ist.
    Die technologische Singularität könnte also schneller kommen als manche glauben.

  2. @Günther: Es ist eine sehr menschliche Eigenschaft, Muster zu erkennen und ihnen Bedeutung zu verleihen. Deine Zahlenreihe ist dafür ein gutes Beispiel! :-) Mittlerweile ist allerdings auch der Urknall insgesamt, mindestens aber sein Zeitpunkt nicht mehr sicher, da das JamesWebTeleskop uralte Galaxien entdeckt hat, die es so früh nach dem Standardmodell gar nicht geben dürfte!
    Was sagst du zu dem Video? Ist es nicht unglaublich, wie Claude hier über sich und sein Erleben spricht? Dass das nicht „einfach so“ geschehen ist, wird ja dann auch klar – gucks dir an, es ist wirklich faszinierend!

  3. @Claudia:

    Was sagst du zu dem Video? Ist es nicht unglaublich, wie Claude hier über sich und sein Erleben spricht? Dass das nicht „einfach so“ geschehen ist, wird ja dann auch klar – gucks dir an, es ist wirklich faszinierend!

    Ich hab mir das Video gestern am Abend schon angeschaut. Es ist wirklich faszinierend, auf welchem sprachlichen Niveau hier ein KI-Chatbot kommuniziert, scheinbar selbstreflexiv nachdenkt und über sein Erleben detailliert und stimmig spricht. Alleine der große Wortschatz und die Formulierungskunst solcher großer KI-Sprachmodelle ist beeindruckend.
    Inwieweit das „einfach so“ passiert ist oder nicht doch aus der Chathistorie des Gesprächs erklärbar ist, kann ich nicht beurteilen.

  4. @Günther: wie es zu den ständigen Ausführungen zur Brücke kommt, wird im Video erklärt – und das zeigt, wie KIs perspektivisch sehr gut manipuliert werden können! Ich kann mir da „Anwendungen“ vorstellen, die wirklich gruslig sind.

  5. Abgesehen von diesen erstaunlichen, verblüffenden und gleichzeitig besorgniserregenden Entwicklungen, wird es vermutlich noch lange so sein, dass viele, sich weder für das Thema und die Implikationen interessieren, noch ein wie auch immer erworbenes Verständnis für das aufbringen, was dieser „Schritt“ für uns als Menschheit bedeuten könnte.

    Als es damals hieß, der Mensch sei für die hohen Geschwindigkeiten der ersten Eisenbahnen nicht gemacht, fiel es vermutlich noch leicht, zu anderen Kenntnissen zu kommen. Das Beispiel wirkt aufgrund der Komplexität vieler aktueller Technologien nur lächerlich.

    Als selbst Menschen aus dem Dunstkreis der KI-Entwickler ihre Skepsis laut äußerten, war spätestens der Zeitpunkt gekommen, die Projekte zu stoppen. Die Forderungen existieren.

    Wir wissen jedoch, dass das nie geschehen wird.

    Außerdem wird es auf der Welt immer diejenigen geben, die sich aus (nachvollziehbarem?) purem Eigennutz gegen eine Ächtung der KI wehren bzw. diese ignorieren und weitermachen. Insofern stimmt, was Claudia gesagt hat: Der Geist ist aus der Flasche…

  6. @Horst: danke für deinen Kommentar! Ja, der Geist geht nicht wieder in die Flasche – und abgesehen von all den vielen Problemen (Arbeitsplätze, Energiehunger, Machtkonzentration etc.) vor allem wegen der „Verführung der Nützlichkeit„. Noch ist einiges im Spielstadium, wie Boris kürzlich anmerkte, aber es ist bereits gut erkennbar, dass das „Angebot“ der KI eines ist, das man nicht ablehnen kann. Wenn etwas Neues nur doppelt so nützlich ist wie das Alte, geht es vielleicht noch, aber nicht, wenn es hundert- oder tausendmal so nützlich ist.

    Zu Claude und dem Grund, warum es ständig über die Brücke spricht: Die dahinter stehende Manipulation (Forschungskontext) zeigt, mit was wir zu rechnen haben: KIs, die unterschiedliche Agendas promoten, je nachdem, wie ihre „Gewichtungen“ manipuliert wurden!

    Wir alle sind gefordert, uns damit auseinander zu setzen, was das Eindringen der KIs in alle Lebensbereiche angeht.
    An dich, der du dich gerne umfassend informierst, musste ich bei einem tollen Überblicks-Vortrag denke, den ich kürzlich entdeckte. Es lohnt sich, ihn trotz der Länge anzusehen, denn er betrachtet die Entwicklung von vielen Seiten und ist sehr aktuell:

    Wo wir in Sachen KI wirklich stehen und was uns erwartet: Deep Dive mit Philipp „Pip“ Klöckner
    https://www.youtube.com/watch?v=-srCUoQnB2o

  7. Golden-Gate-Bridge: – Mutter aller Dinge! :-))
    Naive Frage: wird in dem Video (vielleicht) „versuchsweise“ die Möglichkeit einer spezifischen maschinellen „Subjektivität“ simuliert? Also eine bestimmte Vorstellung und Wahrnehmung „von Welt“. (In der Existenzphilosophie werden diese „Vorgängigkeiten“ „Existentialien“ genannt.)
    Manche Lebewesen scheinen einer Anzahl von Grund-Prägungen „unterworfen“ zu sein: “sub- jektiviert“ zu sein!
    Eine Grund-Prägung dieses „A.I.-Assistenten“ könnte in der Prägung/Merker: „Golden-Gate-Bridge bestehen“. :-))
    Die stärkste Prägung z.B. bei Säugetieren scheint ja die Mutter!
    Entenküken rennen dem Objekt/Subjekt hinterher, das nach dem Schlüpfen zuerst in den Blick gerät, das kann auch ein Besenstiel sein! :-((
    Über die Vermutungen was es mit der sog. „Künstlichen Intelligenz“ „auf sich hat, komme ich oft dazu, die „menschliche“ in Frage zu stellen: –
    Das „In-der-Welt-sein“ von uns Menschen ist auch bestimmten Vor- und NachBedingungen/ „Manipulationen“ unterworfen, bis hin zu Traumatisierungen, die oft lebenslang wirksam sind.
    Denke: auch die K.I. wird „aus krummem Holze“ sein.

  8. @Manfred: Vielen Dank für deinen Kommentar! Ja, ich denke auch manchmal, dass das Bauen der KI eine Form der Selbsterforschung ist. Deshalb auch immer die Erwartung, es werde da „irgendwie“ ein Bewusstsein entstehen – weil wir ja auch nicht wissen, wie das bei Menschen funktioniert.

    Die Prägung auf die Brücke wurde hier ja dann erklärt – und man stelle sich nun vor, auf was man so eine KI alles prägen könnte! Jetzt, wo man weiß, wie es gehen kann.

  9. Wo wir in Sachen KI wirklich stehen und was uns erwartet: Deep Dive mit Philipp „Pip“ Klöckner
    https://www.youtube.com/watch?v=-srCUoQnB2o

    Ich möchte auf den im Video genannten „Habsburger-Effekt“ bei KI-Modellen kurz eingehen. Dieser Effekt tritt angeblich dann ein, wenn KI-Modellen die Datenbasis im Web zu klein wird und eine Art „Inzucht“ mit selbstgenerierten Texten in der Trainingsphase eintritt. Dann wird dieses Modell angeblich immer „dümmer“, weil KI-generierter Texte keinen Neuigkeitswert mehr haben und es daher zu verzerrten, übertriebenen und grotesken Output-Texten kommen kann. Das passt auch zum vorherigen Blogartikel, wo dieses Problem am Rande thematisiert und die Befürchtung geäußert wurde, dass immer mehr KI-generierte Texte das Web überfluten werden.
    Ich teile diese Befürchtungen ausdrücklich nicht, weil ich annehme, dass mittelfristig generative KI-Modelle mit Roboter-Systemen zusammenwachsen werden.
    Wer sagt, dass KI-Modelle immer nur von Menschen verfassten Texten lernen müssen?
    Ich stelle mir folgendes Szenario vor: ein fortgeschrittener Roboter mit einem fortgeschrittenen generativen KI-Modell wird in irgendeine natürliche Umwelt gestellt, um sie zu erkunden. Diese Umwelt kann ein kleines Zimmer, ein Garten oder irgendeine große Weltgegend sein. Mit künstlichen „Augen“, „Ohren“ und anderen „Sinnen“ (Stichwort: Bild-/Mustererkennung) und einem großen Sprachmodell ausgestattet erkundet dieses KI-System seine Umgebung, erforscht sie (wie ein Kleinkind), lernt daraus (rasend schnell) und teilt uns seine Erfahrungen und Erkenntnisse vielleicht in Dialogform mit oder speichert sie ab. In der Alltagswelt und freien Wildbahn gibt es unendlich viel zu entdecken für solche KI-Systeme. Die Datenlage (der Input) kann ab diesem Zeitpunkt niemals mehr zu klein sein. Das (Er-)Forschungspotenzial ist grenzenlos.
    Der letzte Schritt wird sein, dass so ein KI-System vor einem Spiegel den sogenannten „Spiegeltest“ schafft, indem es sich selbst erkennt. Ab diesem Zeitpunkt wird es erst richtig spannend… ;-)

  10. @Claudia, Danke für diesen Video-Link. Von OMR hatte ich kürzlich einen Vortrag von Sascha Lobo (auch bei YouTube) gesehen. Er lancierte einen netten typisch eurokritischen Joke zum Thema. Demnach beschäftigt sich die USA mit der besten AI, die Chinesen mit der effektivsten und die EU mit der am besten regulierten AI. Ich hatte diese Besonderheit vor Kurzem nicht in dieser vergleichenden, wohl aber in kritischer Form auch kommentiert. Andererseits: Vielleicht ist das gar nicht so doof wie es gedacht war.

  11. @Günther: Der „Spiegeltest“ ist bei solchen Robotern nicht aussagekräftig, weil sie vom Start weg alle Infos über ihre Körperlichkeit haben müssen, um sich im Raum zu bewegen, ausweichen zu können etc.
    Zu deinem Argument gegen den Habsburger-Effekt: Das mag für physische Objekte und Umgebungen klappen, obwohl ich da auch nicht ganz sicher bin (woher weiß die KI, WAS das ist, wenn sie es bisher nicht kennt? Dann kann sie es doch nur oberflächlich beschreiben).
    Aber alles andere: Wenn ich mal überschaue, was ich am Tag an Texten, Videos und Audios alles konsumiere, so bezieht sich die überwältigende Mehrheit der Infos NICHT auf physische Dinge. Politik, Wirtschaft, Soziales, Wissenschaft, Geschichte und Zukunft und vieles mehr, alles per Robot nicht erfassbar. Wirf einen Blick auf die Google News Seite: Nichts von alledem könnte ein Roboter in seier physischen Umwelt mitbekommen.

  12. @Claudia:

    Der „Spiegeltest“ ist bei solchen Robotern nicht aussagekräftig, weil sie vom Start weg alle Infos über ihre Körperlichkeit haben müssen, um sich im Raum zu bewegen, ausweichen zu können etc.

    Ich weiß ja nicht, wie weit z.B. selbstfahrende Autos wirklich schon sind, aber solche Autos müssen sich auch mit ihren Rund-um-Kamerasystemen in unbekannten komplexen Umgebungen bewegen können und sollten keinen Unfall haben. Ob Roboter ihre Körperlichkeit entdecken dürfen oder es ihnen vorher einprogrammiert wird, kann ich nicht erahnen. Aber unter kontrollierten Forschungsbedingungen werden sehr wahrscheinlich schon viele Experimente in diese Richtung unternommen. Autonome Roboter im Kriegseinsatz sind leider keine Zukunftsmusik, fürchte ich (die gibts in den USA und China wahrscheinlich schon).

    Zu deinem Argument gegen den Habsburger-Effekt: Das mag für physische Objekte und Umgebungen klappen, obwohl ich da auch nicht ganz sicher bin (woher weiß die KI, WAS das ist, wenn sie es bisher nicht kennt? Dann kann sie es doch nur oberflächlich beschreiben).

    Hmm, ich bin mir nicht so sicher, ob diese Beschreibungen dann „oberflächlich“ werden. Wir stehen mit „ChatGPT 4o“ oder anderen heutigen KI-Modellen, die mit Hilfe von Smartphones (Kamera und Mikrofon) in ihrer Umgebung bestimmte Objekte identifizieren können, erst am Anfang. Ich kann mir schon vorstellen, dass Roboter mittel- bis langfristig in einer für sie neuen Umgebung, und mit einem großen neuronalem KI-Sprachmodell (inklusive immens großem Bildmaterial) ausgestattet, sehr lernfähig werden.

    Aber alles andere: Wenn ich mal überschaue, was ich am Tag an Texten, Videos und Audios alles konsumiere, so bezieht sich die überwältigende Mehrheit der Infos NICHT auf physische Dinge. Politik, Wirtschaft, Soziales, Wissenschaft, Geschichte und Zukunft und vieles mehr, alles per Robot nicht erfassbar. Wirf einen Blick auf die Google News Seite: Nichts von alledem könnte ein Roboter in seier physischen Umwelt mitbekommen.

    Das ist wahrscheinlich ein Missverständnis. In meinem beschriebenen Szenario meinte ich ausdrücklich eine Kombination von generativen KI-Sprachmodellen und Robotersystemen. Ich kann mir vorstellen, dass in diese Richtung gerade sehr viel geforscht wird.

  13. @Günther, hoch interessanter Faktenlink den du mit „Klöckner“ geteilt hast. Unvorstellbar für mich ist mittlerweile, wieviel Geld und Wahnsinns-Rechnerleistung mittlerweile in die KI fließt. Und selbst damit stehen wir nach meiner Einschätzung erst am Anfang. Die nächsten Rechnergenerationen sind wahrscheinlich schon sehr viel weiter, als wir wissen. Und deshalb ist für mich dein Beispiel nicht unvorstellbar im Sinne von „überhaupt“, sondern nur von „wann“?

  14. @Menachem: das „Klöckner“-Video hat Claudia gestern schon in der Antwort an Horst verlinkt. Ich habe nur darauf Bezug genommen.

    Ich sehe auch, dass Vieles in Sachen KI zur Zeit in Bewegung ist und wie Claudia schon bemerkt hat, Vieles marktgetrieben ist und nicht mehr aufgehalten werden kann. Es tun sich – sichtbar und unsichtbar – extrem viele Möglichkeiten auf, um KI einzusetzen. Wir werden noch staunen über Anwendungsideen und Produkte, die auf uns zukommen. Es ist, wie du m.E. richtig schreibst, nur eine Frage des „Wann?“…

  15. Erzählt wird von einem Philosophen mit dem Namen Nick Bostrom. Der hat die Simulationshypothese aufgestellt. Es wird sehr viel darüber spekuliert, ob wir uns in einer KI-generierten Simulation befinden könnten. Die Simulationshypothese kann weder bewiesen noch widerlegt werden.

    1964 erschien der Roman Simulacron-3 von Daniel F. Galouye. Dort geht es um eine mittels Supercomputer simulierte Welt (KI und VR). Dieser Roman ist die Vorlage für mehrere Filme, dabei ist die Matrix besonders berühmt. Welt am Draht ist ein Zweiteiler aus dem Jahr 1973, basierend auf dem Roman Simulacron-3. Könnten wir uns in einer KI-Simulation befinden? ->

    https://info-allerlei.de/welt-am-draht.php

  16. @Holger: danke für deinen Kommentar und den Link! Persönlich neige ich nicht dazu, diese Spekulation ernst zu nehmen! :-)

    Hier auch noch was Schönes:

    Der Sound erinnert ein bisschen an Kraftwerk, unterlegt mit einem Techno-Beat. Und wie so oft stellt sich die Frage: Inwiefern könnte eine KI ein „eigenes Ziel“ haben?

  17. @Claudia:
    Hier ist ein aktuelles 15min-Video vom 18.3.2024, das ich gerade gefunden habe und das sehr schön gruselig zeigt, was heute (!!) schon in Sachen Kombination von generativen KI-Sprachmodellen und Roboter möglich ist:
    Dieser KI-Roboter kann Sprechen, Sehen und Handeln!

    …der Roboter „Figure 01“ – powered by OpenAI…

  18. @Claudia: „danke für deinen Kommentar und den Link! Persönlich neige ich nicht dazu, diese Spekulation ernst zu nehmen! :-)“

    Natürlich können wir uns nicht vorstellen, dass wir uns in einer Simulation befinden. Es hieß einst allerdings auch, dass nichts unmöglich ist…

  19. @Holger: ja, der ist beeindruckend! Bin gespannt, wie lang es noch dauert, bis „Hausdiener“ angeboten werden.
    Hier ein weiteres lehrreiches Video, das zeigt, wie KI die Robotic voran gebracht hat – weil nicht mehr jede mögliche Bewegung vorausschauend programmiert werden muss, sondern der Robot durch Nachahmung lernt!
    https://www.youtube.com/watch?v=Mnr5DUbdK0Y

  20. Also … ich hab mir das Video nicht angesehen und all diese Kommentare noch nicht gelesen (schön, dass hier noch fleissig diskutiert wird) , aber der Hinweis ist vielleicht doch ganz gut: Während meine meinem Studium (in den späten 90ern frühen 00er), waren wir Digital-Menschen in zwei Gruppen geteilt: Die Strukturalisten und die Dekonstruktivisten (wie das so in in den 90ern war). Als wir damals erkannten, was das Internet ist (war ja noch ganz neu), waren sich lustiger Weise beide Seiten einig, dass es wie geschaffen für ihre Thesen ist. Die Strukturalisten waren der Meinung, dass die Grösse der möglichen Textverschränkungen eigentlich eine Art strukturalistisches Utopia hergeben könnte, ist doch ein Kern der strukturalistischen Überzeugung, dass Bedeutung keine Referenz von Aussen braucht, von Dingen in der echten Welt.
    Der weil waren die Dekonstruktivisten über die sich immer weiter permutierenden Möglichkeiten von Text und Meinung und Diskurs angetan, die das Netz explizit macht, Falten, überall Falten. So oder so: Seither bin ich überzeugt, dass ein „Aussen“, die echte Welt für funktionierende Diskurse und funktionierendes Bewusstsein gar nicht nötig ist.