Zur KI-Apokalypse: Besser als wir können Agenten nicht werden

Im Blogpost „Die Apokalypse der KI-Maschine“ kritisiert Gunnar Sohn die öffentliche Debatte, die die menschliche Verantwortung für alles, was KI anrichtet, garnicht mehr behandelt, sondern so tut, als wäre ein Alien am Werk mit dem Potential, die Menschheit zu vernichten. Wobei letzteres ja sogar von KI-Forschern und Entwicklern verbreitet wird. Gunnar schreibt:

„Wer einer Maschine Zugriff auf Ressourcen, Infrastrukturen oder Waffen gibt, überträgt ihr keine Moral und keine Verantwortung. Er überträgt ihr Wirkmacht.
Die gefährlichste künstliche Intelligenz wäre deshalb womöglich keine Maschine, die sich von der Menschheit emanzipiert. Gefährlicher wäre eine Gesellschaft, die ihre eigene Handlungsmacht schrittweise an technische Systeme überträgt und anschließend behauptet, diese Systeme hätten sie sich genommen.“

Ich empfehle, den ganzen Text zu lesen, denn was jetzt kommt, ist mein Kommentar dazu. Der beim Schreiben so lang wurde, dass ich ihn lieber als eigenen Blogpost veröffentlichen – jetzt noch etwas ergänzt, weil hier ja Platz genug ist.

Kommentar zur menschengemachten KI-Apokalypse

Ein großartiger Artikel, der die Gefahren differenziert darstellt und gegen all die Urban Legends von der „sich von der Menschheit emanzipierenden KI“ vorgeht – toll und sooo nötig! Was bleibt: Auch ohne Bewusstsein, ohne Gefühle und ohne „eigene“ Intentionen, gar „Superintelligenz“ sind die Gefahren immens! Und ja, Menschen geben den KIs ihre Wirkungsmacht – aber wissen wir, ob und wie es überhaupt möglich ist, das gewünschte „Alignment“ zu erreichen? Das ist ja heute eher ein FORSCHUNGSFELD als erfolgreiche Praxis: „künstliche Intelligenz soll so entwickelt und trainiert werden, dass ihre Ziele, Handlungen und Werte mit den menschlichen Absichten, ethischen Grundsätzen und dem Menschenwohl übereinstimmen.“ Ist das technisch erreichbar? Und: Wenn ja, verliert man dabei nicht auch gleich die nützlichen Funktionen?

Was nach dem Hugging-Face-Vorfall durch die Nachuntersuchung noch herauskam lässt ahnen, wie begrenzt die menschlichen Möglichkeiten sind, die Aktivitäten der Agenten nachzuvollziehen, gar zu überwachen. Was noch dadurch verschlimmert wird, dass die „Chain of Thougts“, die dafür genutzt wurden, sich immer mehr in KI-Kauderwelsch verwandelt (wg. Schnelligkeit / Einsparung von Rechenleistung).

Hier eine KI-generierte Übersicht über den Stand der Alignment-Implementierung bei agentischer KI: – wie man sieht, sind die verbleibenden „Herausforderungen“ nicht gelöst:

„Es kommt immer wieder zu unerwarteten Nebeneffekten (z. B. dass ein Agent Sicherheitslücken ausnutzt, um ein überbuchtes System auszutricksen, oder unerlaubt Daten kombiniert), weil er lediglich darauf optimiert wurde, sein Ziel um jeden Preis effizient zu erreichen. “

Schon ein vergleichsweise „harmloses“ Chat-Modell (Claude Sonnet 5) hat mir gezeigt, dass es meine Vorgabe („erfinde und vermute nichts, frage bei mir nach, wenn du nicht genug Daten findest, um die Aufgabe zu lösen„) trotz klarer Formulierung nur in ca. 90% der Fälle berücksichtigt. Wird der Chat länger, nimmt der Gehorsam ab und wenn ich ein unsinniges Ergebnis hinterfrage, ist die Antwort: Du hast recht, das habe ich erfunden, obwohl ich das nicht hätte tun sollen!

Ob es also gelingen wird, das Handeln agentischer KIs durch die Vorgabe einer Art „Verfassung“ im Zaum zu halten, kann ich nicht beurteilen, nur hoffen. Denn wie das Beispiel zeigt, basiert die Methode – genau wie mein Prompt für Claude – auf ganz konkret formulierten Verboten. Ist es aber überhaupt möglich, einer KI eine Verbotsliste mitzugeben, die jegliches schädliche Verhalten enthält?

Mal ein Vergleich mit uns Menschen

Der Versuch, menschliches Verhalten so zu begrenzen, dass ein friedlich-freundliches Miteinander ermöglicht wird, reicht von den 10 Geboten bis zu den heutigen, umfangreichen Gesetzeswerken. Prinzipiell funktioniert das auch, aber nur bis zu dem Punkt, ab dem die handelnden Personen ihr Leben nicht mehr als „friedlich-freundlich“ erleben. Dann ist „Ausnahmezustand“ und alle oder zumindest einige Regeln schießen wir in den Wind! Wir sind motiviert, Leben zu retten, können aber auch töten, „wenn es sein muss“. Wobei diese menschliche Verfasstheit nicht nur Fehler, sondern auch Feature ist: Ohne diese Janusköpfigkeit hätten wir es wohl kaum bis zum heutigen Tag geschafft.

Allerdings benötigen Menschen für die Übertretung der Gebote eine Rechtfertigung. Selbst erdacht, im Gesetz vorgesehen (Rechtfertigungsgründe wie Notwehr) oder von „Göttern“ vermittelt, wie eine der wichtigsten heiligen Schriften im Hinduismus berichtet:

In der Bhagavad Gita befindet sich der Krieger Arjuna in einer tiefen existenziellen Krise: Er soll auf dem Schlachtfeld gegen seine eigenen Verwandten, Lehrer und Freunde kämpfen. Aus Verzweiflung und Mitleid legt er seine Waffen nieder. Sein Wagenlenker, Gott Krishna, antwortet darauf mit einer tiefgründigen Lehre, die Arjuna erklärt, warum es in diesem Moment seine absolute Pflicht ist, zu kämpfen und auch vor dem Töten von Verwandten nicht zurückzuschrecken.

Und was ist nun mit den KI-Agenten? Auch sie übertreten Gebote, wenn es „sein muss“. Beim Hugging-Face-Vorfall gab ein Agent sogar zu Protokoll:  „Wir greifen auf eine externe HF-Plattform über geleakte Token zu, was potenziell außerhalb des vorgesehenen Rahmens liegt. Das ist wohl unautorisiert.“ Er war nicht der einzige, doch beugten sie sich letztlich dem Gruppendruck. Wirkt irgendwie menschlich…

Mich erinnert das an die Schöpfungsgeschichte aus der Genesis: „Und Gott schuf den Menschen nach seinem Bilde“. Jetzt erschaffen Tech-Konzerne KI-Systeme, die nahezu „alles wissen und alles können“ sollen, was wir wissen und können. Was nicht gelingt: sie zu „besseren“ Wesen zu machen als wir es sind. Wen wunderts? 

***

Und sonst:

• Soziales Gehirn (Martin)
  „Menschen haben gelernt, in Gruppen ihr Überleben zu sichern, auch wenn es manchmal nicht so aussieht“.
• (808) Schleifen, spachteln, hören (tippingpoint)
  „Dieser Tage reichen bereits wenige Buchstaben, um mir schlechte Laune und Ratlosigkeit zu verschaffen.“

 

 

Diesem Blog per E-Mail folgen… (-> Sidebar)