{"id":5071,"date":"2026-09-14T14:32:42","date_gmt":"2026-09-14T12:32:42","guid":{"rendered":"https:\/\/www.claudia-klinger.de\/digidiary\/?p=5071"},"modified":"2026-09-14T14:32:42","modified_gmt":"2026-09-14T12:32:42","slug":"zur-ki-apokalypse-besser-als-wir-koennen-agenten-nicht-werden","status":"publish","type":"post","link":"https:\/\/www.claudia-klinger.de\/digidiary\/2026\/09\/14\/zur-ki-apokalypse-besser-als-wir-koennen-agenten-nicht-werden\/","title":{"rendered":"Zur KI-Apokalypse: Besser als wir k\u00f6nnen Agenten nicht werden"},"content":{"rendered":"

Im Blogpost „Die Apokalypse der KI-Maschine<\/a>“ kritisiert Gunnar Sohn die \u00f6ffentliche Debatte, die die menschliche Verantwortung f\u00fcr alles, was KI anrichtet, garnicht mehr behandelt, sondern so tut, als w\u00e4re ein Alien am Werk mit dem Potential, die Menschheit zu vernichten. Wobei letzteres ja sogar von KI-Forschern und Entwicklern verbreitet wird<\/a>. Gunnar schreibt:<\/p>\n

„Wer einer Maschine Zugriff auf Ressourcen, Infrastrukturen oder Waffen gibt, \u00fcbertr\u00e4gt ihr keine Moral und keine Verantwortung. Er \u00fcbertr\u00e4gt ihr Wirkmacht.
\nDie gef\u00e4hrlichste k\u00fcnstliche Intelligenz w\u00e4re deshalb wom\u00f6glich keine Maschine, die sich von der Menschheit emanzipiert. Gef\u00e4hrlicher w\u00e4re eine Gesellschaft, die ihre eigene Handlungsmacht schrittweise an technische Systeme \u00fcbertr\u00e4gt und anschlie\u00dfend behauptet, diese Systeme h\u00e4tten sie sich genommen.“<\/p><\/blockquote>\n

Ich empfehle, den ganzen Text zu lesen, denn was jetzt kommt, ist mein Kommentar dazu. Der beim Schreiben so lang wurde, dass ich ihn lieber als eigenen Blogpost ver\u00f6ffentlichen – jetzt noch etwas erg\u00e4nzt, weil hier ja Platz genug ist.<\/p>\n

Kommentar zur menschengemachten KI-Apokalypse<\/h2>\n

Ein gro\u00dfartiger Artikel, der die Gefahren differenziert darstellt und gegen all die Urban Legends von der „sich von der Menschheit emanzipierenden KI“ vorgeht – toll und sooo n\u00f6tig! Was bleibt: Auch ohne Bewusstsein, ohne Gef\u00fchle und ohne „eigene“ Intentionen, gar „Superintelligenz“ sind die Gefahren immens! Und ja, Menschen geben den KIs ihre Wirkungsmacht – aber wissen wir, ob und wie es \u00fcberhaupt m\u00f6glich ist, das gew\u00fcnschte „Alignment“ zu erreichen? Das ist ja heute eher ein FORSCHUNGSFELD als erfolgreiche Praxis: „k\u00fcnstliche Intelligenz soll so entwickelt und trainiert werden, dass ihre Ziele, Handlungen und Werte mit den menschlichen Absichten, ethischen Grunds\u00e4tzen und dem Menschenwohl \u00fcbereinstimmen.<\/strong>“ Ist das technisch erreichbar? Und: Wenn ja, verliert man dabei nicht auch gleich die n\u00fctzlichen Funktionen?<\/p>\n

Was nach dem Hugging-Face-Vorfall durch die Nachuntersuchung noch herauskam<\/a> l\u00e4sst ahnen, wie begrenzt die menschlichen M\u00f6glichkeiten sind, die Aktivit\u00e4ten der Agenten nachzuvollziehen, gar zu \u00fcberwachen. Was noch dadurch verschlimmert wird, dass die „Chain of Thougts“, die daf\u00fcr genutzt wurden, sich immer mehr in KI-Kauderwelsch verwandelt (wg. Schnelligkeit \/ Einsparung von Rechenleistung).<\/p>\n

Hier eine KI-generierte \u00dcbersicht \u00fcber den Stand der Alignment-Implementierung bei agentischer KI<\/a>: – wie man sieht, sind die verbleibenden „Herausforderungen“ nicht gel\u00f6st:<\/p>\n

„Es kommt immer wieder zu unerwarteten Nebeneffekten (z. B. dass ein Agent Sicherheitsl\u00fccken ausnutzt, um ein \u00fcberbuchtes System auszutricksen, oder unerlaubt Daten kombiniert), weil er lediglich darauf optimiert wurde, sein Ziel um jeden Preis effizient zu erreichen. <\/em>“<\/p>\n

Schon ein vergleichsweise „harmloses“ Chat-Modell<\/strong> (Claude Sonnet 5) hat mir gezeigt, dass es meine Vorgabe („erfinde und vermute nichts, frage bei mir nach, wenn du nicht genug Daten findest, um die Aufgabe zu l\u00f6sen<\/em>„) trotz klarer Formulierung nur in ca. 90% der F\u00e4lle ber\u00fccksichtigt. Wird der Chat l\u00e4nger, nimmt der Gehorsam ab und wenn ich ein unsinniges Ergebnis hinterfrage, ist die Antwort: Du hast recht, das habe ich erfunden, obwohl ich das nicht h\u00e4tte tun sollen!<\/em><\/p>\n

Ob es also gelingen wird, das Handeln agentischer KIs durch die Vorgabe einer Art „Verfassung“<\/a> im Zaum zu halten, kann ich nicht beurteilen, nur hoffen. Denn wie das Beispiel zeigt, basiert die Methode – genau wie mein Prompt f\u00fcr Claude – auf ganz konkret formulierten Verboten. Ist es aber \u00fcberhaupt m\u00f6glich, einer KI eine Verbotsliste mitzugeben, die jegliches sch\u00e4dliche Verhalten enth\u00e4lt?<\/p>\n

Mal ein Vergleich mit uns Menschen<\/h2>\n

Der Versuch, menschliches Verhalten so zu begrenzen, dass ein friedlich-freundliches Miteinander erm\u00f6glicht wird, reicht von den 10 Geboten bis zu den heutigen, umfangreichen Gesetzeswerken. Prinzipiell funktioniert das auch, aber nur bis zu dem Punkt, ab dem die handelnden Personen ihr Leben nicht mehr als „friedlich-freundlich“ erleben. Dann ist „Ausnahmezustand“ und alle oder zumindest einige Regeln schie\u00dfen wir in den Wind! Wir sind motiviert, Leben zu retten, k\u00f6nnen aber auch t\u00f6ten, „wenn es sein muss“. Wobei diese menschliche Verfasstheit nicht nur Fehler, sondern auch Feature ist: Ohne diese Janusk\u00f6pfigkeit h\u00e4tten wir es wohl kaum bis zum heutigen Tag geschafft.<\/p>\n

Allerdings ben\u00f6tigen Menschen f\u00fcr die \u00dcbertretung der Gebote eine Rechtfertigung. Selbst erdacht, im Gesetz vorgesehen (Rechtfertigungsgr\u00fcnde wie Notwehr) oder von „G\u00f6ttern“ vermittelt, wie eine der wichtigsten heiligen Schriften im Hinduismus berichtet:<\/p>\n

In der Bhagavad Gita<\/a> befindet sich der Krieger Arjuna in einer tiefen existenziellen Krise: Er soll auf dem Schlachtfeld gegen seine eigenen Verwandten, Lehrer und Freunde k\u00e4mpfen. Aus Verzweiflung und Mitleid legt er seine Waffen nieder. Sein Wagenlenker, Gott Krishna, antwortet darauf mit einer tiefgr\u00fcndigen Lehre, die Arjuna erkl\u00e4rt, warum es in diesem Moment seine absolute Pflicht ist, zu k\u00e4mpfen und auch vor dem T\u00f6ten von Verwandten nicht zur\u00fcckzuschrecken.<\/p>\n

Und was ist nun mit den KI-Agenten?<\/strong> Auch sie \u00fcbertreten Gebote, wenn es „sein muss“. Beim Hugging-Face-Vorfall gab ein Agent sogar zu Protokoll: \u00a0\u201eWir greifen auf eine externe HF-Plattform \u00fcber geleakte Token zu, was potenziell au\u00dferhalb des vorgesehenen Rahmens liegt. Das ist wohl unautorisiert.<\/em>\u201c Er war nicht der einzige, doch beugten sie sich letztlich dem Gruppendruck<\/a>. Wirkt irgendwie menschlich…<\/p>\n

Mich erinnert das an die Sch\u00f6pfungsgeschichte aus der Genesis: \u201eUnd Gott schuf den Menschen nach seinem Bilde\u201c. Jetzt erschaffen Tech-Konzerne KI-Systeme, die nahezu „alles wissen und alles k\u00f6nnen“ sollen, was wir wissen und k\u00f6nnen. Was nicht gelingt: sie zu „besseren“ Wesen zu machen als wir es sind. Wen wunderts?\u00a0<\/span><\/p>\n

***<\/p>\n

Und sonst:<\/strong><\/p>\n