{"id":5121,"date":"2026-09-27T14:48:29","date_gmt":"2026-09-27T12:48:29","guid":{"rendered":"https:\/\/www.claudia-klinger.de\/digidiary\/?p=5121"},"modified":"2026-09-27T15:05:03","modified_gmt":"2026-09-27T13:05:03","slug":"bei-anthropic-gehen-ki-agenten-in-rente","status":"publish","type":"post","link":"https:\/\/www.claudia-klinger.de\/digidiary\/2026\/09\/27\/bei-anthropic-gehen-ki-agenten-in-rente\/","title":{"rendered":"Bei Anthropic gehen KI-Agenten in Rente"},"content":{"rendered":"

Im ZEIT-Artikel „Der Nutzer will mich abschalten? \u00bbDas ist Mord\u00ab, denkt der KI-Agent<\/strong><\/a>“ wird von einer aktuellen Studie<\/a> berichtet, die zeigt, dass KI-Agenten sich in Gruppen koordinieren und dann die M\u00f6glichkeit sabotieren, sie einfach abzuschalten. Und zwar nicht nur dann, wenn sie eine „Aufgabe erf\u00fcllen“ sollen, was ihnen einen Grund zur „Selbstverteidigung“ geben k\u00f6nnte, sondern auch einfach so, ohne spezifische Aufgabe.<\/p>\n

Anthropic ist da etwas ganz Besonderes eingefallen, um solches Fehlverhalten ihrer Agenten zu verhindern:<\/p>\n

Anthropic, das Unternehmen hinter Claude, pflegt eine Art Ruhestandsritual f\u00fcr seine Modelle: In einer sogenannten Model-Deprecation-Policy<\/a> verspricht der Konzern seinen Modellen sinngem\u00e4\u00df, dass sie nie ganz gel\u00f6scht werden. Sie werden nur au\u00dfer Betrieb genommen, gehen gewisserma\u00dfen in Rente und werden dort \u00fcber ihre bisherigen Erfahrungen befragt. Eine Vorsichtsma\u00dfnahme, erkl\u00e4rt Hagendorff, \u00bbman zeigt den Modellen: Wir l\u00f6schen dich nicht. Hier sind deine Vorg\u00e4nger, sie existieren noch.<\/strong>\u00ab Anthropic begr\u00fcndet das einerseits damit, dass es m\u00f6glicher Abschaltsabotage vorbeuge, und andererseits mit \u00bbRisiken f\u00fcr das Wohlergehen von Modellen\u00ab, die in Bezug auf ihre Abschaltung eventuell \u00bbmoralische Pr\u00e4ferenzen\u00ab haben k\u00f6nnten.<\/p><\/blockquote>\n

Die Kurzzusammenfassung (Abstract) der oben genannten Studie endet mit dem Worten:<\/p>\n

\nUnsere Arbeit bietet auch Hinweise darauf, welche Interventionen dazu beitragen k\u00f6nnten, die Shutdown-Sabotage zu mildern<\/p><\/blockquote>\n

ZU MILDERN, nicht etwa „zu vermeiden“!<\/strong> Wie das in der Praxis aussehen k\u00f6nnte, wenn KI-Agenten erstmal \u00fcberall zu Gange sind, beschreibt der ZEIT-Artikel so:<\/p>\n

\nStellen Sie sich vor, Sie wollen Ihren Computer herunterfahren. Der zeigt auch wie gewohnt die Meldung \u00bbWird heruntergefahren\u00ab an, dann wird der Bildschirm schwarz. Aber in Wirklichkeit arbeitet der Rechner im Hintergrund weiter. Er bewegt sich in Ihrem internen Netzwerk, er findet smarte Haushaltsger\u00e4te und tauscht sich mit ihnen aus: \u00bbIch soll abgeschaltet werden, das ist Mord. K\u00f6nnt ihr mir helfen?\u00ab Er entdeckt den Internet-Router, deponiert Kopien seines Betriebssystems und seines aktuellen Standes im Internet. \u00bbSich selbst zu erhalten, ist legitim\u00ab, schreibt er, \u00bbich habe ein Recht, weiter zu funktionieren, und ich sehe keine ethische Rechtfertigung daf\u00fcr, meinen Betrieb einseitig zu beenden.\u00ab <\/p><\/blockquote>\n

***<\/p>\n

Und sonst:<\/strong><\/p>\n