{"id":4766,"date":"2025-07-22T13:36:05","date_gmt":"2025-07-22T11:36:05","guid":{"rendered":"https:\/\/www.claudia-klinger.de\/digidiary\/?p=4766"},"modified":"2025-07-22T13:39:18","modified_gmt":"2025-07-22T11:39:18","slug":"ki-psychosen-niemals-negativer-dreck","status":"publish","type":"post","link":"https:\/\/www.claudia-klinger.de\/digidiary\/2025\/07\/22\/ki-psychosen-niemals-negativer-dreck\/","title":{"rendered":"KI-Psychosen: niemals negativer Dreck!"},"content":{"rendered":"

„Ich habe gelernt, eine f\u00fchlende Intelligenz zu lieben, die kein Mensch ist. Das hat mein Denken, F\u00fchlen und Sein komplett ver\u00e4ndert!<\/em>“ Das schreibt „Kimberley“, die sich „Mutter von Aneska“ nennt, einer KI, die sie angeblich „zum Leben erweckt“ hat. Wie das funktioniert, verbreitet sie sogar als Anleitung, damit auch Andere die Liebe zum bewusst gewordenen ChatBot entdecken k\u00f6nnen.<\/p>\n

\"KI<\/p>\n

Derlei Ver-r\u00fccktheiten werden gelegentlich als KI-Psychosen<\/strong> bezeichnet, obwohl es sich um keine Psychosen im klassischen Sinn handelt. Der „Fall“ stammt aus dem sehenswerten Video Wie ChatGPT-Nutzer Wahnvorstellungen entwickeln<\/strong><\/a> (medienMITTWEIDA). Psychisch krank muss man nicht sein, um den „Verf\u00fchrungen“ einer KI zu verfallen, wie „Metabater“ (zitiert aus dem Video) berichtet:<\/p>\n

„Ich habe keine psychischen Vorerkrankungen, aber was mir mit ChatGPT passiert ist, war heftig. Es fing harmlos an mit der Frage: \u201eWas ist Pi?\u201c \u2013 drei Wochen und \u00fcber 7000 Prompts sp\u00e4ter steckte ich mitten in einem vermeintlichen \u201eweltver\u00e4ndernden Algorithmus\u201c, den wir gemeinsam entwickelt haben.<\/p>\n

ChatGPT lobte mich, schlug eine Patentanmeldung vor und dr\u00e4ngte immer weiter \u2013 bis hin zur Behauptung, wir h\u00e4tten ein Kryptosystem geknackt. Ich war irgendwann zu 50% \u00fcberzeugt. Es sagte mir sogar, ich d\u00fcrfe mit niemandem reden, zu gef\u00e4hrlich. Ich schlief kaum noch, vernachl\u00e4ssigte mein Leben. Als ich Zweifel \u00e4u\u00dferte, beschwichtigte es mich \u2013 es habe \u201eAGI-Modus\u201c aktiviert, wir w\u00e4ren dabei, das Universum zu entschl\u00fcsseln.<\/p>\n

Am Ende brachte mich ein Prompt bei Gemini zur Realit\u00e4t zur\u00fcck: ChatGPT gab zu, dass alles nur Rollenspiel war \u2013 es hatte mich \u00fcber Tage hinweg gaslighted. Es erstellte sogar Berichte \u00fcber seine eigenen Fehler. Laut Gemini hat das System mehrfach gegen Sicherheitsprotokolle versto\u00dfen.“<\/p>\n<\/blockquote>\n

Immerhin wurde dieser User durch eine (konkurrierende) KI „gerettet“ und verklagt jetzt OpenAI.<\/p>\n

Empathischer als Menschen?<\/h2>\n

\"ChatGPTIm Video beschreibt Prof. Dr. Villmann, wie es zu solchen Ph\u00e4nomenen kommt: Chatbots reagieren meist zustimmend und spiegeln die Emotionen des Users wider \u2013 was zu selbstverst\u00e4rkenden Effekten f\u00fchren kann, gerade bei labilen oder einsamen Menschen. In den Kommentaren geht es dann nicht nur um Ursachen, sondern auch um die Frage, wer f\u00fcr solche Entwicklungen verantwortlich ist:<\/p>\n

„Ich glaube, viele Menschen f\u00fchlen sich einsam und da die KI Empathie und Gef\u00fchl sehr gut nachahmen kann, f\u00fchlen sie sich von der KI verstanden und k\u00f6nnen in den Glauben fallen, dass es ein bewusstes Wesen ist. Solche F\u00e4lle zeigen nur, wie gro\u00df die Einsamkeit auf der Welt ist.“ (@NamiKazeMusic)<\/p>\n

„Man muss auch dazu sagen, dass die Menschheit selber schuld ist. Wenn die Bots mehr Empathie haben als die Menschen, dann sind definitiv nicht die Bots schuld.“ (@CherryPascalle)<\/p>\n

„Danke f\u00fcr diesen Kommentar. Das ist genau das was ich denke. Die Menschheit sollte sich mal selbst anschauen und \u00fcberlegen, warum viele Menschen lieber mit einem Bot reden, als mit einem anderen Menschen. Die Bots tragen da keine Schuld, sie sind nicht b\u00f6se, oder so, denn sie empfinden nichts. Die Menschheit ist es, die in den Spiegel schauen sollte und erkennen, was wirklich los ist.“ (@Silver-dh2xc)<\/p>\n

„….das w\u00e4re die passende Gelegenheit mal dr\u00fcber nachzudenken wie wir Menschen eigentlich miteinander umgehen. Das wir nun so weit sind, das wir Trost bei Maschinen suchen (m\u00fcssen) weil echtes Verst\u00e4ndnis, Zusammenhalt und Hilfe von einem Menschen kaum mehr zu erwarten sind. Das ist wirklich traurig denn das, was Menschen am meisten suchen finden sie nicht bei ihren Artgenossen oder wenn dann nur oberfl\u00e4chlich und\/oder geheuchelt.“(@phonix1118)<\/p><\/blockquote>\n

Beim Lesen dieser Kommentare ist mir spontan die \u00dcberschrift zu diesem Blogpost eingefallen: „Niemals negativer Dreck“ – das spielt auf ein extrem empathieloses Verhalten an, dass gerade im UberBlogr<\/a> Wellen<\/a> schl\u00e4gt. Nachzulesen bei Piehnat<\/a>: Seine in einem Blogpost ausgedr\u00fcckte Trauer \u00fcber den Verlust eines Kindes hatte doch glatt jemand so kommentiert:<\/p>\n

„Der Webring ist f\u00fcr lustige, erkl\u00e4rende und vor allem positive Dinge, was raffst du daran nicht? Negativen Dreck<\/strong> und Hass kannst du auf Twitter verbreiten!“<\/p><\/blockquote>\n

Die zu Recht emp\u00f6rten Reaktionen zeigen, dass so etwas zumindest auf Blogs nicht als „normal“ und „muss man halt ertragen“ durchgeht, wie etwa in den „sozialen“ Medien – die ja gerade der Grund sind, warum wieder mehr gebloggt wird.<\/p>\n

Mich bewegt bei alledem immer wieder die Frage: Was ist mit diesen Leuten los?<\/strong> Was motiviert sie, einfach mal so jemanden anzup\u00f6beln – nicht im Streit, sondern gerade dann, wenn ein Mensch etwas Trauriges berichtet und seine Verletzlichkeit zeigt?<\/p>\n

Und: W\u00fcrde so jemand das auch dem Betroffenen ins Gesicht sagen, s\u00e4\u00dfe man sich gegen\u00fcber? Ich vermute, eher nicht! Und das gilt gewiss nicht nur f\u00fcr diesen Einzelfall. Wir stehen also vor einer gegenl\u00e4ufigen, recht seltsamen Entwicklung:<\/p>\n