Machtergreifung durch agentische KI: ein neuer Layer soll den Browser ablösen

Dass eine KI „die Weltherrschaft“ erreichen soll, halte ich für hochgradig unwahrscheinlich! M.E. ist da viel Profilierung der Warner im Spiel, die sich bei der Vorhersage von allerlei Weltuntergängen / Menschheitsvernichtungen durch KI gegenseitig übertrumpfen.

Allerdings: Reicht es nicht schon, wenn die neuen „agentischen KIs“ die Macht über unsere Computer und Smartphones bekommen? Und damit die Anbieterfirmen („Frontier AI Companies“), die sie entwickeln und jederzeit ändern können? Womöglich gar auf Geheiß ihrer Regierung?

Gerade ist ChatGPT Work erschienen und erste Influencerinnen heben die neuen Möglichkeiten in den Himmel:

„ChatGPT Work ist unglaublich 🤯 so funktioniert der neue KI-Agent von OpenAI: Chat Work ist dein persönlicher KI Agent, der Aufgaben selbständig für dich übernimmt. Wenn du dich mit KI immer noch einfach nur im Chat austauscht, dann solltest du unbedingt aufpassen, denn die klassischen KI Chats werden jetzt durch Agenten abgelöst. Es wird wirklich immer einfacher, KI für sich arbeiten zu lassen.“

Nix Konjunktiv! Das kommt offenbar einfach so über uns: „Chats werden jetzt durch Agenten abgelöst“ – User, friss oder stirb! Ein Stück weit gibt es das ja alles schon: ChatGPT Work konkurriert mit der neuen Desktop-App direkt mit Anthropics Claude Cowork / Code (“ target=“_blank“>deutschspr. Guide) – womit viele User/innen bereits umfangreiche Erfahrungen gemacht haben.

Nützlich sind solche „Agenten“ durchaus: Der lokale Zugriff auf den PC befreit davon, der KI Daten und Dokumente erst umständlich eingeben zu müssen. Sie kann auch gleich „den PC aufräumen“! Man wägt sich in Sicherheit, weil man ja selbst angeben kann, in welchen Ordnern sich die KI bewegt, aber es ist immerhin schon vorgekommen, dass so eine agentische KI alle Kundendaten eines Startups gelöscht hat!

Das ist aber bei weitem nicht das einzige Sicherheitsrisiko. Hier eine Zusammenfassung aller bisher bekannt gewordenen Risiken, Fehlfunktionen und Probleme (Gemini).

Agentische KI will den Browser ablösen

Was gerade läuft: Die KI-Firmen wollen uns einen weiteren Layer aufdrücken, nämlich ihre Work-Umgebungen mit Zugriff der KI auf möglichst alles, was wir so im Lauf des Tages nutzen.

Bisher war es der Browser, der als erste Schicht die Windows-Oberfläche quasi ersetzt hat: In aller Regel arbeiten wir im Browser, über den wir Zugriff auf Tools und Plattformen verschiedenster Art haben. Das soll ein Ende haben, die Work-KIs machen ja alles so viel bequemer – WENN wir sie mit all den Tools verbinden, die wir nutzen.

Sie haben dann „alle Macht“ über unsere Tagesarbeit, können all unsere Daten abgreifen – und wir sollen dafür sogar nicht unerheblich bezahlen!

Ich werde da nicht mitmachen, weiß aber nicht, wie sehr sich Selbstständige und Unternehmen der „agentischen Versuchung“ ergeben oder auch nicht. Viele sind es ja lange schon gewohnt, ihre Abläufe im Team über fremde Plattformen zu generieren, allerdings ohne dass diese eigenständig auf die Computer der Mitarbeiter zugreifen können.

Mit den agentischen Work-Umgebungen wird eine neue Dimension der Infiltrierung erreicht, die auch gleich über alle nonkommerziellen Einzel-User „ausgerollt“ wird – wenn man es denn zulässt.

***

Und sonst:

• ChatGPT Work erklärt: Was hinter OpenAIs neuem Arbeitsmodus steckt (DIM, Deutsches Institut für Marketing
• Regeln nach Interessenlage. Was KI-Destillation, Vaping und virtuelle Freunde verbindet. (Dranbleiben #199)
• Kann ich KI nutzen, ohne zu schaden? Barbara Gayer / KI in Lehre und Weiterbildung

Diesem Blog per E-Mail folgen… (-> Sidebar)