Realität verschwindet: Bitte als Warnung herumzeigen!

Diskussion

Kommentare abonnieren (RSS)
7 Kommentare zu „Realität verschwindet: Bitte als Warnung herumzeigen!“.

1. oeiao Gestern, 14:52 (Zitatlink)

   Ja, ist schon sehr professionell gemacht und mir fällt es schwer (in dem kleinen Ausschnitt) genau sagen zu können, warum ich es dennoch für AI gehalten habe (ich glaube, es waren wieder die Haare). Aber wer da nicht so genau hinschaut, wer da nicht interessiert ist und dann unvorbereitet rankommt, kann schon überrumpelt werden.
   Wobei man es nicht mal so geschickt machen muss. Es reichen auch Bilder, die plausibel erscheinen, so auf den ersten Aufreger hin.
   Das Kollegium hat zuletzt vom Leiter (über den Leiter einer anderen Bildungseinrichtung) ein Bild mit einer angeblich internetfähigen Brille bekommen, das Schreien ging durch den Raum, jetzt wäre ja alles möglich, oh Gott, oh je… etc.
   Währenddessen da alle sich in ihrem Furor austobten hab ich mir das Bild selbst näher angesehen und war am Ende (was ich allerdings nicht gesagt habe) schon etwas irritiert. Die Größenverhältnisse des Fotos passten nicht UND dass gerade jener Leiter einer anderen Bildungseinrichtung das rumschickte a) um zu beweisen wie gründlich er aufräume und b) um vor allem eben jene Aufregung/ Ablenkung zu erzeugen, das hat mich stutzig gemacht. Belegen/ Beweisen kann ich es natürlich nicht. Ich behalte mir allerdings stets meine Vorsicht bei allen Bildern, Texten, allem, was ich elektronisch sehe, höre. Und, auch wenn die KI/AI noch besser und besser wird und auch ich irgendwann mal kapitulieren muss, glaube ich, ist die Vorsicht/ die philologische Aufmerksamkeit? wirklich das Wichtigste.
   Wenn man Logik ansetzt und zudem sich offline/ analog rückversichert, dann fällt eine Papstdaunenjacke auf/ wirkt komisch, auch wenn schon die vor Jahren toll gemacht aussah. Na ja. Aber nichtaffine Leute (vermutlich auch mich) drauf hinweisen, ja, ist wichtig!

2. Horst Schulte Gestern, 20:27 (Zitatlink)

   Liebe Claudia, man folgt diesen Themen aufmerksam aber mit wachsender Irritation. Die im Beitrag geäußerte Sorge ist nicht grundlos – aber die Schlussfolgerungen scheinen mir in Teilen voreilig, pauschal und leider auch alarmistisch überzeichnet.

   Ja, KI kann täuschen. Ja, Deepfakes werden besser. Und natürlich braucht es Medienkompetenz und Regulierung, um Missbrauch zu begrenzen. Doch die Diagnose, „Demokratie sei bald nicht mehr machbar“ und „alles sei Fake“, verkennt dreierlei:

   1. Das Misstrauen liegt nicht in der Technologie, sondern im Menschen
   Schon lange vor KI war Desinformation ein Werkzeug der Macht – denken wir an Kriegspropaganda, an manipulierte Bilder oder erfundene Zitate in Wahlkämpfen. Neu ist nicht das Prinzip, sondern das Tempo und die Zugänglichkeit. Aber Wahrheit war nie bequem. Die entscheidende Frage ist nicht: „Was ist noch echt?“ – sondern: „Wie lerne ich, besser zu prüfen, was glaubwürdig ist?“

   2. Realismus statt Kulturpessimismus
   Millionen Jobs „puff, weg“? Das klingt, als würde die Gesellschaft von einem Algorithmus aufgelöst. In Wahrheit ist der Wandel – wie jeder technologische Umbruch – eine Herausforderung und eine Chance. Historisch war es stets so: Einige Tätigkeiten verschwinden, andere entstehen. Die industrielle Revolution machte viele Handarbeiten überflüssig – und schuf dennoch neue Lebensrealitäten. Was wir brauchen, sind Bildung, soziale Sicherung und Weitblick, nicht Fatalismus.

   3. Wahrheit verschwindet nicht – sie wird komplexer
   Es ist richtig, dass wir lernen müssen, Videos nicht länger als Beweis für die Wirklichkeit zu nehmen. Aber das bedeutet nicht das Ende der Realität. Es bedeutet nur, dass der Prozess der Wahrheitssuche mehr Aufwand erfordert. Und: Wer an demokratischen Diskurs glaubt, glaubt auch daran, dass mündige Bürger diesen Aufwand leisten können. Den Leuten pauschal „Verblendung durch KI“ zu unterstellen, ist nicht aufklärerisch – es ist herablassend. Jedenfalls klammert sich meine Hoffnung daran. Viele folgen ja heute längst Narrativen, die noch ohne größere Anstrengungen von KI’s zustandekamen.

   Statt Angst: Verantwortung
   Natürlich dürfen wir die Augen nicht verschließen. Aber was hilft mehr – Panik oder Pragmatismus? Dass KI Energie verbraucht, ist ein Argument für nachhaltige Technologiepolitik, nicht für Kulturverzweiflung. Dass es „digitale Faschismen“ gibt, ist ein Grund, für Demokratie zu kämpfen – nicht, sie vorschnell für verloren zu erklären.

   Ich wünsche mir einen aufgeklärten, zugewandten Umgang mit dieser neuen Welt. Keine Schönfärberei. Aber auch keine Untergangsrhetorik. Die nützt niemandem! Denn was Demokratie zerstört, ist nicht Technologie – sondern die Behauptung, sie sei ohnehin schon verloren. Ich sage das durchaus im Bewusstsein, dass mir Zweifel an den Auswirkungen dieser Veränderungen nicht fremd sind.

3. Schwierige Zusammenarbeit – Horst Schulte Gestern, 20:44 (Zitatlink)

   […] Claudia Klinger, Digital Diary […]

4. Claudia heute, 07:39 (Zitatlink)

   @oiiao: Schönes Beispiel für eine Bildmanipulation „im kleinen Rahmen“, also nicht in der großen Öffentlichkeit. Was du nicht erklärst: Was war an der „aufgesetzten“ internetfähigen Brille dieses Leiters so skandalös? Und was hat sie mit „aufräumen“ zu tun?

   @Horst: klar ist das am Ende überspitzt formuliert, aber es stimmt schon: wie soll Demokratie noch funktionieren, wenn allzu viele sich in einer Debatte nicht mehr einigen können, was real ist? Momentan betrifft das in DE noch eine (recht große) Minderheit, aber die Entwicklungen in den USA (meist Vorläufer hiesiger Tendenzen) zeigen, wie krass sich das entwickeln kann.

   Betreffs KI: Wie gerne gäbe ich dir recht und was du schreibst, hätte ich kürzlich noch genauso formuliert. Mittlerweile, nach Rezeption vieler Videos und Artikel zum Thema (es sind ja nicht irgendwelche „Schwurbler“, die da warnen), bin ich deutlich besorgter – aber deshalb nicht etwa KI-Gegnerin geworden. (Ganz im Gegenteil, ich arbeite mich ein). Du schreibst:

   „Schon lange vor KI war Desinformation ein Werkzeug der Macht“.

   Jetzt ist die Macht in Bezug auf die Herstellung von Fakes „demokratisiert“ worden. Jeder kann binnen Minuten „irgendwas“ erzeugen und es in die Welt senden – und die algorithmen der Plattformen machen das „Marketing“. Sie haben den Kampf gegen Fakes ja weitgehend aufgegeben seit Trumps Wiederkehr, die Tech-Giganten saßen in der ersten Reihe bei seinem Amtsantritt.

   „Millionen Jobs „puff, weg“? “ – damit sind z.B. die Jobs all der Mitarbeiter gemeint, die bisher zu den Produktionsteams elaborierter Medienteams gehörten, deren „Skills“ nicht mehr gebraucht, sondern durch KI immer besser verüberflüssigt werden. Grafiker, Musiker, Schauspieler, Sprecher, Sound- und Licht-Designer und all jene, die sich mit der Herstellung der Umgebung irgendwelcher Szenen befassten – bis hin zu den Kostümdesignern, denn per KI lässt sich das Outfit einer Figur per Mausklick ändern.

   Auf Unternehmensebene heißt es, dass in Zukunft Einzelpersonen und Miniteams mit Hilfe jeder Menge KI-Assistenten einen Output erzeugen können, wie ihn früher nur große Firmen zustande brachten.

   „Wer an demokratischen Diskurs glaubt, glaubt auch daran, dass mündige Bürger diesen Aufwand leisten können. „

   Aufwand wird nur geleistet, wenn es um etwas geht, das jemanden ernsthaft interessiert. Wenn jedoch MASSENHAFT Fakes die jeweiligen Portale und Plattformen überschwemmen, wirken diese auf das Bewusstsein, auf das Empfinden von dem, was möglich oder wahrscheinlich ist – weil man ja garnicht alles prüfen kann und will, was da kommt.
   Wie auch immer: Ich hoffe, du behältst weiterhin recht!

5. Queen All heute, 08:14 (Zitatlink)

   Das mit den „(noch) halbwegs seriöse Medien“ könnte schwierig werden. Die haben nämlich auch für sich entdeckt, dass man sich mit generierten Texten eine ganze Menge Arbeit sparen kann. Schönes Beispiel:
   https://www.newsbreak.com/eweek-323817210/4017841203134-summer-reading-picks-that-don-t-exist-chicago-sun-times-apologises-for-promoting-fake-books

6. Günther heute, 10:49 (Zitatlink)

   Hallo Claudia!

   Wir werden uns, so fürchte ich, bald garnicht mehr auf irgend eine gemeinsame Wirklichkeit einigen können – außer auf so banale Tatsachen, wie dass Menschen gelegentlich ein WC aufsuchen müssen. „Demokratie“ ist dann nicht mehr machbar, das sollte uns klar sein!
   …
   …wie soll Demokratie noch funktionieren, wenn allzu viele sich in einer Debatte nicht mehr einigen können, was real ist?

   Ich glaube, du unterschätzt den „gesunden Menschenverstand“ (common sense) der meisten Leute, die aufgrund ihrer Lebens- und Alltagserfahrung meist sehr genau einschätzen können, was real und wirklich ist – und was in Medien bzw. im Internet gezeigt wird. Die erlebte Realität im Alltag ist zum Glück viel stärker als ein noch so gut gemachtes (KI-)Video. Nur eine winzig kleine Minderheit von philosophisch angehauchten Menschen stellt auch die erlebte Realität/Wirklichkeit manchmal infrage.
   –
   Vielleicht trägt die rasante KI-Entwicklung sogar dazu bei – ich hoffe es jedenfalls -, dass die mächtige Medienmatrix viel öfters hinterfragt wird als bisher.
   –
   Demokratie ist mAn nicht so sehr wegen KI-(Fake-)Videos gefährdet, sondern wegen der Politikverdrossenheit vieler Menschen, die immer weniger Vertrauen in (Spitzen-)Politiker und Parteien haben – und sich deshalb nicht mehr informieren oder sogar wählen wollen.

   Wenn jedoch MASSENHAFT Fakes die jeweiligen Portale und Plattformen überschwemmen, wirken diese auf das Bewusstsein, auf das Empfinden von dem, was möglich oder wahrscheinlich ist – weil man ja garnicht alles prüfen kann und will, was da kommt.

   Solange diese – auch für mich faszinierenden und erstaunlichen – KI-Fake-Videos nur auf YouTube und diversen Blogs gezeigt werden, sehe ich wenig Gefahr darin. Die anfängliche Begeisterung lässt wahrscheinlich schnell wieder nach. Zumindest war/ist es bei mir so.

7. Siewurdengelesen heute, 10:51 (Zitatlink)

   Hoffentlich bekomme ich es ohne Roman hin;-)

   In Vielem sehe ich es so wie Horst Schulte. Es sind einige Punkte dabei, die meinerseits aber schon länger angeführt wurden/werden.

   1. Wer solche Videos, Deepfakes, blablabla als erste Quelle seines Wissens nutzt, bekommt die nicht irgendwie, sondern hängt in aller Regel schon in solchen Kanälen drin, wo das Zeug unreflektiert geteilt wird und siehe 9/11 oder anderen Sachen Fakten bewusst ignoriert werden, damit die „eigene Wahrheit“ stimmt. Das war aber schon immer so bei Verschwörungsmythen oder Dingen, die man sich manchmal auch nicht rational erklären kann. Dieser Teil will gar keine Kritik oder von ihrer Sicht abweichende Realität akzeptieren.

   2. Wie Du selbst zeigst, würde im gegenteiligen Fall und bei echtem Interesse, wenn man über so etwas im Zweifel ist, eine schnelle Suche den Sachverhalt recht zügig aufklären und bei mehreren widersprüchlichen Sachen gilt dann je nach Quellenlage die wahrscheinlichste, noch dazu, wenn die SM mit solchem Müll regelrecht geflutet werden und sich quasi alles als Humbug erweist. Da wären wir eher wieder bei den Halbwahrheiten, wo dann ein reales Ereignis mit Schlüssen und Ursachen verwurstet wird, die zwar kognitiv richtig erscheinen, aber eben nicht die tatsächlich kausalen sind. Dagegen hülfe das Erziehen zu wirklich kritischem Betrachten und Denken durchaus oder meine stets beliebte und ratsame Methode, bei solchen Aufregern einfach mal 1-2 Tage abzuwarten.

   Dem steht von Haus aus entgegen, dass dieses ganze Gepusche nur dem Goldfischeffekt dient und mit diesem funktioniert, weil dabei ein grundsätzlicher Erregungszustand immer noch mehr gekickt wird. Wie man speziell seit der Pandemie und dem darauffolgenden Ukraine-Krieg sieht, funktioniert das leider sehr gut und manche sind ja regelrecht geil auf solche Ereignisse, wenn sich damit nur Ressentiments bedienen lassen.

   3. Ein wirklich riskanter Punkt dabei ist der, dass sich Politik und Medien dieses kalte Kitzeln eben auch zunutze machen und je nach Land mehr oder weniger diese Knöpfe gedrückt werden – entweder mit der Holzhammermethode a lá Trump oder eher so fein-subtil (Nudging), wie das ein paar bestimmte Damen und Herren dieser Sparten machen, wenn sie Ressentiments bevorzugt bei Aussagen gegenüber Randgruppen dieser Gesellschaft wie Armen, Obdachlosen, Asylbewerbern usw. bedienen. Auch da ist der Kniff daran, dass verkürzt, sequentiell und nur das wiedergegeben wird, was dem eigenen Ansinnen dient und sei es nur Merz´ Blödsinn mit den Asylbewerbern beim Zahnarzt. Der Mann ist jetzt übrigens unser Bundeskanzler und ein paar seiner parteieigenen Versager aus Merkels Zeiten erneut Minister! Aber auch da käuen die Medien das fein wieder, um einen Faktencheck hinterher zu jäten, den dann eben nur keiner mehr liest, weil es nicht der eigenen Sicht…

   …ach das hatten wir ja schon!

   „KI“ aka angelernte neuronale Netzwerke streuen das eben nur noch mehr, weil der selbsterzeugte Kram und Wahn wieder als Quelle dient, und werden dann zusätzlich als Werkzeug genutzt, um glaubhafter zu manipulieren. Und dabei ist Masse eine altes Propagandamittel, um alleine darüber die scheinbar weniger richtigen Tatsachen unterzubuttern. Ist auch ein Teil der Strategie „FUD“, um Menschen in die gewünschte Denke und das dazugehörige Handeln zu lavieren, indem man spontane Reaktionen triggert und sinnvolle Reflektion von vorneherein unterdrückt.

   Jetzt diese Technik an sich für alles verantwortlich zu machen, hat etwas von Maschinenstürmen und verkennt, dass „KI“ an sich strunzdoof ist und immer noch von Menschen bedient wird, die die Algorithmen erstellen und mit Prompts füttern – und da kommt eben je nach Eingabe und Quellenmaterial Verschiedenes bei raus, während die Macher nach wie vor oft selbst nicht raffen, wie und warum der Zimt jetzt so arbeitet.

   Man stelle sich als gerade passendes Beispiel vor, der Amokläufer in Graz wäre ein Ausländer oder möglicher Terrorist gewesen. Wochenlang hätten uns selbst die „seriösen Medien“ mit Nullinformationen gefoltert, „was man jetzt alles wissen muss“. So ist das Thema quasi nach 2 Tagen weitestgehend aus den Schlagzeilen und das ist nur der billigste Nachweis, dass und wie der ganze Schmarren auch ohne „KI“ funktioniert. Dabei habe ich noch nicht einmal verfolgt, was zumindest direkt nach dem Bekanntwerden in einschlägigen Kanälen dazu gepostet wurde, weil ich dort nicht unterwegs bin und mir dafür auch die Zeit zu schade ist. Etwas mentale Hygiene ist mir da wichtiger;-)

   Viele Grüße
   Thomas