Claudia am 13. Juni 2023 —

TikTok-Trend: Tote Kinder reden

Get the english version ➔

„Mama legte mich in die Mikrowelle“ – mit Sätzen wie diesen beginnen derzeit Kurzvideos auf Tiktok. Verstorbene Kinder und Jugendliche berichten detailliert von ihrer grausamen Ermordung, von Vergewaltingungen und Folter. Es gibt noch deutlich krassere Geschichten als die vom Mikrowellenmord!

Totes Kind berichtet
Alle Videos tragen den Hinweis:

„Dieses Video wurde mithilfe von Kl erstellt. Es handelt sich hierbei um eine Darstellung und nicht um ein Foto, um die Privatsphäre der Familie zu respektieren. Das Ziel besteht darin, die Geschichte auf eine immersive Weise zu teilen.“

Bemerkt habe ich den katastrophalen Trend dank eines Videos der Grafikerin Jasmin Gnu: „So dreist wird künstliche Intelligenz jetzt eingesetzt!„. Abgesehen von der Grusligkeit und Unverschämtheit der „Darstellungen“ hebt sie hervor, dass diese Videos einfach so im Stream erscheinen: Man muss nicht erst drauf klicken wie auf Youtube, sondern „wischt“ von unten nach oben zum nächsten, das der Algorithmus aufgrund der jeweiligen Popularität nach vorne bringt. Erst das süße Katzenvideo, dann die Mikrowelle… Der Gipfel der Absurdität: Ein solches Opfer beendet seine furchbare Story noch mit dem Satz: „Wenn es Euch gefallen hat, lasst gerne ein Like und ein Follow da!“.
Wieder einmal stelle ich fest: Was eine neue Technik ermöglicht, wird auch gemacht – und zwar sofort! Die Vorstellung, dass nur einige wenige besonders gewitzte Personen sich binnen einiger Monate einarbeiten und solchen Dreck produzieren, ist abwegig. Der hohe Aufmerksamkeitswert solcher Storys verspricht unzählige „Views“ und somit auch Geld. Wie es den Angehörigen geht, die sich das ansehen, ist egal.

Stimmen synthetisieren

Jedes Bild einer Person kann jetzt mittels KI zum Sprechen animiert werden. Vielerlei Stimmen stehen zur Wahl, man kann aber auch  eigene synthetisieren. Dadurch ist es z.B. machbar, die eigene Stimme in beliebigen anderen Sprachen sprechen zu lassen (Hier ein Beispiel), eine Anwendung, die es ermöglicht, verschiedene Sprachversionen derselben Rede anzubieten, ohne dass ein Mensch dazu gebraucht würde.

Wenn jetzt viele ihre eigene Stimme auf Plattformen wie ElevenLabs synthetisieren lassen und die Ergebnisse hier oder da veröffentlichen, kann damit gerechnet werden, dass in Zukunft die originalen Stimmen Verstorbener zu hören sein werden. Stimmen, die lange schon „öffentlich“ sind, stehen zur freien Verfügung. Prominente wie Elvis und Mariln Monroe werben bereits für Toaster Churros (frittierte Teigstangen), in Szene gesetzt von einer Berliner Agentur, die dazu schreibt:

„Die KI-Motive bieten uns viel Spielraum, sodass wir sie vom klassischen Asset über Animationen bis hin zu OOH flexibel einsetzen können. Als Kreativschaffende profitieren wir in vielerlei Hinsicht von der Unterstützung durch künstliche Intelligenz, insbesondere im Bereich der Content Produktion. Sowohl bei Text- als auch Bild-Content liegt die Verantwortung für die abschließende Bearbeitung aber selbstverständlich weiterhin bei uns. Die Überprüfung des Contents auf Korrektheit, Glaubwürdigkeit und Qualität ist essenziell.“

Na dann ist ja alles gut? Wenn eine bekannte Person im Video „aufregende“ Sache sagt, müssen wir seit einiger Zeit immer mitdenken: Es könnte eine KI am Werk gewesen sein! Aber tun das auch alle? DeepFakes unterminieren die Glaubwürdigkeit, die bewegte Bilder und Stimmen im Vergleich zu Fotos noch lange hatten – vorbei!

Das alles gab es schon immer, mag man jetzt denken. Und es geht auch mit klassischen Methoden, wie etwa dieses – als „Satire“ gemeinte, aber nicht gekennzeichnete „Mem“ zeigt.

Precht zu Rammstein: Satire!

Wer Precht nur aus den ihn betreffenden Shitstorms „kennt“, kann das locker für echt halten, zumindest solange die Kommentare nicht gelesen werden. Hätte man per KI Prechts Stimme und Bewegung „dargestellt“, würde die Aussage jedenfalls noch weit glaubwürdiger wirken.

Wie soll das alles reguliert werden?

Als das World Wide Web Mitte der 90ger das Internet massentauglich machte, herrschte bezüglich der Inhalte ebenfalls die sogenannte „Wild-West-Mentalität“. Wenige Jahre war das Web ein „rechtsfreier Raum“, in dem schier alles möglich war. Das hat sich im Lauf der Zeit zurecht geschüttelt, Kriminelles wanderte ins DarkWeb ab. Ich hoffe, in Sachen KI wird es ebenso verlaufen. Wir brauchen angepasste Gesetze, etwa über den Gebrauch von Stimmen (Lizensierung), Animationen und persönlichen Geschichten: Wenn die Angehörigen zustimmen, mag ein „totes Kind“ seine Story erzählen. Ob es aber erlaubt bleiben soll, dass Kinder per Tiktok einfach so mit widerlichen Gewalttaten konfrontiert werden dürfen, bleibt als offene Frage.

Diskussion

Kommentare abonnieren (RSS)
9 Kommentare zu „TikTok-Trend: Tote Kinder reden“.

  1. Hallo

    Ist das nicht das, was ich über die möglichen Folgen einer KI bereits angeführt habe? Genau dieses Manipulative ist eben das Problem, welches dann gezielt zur Desinformation eingesetzt werden kann, noch dazu wenn die Ausgaben immer „realistischer“ wirken und ähnlich wie bereits jetzt vorhandene Fakes nur nach gründlichen Prüfen auffallen. Der Fakt kommt noch dazu,dass in der jeweiligen Blase solche Fakes leichter als wahr akzeptiert werden und dann mit der üblichen Geschwindigkeit der sozialen Medien die Runde machen. Das bekommt man letzten Endes dann nur schwer wieder aus der Welt und wird von Vielen trotzdem weiter „geglaubt“, so wie das heute schon bei allen Ablegern von „Leugnern“ der Fall ist, deren Postfaktisches meist auf Rosinenpickerei, Tendenziösem und au dem Zusammenhang Gerissenen besteht. Dem leistet derlei KI-Generiertes weiteren Vorschub.

    Einen ganz guten Beitrag dazu gab es auch beim ND, in welchem auch die Probleme der Künstler und des Urheberrechts angerissen wurden, bei deren Werken sich KI ja u.a. mit bedient für ihre Ergebnisse. So btw. füttern die ganzen Tester mit ihren eigenen Spielchen ganz ähnlich wie bei der Sprachsteuerung durch die Sprachnnachrichten (un)gewollt die Datenbanken.

    Insofern ist das wieder eine Büchse der Pandora, die sich nicht mehr verschliessen läst. Ich wüsste auch nicht, wie das zu kontrollieren wäre ausser über noch mehr Skepsis gegenüber allem und ständigem Prüfen. Nur ist das unbequem und aufwändig und daher dürften sich die Wenigsten die Mühe dafür machen, was einem weiteren Verblöden Vorschub leistet und die Menschen in Summe manipulierbarer machen kann und wahrscheinlich auch wird. Gerade in Krisen kommt noch der Punkt des Getriebenseins hinzu, welcher dann rationales Abwägen aus Zeitgründen verhindert, weil stattdessen ein Zwang zum Entscheiden suggeriert wird ganz ähnlich den Drückermethoden, die es jetzt schon gibt wie nur kurze Zeit/nur noch x Exemplare vorrätig uswusf.

    Viele Grüße
    Thomas

  2. Das Ganze würde ich eher positiv sehen. Mit der Technologie muss niemand mehr losziehen und Leute von Hochhäusern schmeißen, um ein paar schnelle Klicks einzuheimsen.

    Was die Werbung angeht, hatte ich Dir ja sowas schon geschrieben. Es wird dann halt schnell sehr langweilig werden, weil alle die gleichen Sachen verwenden und neue Stories kaum dabei rumkommen.

    Freuen wir uns also schon auf Vin Diesel in Saitenbacher Müsli und Bruce Willis in Wick Medinight.

    Es dürften nicht gerade wenig Tiktoker die sich für diese schlimmen Videos verantwortlich zeichnen, auch viele andere erfolgreiche Videos produzieren. Das ist eben nur ein weiteres Ding, was Geld & so bringt.

    Ob Du Kinder davor schützen kannst? Nein. Erst Recht nicht, wenn die selber danach suchen, so wie die kleine Tochter einer Bekannten, die sich mit ihrer Freundin mit 8 einen Hardcore Lesbenporno vergnügt anschaute. Hier darf man einfach nicht die Erziehung nur Institutionen und anderen überlassen, wie es in der narzisstischen Gesellschaft oft läuft.

    Was war denn bei uns so angesagt? Porno. noch nicht so, aber Gesichter des Todes und alles was es an Snuff und Horror gab, musste schon sein, um auf dem Pausenhof wahrgenommen zu werden (Anfang bis Ende der 80er).

    Ja. Das Internet war anno damals ein ziemlich freier Raum und das war auch gut so. Es war damals (bis 97) noch nicht das Massenmedium, auch wenn man das in der Großstadt gerne anders sehen möchte. Das lag nicht nur an der Bandbreite. Du müsstest selber wissen oder jemanden kennen, der wusste, wo es was gab. Medien im Netz? Nur ein paar bei den Amis. Und ja: Auch das war gut so!

    Zu versuchen das Internet zu regulieren mit nationalen Gesetzen, ist genauso dämlich wie damals und ändert an der Problematik (nach wie vor) nix. Dabei sollte man immer noch bedenken, dass das Netz im Ursprung die Militärkommunikation war und war entsprechend ausgelegt.

    Ich habe so meine Ahnung, warum das heute gern verschwiegen wird.

  3. Vor Jahren gab es eine Seite, die hieß rotten.com. In der krassesten Zeit der Seite wurden Fakes von verstümmelten Kindern gezeigt. Ein Freund von mir hat seinerzeit die Staatsanwaltschaft informiert, das Ganze ist abgeschmettert worden, da weder die Aufnahmen noch die abgebildeten Kinder echt waren.
    Rotten hat dann freiwillig die schlimmsten Bilder von der Seite genommen, obwohl – Achtung – gerade diese Seiten am meisten geklickt worden sind.

    Für Abnormitäten sind die Möglichkeiten wohl eher das Ventil, nicht der Auslöser.

  4. Danke für Eure Kommentare. Bin wirklich froh darüber, dass hier so gut kommentiert wird!

    @alle: Gestern Abend hab‘ ich mir übrigens noch ein längeres Video von „Evoluzer“ angeschaut, das einen allgemeinen Überblick über den Stand der Dinge (vom 29.5.) in Sachen KI-Tools gibt: Musik, Film, Büroanwendungen, Ki-Stimmen und Bilder, sowie 6 Risiken, von denen ich nur Nr. 6 (bewusste KI) für unsinnig halte. Sehr toll das Ganze, weil jeweils Beispiele gezeigt (und erklärt) werden und auch nicht nur das, was schon „alle“ kennen.

    @Thomas: Danke für den ND-Link, guter Artikel. Zum Bias: Dass KI die Gesellschaft „spiegelt“ ist eigentlich nicht verwunderlich – wie sollte es anders sein? Bzgl. des Urheberrechts bin ich ambivalent gestimmt: Ich verstehe den Ärger der Kreativen, doch ist das, was KI macht, nichts anderes als das, was ich auch mache, wenn ich einen Sachartikel zu Thema X im Auftrag von Unternehmen Y schreibe: Ich lese ca. 10 Artikel dazu, die ich auf Google finde und schreibe mit den gefundenen Infos einen EIGENEN Artikel. (Mittlerweile kann ich ChatGPT die 10 URLs eingeben und sie zusammenfassen und / oder exzerpieren lassen, was ich brauche – noch geht es aber nicht ohne eigenen nochmaligen Faktencheck – und ich formuliere auch immer noch selbst).
    Kurzum: Warum soll die KI nicht dasselbe „Leserecht“ haben wie ich? Die Inhalte, die frei im Web stehen, wurden ja bereits von irgendwem bezahlt ODER von den Autor/innen kostenlos zur Verfügung gestellt. Sofern die KI aus dem Eingelesenen eine eigene Version erstellt, ist das nach aktuellem deutschen Urheberrecht KEIN Plagiat!
    Das „Getriebensein“, das du erwähnst, trifft übrigens auch auf die KI-Firmen zu: Die Konkurrenz macht weiter und lässt keine Zeit, um auf die ethischen und rechtlichen Debatten und Entscheidungen zu warten.
    (Dazu enthält das o.g. Video auch interessante Details: Europa hat kaum Daten…)

    @Juri: Ja, bis 97 war das Internet auf der Userseite kein Massenphänomen (und es war toll!), aber es war ins Bewusstsein der Massen getreten, als Spielplatz von Verrückten und nackten Nazis…
    Über die Kinder, die TicToc nutzen, mach ich mir aber schon Sorgen. Ein Lesbenporno ist was Anderes als das, was unter „Tote Kinder reden“ an Gewaltgeschichten kursiert. Meine Schwester hat es als Kind schwer mitgenommen, dass ein Pfarrer im Religionsunterricht von der Hölle erzählte und dass die Ungetauften hinkommen – meine Mutter ist in die Schule gegangen und hat sich beschwert! Das ist zwar lange her, zeigt aber, wie verstört und verängstigt Kinder von schlimmen Schilderungen sein können. Man sollte TiKToK zur Altersverifikation ab 14 verdonnern!

    @Peter: Ja, ich erinnere mich an Rotten.com (hier die Geschichte) – ein zweimal drauf geschaut, dann lieber nicht mehr…. Ist ein Beispiel für all die Inhalte, die so nach und nach aus dem offenen Web verschwunden sind, gut so!

  5. Ich würde mich freuen, wenn in Zukunft Synchronisationen von Filmen und Serien dank KI mit der Originalstimme der Schauspieler zu hören wäre.

    Lachen mußte ich, als ich gestern im Deutschlandfunk hörte, daß KI schlechte Manieren ausgetrieben werden muß, weil sie Unappetitliches wie Beleidigungen und Beschimpfungen gleich mitgelernt hat. So wie in Asien und Afrika Menschen mühsam Ekliges aus dem Netz entfernen (The Cleaners), so sitzen jetzt welche daran, der KI Anstand beizubringen.

  6. Daß es Bedarf für solche Inhalte gibt , weiss ich aus den frühen Sechzigern. Damals erzählte mir ein gleichaltriger Knabe, daß er mit seinem Vater solche Videos sehe.
    Keine Frage, dass mich diese Mitteilung als Kind regelrecht traumatisiert hatte.

  7. Wieder mal belangloser Kommentar meinerseits?!

  8. @Gerhard: wieso belanglos? Nur weil ich nichts dazu gesagt habe? Natürlich hätte mich schon interessiert, was die „solchen Videos“ denn waren. Aber ich wollte auch nicht weiter in dich dringen, weil du schließlich gesagt hast, dass es dich traumatisiert hat. Hättest du mehr erzählen wollen, hättest du das doch geschrieben, oder?

  9. Traumatisiert wurde ich als Kind, es war meinem aufwachsen nicht zuträglich.
    was da gezeigt wurde, kann man sich keicht ausmalen: ein mensch wurde da bestialisch gequält, das hatte ich ja schon angedeutet.

    Immerhin brachte ich ja hier ein, dass es solchen schund schon immer gab.
    keinen komnmmentar wert?
    War doch eine wertvolle information?!
    Idee etwa nicht?!