Linkliebe: Texte, Videos und ein langes Kommentargespräch zu KI

Diskussion

Kommentare abonnieren (RSS)
24 Kommentare zu „Linkliebe: Texte, Videos und ein langes Kommentargespräch zu KI“.

1. Horst Schulte Mi.., 5.11.2025, 18:18 (Zitatlink)

   Danke für die interessanten Links. Die Diskussion um die Frage, ob KI beim Denken hilft war ein besonders dickes Brett. Ich gebe zu, dass ich nicht alles verstanden habe. Vielleicht hilft mir die KI in Form der berüchtigten Zusammenfassung? Vielleicht sind solche tiefgreifenden, auch philosophischen Diskurse, ja doch ein Zeichen dafür, dass wir es in Deutschland noch immer tendenziell mit Dichtern und Denkern zu tun haben. Ob das nicht den Betrieb aufhält? Manchmal denke ich das.

2. Yossarian Mi.., 5.11.2025, 21:20 (Zitatlink)

   Ich halte seine Analyse, dass es den Big Playern um die Erschaffung einer „Alles-App“ geht, für durchaus realistisch. ABER ich glaube nicht daran, dass so etwas bei uns Erfolg haben wird, dazu sind wir doch zu sehr auf Sicherheit und Datenschutz bedacht!

   Sicherheit und Datenschutz, speziell zweiteres, sind bereits obsolet in dem Moment, da man solche KI System benutzt.
   Es gibt mittlerweile einen eigenen Bereich in der IT Sicherheit, wo man sich nur damit beschäftigt, wie man mit entsprechenden Prompts sensible Daten aus öffentlichen KI System extrahieren kann. Daher: In dem Moment, da du selbst beiträgst ein öffentliches neuronales Netz mit deinen Inhalten zu trainieren, ist der Moment, in dem du die Kontrolle über genau diese Daten verlierst. Und sie sind auch nicht wieder entfernbar, es sei denn man resetet das Gesamtnetzwerk auf einen bestimmten Ausgangspunkt, aber gezielt entfernen geht halt nicht, weil es nun mal die Eigenschaft solcher neuronalen Netze ist, dass die Information ins Gesamtsystem eingewoben wird.

   Und das ganze kommt oben drauf, auf eine IT Landschaft, die bereits ohne KI im Bereich Datenschutz regelmäßig komplett versagt bzw. wo Datenschutz bewusst ignoriert wird.

3. Claudia Mi.., 5.11.2025, 22:16 (Zitatlink)

   @Horst: meinen eigenen Betrieb darf ich doch aufhalten wie ich mag! :-) und Michael hat es wohl genauso gesehen.

   @Yossarian: Ich hätte das besser spezifizieren sollen, meinte so allgemein „wir Europäer“… Dabei hab‘ ich mehr an meine persönliche Haltung zur „Alles-App“ gedacht, bezüglich der es sich genauso verhält wie bei den allseits ausgelobten „Assistenten-KIs“: Ich werde doch einer einzigen App nicht gesammelt all meine Zugänge geben, zu Banken, Shops, Blogs und Plattformen! Vor den KIs selbst hätte ich nicht mal Angst, aber vor Menschen, in deren Werke sie eingerahmt sind. (Dazu auch ganz toll das Gespräch mit einer KI von Salvadore Princi „ChatGPT: Die dunklen Seiten deiner Offenheit„, insbesondere der Part ab Minute 15:24: „Ok, du sagst, du speicherst nichts, aber….„).
   Was meine Anfragen und meine Blogtexte im Web angeht, so dürfen KIs das gerne lesen und in ihre Schulungsmaterialien aufnehmen.

4. Menachem Welcland Mi.., 5.11.2025, 22:56 (Zitatlink)

   @Yossarian, dass Argument „Datenschutz“ begegnet mir in letzter Zeit wieder sehr häufig, auch im Zusammenhang mit KI (das hast du oben schon kurz angedeutet). Ich bin in dieser Sache sehr unbefangen weshalb mich interessieren würde, wo du die größten Probleme in diesem Thema ausmachst.

5. Yossarian Mi.., 5.11.2025, 23:19 (Zitatlink)

   @Menachem Welcland: Die größten Probleme mache ich dort aus, wo die eigenen Daten als Inhalt in die neuronalen Netze eingebunden werden.

   Beispiel: Du gibst ein CT Bild einer KI zur Analyse, diese kann darauf dann ihre Mustererkennung anwenden und eine Auswertung liefern. Sofern das nur so abläuft ist es ok und das CT Bild an sich bleibt, sofern es der Anbieter der KI nicht abgreift, unter deiner Kontrolle.

   Wenn dein CT Bild aber als Lernmaterial ins neuronale Netz mit einfließt, dann verlierst du zwangsweise die Kontrolle darüber, denn auch der Betreiber der KI kann die Information, die das CT Bild zum Gesamtgebilde des neuronalen Netzes beiträgt nicht gezielt wieder entfernen. Das ist eine zentrale Eigentschaft neuronaler Netze.

   Der „Missbrauch“ entsteht nun dadurch, dass es möglich ist den Inhalt eines solchen CT Bildes durch geschickte Kombinationen von Anfragen an ein neuronales Netz wieder zu extrahieren. Datenschutz ist in solchen Systemen gar nicht möglich, sondern nur eine Hoffnung darauf, dass niemand den richtigen Punkt findet, um die Daten zu extrahieren, die du vorher eingegeben hast.

   Das gilt aber natürlich nur für öffentliche / geteilte Systeme. Die machen allerdings im Moment den Großteil dessen aus, was wir als KI verwenden. Wenn du ein lokales KI System betreibst, dann bleiben die Daten natürlich auch lokal und mit solchen Settings sind auch datenschutzkonforme Lösungen möglich

6. Menachem Welcland Do.., 6.11.2025, 12:48 (Zitatlink)

   Danke, @Yossarian, dass du dir die Zeit für eine Antwort genommen hast. Ich verstehe, dass es unglaublich viele Möglichkeiten gibt, und es kommen immer weitere dazu, ins Netz eingegebene Daten zu ge- bzw. missbrauchen. Aber welche konkreten negativen Folgen kann das für dich/mich haben? Ich habe diese Frage auch in ein LLM-Modell eingegeben, was eigentlich ad-absurdum ist, trotzdem: Es gab kaum einen Aspekt der, wenn man seit vielen Jahren im Internet unterwegs ist, mir wirklich neu bzw. unbekannt war und ich denke, dass das, was dort aufgeführt war, zum allgemeinen Grundwissen und Kenntnissen gehört, wenn man am Internet teilnimmt. Im Wesentlichen war nur das dort auch genannte „Profiling“ ein Punkt, den ich in seinen Auswirkungen nicht richtig einschätzen kann, weshalb ich mich auch derzeit vermehrt mit KI/LLM beschäftige. Momentan denke ich, das „Schutz“ ein sehr persönlich definierter Raum ist, der bei mir, als bürgerlicher und 74-jährige Rentner mit nur noch sehr kleinem Familien- und Bekanntenkreis ein ganz anderer ist, als für einen wirtschaftlich und sozial mitten im Leben stehender und auf Zukunft ausgerichteter und bedachter Familienvater ist.

   Dein Chatverlauf, @Claudia, in welchem es um die Sprachanalyse und Token ging, fand ich nochmal sehr interessant. Sprache als Mathematik. Genial, was die Menschen da geschafft haben. Da ist die Luft noch lange nicht raus.
   Salvadore Princi habe ich mir angesehen. Diese KI-Gespräche tauchen im Netz jetzt immer öfter auf, vornehmlich im intellektuellen understatement Charakter, so mein rein persönliches Empfinden. Allerdings,- wie soll man mit einem System von dem man weiß, dass es elementar auf Zustimmung und Resonanz aufgebaut ist, ein kritisches Gespräch führen, dass ja selbst wieder nur in Zustimmung und Resonanz antworten kann. Assoziationen, die beim zuhören dabei in mir aufkamen, fand ich allerdings erfrischend und erhellend.

7. Claudia Do.., 6.11.2025, 13:11 (Zitatlink)

   @yossarian: Bei Perplexity kann man einstellen, ob die hochgeladenen Inhalte und Anfragen zur Schulung verwenden dürfen oder nicht. Wie es bei den anderen KI-Anbietern ist, weiß ich nicht.

   „Der „Missbrauch“ entsteht nun dadurch, dass es möglich ist den Inhalt eines solchen CT Bildes durch geschickte Kombinationen von Anfragen an ein neuronales Netz wieder zu extrahieren. “
   Hast du dazu irgendwelche Artikel, die beschreiben, wie das gehen soll? Ich kann mir garnicht vorstellen, wie das funktionieren sollte. (Und selbst wenn: am Bild steht doch kein Name dran, oder?)

   Ich habe Perplexity (pro, tiefe Forschung) gefragt, hier das Ergebnis.

   Die verlangten Beispiele stammen aus dem Web – und ansonsten behauptet P:

   „ich habe keine eigene Bilddatenbank oder feste Schulungsunterlagen mit vorgespeicherten CT-Scans. Jede Information, die ich dir präsentiere, recherchiere ich bei Bedarf aktuell „

   Diesselbe Frage inkl. Nachfrage hab ich dann an ChatGPT5 gestellt (kann man bei Perplexity auswählen). Das Ergebnis entspricht dem ersten recht genau.

   Wie man da „mit geschickten Anfragen“ etwas AUS DEN SCHULUNGSMATERIALIEN rausholen könnte? Keine Ahnung…

8. Yossarian Do.., 6.11.2025, 15:15 (Zitatlink)

   @Claudia:
   Ein Artikel, der auch andere Methoden aufführt, die bei KIs Sicherheitsprobleme darstellen, wäre z.B. der hier:

   https://www.bigdata-insider.de/wie-hacker-ki-austricksen-a-5702273e2dfbe77313c1058eaf3dcfe2/

   Neuronale Netze sind keine Datenbanken, in denen man strukturiert Datensätze ablegt. In sofern wirst du das CT Bild tatsächlich nicht 1zu1 wieder extrahieren können. Da habe ich mich zugegeben etwas zu ungebau ausgedrückt. Was du aber extrahieren kannst ist das gelernte Muster und dieses kann Informationen enthalten, die im Bild enthalten sind, z.B. auch die (vermeintliche) Diagnose.

   Oder vielleicht mal etwas anschaulicher, weil auf LLMs bezogen: Wenn du einem LLM einen Text als Lernmaterial zuführst, dann lernt das Netzwerk das Muster des Textes und damit gewissermaßen auch den Inhalt (was ja erwünscht ist). Wenn ich z.B. ChatGPT nach meinem Firmennamen frage, dann bekomme ich halbwegs genau den Inhalt der zugehörigen Website als Antwort. Das bekomme ich nicht, weil das neuronale Netz die Website 1zu1 in einer Datenbank abgespeichert hat, sondern weil die Verbindungen der Worte (grob formuliert) als Neuronenverbindungen gelernt wurden. In dem Fall ist das in Ordnung, weil es eine bereits öffentliche Information ist. Das gilt allerdings genauso auch für Lernmaterialen, welche privat bleiben sollen. Du kannst in einem neuronalen Netz nicht einfach per Rechtegruppe eine Tabelle wie in einer Datenbank sperren, weil die Daten so nicht gespeichert werden, sondern als verstärkte oder abgeschwächte Signalwege der Neuronen in das Gesamtkonstrukt eingewoben werden.
   Wenn du das nicht möchtest, dann bleibt eigentlich nur eine isolierte KI für dich selbst oder deine Firma, deinen Verein oder was auch immer zu betreiben. Genau das ist bei solchen Plattformen wie ChatGPT aber eben gerade nicht der Fall. Dass du das unterbinden kannst wie du es bei Perplexity oben erwähnst, ist somit natürlich extrem wichtig, weil wenn du die Daten als Lernmaterial hinzufügst, dann machst du sie praktisch indirekt aufgrund oben beschriebenen Umstand faktisch öffentlich. Das ganze ist aber halt auch eine Vertrauensfrage, denn ob sich der Anbieter daran hält weißt du nicht wirklich.

9. Yossarian Do.., 6.11.2025, 19:30 (Zitatlink)

   @Menachem Welcland

   Momentan denke ich, das „Schutz“ ein sehr persönlich definierter Raum ist, der bei mir, als bürgerlicher und 74-jährige Rentner mit nur noch sehr kleinem Familien- und Bekanntenkreis ein ganz anderer ist, als für einen wirtschaftlich und sozial mitten im Leben stehender und auf Zukunft ausgerichteter und bedachter Familienvater ist.

   Das ist ein nachvollziehbarer Punkt. Als Gesellschaft sollten wir es aber mehr auf der Makroebene betrachten und eine Demokratie ohne Persönlichkeitsrechte bzw. ohne einen wirksamen Schutz dieser, ist schnell keine mehr. Das Recht auf informationelle Selbstbestimmung ist fundamental und KI Systeme bedrohen diese konkret, nicht alle, nicht immer, aber sie haben generell ein erhebliches Potential in sich massiv Schaden anzurichten.

   In der Wikipedia steht es ganz gut erklärt:

   Die Selbstbestimmung bei der freien Entfaltung der Persönlichkeit werde gefährdet durch die Bedingungen der modernen Datenverarbeitung. Wer nicht wisse oder beeinflussen könne, welche Informationen bezüglich seines Verhaltens gespeichert und vorrätig gehalten werden, werde aus Vorsicht sein Verhalten anpassen (siehe auch: Panoptismus). Dies beeinträchtige nicht nur die individuelle Handlungsfreiheit, sondern auch das Gemeinwohl, da ein freiheitlich demokratisches Gemeinwesen der selbstbestimmten Mitwirkung seiner Bürger bedürfe. „Mit dem Recht auf informationelle Selbstbestimmung wären eine Gesellschaftsordnung und eine diese ermöglichende Rechtsordnung nicht vereinbar, in der Bürger nicht mehr wissen können, wer was wann und bei welcher Gelegenheit über sie weiß.“[5]

10. Wolfgang v. Sulecki Do.., 6.11.2025, 23:17 (Zitatlink)

    Was bisher Aufwand bedeutete – nämlich eine Person zu analysieren und sich wesentliche Informationen zu verborgenen Eigenschaften zu verschaffen ist durch die spielerische & harmlos erscheinende Kommunikation mit KI nun schon *Standard* geworden …. ich mag das Beispiel mit den langsam zum Kochen gebrachten Fröschen, denn hier ist die wahre Absicht so gekonnt versteckt, daß selbst Vorsichtige die Gefahr verkennen und sich – weil nichtsahnend – in einer Art und Weise öffnen die sie ansonsten nicht für richtig halten.

    Denkt denn in der Euphorie über Möglichkeiten [die auch anderweitig, aber natürlich mit größerem Aufwand] erreicht werden können – sogar angesichts der Situation in den USA – niemand mehr an die schwerwiegenden Folgen solch umfangreicher Datenmengen zu (bisher) fast jedem Menschen in den entwickelten Ländern?
    Was bedeutet diese Freiwilligkeit Vieles von sich preiszugeben z.B. für Programme wie *Palantir*?
    Da können wir doch gleich alle Gesetze zum Datenschutz einstampfen …!

11. Claudia Fr.., 7.11.2025, 10:36 (Zitatlink)

    @Yossarian : Mir ist durchaus berwusst, wie ein LLM funktioniert, gerade deshalb konnte ich mir nicht vorstellen, wie das Extrahieren konkreter Daten überhaupt stattfinden kann – und hab also nochmal nachgefragt, vermutlich überflüssigerweise, weil es auf diesem Weg gewiss nicht funktioniert.
    Eine Recherche über die verwendeten Angriffsmethoden (dein Link, Google-KI plus die angegebenen Quellen) ergibt Erklärungen der einzelnen Methoden (z.B. Sensitive Data Theft: Blackbox-Angriffe, Probing-Attacks durch viele gezielte Abfragen), ebenso aber auch Strategien dagegen, sowohl auf Ebene der Abfragen, aber auch etliche auf Ebene der Aufbereitung der Schulungsdaten.
    Beispiel / Evoluce.de:

    „Methoden wie Datenmaskierung, Pseudonymisierung und synthetische Datengenerierung sind essentiell. Sie machen sensible Daten unkenntlich. Technologische Spitzenreiter wie Google und Facebook nutzen sie, ebenso sind sie in den Datenschutzbestimmungen vieler Staaten verankert.
    Beliebte Techniken zur Anonymisierung umfassen:
    – Datenaggregation: Gruppierung von Daten, um Einzeldetails zu verbergen.
    – Noise Addition: Hinzufügung statistischen Rauschens, um Datenanalysen zu erschweren.
    – Data Shuffling: Vertauschen von Datenattributen, um Zuweisungen zu erschweren.
    Mit diesen Methoden bleibt die Einhaltung der Datenschutzrichtlinien gesichert, während der Datenwert für Forschung bewahrt wird. Die Technologie entwickelt sich ständig weiter. „

    Es ist wohl wie bei altbekannten und immer wieder neuen Angriffen auf IT-Systeme: Die Angriffsmethoden werden erst im Einsatz bekannt, dann beginnt man sich dagegen zu verteidigen. Ich gehe z.B. davon aus, dass die Google-KI und Claude von Anthropic sicherer sind als ChatGPT von Open AI und erst recht Musks Grok, der sich an X-Daten vollfrisst.

    Nebenbei: Vor jedem CT/MRT z.B. in der Charitè muss ich unterschreiben, dass ich der Verwendung von Daten zu Forschungszwecken zustimme, was die Weitergabe an X Stellen umfasst. Mit diesen Daten werden auch die KIs zur Mustererkennung trainiert, eine hoch nützliche Anwendung.

    Ich schließe mich im übrigen Menachem an, persönlich sehe ich durch meine Abfragen kein Risiko (ich teile die Ergebnisse auch oft, wodurch sie noch öffentlicher werden). Anders bei Unternehmen und Institutionen, für die aber auch Schutzmethoden entwickelt werden.

    @Wolfgang: Mit „eine Person analysieren“ meist du z.B. Abfragen wie „Wer ist Claudia Klinger“?
    Es war nie schwer, das zu ermitteln (es gibt allerdings mehrere).

    Seltsam: gerade ausprobiert, versehentlich die Anführungszeichen belassen, die einfache Google Suche zeigt null Ergebnisse, nur den Spruch „Einige Ergebnisse wurden möglicherweise aufgrund der Bestimmungen des europäischen Datenschutzrechts entfernt. Weitere Informationen„.
    Setze ich die Anführungszeichen richtig (Wer ist „Claudia Klinger“?) erscheinen korrekte Ergebnisse, allerdings nur zu mir, nicht zu den anderen. Diesselbe Frage im KI-Modus ergibt immerhin den Hinweis: „Claudia Klinger“ kann sich auf unterschiedliche Personen beziehen, am prominentesten ist jedoch eine Pionierin der deutschen Blogosphäre:….“ und dann immerhin EINE andere.

    Und: Ja, es ist lange schon ein Widerspruch, dass wir gesehen und gelesen werden wollen, während andrerseits Daten möglichst geschützt werden sollen. Unlösbar aus meiner Sicht – es muss eben jede und jeder bewusst überlegen, WAS man von sich preis gibt und ins Netz stellt – eine letztlich immer individuelle Entscheidung (nicht erst seit KI).

12. Wolfgang v. Sulecki Fr.., 7.11.2025, 10:52 (Zitatlink)

    @ Claudia

    Was ich mit „eine Person analysieren“ meinte sind nicht die vordergründig offenen Daten auf die sich die Gesetze beziehen, sondern das, was aus den Zusammenhängen und Argumenten, der ausgedrückten Haltung zu bestimmten Gegebenheiten herauslesen läßt.
    Gerade bei lange bestehenden Blogs (nur als Beispiel, gilt natürlich auch für jedwede sonstigen Texte) wird doch die Denkstruktur, die zugrunde liegende geistige Basis der Autorenschaft offenbar – insbesondere nun gesteigert durch KI als Analysehilfe.

    Data-Mining [Zitat IBM]
    „.. Diese Methoden werden zur Organisation und Filterung von Daten verwendet, um die nützlichsten Informationen zu ermitteln, von Betrug über Benutzerverhalten bis hin zu Engpässen und sogar Sicherheitsverletzungen. Der Einsatz von ML-Algorithmen und künstlicher Intelligenz (KI) ermöglicht eine Automatisierung der Analyse, was den Prozess erheblich beschleunigen kann ..“

13. Claudia Fr.., 7.11.2025, 11:56 (Zitatlink)

    @Wolfgang: ich habe (länger her) mal ChatGPT über Claudia Klinger befragt, wobei ich feststellte, dass nur wenige Seiten als Grundlage für die Antwort genutzt wurden (vor allem „über…“ und manche Kurzbeschreibungen im Web). Das wundert auch nicht, es würde ja erheblich Rechenzeit kosten, alle Artikel zu durchsuchen, um tiefere Analysen zu bringen.

    Um zu testen, ob KI ältere Artikelinhalte findet, habe ich zunächst nach einem solchen Inhalt auf deinem Blog gesucht und wurde hier fündig. Meine Anfrage „Was sagt der Blogger von https://www.re-actio.com/ über Preise von Elektrofahrrädern?“ hat dann bestätigt: Richtig durchsuchen macht die KI nicht, sie findet die Aussage im Post von Juli 24 nicht (siehe die Antwort).

    Nun ist deine Blogstruktur nicht besonders übersichtlich, das erschwert die Suche. Aber ich wette mal, wenn ich eine entsprechende Anfrage über meinen Blog mache und ihr als Basis die Übersicht „Alle Artikel seit 1999“ gebe, wird sie auch nur maximal die Headlines checken (wenn überhaupt) und Inhalte in den Artikeln selbst nicht finden.

    „die Denkstruktur, die zugrunde liegende geistige Basis der Autorenschaft “ – ist das denn ein schützenswertes Gut? Als Langzeitbloggerin finde ich es eher bedauerlich, dass niemand alte Artikel liest (sie sind oft besser als aktuelle) – was ja verständlich ist, mache ich auch nicht ohne Anlass.
    Was zweifellos möglich wäre: Das jemand mit böser Absicht mich per Blog „gut kennenlernt“ und sich dann im richtigen Leben an mich ranwanzt. Da ich aber nicht oft neue Bekanntschaften mache, vertraue ich einerseits darauf, dass ich zu unwichtig für derlei bin, zum anderen auf meine Menschenkenntnis und Vorsicht im Alltag.

14. Yossarian Fr.., 7.11.2025, 14:45 (Zitatlink)

    @Claudia

    zu dem Text bei Evoluce.de:

    Was ein krasses Durcheinander! Gerade bei den von dir zitierten Punkten würde ich wirklich gerne im Detail erklärt haben wie sie bei KI funktionieren sollen. Der ganze Text wirkt auf mich wie ein beauftragter Werbetext. Wie willst du in ein neuronales Netz „statistisches Rauschen“ einpflegen? Es ist ja gerade „die Kunst“ der Anbieter ihren Input so umfangreich wie möglich sauber zu halten, damit der Output möglichst gute Ergebnisse liefert. Und ich bin mir auch nicht ganz sicher, ob der Text das nicht eher als eine generelle Technik aufführt und nicht speziell im Kontext von neuronalen Netzen.

    Aber egal: Dein Vertrauen in die technische Lösbarkeit teile ich nicht. Nach 20 Jahren in dieser Branche erlebt man täglich wie Probleme in der Regel nicht fundamental gelöst werden, sondern durch neue Produkte Pseudolösungen verkauft werden, zumal Hacks und Datenabflüsse in der Regel auch kaum oder keinerlei Konsequenzen haben.

15. Claudia Fr.., 7.11.2025, 17:59 (Zitatlink)

    @Yossarian: Interessant! Ich hab nämlich extra einen Webartikel als Quelle benutzt, um nicht wiederum eine „den Wissensstand zusammenfassende“ KI zu zitieren! Da ich den Themensektor Angriffsmethoden nicht ständig verfolge, war (und ist) es für mich nicht leistbar, ohne langes Forschen eine profunde Quelle zu finden, die vor deinen Augen Bestand hätte.

    Deine Kritik an diesem Artikel bestätigt aufs Schärfste, was ich öfter anbringe, wenn es um den Vergleich von KI-Zusammenfassungen und dem (vor KI) üblichen Vorgehen geht (= Suchen mit Google, Durchforsten der Ergebnisse auf Seite 1: lauter SEO-verseuchte, oft unergiebige oder zu oberflächliche Artikel, häufig marketing-motiviert) – zum Beispiel in meinem Kommentar-Fazit im kontroversen Gespräch mit Michael („Mit KI denken ist wie mit dem Auto trainieren).

    Erst das frustrierende Erlebnis der Recherche in Google-Ergebnissen führt dazu, dass die (noch) von ähnlichen Hürden freien Antworten der KIs als sehr nützlich, erleichternd und Zeit sparend empfunden werden. Deshalb gibt es nicht wirklich ein „zurück“.

16. Yossarian Fr.., 7.11.2025, 22:36 (Zitatlink)

    @Claudia: Wenn es darum geht, dass die Suchmaschinen sich deutlich verschlechtert haben, auch schon vor KI, dann ist das ein eigener valider Punkt, denn so ist es nun mal wirklich.
    Aber an etwas Schlechtem etwas zu messen, was ein wenig besser ist, überzeugt mich jetzt nicht so wirklich.
    Ich verwende KI Systeme in meinem beruflichen IT Altag regelmäßig und eins erkenne ich als positiven Input durchaus an: Sie lenken dich schneller als klassische Suchmaschinen auf den Kern eines Problems oder einer Frage. Bei der inhaltlichen Hilfe enthalten sie aber oft grobe Fehler und ohne mein Fachwissen wäre das oft eine Sackgasse.
    Du stellst hier nun eher oft politische Fragen an diese Systeme und das halte ich für deutlich problematischer, denn die Systeme sind vorgepromptet darauf, dass sie dir eher zustimmen sollen und das verfälscht dir leider sehr schnell deinen eigenen Wunsch nach klarer Information.

    Und sehr konkret, weil da bin ich etwas tiefer drin, kann ich dir sagen, dass der Hype z.B. um KI Programmierung auch eher auf dünnem Eis gebaut ist. Da stellt sich gerade eine große Ernüchterung ein. Es ist mal wieder ein Hype wie so viele vorher auch. Es wird am Ende eine Veränderung bleiben, definitiv, weil es ist eine verändernde Technik, aber es bleibt ein technisches Konstrukt, was wenig mit echter Intelligenz zu tun hat, aber sicherlich das Potenzial hat vom Anschein her so auszusehen.

17. Yossarian Fr.., 7.11.2025, 23:18 (Zitatlink)

    zu: „um nicht wiederum eine „den Wissensstand zusammenfassende“ KI zu zitieren!“

    Wieso denn übrigens nicht? Ich glaube du verstehst mich falsch. KI kann durchaus gute Antworten generieren, damit habe ich gar kein Problem. Ob ich mich mit den Thesen eines Artikels auseindersetze oder den Antworten einer KI ist doch eigentlich komplett egal, schlussendlich geht es um den Inhalt.

18. Yossarian Fr.., 7.11.2025, 23:33 (Zitatlink)

    Ich lege da mal vor mit Grok:

    Ja, es ist prinzipiell möglich, Teile der Trainingsdaten oder Lerninhalte aus einer KI durch gezieltes Prompting zu extrahieren. Forscher haben gezeigt, dass Large Language Models (LLMs) wie ChatGPT durch spezielle Prompt-Techniken dazu gebracht werden können, sensible Informationen aus ihrem Trainingsdatensatz preiszugeben, oft durch wiederholende oder manipulative Anfragen, die das Modell in einen Zustand versetzen, in dem es ungewollt Daten reproduziert.

    not-just-memorization.github.io

    Dies wird als „Training Data Extraction Attack“ bezeichnet und kann in manchen Fällen Megabytes an Daten freisetzen, ohne dass komplexe Hacking-Methoden nötig sind.

    Nun kannst du mir widerlegen, dass das falsch ist… ;)

    „durch spezielle Prompt-Techniken dazu gebracht werden können, sensible Informationen aus ihrem Trainingsdatensatz preiszugeben, oft durch wiederholende oder manipulative Anfragen, die das Modell in einen Zustand versetzen, in dem es ungewollt Daten reproduziert. “

    Das ist übrigens ein wunderschönes Beispiel dafür wie ein Text einer KI vordergründig sinnig wirkt, aber tatsächlich inhaltich null enhält oder kannst du daraus irgend etwas konkrets ableiten?

19. Wolfgang v. Sulecki Sa.., 8.11.2025, 02:29 (Zitatlink)

    @ Claudia
    Das sind Beispiele für möglich Fragestellungen die Du angestellt hast – doch was ich mit „die Denkstruktur, die zugrunde liegende geistige Basis der Autorenschaft “ meinte war etwas anderes:
    Frag‘ doch mal die KI
    „Welche Haltungen in Bezug auf Politik, Religion und Gesellschaft vertritt der Autor wvs im Blog RELAtief {URL} https://www.re-actio.com/wordpress“
    [oder eleganter/ähnlich formuliert, Du hast da mehr Erfahrung].

    Nicht das offensichtliche, eher die Meta-Ebene:
    Eine andere Anfrage könnte sein „Was sagt der Blogger von https://www.re-actio.com/ über Mißbrauchsfälle durch Amtsträger der Kirchen?“ das wäre die offensichtliche Frage die schnell eine Antwort bringt; jedoch viel interessanter ist doch dazu zu fragen „Welche Folgen für den Bestand der Amtskirchen sollten nach der Meinung des Bloggers wvs im Blog RELAtief {URL} https://www.re-actio.com/wordpress zwingend daraus abgeleitet werden.“

    Die dahinter liegende, nicht explizit benannte Einstellung zu wesentlichen Daseinsfragen – woraus sich dann Einordnungen in Gruppen mit identischen / ähnlichen Motiven konstruieren ließen, z.B. Schubladen mit *ungefährlichen* Bürgern und solchen, die die vorhandenen Politiker nicht mehr haben wollen ….
    Noch knapper formuliert:
    ZWISCHEN DEN ZEILEN LESEN, das Unausgesprochene sichtbar machen.
    „Gläsern machen“, die Person besser kennen lernen als sie sich selbst kennt ….

20. Claudia Samstag, 10:43 (Zitatlink)

    @Wolfgang:
    Perplexity gefragt:
    Welche politische Haltungen vertritt der Autor im Blog RELAtief https://www.re-actio.com/wordpress?

    „Der Autor des Blogs RELAtief auf re-actio.com vertritt in seinen Beiträgen überwiegend eine wissenschaftlich und kritisch-analytische Haltung und legt Wert auf einen faktenbasierten Diskurs. Er äußert sich regelmäßig zu gesellschaftlichen und politischen Themen und betont die Bedeutung von Neutralität staatlicher Institutionen, wie Gerichten, Schulen und Polizei gegenüber weltanschaulichen und religiösen Einflüssen. Aus den verfügbaren Quellen lässt sich schließen, dass der Autor deutlich gegen Verschwörungstheorien und unwissenschaftliche Aussagen positioniert ist; seine Expertise als Diplom-Biologe und langjähriger Dozent in Gesundheitswissenschaften unterstreicht diese rationale Herangehensweise.​

    In seinen Beiträgen nimmt der Autor häufig Bezug auf aktuelle politische Entwicklungen, wobei er Wert auf Meinungsvielfalt und eine sachliche Auseinandersetzung mit kontroversen Themen legt. Seine politische Haltung kann als aufgeklärt, kritisch und der Wissenschaft sowie liberal-demokratischen Prinzipien verpflichtet charakterisiert werden.“

    Ist doch ok so, oder? Ich blogge selbst oft über Politik, gerade WEIL ich mich äußern will und selbstverständlich davon ausgehe, dass dadurch jeder wissen kann, wie ich so drauf bin. Wer das nicht möchte, führt in der Regel so ein Tagebuchblog über persönliche, alltägliche Erfahrungen.
    „Zwischen den Zeilen lesen“? Das muss man hier (und in vielen anderen Blogs) garnicht erst!

    Bei dir auch nicht, du schreibst ja, was du denkst!

    Was sagt der Blogger von https://www.re-actio.com/ über Mißbrauchsfälle durch Amtsträger der Kirchen?

    „Der Blogger von RELAtief (re-actio.com) hat zu Missbrauchsfällen durch Amtsträger der Kirchen eine klar kritische und gesellschaftspolitisch engagierte Haltung: In mehreren Beiträgen und Kommentaren fordert er eine konsequente Aufarbeitung und kritisiert scharf die Vertuschung durch kirchliche und behördliche Stellen. Der Autor rückt die Verantwortung der Institution Kirche in den Mittelpunkt und lehnt jede Verharmlosung oder Relativierung der Taten ab. Besonders betont er die Pflicht zur vollständigen Aufklärung und zur Unterstützung der Opfer, sowie die Notwendigkeit klarer, transparenter Strukturen und unabhängiger Kontrolle.

    Außerdem hebt er hervor, dass derartige Taten nicht als Einzelfälle, sondern als strukturelles Problem zu betrachten sind, das durch Machtmissbrauch, fehlende Transparenz und das Versagen von Kontrolle innerhalb kirchlicher Hierarchien begünstigt werde. In seinen Texten spricht er den Opfern Glauben und Solidarität aus und fordert gesellschaftliche und institutionelle Konsequenzen. Die Beiträge auf RELAtief stehen damit in deutlicher Opposition zu jeder Form von Vertuschung, institutioneller Untätigkeit oder verschleiernder Kommunikation durch kirchliche Amtsträger.“

21. Claudia Samstag, 10:51 (Zitatlink)

    @Yossarian: Politische Fragen stelle ich in der Regel so, dass ich sie so offen formuliere, dass die KI meine Meinung garnicht erst mitbekommt. Und ich bekomme dann Antworten, die die verschiedenen Sichtweisen darstellen, die es dazu gibt.

    Zum Extrahieren von Daten und Groks Antwort: Letztere entspricht dem, was ich mir in aller Kürze angelesen habe, als das Thema hier aufkam. Den zitierten Satz finde ich verständlich, eine genaue Anleitung sollte man nicht erwarten! (Wär ja eher schlimm!).
    Dass die KIs keine perfekten Programme schreiben, davon gehe ich aus und darüber wird auch immer wieder berichtet. Dennoch nutzt z.B. Morpheus intensiv KI und hat dadurch seine Produktivität wohl sehr gesteigert.
    Auch im Bereich „Pflanzen & Garten“ macht die KI Fehler, die ich nur erkenne, weil ich Ahnung vom Thema habe. Gleichwohl nimmt sie mir viel langweilige Arbeit ab.

22. Claudia Samstag, 11:22 (Zitatlink)

    @Yossarian: Noch was: Mich würden ja mal Beispiele interessieren, WAS FÜR Daten da illegal tricksend rausgeholt wurden! Ob es z.B. wirklich persönliche Daten von Personen sind, die nicht im Web stehen – oder ob es sowas wie die gern genommene „Bombenbauanleitung“ ist.
    Und auch, welchen Aufwand es bedeutet, um zu ermessen, welche Relevanz das tatsächlich hat/haben könnte.
    Grad ruft mich der Garten – und morgen steht Sonntagsarbeit an (freiwillig!) – bin also erst Montag wieder „frei“ für allerlei Anderes. :-)

23. Wolfgang v. Sulecki Samstag, 13:14 (Zitatlink)

    Danke, Claudia,
    das hat die KI außerordentlich (schmeichelhaft &) präzise zusammengefaßt.
    Bleibt also zu hoffen, daß irgendwann die Staatsanwaltschaft ihre Aufgabe erfüllt und gegen die Kinderschänder entschlossen vorgeht nachdem 15 Jahre lang in den Institutionen nur Aktenberge hin-und-her geschoben wurden ….

24. Yossarian Samstag, 17:51 (Zitatlink)

    zum Thema Beispiel: Ein solcher reiner KI Hack ist mir bisher nicht bekannt, aber es kann durchaus sein, dass mein löchriges Hirn das schlichtweg nicht mehr ausspuckt, weil es praktisch meine tägliche Aufgabe ist mich mit Hacks und Datenabflüssen zu beschäftigen und es dabei in meiner Erinnerung in der Masse vielleicht untergeht. Aber egal!

    Es ist ja durchaus begrüßenswert wenn oder falls so etwas noch nicht passiert ist, denn die Auswirkungen können gravierend sein und ich beschäftige mich mit sowas lieber vorab als hinterher, wenn das Kind in den Brunnen gefallen ist.

    Daher hier mal ein Text zu dem Thema, wo die Problematik mit angerissen wird:

    Es gab noch einen weiteren Fall, der ebenfalls Wellen schlug (oder eben auch nicht): Beim Online-Mediziner Dr. Ansay konnten Patienten sich Cannabis-Rezepte ausstellen lassen. Die Verschreibung von Cannabis-Produkten über Ärzte ist sicherlich für bestimmte Patientengruppen ein Segen. Ob man aber unbedingt bei einem Internetversender ordern muss? Durch einen groben Fehler waren die georderten Rezepte als PDF-Dokumente öffentlich über deren Webseite abrufbar und wurden durch Suchmaschinen indexiert. Selbst als die Rezepte bereits gelöscht waren, ließen sich deren Metadaten noch über Wochen in Bing oder DuckDuckGo abrufen. Und damit komme ich schon zu einem Thema, was mich länger umtreibt: „Sorgen die KI-Assistenten bald dafür, dass solche Informationen demnächst im Internet abrufbar sind?“

    Quelle:
    https://www.borncity.com/blog/2024/06/02/bchse-der-pandora-die-gesundheitsdaten-ki-copilot-adobe-ai-und-der-patienten-datenschutz/

    „durch Suchmaschinen indexiert“ ist praktisch der klassische vor KI Supergau, denn Informationen dort wieder rauszukriegen ist bereits ein fast unmöglicher Akt. Aber stell dir nun vor, dass ein oder mehrere Crawler diverser KI Anbieter diese Rezepte als Trainingsmaterial in ihre neuronalen Netze einbringen, dann ist es tatsächlich denkbar, dass du so eine KI fragen kannst: Gibt es ein Cannabis Rezept für Person x? Und als Antwort bekommst du dann evtl. den Inhalt eines echten Rezeptes zu dieser Person.
    Und denk das vielleicht noch einen Schritt weiter: Seit diesem Jahr haben fast alle gesetzlich Versicherten in Deutschland eine elektronische Patientenakte, deren Inhalte explizit für Daten“auswertungen“ von Firmen verwendet werden sollen, natürlich Anony- und Pseudonymisiert, allerdings ist beides fraglich, denn es gibt aus der Vergangenheit genug Beispiele, dass beides schnell scheitert, wenn es zu viele Datenpunkte gibt.
    Und wenn diese Daten nun bei einer KI landen, dann landen sie dort auf einer Plattform, deren Stärke die Verbindung von Datenpunkten ist und du kannst sie auch nicht wieder entfernen, es sei denn du führst einen Reset des neuronalen Netzes auf einen Zeitpunkt vor der EInbringung dieser Daten durch.
    Nur: Glaubst du sowas macht ein KI Betreiber für Otto Müller aus Hintertupfingen, weil dessen Potenzprobleme dadurch dummerweise für die gesamte Welt über einfache KI Abfragen offengelegt werden?
    Klar, man kann versuchen das durch Preprompting einzufangen, aber sowas entspricht nicht einer klassischen Rechtesperre, sondern eher der Art einer Erschwernis, bleibt aber leider im Kern umgehbar, weil eben nicht deterministisch.
    Ganz am Anfang von ChatGPT war es übrigens ein kleines Katz und Maus Spiel zwischen Anwendern und den Betreibern das Preprompting auszutricksen und somit die vom Anbieter gewollten Vorgaben zu umgehen und das gelang auch mehrfach immer wieder. Ich weiß nicht wie der aktuelle Stand ist, aber vom Grundsatz her müsste das auch heute noch möglich sein, wenn auch wahrscheinlich mit einem deutlich höheren Aufwand verbunden.