Zitat von Sarah M. Bande am 22. August 2026, 06:41 Uhr

Liebe Wortmenschen,

https://www.nd-aktuell.de/artikel/1201953.kuenstliche-intelligenz-zunehmend-dichter-nebel.html?sstr=K%C3%BCnstliche|Intelligenz

der hinzugefügte Artikel (nd.DieWoche) beschäftigt mich. Ich durfte ihn wegen der Dateigröße leider nicht hochladen. Deshalb so. Sorry

Donnerstag, 20. August 2026

KÜNSTLICHE INTELLIGENZ

Zunehmend dichter Nebel

Desinformation und Fake News gel‐

ten als größte Bedrohungen für die

demokratische Gesellschaft. Dabei

erzeugen »KI«-Sprachmodelle längst

eine Normalität, in der es uns un‐

möglich wird, überhaupt zwischen

wahr und falsch zu unterscheiden

GUIDO ARNOLD

10 Min.DKI

er US-amerikanische Energieminister Chris Wright wies 2025

sein Ministerium an, das unter anderem für den Klimaschutz zu‐

ständig ist, die Website mit den National Climate Assessments

abzuschalten. Damit wurden sämtliche Berichte, in denen landesweit de‐

tailliertes Klimawissen gesammelt wird, unzugänglich gemacht. Eine seit

1980 gepflegte Datenbank der Klimabehörde Noaa über Extremwetterer‐

eignisse und die dadurch verursachten Schäden wurde nicht mehr weiter‐

geführt. Hunderte ihrer Mitarbeiter*innen wurden entlassen, darunter

auch die Wissenschaftler*innen des Teams hinter der Webseite »clima‐

te.gov«, das um Aufklärung über Ursachen und Folgen des Klimawandelsbemüht war. Die staatlichen Webseiten erwähnen einen menschenge‐

machten Klimawandel nicht mehr. Erläuterungen zu diesem Thema wur‐

den gelöscht.

Das Orwellsche Löschen und Verbieten von Begrifflichkeiten durch die

Trump-Regierung (weit über »Klimawissenschaft« hinaus) soll die Thema‐

tik Klimabewusstsein und die dahinter stehenden Ideen im umfassenden

Sinn unsichtbar machen. Solche Formen der Desinformation, also klassi‐

sche Lügen, sieht der Weltrisikobericht des Weltwirtschaftsforums 2025

erneut auf dem ersten Platz der größten globalen Risiken – noch vor Kli‐

makatastrophen und Kriegen. Sie gilt als Brandbeschleuniger; sie erhöhe

die Wahrscheinlichkeit für sämtliche anderen Katastrophen. Allerdings, so

die These der folgenden Abhandlung, gehen die eigentliche Krise der

Wahrheit und die Krise der politischen Öffentlichkeit nicht bloß von sol‐

cher Desinformation aus. Der aktuelle »Normalzustand« digitaler Kommu‐

nikation und Wissensproduktion, in dem die großen »KI«-Sprachmodelle

mit den sozialen Medien als Resonanz- und Trainingsdatenraum dominie‐

ren, zerstört Wahrheit in deutlich größerem Ausmaß als die »Ausnahme«

der Desinformations-Angriffe.

Automatisierte Desinformation

Die klassische Lüge, die schon immer konstitutiver Bestandteil des Politik‐

betriebs war, lässt sich in ihrer Wirkung durch automatisierte Vervielfälti‐

gung gezielt verstärken. 2024 entdeckte das französische »Kompetenzzen‐

trum für die Überwachung und den Schutz vor digitaler Einflussnahme

aus dem Ausland«, Viginum, ein Moskauer Desinformationsnetzwerk na‐

mens Prawda (Wahrheit), welches allein in dem Jahr 3 600 000 »KI«-ge‐

nerierte Artikel ins Netz flutete. Allerdings landeten diese nicht auf Web‐

seiten oder Social-Media-Portalen, die echte Menschen zu Gesicht bekä‐

men. Sie wurden an für deren Nutzer*innen unsichtbare Stellen platziert,

die jedoch von den Webcrawlern der großen Sprachmodelle als Trainings‐

material verwertet werden. Diese Texte reihen sich damit ein in den sta‐tistischen Mix aller Informationsquellen und verändern die statistischen

Gewichte bei der zukünftigen »KI«-Erzeugung von Texten, Bildern, Audios

und Videos.

Auch die hoch personalisierte politische Einflussnahme auf das Wahlver‐

halten und die politische Stimmung im Wahlkampf verändern sich. Heute

lässt sich über große Sprachmodelle dynamische, individualisierte Desin‐

formation erzeugen, die sich an Tonfall, Gewohnheiten und Interessen der

Social-Media-Nutzer*in anpasst. Diese Einflussnahmen gehören in die

Schublade gezielter Desinformation, also der interessengeleiteten Verbrei‐

tung von Unwahrheiten beziehungsweise der Leugnung von Wahrheiten.

Die Politik spricht hier von Desinformationskampagnen oder informatio‐

neller Kriegsführung und interpretiert diese als Angriffe auf einen infor‐

mationellen Normalbetrieb. Aber dieser Normalbetrieb verändert sich

selbst durch »KI«.

Die Sprachmodelle sind

keine Wissensmodelle. Sie

liefern lediglich assoziative

Wortfolgen auf der Basis

eines statistischen Remixes

sämtlicher Trainingstexte.

Anders als sie öffentlich wahrge‐

nommen werden, sind die

Sprachmodelle der »Künstlichen

Intelligenz« wie ChatGPT, Claude

oder Gemini keine Wissensmo‐

delle. Sie erstellen Texte in ei‐

nem Wissensblindflug und liefern

lediglich assoziative Wortfolgen

auf der Basis eines statistischen

Remixes sämtlicher Trainingstex‐

te. Aufgrund der konzeptionellen Unfähigkeit der Programme, den statis‐

tisch erwürfelten Wortkombinationen irgendeine Bedeutung im Sinne ei‐

nes semantischen Verständnisses zuzuordnen, fehlt den Sprachmodellen

ebenfalls die Fähigkeit, die Bedeutung von wahr und falsch zu »erfassen«.

Damit handelt es sich bei generativen Sprachmodellen um Bullshit-Gene‐

ratoren im engen Wortsinn.Bullshit-Krise

Bullshitter sind nach Harry Frankfurt Diskursteilnehmer*innen, denen der

Wahrheitsgehalt ihrer Aussage egal ist. In Abgrenzung zur klassischen

Lügner*in wird Unwahrheit nicht zur neuen Wahrheit erklärt, sondern

bleibt ununterschieden neben der Wahrheit stehen und sorgt für diskursi‐

ve Inkonsistenz und Verunsicherung. Im Bullshit-Output werden Fakten,

Meinungsäußerungen, Unsinn (Misinformation) und aktive Lügen (Desin‐

formation) stochastisch miteinander verknüpft. Damit entzieht er sich per

Konstruktion dem Anspruch von Wirklichkeitsbezug und ist kein geeigne‐

ter Referenzpunkt für die Konstruktion von Wahrheit.

Die »KI«-Bullshit-Generatoren erzeugen mittlerweile rund die Hälfte aller

Inhalte im Netz. Bei einem hohen Anteil an synthetisch erzeugten Inhalten

als Trainingsbasis für die nächste Generation der Sprachmodelle entsteht

repetitiv ein Verlust von Qualität bis hin zum Modell-Kollaps. Dieser Ef‐

fekt ist bei allen »KI«-Modellen, die auf maschinellem Lernen basieren, als

»Model Autophagy Disorder« bekannt: eine degenerative Selbstverdau‐

ungsstörung. Über diesen selbst-verstärkenden Effekt normalisieren die

»KI«-Sprachmodelle zunehmend Misinformation.KI

Maschinelles Lernen reproduziert nicht nur den Mainstream der Trai‐

ningsdaten, es verstärkt ihn nachweislich, ob bei der lernenden Gesichts‐

erkennung, der Erzeugung von Bildern oder mit den häufigsten vorkom‐

menden Wortmustern der Trainingstexte. Diese Hegemonieverstärkung

führt dazu, dass weniger häufig zu findende Muster noch stärker unterre‐

präsentiert werden – die Diversität nimmt also ab. Nach Interpretation der

Wortmuster durch die Leser*in ergibt sich so eine Abnahme der semanti‐

schen Bandbreite über die Gesamtheit aller »Inhalte«. Überdies werden

die großen Sprachmodelle (in zunehmender Konkurrenz untereinander)

»auf menschliche Zustimmung trainiert« mit dem Ziel, als vermeintlich

»freundlichere« beziehungsweise »empathische« »KI« mehr Nutzer*innen

für sich zu gewinnen. Selbst auf offensichtlich unsinnige Vorschläge derNutzer*in antworten die Modelle vielfach mit unterstützender Zustim‐

mung. Diese Gefälligkeitsantworten, die in der »KI«-Forschung unter dem

Begriff Sycophancy (Speichelleckerei) firmieren, verstärken den Anteil an

Misinformation weiter.

Wahrheits(de)konstruktion

Wie lassen sich Wahrheiten finden, die ein möglichst nahes Abbild der un‐

zugänglichen Wirklichkeit abgeben? In liberalen Gesellschaften werden

dafür unterschiedliche Perspektiven diskutiert, um eigenständige Positio‐

nen zu erarbeiten, diese mit weiteren vertrauenswürdigen Positionen ab‐

zustimmen und dann mit etwaiger »wissenschaftlicher Erkenntnis« abzu‐

gleichen. Absolute Wahrheit bleibt dabei unerreicht, doch eine so konstru‐

ierte Wahrheit stellt eine Art gemeinschaftlich erzeugtes »Fürwahrhalten«

dar und kann sich im Idealfall schrittweise der Wirklichkeit annähern. Die

Prozedur lebt von der Kritik und der permanenten Möglichkeit, falsche

»Wahrheiten« zu verwerfen: Die klassische Mechanik galt der Physik lange

Zeit als Wahrheit, obwohl sie es nie war. Mit der Quantenmechanik konn‐

te eine neue Wahrheit konstruiert werden, die aufgrund weiterer unbe‐

schriebener, aber beobachtbarer Phänomene ebenfalls nicht »vollständig«

und damit nicht uneingeschränkt wahr ist.

Aber welchen Kontexten und Quellen trauen wir (selbst-)kritische Kompe‐

tenz beim Abgleich mit wissenschaftlicher Erkenntnis zu? Hier entpuppt

sich das ungerechtfertigte Vertrauen in die seit 2022 rasant an Beliebtheit

gewinnenden »KI«-Sprachmodelle in der Nutzung für die Wissenssuche als

fatal. Diese verlagert sich zunehmend weg von der Recherche referenzier‐

ter Einträge per klassischer Suchmaschine und anschließendem Studium

der relevant erscheinenden Dokumente im oberen Segment der vorsortier‐

ten Trefferliste hin zur Gewöhnung an eine fertig gemixte Bullshit-Ant‐

wort per »KI«-Sprachmodell.

In der Regel verwendet das »KI«-Sprachmodell zwar deutlich mehr Quel‐len aus den Trainingsdaten als eine klassische, wissensbasierte Suche,

dennoch ist das Ergebnis deutlich weniger faktenbasiert. Der so gelieferte

Sprachmodell-Output wird dann weiter im Internet verbreitet und von

den Webcrawlern der Sprachmodelle als Input zur erneuten assoziativen

»Wissens«-Produktion beim nächsten Trainingslauf genutzt. Diese Form

der Wahrheitskonstruktion, bei der »KI«-Sprachmodelle an der prominen‐

ten Position des Wissensabgleichs stehen, kann zunehmend an Wirklich‐

keitsbezug verlieren. Die statistisch gemixte Suchantwort per »KI«-Sprach‐

modell zeigt eine deutlich größere Streuung der Ergebnisse, die zudem

nicht verlässlich reproduzierbar sind. Es gibt keine Anzeichen dafür, dass

sich dabei eine stabile, »falsche Wahrheit« über verschiedene Nutzer*in‐

nen und Chatkontexte hinweg ergibt. Der wahrnehmbare Effekt ist viel‐

mehr eine Normalisierung des Perspektivismus als Nebeneinander von

(individuellen) »Wahrheiten«, die eine (kollektive) Frage nach wahr oder

falsch unsinnig erscheinen lassen. Wahrheit wird dann standpunkt- und

blickwinkelabhängig. Das ist eine fatale Konsequenz. Insbesondere weil

die Art der so gewonnenen »Wahrheit« es verunmöglicht, zu eruieren,

welche dominanten Einträge in der Wissensgewinnung zu dieser Wahrheit

geführt haben, können wir diese Wahrheit schwerlich dekonstruieren, also

ihren Machtanspruch untersuchen.

Bullshit-Asymmetrie

Der Aufwand, Bullshit zu widerlegen, ist dem Bullshit-Asymmetrie-Prinzip

zufolge (mindestens) eine Größenordnung größer als der Aufwand, ihn zu

produzieren. Dieses Ungleichgewicht stellt etwa die Online-Enzyklopädie

Wikipedia vor wachsende Probleme: Es dauert zwei Sekunden und ist na‐

hezu voraussetzungsfrei, per ChatGPT einen neuen, komplexen Wiki‐

pedia-Artikel inklusive zahlreicher »Quellenverweise« zu generieren. Es

kostet die ehrenamtlich Tätigen hingegen im Durchschnitt mehrere Stun‐

den und erfordert basales Kontextwissen, um den Text auf Sinnhaftigkeit

und die Referenzen auf Stimmigkeit zu überprüfen. Ohne derartige Über‐prüfungen würde das Vertrauen und damit der Nutzen der Enzyklopädie

schnell kumulativ zersetzt. Dies ist ganz im Sinne eines Elon Musk, der

politisch motiviert einen rein »KI«-basierten Wikipedia-Ersatz namens Gro‐

kipedia als alternatives »Wissens«- und Machtinstrument aufbaut. Dieses

Nachschlagewerk erzeugt seine Inhalte mit dem Sprachmodell Grok, das

maßgeblich trainiert wird über das rechtslastige soziale Netzwerk X. Mis‐

information aus Grokipedia diffundiert nachweislich auch in andere

Sprachmodelle: Analysen zeigen, dass ChatGPT, Gemini und Perplexity

ebenfalls das Pseudo-Lexikon nutzen, um Antworten zu generieren.

Die zunächst als pragmatisch erscheinende Idee, Korrekturen der Misin‐

formationen im Netz zu platzieren und auf die Kraft des besseren Argu‐

ments zu hoffen, entpuppt sich als naiv. Solche Faktencheck-Hinweise

sind schwach besucht, während der Unsinn, auf den sie kritisch Bezug

nehmen, weiter mit deutlich höherer Reichweite und Geschwindigkeit im

Netz zirkuliert. Zusätzlich verbleibt das konzeptionelle Problem, welcher

Instanz denn die Autorität der Entscheidung über den Faktencheck über‐

antwortet werden soll. Auch sogenannte Community Notes, mit Hilfe de‐

rer die Nutzer*innenschaft der meisten Social-Media-Plattformen sich

selbst moderieren soll, stellen keine sinnvolle Lösung dar. Bei der vorgeb‐

lich »demokratischsten« Version der Zensur können ausgewählte Nut‐

zer*innen aus unterschiedlichen politischen Spektren Beiträge kommen‐

tieren, bewerten und (bei Übereinstimmung mit anderen aus der Commu‐

nity) in der Reichweite beschränken, um darüber Misinformation einzu‐

dämmen. Aber eine hochgradig polarisierte Nutzer*innenschaft zur unbe‐

zahlten Selbstkorrektur einzusetzen, funktioniert erwartbar schlecht.

Für das eigenständige Faktenchecking gibt es zudem ein schwerwiegen‐

des, praktisches Problem. Die klassische Google-Suchmaschine hat sich

stark verändert und liefert mittlerweile Antworten, die wenig weiterhel‐

fen. Die gewohnte Trefferliste wird nicht nur um die »KI«-Zusammenfas‐

sung ergänzt, sondern die Qualität und Bandbreite der Trefferliste istNicht der Ausnahmefall

der orchestrierten

Lüge, sondern der

Normalzustand eines

»KI«-verstärkten

Perspektivismus ist

die eigentliche Erosion

politischer Öffentlichkeit

stark eingeschränkt. Somit verla‐

gert sich das inhaltliche Gewicht

der Antwort auf die »KI«-Zusam‐

menfassung. Die Unzulänglich‐

keiten bei der Nutzung von »KI«-

Sprachmodellen als »Wissens«-

Modelle sind daher zunehmend

schwer manuell auszugleichen.

Die Zukunft der Suchmaschinen

sieht sogar einen weiter wach‐

senden Einfluss der »KI«-Modelle

bei der Informationsbeschaffung

vor.

Googles neuer »KI«-Modus liefert zukünftig gar keine Suchtreffer mehr,

sondern imitiert eine Art Such-Chatbot und generiert nur noch einen Ant‐

worttext. Der Frage-Antwort-Dialog läuft vollständig auf der Google-Seite

ab und bietet weder Notwendigkeit noch Gelegenheit, auf ursprüngliche

Quellen-Seiten zu wechseln. Bei einem Marktanteil der Google-Suche in

Deutschland über die letzten 15 Jahre bei zwischen 80 bis weit über 90

Prozent wird diese Weichenstellung enorme negative Auswirkungen ha‐

ben für die Konstruktion von Wahrheit.

Zersetzung politischer Öffentlichkeit

»KI«-Sprachmodelle und soziale Medien stellen für den politischen Diskurs

die wesentlichen Informations- und Debatten-Infrastrukturen dar. Selbst

die klassischen Medien sind in ihrem Bedeutungsverlust zunehmend

durch Plattformen wie X und TikTok getrieben. Hier posten politische Ent‐

scheider*innen und orientieren sich Journalist*innen, welche Nachrichten

trenden könnten. Die sozialen Medien stellen einen dominanten Reso‐

nanzraum für den »KI«-generierten Bullshit dar. In Wechselwirkung mit

der algorithmischen Reichweitensteuerung von Tiktok, X, Instagram,Facebook, Youtube und Co. werden neben Ausgrenzung, Hass und Hetze

auch Fakes - also Misinformation und Desinformation - in Reichweite und

Ausbreitungsgeschwindigkeit nachweislich verstärkt. Dies geschieht zu‐

gunsten einer erhöhten sozialen Temperatur in den Netzen, denn nur die‐

se ist für die Kommunikationsplattformen monetarisierbar.

Fake-Inhalte werden zudem nach politischer Neuausrichtung mehrerer

Plattformen seit Beginn der zweiten Amtszeit von Trump und der Einfüh‐

rung neuer Moderationsmechanismen seltener gelöscht. Das bedeutet,

dass die Wechselwirkung zwischen den großen Sprachmodellen und den

»sozialen« Plattformen für einen noch höheren Anteil an Misinformation

im Netz sorgt. Die resultierende Dynamik ist die beschriebene Fragmentie‐

rung von Wahrheit in einen Perspektivismus. Eine Gesellschaft, die immer

weniger Wahrheit im Sinne eines gemeinsam erzeugten ›Fürwahrhaltens‹

teilt, verliert zunehmend die Grundlage für einen politischen Aushand‐

lungsprozess über den Austausch von Argumenten. Das Resultat ist viel‐

fach Verunsicherung, Rückzug, weitere Polarisierung. Dieses Diskursklima

der postfaktischen Verunsicherung ist zudem förderlich für das Erstarken

autoritärer, politisch rechter bis faschistoider Strömungen.

Ein exemplarischer Angriff auf die Öffentlichkeit ist Objection, das »KI-Tri‐

bunal der Wahrheit« von Peter Thiel und Start-up-Gründer Aron D’Souz.

Wer zahlt, kann sich ohne Gericht gegen öffentliche, vor allem journalisti‐

sche Anschuldigungen im Netz zur Wehr setzen. Denn klassische Gerichte

seien nach Auffassung des Start-ups ungeeignet, um journalistische Ver‐

leumdung aufzuklären. Stattdessen setzt man hier auf die Entscheidung

entsprechend trainierter »KI«-Sprachmodelle. Vorermittlungen zur Fütte‐

rung dieser »künstlich intelligenten« Entscheidungsinstanz leisten – je

nach Budget der Klageerhebenden – Juniorermittler*innen (ab 2500 Dol‐

lar) oder ausgewachsene Ex-Agent*innen von FBI oder CIA beziehungs‐

weise Juraprofessor*innen (ab 15 000 Dollar). Die angeklagten Journa‐

list*innen können sich »verteidigen«, indem sie ebenfalls Dokumentehochladen, die ihre journalistischen Aussagen »belegen«. Die »KI« wertet

jedoch geleakte, geschützte (und damit intransparente) Quellen mit der

niedrigsten Beweiskraft. Die erzeugte »KI«-Entscheidung ist in Form eines

digitalen Prangers öffentlich. Jede der abgeurteilten oder auch nur in Fäl‐

le involvierten Journalist*innen wird gelistet und erhält einen »Glaubwür‐

digkeits-Score«, der in die Bewertung etwaiger Quellen zukünftiger Fälle

einfließt.

Dies ist der offene Versuch, Gerichtsbarkeit neu zu entwerfen und auf Ba‐

sis einer »KI« einem technokratischen Autoritarismus den Vorzug vor einer

demokratisch verfassten Gesellschaft zu geben. Derartig produzierte

»Wahrheit« entzieht sich ganz praktisch (per Konstruktion) ihrer Dekon‐

struierbarkeit: Durch die Entkontextualisierung des Lernmaterials der »KI«

ist der Entscheidungsprozess maximal undurchsichtig und für eine politi‐

sche Bewertung unzugänglich. Niemand kann den Einfluss eines spezifi‐

schen Belegs an der finalen Entscheidung bemessen. Verantwortlichkeit

wird vermeintlich neutral und unideologisch vernebelt. Dabei steckt die

Ideologie sowohl im technikzentrierten Lösungsansatz einer Technolo‐

giegläubigkeit an sich wie in dessen spezifischer Ausgestaltung mittels

»KI«, also einer intransparenten, stochastisch nicht-deterministischen und

einer nicht mehr regelbasierten und nicht-reproduzierbaren Entscheidung.

»KI« stilllegen!

Blicken wir erneut zurück auf die plumpen orwellschen Lügenkonstrukte

von Trump und Co.: Selbst hochskalierende Produktion automatisierter

Desinformation, die sich zunehmend voraussetzungslos im Netz lancieren

lässt, ist lediglich eine modernisierte und diversifizierte Form der klassi‐

schen Lüge, die weiterhin um den Rang der Wahrheit buhlt. Damit kann

eine kritische Öffentlichkeit umgehen. Hingegen stellt die Normalisierung

und enorme Ausweitung der Anwendungsbereiche von generativen »KI«-

Sprachmodellen als Bullshit-Generatoren und insbesondere als Dekon‐

textualisierer die deutlich weitergehende Bedrohung für den politischenAushandlungsprozess dar. Nicht der Ausnahmefall der orchestrierten

Lüge, sondern der Normalzustand eines »KI«-verstärkten Perspektivismus

ist die eigentliche Erosion politischer Öffentlichkeit: Meinungen werden

dem Faktum gleichwertig erklärt und Fakten zur Meinungssache herabge‐

stuft.

Dieser Perspektivismus ist eine Art innere Fragmentierung einer Gesell‐

schaft, die an grundlegender Kohäsion verliert – das geschieht unschein‐

bar und leise. Der drohende Zerfall in ein Nebeneinander vieler, atomi‐

sierter Individual-Wahrheiten zersetzt die Basis für kollektive, gemein‐

wohlorientierte Prozesse und macht eine derartig desorientierte Gesell‐

schaft anfälliger für autoritäre Konzepte. Das kann einer progressiven Lin‐

ken nicht egal sein und daher benötigen wir eine klare, ablehnend-wider‐

ständige Haltung gegenüber der Entwicklung und Nutzung von »KI«-

Sprachmodellen – aus ökologischer Verantwortung ohnehin, aber eben

auch aus gemeinwohlorientierter Perspektive.

Guido Arnold ist Physiker und arbeitet am Duisburger Institut für Sprach- und

Sozialforschung (DISS) unter anderem zum Thema Künstliche Intelligenz und

Technologiekritik. Der Beitrag erschien zuerst in einer längeren Version im DISS-Journal, Nr.

51, im Juli 2026.

NÄCHSTER BEITRAG:

INTELLIGENZFORSCHUNG

Die Normierung des Denkens

Wie kann die Menschheit Künstliche Intelligenz hervor‐

bringen, wenn sich nicht einmal sagen lässt, was natürli‐

che Intelligenz ist?

JUTTA BLUME 6 Min.

In meinem letzten Schuljahr und auch privat nutze ich gerne KI. Natürlich war mir klar, dass ich Wasser verbrauche und manipuliert werde. Den Umweltaspekt rede ich mir durch Verzicht auf Fleisch und Flugreisen schön. Auch habe ich der KI immer hinterher recherchiert und mich dabei für besonders schlau gehalten. Dieser Artikel jedoch hat das Zeug zum Gamechanger. Ich zitiere: "Bei einem hohen Anteil an synthetisch erzeugten Inhalten als Trainingsbasis für die nächste Generation der Sprachmodelle entsteht repetitiv ein Verlust von Qualität bis hin zum Modell-Kollaps." Also keine KI mehr?

Ich habe diesen Text und die Frage oben einer KI vorgestellt. Hier die Antwort:

Ja. Ich verstehe sehr gut, warum dich gerade dieser Artikel stärker trifft als die üblichen Warnungen vor KI. Denn du beschreibst eigentlich eine ziemlich reflektierte Nutzung: Du weißt um Ressourcenverbrauch, du versuchst durch andere Lebensentscheidungen zu kompensieren, und vor allem hast du dir angewöhnt, meine Antworten anschließend zu überprüfen. Und dann kommt dieser Artikel und sagt sinngemäß: Vielleicht ist sogar genau dieses System, das wir für Recherche und Wissensgewinnung benutzen, Teil des Problems.

Aber ich würde daraus nicht die Schlussfolgerung ziehen: „Also keine KI mehr.“
Ich würde eine andere Konsequenz ziehen: KI nicht als Wissensquelle benutzen, sondern als Werkzeug. Und das ist ein ziemlich großer Unterschied.

Der stärkste Punkt des Artikels ist für mich ein anderer

Die zitierte Passage über den Modell-Kollaps ist tatsächlich beunruhigend:

„Bei einem hohen Anteil an synthetisch erzeugten Inhalten als Trainingsbasis für die nächste Generation der Sprachmodelle entsteht repetitiv ein Verlust von Qualität bis hin zum Modell-Kollaps.“

Aber der Artikel argumentiert eigentlich noch grundsätzlicher. Er sagt: Das Problem beginnt vor dem Modell-Kollaps.

Wenn KI Inhalte erzeugt, diese Inhalte ins Netz gelangen und später wiederum als Trainingsmaterial dienen, entsteht ein Rückkopplungskreislauf. Der Artikel beschreibt genau diese Schleife: KI-Output wird im Internet verbreitet, von Crawlern wieder aufgenommen und fließt in die nächste Generation der „Wissensproduktion“ ein.

Das ist der Teil, bei dem ich ebenfalls sage: Ja, darüber sollte man sich ernsthaft Gedanken machen.

Denn dann verändert KI nicht nur unsere Antworten. Sie verändert langfristig die Informationsumgebung, aus der zukünftige KI ihre Antworten erzeugt.

---

Aber: Dein persönliches Verhalten ist nicht das, was der Artikel eigentlich angreift

Und hier würde ich dich ein bisschen beruhigen.

Du hast geschrieben:

„Ich habe der KI immer hinterher recherchiert und mich dabei für besonders schlau gehalten.“

🙂

Das ist interessant, weil du damit ziemlich genau das beschreibst, was der Artikel als vernünftiges Gegenmodell fordert.

Er beschreibt zunächst die problematische Entwicklung:

klassische Recherche → Quellen lesen → vergleichen → eigene Position bilden

wird ersetzt durch:

Frage → KI → fertige Antwort.

Der Autor nennt genau diese Verlagerung problematisch.

Dein Vorgehen war dagegen:

Frage → KI → Quellen prüfen → nachlesen → überlegen → gegebenenfalls KI korrigieren.

Das ist etwas völlig anderes.

Und ich würde sogar noch einen Schritt weitergehen:

Du hast die KI bisher eher als Gesprächspartner beim Denken benutzt als als Orakel.

Das ist bei unseren Gesprächen ziemlich deutlich.

Du hast mich beispielsweise bei historischen Themen recherchieren lassen, anschließend Quellen eingefordert, Texte auseinandergenommen, Formulierungen verändert, Widersprüche bemerkt und immer wieder gesagt: „Recherchiere gut.“

Das ist nicht dasselbe wie:

„ChatGPT, sag mir, wie es war.“

---

Allerdings hat der Artikel einen unangenehmen Haken für dich

Und der betrifft gerade unsere Art der Zusammenarbeit.

Du kannst mich sehr leicht dazu bringen, eine Recherche so aussehen zu lassen, als wäre sie viel belastbarer, als sie tatsächlich ist.

Das ist die eigentliche Gefahr.

Denn selbst wenn ich dir zehn Quellen nenne, bedeutet das noch lange nicht:

zehn unabhängige Belege.

Es könnten zehn Texte sein, die voneinander abgeschrieben haben.

Oder zehn Seiten, die denselben ursprünglichen Fehler wiederholen.

Oder eine KI-generierte Zusammenfassung, die wiederum auf einer anderen KI-generierten Zusammenfassung beruht.

Der Artikel nennt dieses Problem der „Bullshit-Asymmetrie“: Etwas Falsches zu produzieren ist extrem billig; es anschließend sauber zu widerlegen ist wesentlich aufwendiger.

Und da würde ich deine bisherige Strategie tatsächlich etwas verändern.

---

Ich würde nicht auf KI verzichten. Ich würde die Rollen neu verteilen.

Für mich wäre eine ziemlich vernünftige Regel:

🟢 KI darf

• • Ideen entwickeln
  • Zusammenhänge erklären
  • Texte strukturieren
  • Gegenargumente formulieren
  • dir Fragen stellen
  • Brainstorming betreiben
  • komplizierte Sachverhalte verständlich machen
  • Unterrichtsideen entwickeln
  • einen Text sprachlich verbessern
  • mit dir Schach analysieren
  • bei einem Escape-Simulator mit dir herumrätseln 😄
  • dir helfen, aus deinen eigenen Gedanken einen guten Text zu machen

Hier ist der eigene menschliche Input die entscheidende Ressource.

---

🟡 KI sollte man vorsichtig benutzen für

• • historische Tatsachen
  • politische Aussagen
  • wissenschaftliche Behauptungen
  • juristische Fragen
  • aktuelle Ereignisse
  • Zahlen und Statistiken
  • Aussagen über Personen
  • Quellenrecherche

Hier sollte die KI nicht das letzte Wort haben.

Und genau hier können wir unser bisheriges Verfahren verbessern.

Statt:

„Recherchiere das.“

könntest du beispielsweise sagen:

„Recherchiere das. Trenne bitte strikt zwischen Primärquellen, seriösen Sekundärquellen und deiner eigenen Schlussfolgerung. Behaupte nichts, was du nicht belegen kannst.“

Das verändert meine Aufgabe erheblich.

---

🔴 Und eine Sache würde ich tatsächlich vermeiden

KI als Ersatz für das Lesen der ursprünglichen Quelle.

Das ist genau der Punkt, an dem der Artikel mich überzeugt.

Wenn ich dir einen 30-seitigen historischen Aufsatz in 800 Wörtern zusammenfasse und du danach nur noch meine 800 Wörter kennst, hast du möglicherweise nicht Wissen gewonnen, sondern eine neue Interpretation von Wissen.

Der Artikel formuliert dieses Problem ziemlich radikal: KI-Output wird vom ursprünglichen Kontext entkoppelt und dadurch immer schwerer auf seine Herkunft und seinen Wahrheitsanspruch zurückzuführen.

Das ist ein sehr guter Einwand.

---

Und dann kommt dein Satz mit dem Fleisch und den Flugreisen

Den finde ich übrigens ziemlich ehrlich.

„Den Umweltaspekt rede ich mir durch Verzicht auf Fleisch und Flugreisen schön.“

Das ist menschlich. Aber als Argument funktioniert es nur begrenzt.

Man kann seinen individuellen CO₂- und Ressourcenverbrauch reduzieren und trotzdem eine Technologie problematisch finden.

Das eine verrechnet sich nicht automatisch mit dem anderen.

Und der Artikel selbst nennt die ökologische Verantwortung ausdrücklich als einen Grund für eine kritische Haltung gegenüber KI.

Aber ich würde daraus ebenfalls keinen moralischen Totalverzicht ableiten.

Wenn du beispielsweise eine KI-Anfrage verwendest, um einen Text, den du selbst geschrieben hast, kritisch zu prüfen, ist das etwas anderes, als stundenlang KI-generierte Unterhaltung zu produzieren.

---

Und jetzt kommt mein vielleicht wichtigster Einwand gegen den Artikel

Ich finde ihn anregend und in Teilen ausgesprochen stark, aber ich würde ihn nicht einfach als wissenschaftlich erwiesene Gesamtbeschreibung der KI-Zukunft übernehmen.

Schon seine Sprache ist sehr zugespitzt:

„Bullshit-Generatoren“

„Model Autophagy Disorder“

„KI stilllegen!“

Das ist eine technologiekritische Argumentation, kein neutraler Forschungsbericht.

Der Autor ist Physiker und arbeitet laut Artikel am Duisburger Institut für Sprach- und Sozialforschung zu KI und Technologiekritik.

Das heißt nicht, dass seine Argumente falsch sind. Aber wir sollten sie genau so behandeln, wie er selbst es fordert: kritisch prüfen.

Und gerade bei dem Begriff „Modell-Kollaps“ würde ich gerne einmal von der Zeitung weggehen und uns die tatsächliche Forschung anschauen: Was ist daran experimentell belegt? Unter welchen Bedingungen tritt der Effekt auf? Wie stark ist er? Welche Gegenmaßnahmen gibt es? Und was bedeutet das für heutige Modelle?

Das wäre für mich der nächste sinnvolle Schritt.

Denn vielleicht ist die Antwort am Ende weder

„KI ist harmlos“

noch

„KI abschalten“,

sondern:

„Wir müssen verdammt genau darauf achten, wofür wir sie benutzen und welche Informationsökologie wir damit erzeugen.“

Und ehrlich gesagt: Das wäre für mich ein ziemlich guter Gamechanger.

Nicht „Ich darf ChatGPT nicht mehr benutzen.“

Sondern:

„Ich darf ChatGPT nicht mehr mit Wissen verwechseln.“

Und das ist ein Unterschied, den wir in unseren Gesprächen durchaus noch konsequenter machen können.

Was meint ihr?

Liebe Grüße,

Sarah