Was belegt ist
- Gespräche mit einem Sprachmodell, das auf die Belege einer Person eingeht, senkten in einem Experiment mit 2.190 Menschen den Glauben an Verschwörungserzählungen um etwa 20 %, mindestens zwei Monate lang. Die Zeitschrift Science veröffentlichte dazu im Juni 2026 einen redaktionellen Vorbehalt. Nach einem Bericht des Fachdienstes Retraction Watch ließen sich einzelne Werte aus dem veröffentlichten Datensatz schwer nachrechnen, und Auswahlkriterien waren uneinheitlich angewandt; eine Nachrechnung der Autoren bestätigt nach deren Angabe Richtung und Größe des Effekts, Science prüft weiter.
- Ein KI-System von Google DeepMind, das Meinungen einer Gruppe zu gemeinsamen Stellungnahmen verdichtet und nach Kritik überarbeitet, schrieb in begutachteten Experimenten der Entwickler Texte, die Teilnehmende als klarer und unparteiischer bewerteten als die menschlicher Moderatoren; die Gruppen näherten sich an.
- Eine Tutorversion von GPT-4 mit Lernschutz steigerte in einem Feldexperiment die Leistung beim Üben und verhinderte weitgehend den Lernschaden, den freier Zugang anrichtete.
- Faktenprüfer sichten mit KI mehr Material. Die Werkzeuge der britischen Organisation Full Fact nutzen nach eigenen Angaben über 40 Faktencheck-Organisationen in 30 Ländern.
Was dagegen spricht
- Ein Sprachmodell erkannte in einem Experiment 90 % der falschen Schlagzeilen, trotzdem halfen seine Faktenchecks den Lesern nicht, wahr und falsch zu unterscheiden; wo das Modell irrte, schadete es. Faktenchecks von Menschen halfen.
- Dieselbe Überzeugungskraft, die gegen Falschinformation hilft, taugt auch zur Manipulation. Personalisierte KI war in Debatten überzeugender als Menschen.
- Wissensarbeiter, die KI stark vertrauen, denken nach eigener Auskunft weniger kritisch, und Modelle neigen dazu, Nutzern recht zu geben.
Ideen für eine gute Nutzung
| Idee | Wie | Beleglage |
|---|---|---|
| Gegenposition verlangen | Das Modell ausdrücklich nach den stärksten Einwänden gegen die eigene Ansicht fragen, bevor man ihm zustimmt | indirekt: Modelle geben Nutzern sonst eher recht |
| Mit Belegen antworten | Im Gespräch auf die Gründe eingehen, die jemand für eine falsche Überzeugung anführt, und Fakten dagegenhalten | ein großes Experiment, unter redaktionellem Vorbehalt der Zeitschrift |
| Tutor mit Lernschutz | Lernhilfen so bauen, dass sie Hinweise geben und Rückfragen stellen und keine fertigen Lösungen liefern | randomisiertes Feldexperiment |
| Verständigung in Gruppen | Meinungen sammeln, Meinungsgruppen sichtbar machen und Aussagen mit breiter Zustimmung finden, etwa mit der offenen Software Polis | Experimente; Praxis in Taiwan, mit Polis seit 2015 |
| Texte zugänglich machen | Behördentexte in Leichte Sprache übertragen, Fotos für blinde Menschen beschreiben; Menschen prüfen das Ergebnis | im Einsatz; die Nutzungsangaben stammen von den Anbietern, eine unabhängige Prüfung der Qualität fand die Recherche nicht |
| Faktenprüfung unterstützen | Prüfbare Behauptungen aus Medien filtern und Wiederholungen bekannter Falschaussagen finden; das Urteil fällen Menschen | im Einsatz; KI-Faktenchecks allein halfen im Experiment nicht |
| Offene Modelle | Öffentliche Einrichtungen trainieren Modelle mit offengelegten Daten, Code und Gewichten, die sich nachprüfen lassen | erste Modelle, etwa Apertus aus der Schweiz |
Für Leichte Sprache gibt es eine gesetzliche Grundlage. Nach § 11 Behindertengleichstellungsgesetz des Bundes sollen Träger öffentlicher Gewalt mit Menschen mit geistigen und seelischen Behinderungen in einfacher und verständlicher Sprache kommunizieren und Informationen vermehrt in Leichter Sprache bereitstellen.
In allen Ideen bleibt das Urteil beim Menschen; die KI liefert Material, Gegengründe und Zugänge. Die Prüfkarte fasst zusammen, was vor dem Übernehmen einer Antwort zu klären ist.
Prüfkarte für eine KI-Antwort
Zum Abhaken, wenn eine Antwort wichtig ist. Die Fragen gelten für jedes Sprachmodell.
Quellen dieser Seite
Die Ziffern im Text öffnen die Quelle. Alle Quellen der Website
Liste der 17 Quellen anzeigen
- Vorlesung „Aufklärung“ mit Zitat aus Kant, Beantwortung der Frage: Was ist Aufklärung? (1784, A 481). Deutsche Sporthochschule Köln, Institut für Pädagogik und Philosophie.
- Durably reducing conspiracy beliefs through dialogues with AI, Science 385 (6714), eadq1814 (Datensatz Europe PMC). Costello, Pennycook, Rand, 13. September 2024.
- Editorial Expression of Concern (H. Holden Thorp), doi 10.1126/science.aej2383 (Datensatz Europe PMC). Science 392 (6803), S. 1131, 11. Juni 2026.
- Science flags paper that found AI chatbots help debunk conspiracy theories. Retraction Watch, 11. Juni 2026.
- AI can help humans find common ground in democratic deliberation, Science 386 (6719), eadq2852 (Datensatz Europe PMC). Tessler u. a., 18. Oktober 2024.
- Generative AI without guardrails can harm learning: Evidence from high school mathematics, PNAS 122 (26), e2422633122. Bastani u. a., 25. Juni 2025.
- Full Fact AI. Full Fact, 2026.
- Fact-checking information from large language models can decrease headline discernment, PNAS 121 (50) (Datensatz Europe PMC). DeVerna, Yan, Yang, Menczer, 4. Dezember 2024.
- On the conversational persuasiveness of GPT-4, Nature Human Behaviour 9 (8), S. 1645–1653. Salvi, Horta Ribeiro, Gallotti, West, 19. Mai 2025.
- The Impact of Generative AI on Critical Thinking, CHI ’25. Lee, Sarkar, Tankelevitch u. a. (Microsoft Research), April 2025.
- Towards Understanding Sycophancy in Language Models (arXiv 2310.13548). Sharma u. a., 10. Mai 2025.
- Case study vTaiwan. The Computational Democracy Project, 2026.
- Website summ.ai. SUMM AI GmbH, Oktober 2026.
- Announcing Be My AI. Be My Eyes, 25. September 2023.
- Apertus – Fully Open Foundation Model for Sovereign AI. Swiss AI Initiative, Oktober 2026.
- Behindertengleichstellungsgesetz (BGG), § 11 Verständlichkeit und Leichte Sprache. Oktober 2026.
- AI Hallucination Cases Database. Damien Charlotin, 19. Oktober 2026.