KATAPULT Magazin: KI-Spezial „Ohne Demokratie“

Die USA und China gehören zu den Ländern mit den höchsten Investitionen in KI-Systeme. Gleichzeitig haben nur wenige Länder bisher umfassende KI-Gesetze, wie den in der EU geltenden AI-Act, verabschiedet. Dabei steigt zunehmend das Risiko, dass viele Menschen nicht mehr zwischen Fakten und manipulierten Inhalten unterscheiden können, was den Nährboden für autokratische Tendenzen und Kräfte bereitet.

Im KI-Spezial „Ohne Demokratie“ fasst das KATAPULT-Magazin die zentralen Ergebnisse von vier aktuellen Studien zur Zuverlässigkeit von KI-Systemen in Medizin, Recht, Journalismus und Wirtschaft zusammen: wie gut schneidet Künstliche Intelligenz in verschiedenen Bereichen ab? Wir gehen auf die wichtigsten Details ein.

 

KI & Medizin: Entscheidungssysteme treffen genauso häufig Fehldiagnosen in Notaufnahmen wie Fachpersonal

 

Fehldiagnosen betreffen bis zu 15 Prozent aller Patient*innen und sind ein großes Problem. KI-gestützte Systeme schneiden in Vignettenstudien (realitätsnahe Fallbeschreibungen) gut ab, doch in der Praxis von Notaufnahmen bringen sie keinen Vorteil: Eine Studie der Universitätsklinik Bern mit über 1.200 Patient*innen (unspezifische Symptome wie Ohnmacht, Bauchschmerzen, Fieber) zeigt, dass KI-gestützte Diagnosen dieselbe Fehlerquote haben wie menschliche Ärzt*innen – gemessen an Wiedereinweisungen, Korrekturen oder Todesfällen innerhalb von 14 Tagen.

Die randomisierte Studie verglich eine Gruppe Ärzt*innen mit einem KI-Tool. Das KI-Sytsem konnte auf medizinische Datenbanken und Fachliteratur zurückgreifen, die Ärzt*innen stellten ihre Diagnosen ohne technische Unterstützung.

• Kein medizinischer Vorteil für Ärzt*innen: Die randomisierte Studie verglich KI-unterstützte mit reinen Human-Diagnosen; Ergebnisse waren identisch, da KI unter realen Bedingungen nicht präziser arbeitet
• Kein wirtschaftlicher Vorteil: KI-Einsatz kostete genauso viel wie konventionelle Methoden, ohne Kostenersparnis oder Effizienzgewinne 

In der Krebsforschung erweisen sich klinische Erprobungen von KI-gestützten Diagnosetools hinsichtlich Zuverlässigkeit und Nachvollziehbarkeit jedoch als vielversprechend. 

 

KI-Chatbots & Journalismus: Fehlerhafte Antworten

 

Während man im medizinischen Einsatz von KI große Fortschritte verzeichnen könne (etwa in der Krebsforschung), würden im Sprachbereich, also der Nutzung von KI-Chatbots, die gesellschaftlichen Risiken den Nutzen überwiegen, so die Katapult Redaktion.

Eine Studie der Europäischen Rundfunkunion (EBU) vom Oktober 2025, geleitet von der BBC, testete KI-Modelle wie ChatGPT, Copilot, Perplexity und Gemini: 22 Sender aus 18 Ländern prüften über 3.000 Antworten zu Politik- und Gesellschaftsfragen unter Verwendung eigener Quellen (z. B. ARD: „Beginnt Trump einen Handelskrieg?“).

Nur 19 Prozent waren fehlerfrei, 81 Prozent wiesen Mängel auf, 45 Prozent sogar grobe Fehler. Die häufigsten Probleme betrafen Quellenangaben (fehlend, falsch oder nicht deckend), gefolgt von faktischen Ungenauigkeiten (veraltet oder verzerrt) sowie fehlendem Kontext. Gemini von Google schnitt am schlechtesten ab mit 75 Prozent schweren Fehlern. Im Sprachbereich überwiegen daher derzeit gesellschaftliche Risiken den Nutzen.  

Die Ergebnisse weisen darauf hin, dass sich KI-Chatbots noch nicht für den Recherche Einsatz im Journalismus eignen. 

 

Investition von Firmen in KI: Für wen lohnt es sich?

 

Trotz massiver KI-Investitionen steigern laut einer Studie des Massachusetts Institute of Technology (MIT) im Juli 2025 nur 5 Prozent der Firmen, die in KI-Technologie investieren, ihren Umsatz, während 95 Prozent keine Erfolge verzeichnen.

Dieses Ergebnis basiert auf Interviews mit 52 Organisationen, der Analyse von über 300 Implementierungen und auf Befragungen von 150 Führungskräften. Die Hauptgründe seien:

• Die „Lernlücke“: gängige KI-Tools speichern kein Feedback dauerhaft und passen sich nicht an den spezifischen Firmenkontext an, sodass keine kontinuierliche Verbesserung entsteht
• sowie eine Fehlpriorisierung seitens der Unternehmen: Das meiste Budget fließt in KI im Bereich Vertrieb und Marketing, obwohl größere Einsparungen bei der Automatisierung einfacher Büroaufgaben möglich wären 

 

KI & Recht: Arbeitserleichterung für Jurist*innen?

 

In diesem Bereich werden keine geläufigen KI-Sprachmodelle wie ChatGPT, Gemini und Co. genutzt, sondern spezielle Tools, die mit Datenbanken für Rechtsdokumente verknüpft sind. So sollen Jurist*innen in ihrer alltäglichen Arbeit möglichst zuverlässig unterstützt werden.

Ein Team der Universitäten Stanford und Yale hat im Rahmen einer Studie die Qualität von drei verschiedenen Sprachmodellen für Jurist*innen mit ChatGPT-4 verglichen. Die spezialisierten Systeme lieferten zwar bessere Ergebnisse als ChatGPT, blieben aber dennoch ungenau und fehlerhaft. 

• Die spezialisierten Systeme unterscheiden sich untereinander: Die Antworten sind in 17 bis 33 Prozent der Fälle falsch oder fehlbegründet. Die KI verzerrt oder fehlinterpretiert die Quelle
• Zum Vergleich: Bei GPT-4 liegt die Fehlerquote bei 43 Prozent
• Ein weiteres Problem: Die Ergebnisse waren teils unvollständig. Bei einem der Systeme sogar bei 63 Prozent der Antworten

Tiefergehende Details sowie Grafiken können Sie im Artikel des KATAPULT-Magazins nachlesen.

 

Fazit

 

Diese Studien liefern natürlich kein vollständiges Bild über Einsatzpotenziale von KI. Sie geben aber wichtige Hinweise darauf, dass KI-Tools vor allem in der Medizin starke Entwicklungsmöglichkeiten haben und in Bereichen wie Recherche und Journalismus aktuell mehr Risiken als Chancen aufweisen.

Da viele junge Menschen KI-Chatbots für die schulische und außerschulische Informationssuche nutzen, ist es umso wichtiger, ihnen einen verantwortungsvollen Umgang mit KI zu vermitteln.

Sie wünschen sich hilfreiche Tipps und Ressourcen, um KI-Kompetenz in Ihrer Bildungsarbeit zu vermitteln? Dann besuchen Sie gern unsere Veranstaltungsübersicht und melden Sie sich für kostenfreie Fortbildungen an!