Je mehr Menschen generativer KI zutrauen, desto weniger denken sie bei ihrer Arbeit kritisch mit. Zu diesem Ergebnis kam 2025 eine Befragung von 319 Wissensarbeiterinnen und Wissensarbeitern durch Microsoft Research und die Carnegie Mellon University. Wer dagegen seinen eigenen Fähigkeiten vertraut, prüft die Ergebnisse häufiger. Jannis Blüml, Doktorand am AI & Machine Learning Lab der TU Darmstadt, hat im Oktober in der F.A.Z. beschrieben, warum KI-Kompetenzen so wichtig sind. Im Interview mit dem KHMI erklärt er, warum wir KI so schnell glauben.
Gute Formulierungen wirken wie Fachwissen
Ein Grund liegt in der Gewöhnung. „Menschen, die KI viel verwenden und sehen, dass sie oft richtig liegt, trainieren sich selbst darin, das Prüfen zu lassen“, sagt Blüml. Dazu kommt, dass Prüfen Zeit und Wissen kostet. Gerade dort, wo das eigene Wissen nicht mehr reicht, ist die Versuchung am größten, KI einzusetzen.
Ein zweiter Grund liegt in der Sprache. Wer das passende Vokabular eines Fachgebiets verwendet, gilt meist als kompetent. „Während das in der Vergangenheit sicherlich ein Indiz für die Qualität des Autors war, trifft dieser Zusammenhang aus Inhalt und Form bei Sprachmodellen nicht mehr zu“, so Blüml. Für den Berufsalltag hat das Folgen. Ein Bericht, eine Analyse oder eine E-Mail, die ein Sprachmodell entworfen hat, liest sich oft fachkundiger, als ihr Inhalt es rechtfertigt.
Beim Schach zeigt die Partie den Fehler
Blüml hat in seiner Forschung auch mit Schach-KI gearbeitet. Dort gibt es feste Regeln und ein klares Ergebnis, und am Ende zeigt die Partie, ob ein Zug gut war. Sprachmodellen fehlt dieser Maßstab. Sie haben kein eindeutiges Ziel und lassen sich zudem von ihren Nutzern beeinflussen. Fragt man nach, ob sie sich sicher sind, ändert sich die Antwort oft grundlegend. Wie Blüml diesen Unterschied erklärt und welche Rolle Quellenangaben beim Prüfen spielen, steht im vollständigen Interview im KHMI-Magazin.
Vertrauen muss man aufbauen
Blüml warnt auch vor dem umgekehrten Fehler. „KI zu sehr und in jeder Situation zu vertrauen ist genauso falsch wie KI grundlegend abzulehnen.“ Das richtige Maß entstehe durch Ausprobieren und Auswerten: Wo funktioniert KI für die eigene Arbeit und wo nicht? Dieses Vertrauen solle von der jeweiligen Aufgabe abhängen und nicht davon, ob eine Empfehlung von einem Menschen oder einer Maschine kommt.
Was Weiterbildung daraus lernen sollte
Für das KHMI bestätigt das Gespräch eine Haltung, die es schon nach dem KI-Monitor 2026 der TU Darmstadt formuliert hat. Wer mit KI arbeitet, braucht vor allem die Fähigkeit, ihre Ergebnisse zu beurteilen. Diese Fähigkeit lässt sich lernen. Laut KI-Monitor hat bisher aber nur etwa jede oder jeder Siebte in Deutschland eine KI-Weiterbildung besucht. Die meisten bringen sich den Umgang selbst bei.
Blüml beschreibt einen Weg, der sich auch in Schulungen umsetzen lässt: das Prüfen dort üben, wo man selbst genug weiß, um Fehler zu erkennen. Wer erlebt hat, wie ein Sprachmodell im eigenen Fachgebiet danebenliegt, geht mit Antworten aus fremden Gebieten vorsichtiger um. Eine Schulung, die vor allem das Schreiben von Prompts vermittelt, deckt diesen Teil kaum ab. Blüml sagt es so: „KI zu erlernen heißt mehr als nur zu lernen, wie man richtig Prompts schreibt.“
Unternehmen sieht er ebenfalls in der Pflicht. Mitarbeitende müssten so geschult werden, dass klar ist, „wo und wie viel KI genutzt werden kann, darf und soll“. Das KHMI teilt diese Einschätzung. Wo solche Regeln fehlen, bleibt die Verantwortung für KI-Ergebnisse bei Einzelnen, die oft nicht wissen, wie sie diese Ergebnisse prüfen sollen.
Als ersten Selbstcheck vor dem Übernehmen einer KI-Antwort nennt Blüml eine einfache Frage: „Würde ich meinen Namen darunter setzen und könnte ich damit leben, wenn die Antwort falsch ist?“
Über Jannis Blüml
Jannis Blüml forscht an der TU Darmstadt in der Arbeitsgruppe von Prof. Kristian Kersting und am Hessischen Zentrum für Künstliche Intelligenz (hessian.AI). Er untersucht, inwieweit lernende KI-Systeme von den Informationen abhängen, die ihnen präsentiert werden, unter anderem an Spielen wie Schach und Atari.
KI-Kompetenz für die ganze Organisation
Mit dem Projekt System Training (ProSyT) unterstützt das KHMI Unternehmen dabei, KI-Kompetenz in der ganzen Organisation aufzubauen, von der Bedarfsanalyse bis zur passenden Schulung. Für Berufstätige bietet das KHMI Weiterbildungen, in denen sie lernen, KI im eigenen Arbeitsalltag einzusetzen und ihre Ergebnisse sicher einzuschätzen.
Qualifizierung für Unternehmen: https://www.khmi.de/p-s-t-projekt-system-training/
Alle Weiterbildungen: https://www.khmi.de/module-und-weiterbildungen-am-khmi/
Über das KHMI
Das Karlshochschule Management Institut (KHMI) ist ein An-Institut der Karlshochschule International University. Es bietet praxisorientierte KI-Weiterbildungen, die wissenschaftlich fundiert und zugleich unmittelbar anwendbar sind, für Menschen mit Berufserfahrung in Kreativberufen, Management und Technologie sowie für Unternehmen. Die Programme sind AZAV-zertifiziert und über einen Bildungsgutschein förderbar. Für abgeschlossene Module können im Rahmen der hochschulrechtlichen Vorgaben ECTS-Punkte vergeben und auf weiterführende Studiengänge angerechnet werden.
Quellen
Blüml, J. (2026, 7. Oktober). Warum KI-Kompetenzen so wichtig sind. Frankfurter Allgemeine Zeitung. https://www.faz.net/premium/digitalwirtschaft/ki-akademie/warum-ki-kompetenzen-so-wichtig-sind-201272548.html
Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking. CHI 2025. ACM. https://doi.org/10.1145/3706598.3713778
TU Darmstadt (2026). KI-Monitor 2026. https://www.is.tu-darmstadt.de/media/bwl5_is/institute/260817_KI-Monitor_final_2026.pdf
KHMI (2026). Würde ich meinen Namen darunter setzen? Wie man KI-Antworten prüft. Interview mit Jannis Blüml. https://www.khmi.de/2026/11/09/ki-antworten-pruefen-interview-jannis-blueml/