Der Automation Bias bezeichnet das Phänomen, dass Menschen den Vorschlägen und Entscheidungen von Maschinen mehr vertrauen als ihren eigenen. Ein Beispiel: Ein Schüler glaubt den Ergebnissen eines KI-Chatbots, obwohl sie seiner eigenen Recherche widersprechen. Das ist problematisch - denn KI-Tools liefern oft auch falsche Informationen.
Eine kürzlich erschienene Studie der Unternehmensberatung EY Externer Link: „AI Sentiment Index 2025“ ergab: Nur jede oder jeder Vierte in Deutschland überprüft die Ergebnisse von generativer KI. Und dass, trotz der üblichen Disclaimer bei großen Anbietern wie OpenAI und Google, die die mögliche Fehlerhaftigkeit von KI-Tools betonen.
Genau wie Schülerinnen und Schüler sollten Lehrkräfte ihren Automation Bias reflektieren und sich nicht blind auf KI-Tools verlassen.