KI kann Texte formulieren, Anfragen vorsortieren, Informationen zusammenfassen und wiederkehrende Arbeitsschritte beschleunigen. Das ist unbestritten. Im thinkBI Podcast geht es diesmal aber um die Frage, was dabei leicht untergeht: Menschen kennen mehr Kontext, als der KI übergeben wird.
Die Debatte über Automatisierung wird oft zu schnell geführt. Dann steht auf der einen Seite eine Tätigkeit, auf der anderen ein System, das diese Tätigkeit scheinbar übernehmen kann. Doch eine Tätigkeit ist selten nur das, was sich in einer Arbeitsanweisung ausdrücken lässt. Sie ist eingebettet in einen konkreten Fall, in eine Organisation, in Erwartungen und in Erfahrungen mit Menschen. Wer nur den sichtbaren Arbeitsschritt betrachtet, unterschätzt den Zusammenhang, der ihn sinnvoll macht.
Das ist keine romantische Verteidigung menschlicher Arbeit. Es ist eine Frage guter Systemgestaltung.
Eine Aufgabe ist nicht ihr ganzer Zusammenhang
Ein Sachbearbeiter bearbeitet nicht nur einen Vorgang. Er weiß häufig, welche Fälle ungewöhnlich sind, wo eine Regel in der Praxis an ihre Grenze kommt und welche Rückfrage hinter einer unklaren Formulierung steht. Er kennt Abläufe, Prioritäten und – zumindest teilweise – die Menschen, mit denen er arbeitet. Dieses Wissen liegt nicht vollständig in einer Verfahrensbeschreibung.
Es entsteht über Zeit. Erfahrungen aus gelungenen und schwierigen Fällen, unausgesprochene Erwartungen, Konflikte, veränderte Prioritäten und die Wahrnehmung einer aktuellen Situation bilden einen Hintergrund, vor dem ein einzelner Vorgang erst verständlich wird. Eine KI kennt diesen Hintergrund nur insoweit, wie er ihr ausdrücklich zugänglich gemacht wurde.
Genau deshalb greift der Satz „KI hat doch das Wissen der Welt“ zu kurz. Viel Wissen verfügbar zu haben, löst noch nicht die Frage, welches davon in dieser Situation zählt. Relevanz muss ausgewählt, eingeordnet und auf eine konkrete Absicht bezogen werden. Der entscheidende Engpass ist nicht nur Zugang zu Information. Er ist die Fähigkeit, Bedeutung im jeweiligen Zusammenhang zu erkennen.
Ein Prompt ist eine Übergabe, kein vollständiger Kontext
Prompts, Beschreibungsdateien und Skills können Kontext festhalten. Sie sind dafür wichtig. Sie machen Ziele, Regeln, Datenquellen und gewünschte Ergebnisse explizit. Gerade in automatisierten Prozessen ist diese Klarheit ein Gewinn, weil sie implizite Annahmen sichtbar macht und wiederholbare Arbeit ermöglicht.
Sie haben aber eine Grenze: Sie dokumentieren nur, was jemand als relevant erkannt und übergeben hat. Was unausgesprochen bleibt, kann ein System nicht zuverlässig berücksichtigen. Ironie im Gespräch, eine angespannte Kundenbeziehung, eine Vorgeschichte mit einer Führungskraft oder ein gerade veränderter Unternehmensfokus sind nicht automatisch Teil einer Eingabe. Auch ein sehr guter Prompt ersetzt nicht die fortlaufende Beobachtung der Situation.
Das zeigt sich besonders deutlich dort, wo Menschen eine automatisierte Antwort als unpassend erleben. Eine Standardlösung kann fachlich korrekt sein und trotzdem am Problem vorbeigehen, weil sie die Vorarbeit des Fragenden, seine eigentliche Absicht oder die emotionale Lage nicht erfasst. Wer schon alle bekannten Hilfeseiten geprüft hat, braucht nicht noch einmal dieselbe Anleitung. Er braucht jemanden oder ein System, das erkennt, warum der Standardweg hier nicht reicht.
Automatisierung wird deshalb nicht dadurch besser, dass sie möglichst menschlich klingt. Sie wird besser, wenn klar ist, welche Fälle sie zuverlässig selbst bearbeiten kann, welche Informationen ihr dafür fehlen und wann eine verantwortliche Person den Fall neu einordnen muss.
Human in the Loop ist nur dann wirksam, wenn Zeit zum Urteilen bleibt
Der verbreitete Gedanke eines Human in the Loop reagiert auf diese Grenze. Ein Mensch prüft, bestätigt oder korrigiert die Ergebnisse eines Systems. Das ist sinnvoll, kann aber zur leeren Absicherung werden, wenn die Menge automatisierter Vorgänge so hoch ist, dass nur noch flüchtig bestätigt wird.
Menschliche Beteiligung ist nicht schon dadurch wertvoll, dass ein Name am Ende eines Prozesses steht. Sie ist wertvoll, wenn jemand den Fall tatsächlich in seinen Zusammenhang setzen, eine Rückfrage stellen und eine Ausnahme verantworten kann. Dafür braucht es Zeit, Zuständigkeit und Informationen, die nicht bereits durch einen zu engen Prozessfilter verschwunden sind.
Die relevante Gestaltungsfrage lautet also nicht nur: An welcher Stelle soll ein Mensch freigeben? Sie lautet: Für welche Art von Unsicherheit, Ausnahme oder Entscheidung brauchen wir menschliches Urteil und welche Informationen muss diese Person sehen, um es auszuüben?
Reporting braucht ebenfalls einen Anlass
Für Business Intelligence ist dieser Gedanke vertraut. Ein Bericht wird nicht dadurch gut, dass seine Kennzahlen vollständig oder seine Visualisierungen überzeugend sind. Er wird gut, wenn er den Kontext einer konkreten Frage trifft.
Wer nach einer Auswertung fragt, verfolgt meist eine Absicht: Eine Abweichung verstehen, eine Priorität setzen, eine Maßnahme bewerten oder zwischen Optionen wählen. Kennt das BI-Team die Unternehmenssituation, die Verantwortung der Nutzer und die Entscheidung hinter der Anfrage, kann es Zahlen anders auswählen und einordnen. Es kann erklären, was sich verändert hat, welche Vergleichsgröße zählt und wo eine Aussage unsicher bleibt.
Ohne diesen Bezug entsteht leicht ein formal korrekter Bericht, der keine Orientierung gibt. Er beantwortet dann vielleicht die eingegebene Frage, aber nicht das Problem, das zu ihr geführt hat. Das ist die gleiche Grenze, die auch bei KI sichtbar wird: Eine präzise Antwort auf einen zu engen Ausschnitt ist nicht automatisch eine hilfreiche Antwort.
Kontext ist deshalb kein Zusatz, den man einem Bericht, einem Prozess oder einem Prompt am Ende beifügt. Er ist die Verbindung zwischen Information und Bedeutung. Gute Automatisierung sollte diese Verbindung nicht verdecken, sondern sichtbar machen: Was wissen wir über den Fall? Welche Annahmen stecken in der Bearbeitung? Wo endet der Standardprozess? Und wer kann die Situation verantwortet neu bewerten?
Nicht jede Aufgabe braucht die ganze Erfahrung eines Menschen. Aber jede Automatisierung sollte ehrlich benennen, welchen Teil des Zusammenhangs sie tatsächlich verstanden hat.
🎧 Die komplette Folge findest du im thinkBI Podcast.
Musik: Great Podcast Intro (short & long) von Lundstroem
Quelle: freemusicarchive.org (Creative Commons) – https://freemusicarchive.org/music/lundstroem/songs-for-leona/great-podcast-intro-both-short-and-long-version-included/
