Immer wenn in einem Großprojekt ein automatisiertes System spektakulär gegen die Wand fährt, steht der Schuldige in der Pressemitteilung schon nach fünf Minuten fest: „Ein Fehler im KI-Algorithmus.“ Schaut man jedoch als Informatiker ins Logfile, entdeckt man fast ausnahmslos menschliches Wunschdenken, das man ungeprüft in eine Maschine gekippt hat:
Warum Compiler keine Höflichkeitslügen kennen
Ein menschlicher Ausschuss kann jahrelang mit widersprüchlichen Zielen, unklaren Begriffen und geschönten Zahlen leben, weil man Logiklöcher im Konferenzraum einfach mit warmen Worten und Kompromissformeln überdeckt. Ein Compiler oder ein mathematisches Modell hingegen kennt keine Höflichkeitslüge: Wenn die Eingangsdaten korrupt sind oder die Anforderung sich im dritten Satz selbst widerspricht, skaliert die Maschine genau diesen Widerspruch mit Lichtgeschwindigkeit.
Nicht die Logik der Maschine versagt also, sondern die menschliche Disziplin beim präzisen Denken.
Nach so viel menschlicher Konferenz-Reibung tun glasklare, unverstellte Instinkte ohne Pflichtenheft richtig gut.
(2611171037)