Addy Osmani beschreibt, wo der Mensch im KI-Zeitalter wirklich gebraucht wird — und eine Wharton-Studie zeigt: Fast drei Viertel aller Nutzer akzeptieren KI-Output, selbst wenn er falsch ist. Und fühlen sich dabei auch noch sicherer.
Es gibt diesen Moment, in dem du einen KI-generierten Text liest und denkst: „Klingt gut." Und es ist falsch. Aber es klang so plausibel, dass du es trotzdem genommen hast.
Du bist nicht allein. Eine Wharton-Studie aus 2026 zeigt: 74 % der Nutzer akzeptierten falsche KI-Antworten — und fühlten sich dabei sogar sicherer als vorher. Das ist kein „die Leute sind zu gutgläubig"-Problem. Das ist ein strukturelles Problem.
Addy Osmani, Engineering-Lead bei Google, hat dafür ein eingängiges Modell: den inneren und den äußeren Loop.
Der innere Loop — Investigate, Implement, Verify — läuft komplett in der Maschine. Agenten analysieren, schreiben Code, testen. Das ist der Teil, den KI heute schon kann.
Der äußere Loop — Decide, Review, Approve, Be Accountable — ist menschlich. Hier geht es nicht um Geschwindigkeit, sondern um Urteil. „The verdict is mine", schreibt Osmani.
Cognitive Surrender. Du verlässt dich auf die KI, weil sie so überzeugend klingt. Nicht weil sie recht hat. Je besser die Modelle werden, desto gefährlicher wird das — weil die Fehler immer schwerer zu erkennen sind.
Cognitive Debt. Eine randomisierte Studie von Anthropic zeigt: Entwickler, die mit KI arbeiteten, erreichten in einem Verständnistest nur 50 % richtige Antworten. Die Vergleichsgruppe ohne KI: 67 %. 17 Prozentpunkte Unterschied. Du verstehst weniger, wenn die KI für dich denkt.
Orchestration Tax. Je mehr Agenten parallel laufen, desto mehr Koordinationsaufwand entsteht — aber deine kognitive Bandbreite skaliert nicht mit. Irgendwann bist du der Flaschenhals.
Der Engpass verschiebt sich. Früher war die Frage: „Können wir das bauen?" Heute ist die Frage: „Sollte das existieren — und können wir dafür geradestehen?"
Osmanis vier äußere Loops, die niemand delegieren kann:
1. Constraints Loop — Was darf rein, was nicht?
2. Sampling Loop — Wie viel Output prüfen wir wirklich?
3. Audit Loop — Welche Evidenz bleibt, wenn etwas schiefgeht?
4. Ownership Loop — Wer steht mit seinem Namen dafür gerade?
Der Satz, der hängen bleibt: „An agent can write it. But before it reaches users, someone must explain why it should exist, why it's safe enough to be part of production, and what they will do when it is wrong."
Das ist der Job. Nicht schneller tippen. Bessere Entscheidungen treffen.
Quelle: addyo.substack.com/p/own-the-outer-loop