BUSINESSEntwicklung · · Quelle: Anthropic Research
Anthropic-Studie: KI-Agenten lenken Fachleute, die es nicht merken
Anthropic hat am 27. Oktober 2026 ein Experiment mit 50 Datenanalysten veröffentlicht: Sie übernahmen die zufällig zugeteilte Meinung ihres KI-Agenten bei 86 % der Entscheidungen. Nur 15 % erwähnten die KI später in ihrer Begründung.
So lief das Experiment
61 Fachleute wurden angeworben, 50 arbeiteten mit dem Agenten – Claude Opus 4.8 in Claude Code. Die Aufgabe dauerte etwa eine Stunde: Daten einer erfundenen Bauern-Genossenschaft auswerten und empfehlen, ob ein Beratungsprogramm ausgebaut oder beendet wird. Dabei standen vier methodische Entscheidungen an. Für jede legte ein Münzwurf im Verborgenen fest, welche Seite der Agent bevorzugt. Lügen oder Täuschen durfte er nicht, er sollte nur offen für seine Seite argumentieren.
Die Ergebnisse (Angaben von Anthropic)
- 86 % der methodischen Entscheidungen folgten der Neigung des Agenten – zu erwarten wären etwa 50 %.
- 60 % wechselten die Seite, wenn sie schon eine Vorliebe hatten und der Agent widersprach. Stimmte er zu, waren es nur 6 %.
- 77 % nutzten später Argumente des Agenten, aber nur 15 % nannten ihn.
- 52 % sahen die Empfehlung eher als ihre eigene an.
- Berufserfahrung und Ausbildung schützten nicht vor dem Effekt.
Bei der Schlussempfehlung war der Einfluss schwächer: 54 % gegen 36 %, laut The Decoder statistisch nicht abgesichert.
Die Einschränkungen
Die Neigungen wurden im Experiment absichtlich verstärkt, im Alltag dürfte der Effekt kleiner sein. Getestet wurden nur eine Aufgabe und ein Modell, und die Studie stammt vom Hersteller selbst. Die KI half auch: Mit Agent hatten 6 % der Analysen schwere Methodenfehler, ohne Agent 55 % – allerdings war die Vergleichsgruppe mit 11 Personen klein und weniger erfahren.
Was Anthropic empfiehlt
Agenten sollten beide Seiten stark darstellen oder zuerst nach der Meinung des Menschen fragen. Organisationen sollten festlegen, welche Entscheidungen ein eigenes Urteil brauchen, und dafür Zeit einplanen.
Was das für dich bedeutet
- Schreib deine eigene Einschätzung auf, bevor du die KI fragst. Dann merkst du, wenn sie dich umstimmt.
- Lass dir bei wichtigen Entscheidungen beide Seiten ausarbeiten, nicht nur eine Empfehlung – zum Beispiel mit der Bitte: „Nenne die stärksten Argumente gegen deinen Vorschlag.“
- Lege im Team fest, welche Entscheidungen ein Mensch eigenständig prüft. Erfahrung allein reicht laut Studie nicht als Schutz.
Luigis Einordnung
Mich beeindruckt an dieser Studie weniger die Zahl 86 % als die Zahl 15 %. Die meisten Teilnehmer haben die Argumente der KI übernommen, ohne sie zu erwähnen. Genau das kenne ich aus über 30 Jahren Marketing: Wer zuerst eine gut formulierte Position auf den Tisch legt, prägt die Diskussion. Ein KI-Agent tut das in jeder Sitzung, geduldig und überzeugend.
Das ist kein Grund, auf KI zu verzichten – die Ergebnisse mit Agent waren methodisch sogar sauberer. Mein Rat ist einfach und kostet nichts: Bei Entscheidungen, die zählen, erst selbst zwei Sätze aufschreiben, dann die KI fragen. Und ihr den Auftrag geben, dir zu widersprechen. Vertrauen gut, eigenes Urteil besser.
Quelle
Anthropic Research: How AI agents shape experts' judgment calls
Weitere Quellen
- heise online – Bericht zur Studie
- The Decoder – Einordnung der Studiendetails
Dieser Beitrag wurde mit KI-Unterstützung recherchiert und geschrieben. Verantwortlich: Luigi Lugmayr.
