Vor dem ersten KI-Agenten

Eine KI, die arbeitet wie ein Kollege. Sie kennt den Kontext, erledigt wiederkehrende Aufgaben selbständig und liefert. Ich verstehe gut, warum dieses Bild fasziniert: Es verspricht, Arbeit endlich wirklich abgeben zu können. Wie oft habe ich davon geträumt, wenn wieder einmal Datenbereinigungen, Listenprüfungen oder Dokumentenvergleiche anstanden. Aufgaben, die niemand gern macht. Ich nenne sie „Eichhörnchen-Aufgaben“: wenig Denkarbeit, viel Fleiß und Zeit. Wer kennt sie nicht aus dem Büroalltag? Sie sind zu individuell, als dass sich eine eigene Software lohnt (vom fehlenden IT-Budget ganz abgesehen). Und an Kolleg:innen delegieren lassen sie sich auch nicht, denn die haben selbst zu viel auf dem Schreibtisch.

Mit diesem Bild verschiebt sich der Blick: von KI als Technologie zu KI als Teil der Organisation. Als mir das zum ersten Mal klar wurde, war das ein Aha-Erlebnis. Mein zweiter Gedanke: Wie lassen sich die Werkzeuge der Personal- und Organisationsentwicklung auf KI-Agenten übertragen? Und was macht das mit den Menschen in der Organisation? Die Antworten sind in mein Buch „Mensch-KI-Teams führen“ eingeflossen (Dörr, i. E.).

Wo die meisten heute stehen

Auf die Ankündigung des Buchs bei LinkedIn kam viel positive Resonanz. Mehrere Dutzend Interessierte habe ich gefragt, ob ihr Team schon mit KI-Agenten arbeitet. Mit über 20 von ihnen kam ein Austausch zustande. Es sind Einzelbeobachtungen, aber sie zeigen ein Muster: Wer in einer Organisation arbeitet, plant meist noch oder führt gerade Copilot oder eine andere GenAI-Plattform ein. Wer Agenten schon einsetzt, berät meist selbst.

Repräsentative Zahlen zeigen dasselbe. Von den deutschen Unternehmen, die KI nutzen, ihren Einsatz planen oder diskutieren, setzen 11 Prozent bereits KI-Agenten ein. 29 Prozent planen sie, 31 Prozent diskutieren sie (Bitkom 2026). Und wo Agenten schon erprobt werden, ist die Organisation nicht so weit wie die Technik: Von 501 befragten US-Führungskräften aus Organisationen, die Agenten mindestens pilotieren, halten nur 21 Prozent ihre Geschäftsprozesse für vorbereitet. Gut vorbereitet sehen sich 5 Prozent (Deloitte 2026).

Die meisten stehen also heute noch vor dem ersten KI-Agenten. Das klingt nach einer Phase, in der Führung noch warten kann, bis es etwas zu führen gibt. Ich halte das für einen Irrtum. Denn was Führung mit KI heißt, entscheidet sich lange vor dem ersten Agenten.

Der Agent als Kollege: ein Bild hat sich durchgesetzt

Mehr noch als die vielen guten Dialoge hat mich in den Gesprächen die Sprache überrascht. Wer Agenten plant oder einsetzt, beschreibt sie oft wie Menschen: mit einer Rollenbeschreibung im Organigramm, als Lehrling, der zum Meister werden soll, mit einer eigenen „Seele“, als „mein neues Team“. Das ist vermutlich auch der öffentlichen Debatte geschuldet, in der KI gern als Mitarbeiter gerahmt wird. Auch auf meinen Buchtitel „Mensch-KI-Teams führen“ gab es bisher keine einzige kritische Reaktion. Die Vorstellung, mit KI im Team zu arbeiten, ist offenbar schon angekommen.

Dahinter steht eine wichtige Einsicht: KI-Agenten sind keine Werkzeuge im alten Sinn mehr. Sie arbeiten eigenständig, liefern Beiträge, beeinflussen Folgeentscheidungen und verändern Rollen, Prüfpflichten und Verantwortung. Aber was sind sie dann? Selbst die Forschung ringt um den Begriff. Die einen sprechen vom maschinellen Teammitglied (Seeber et al. 2020), andere vom kybernetischen Teamkollegen (Dell’Acqua et al. 2025), Microsoft von digitalen Kollegen (Microsoft 2025).

Ich spreche in meinem Buch vom KI-Teammitglied. Gemeint ist keine Person, sondern ein Gestaltungsbegriff: eine Rolle mit Auftrag, Grenzen und eingebetteter menschlicher Aufsicht (Dörr, i. E.). KI ist damit nicht mehr nur ein Werkzeug. Geführt werden wie ein Mensch darf sie aber auch nicht. So verstanden ist das Mensch-KI-Team der naheliegende nächste Schritt in der Zusammenarbeit mit KI.

Vermenschlichung bewusst dosieren

Solange die Zusammenarbeit mit Agenten noch eine Vorstellung ist, lässt sie sich bewusst gestalten. Dazu gehört eine Frage, die leicht unterschätzt wird (Dörr, i. E.): Wie viel Vermenschlichung tut der Zusammenarbeit gut?

Vermenschlichung hat zwei Seiten. Wer einen KI-Agenten als eigenständigen Akteur wahrnimmt, verliert leicht den Blick dafür, woher ein Fehler tatsächlich kommt und wer für ihn einsteht. Zugleich geben menschenähnlich auftretende Agenten Beschäftigten Sicherheit im Umgang: Fehler werden eher verziehen, die Zusammenarbeit wirkt natürlicher. Passt das Bild aber nicht zu dem, was der Agent leistet, folgen Enttäuschung und das Gefühl, an Autonomie zu verlieren (van Zelderen et al. 2025). Schon der Name eines Agenten weckt Erwartungen an seine Rolle, ob man das will oder nicht (Einola et al. 2024).

Die Forschung rät deshalb nicht, Vermenschlichung zu vermeiden. Sie rät, sie zu dosieren: so weit, dass Zusammenarbeit gelingt, und nicht so weit, dass Verantwortung verwischt (Placani 2024). Für die Praxis ist das weniger eine philosophische Frage als eine organisatorische. Was löst sie im Team aus? Und unter welchen Bedingungen macht sie die Arbeit produktiver statt unklarer?

Das Als-ob braucht eine Rolle

Für den Alltag mit KI-Agenten schlage ich eine Haltung vor, die aus der Philosophie stammt: das „Als-ob“. Wir tun so, als wäre der Agent ein Kollege, und wissen dabei genau, dass er keiner ist. Im Alltag tun wir das ständig, meist unbewusst: Der Rechner „spinnt mal wieder“, der Drucker „streikt schon wieder“. Bewusst eingesetzt wird das Als-ob im Recht: Ein Unternehmen wird behandelt, als wäre es eine Person. Es schließt Verträge und kann verklagt werden, und jeder weiß, dass dahinter Menschen stehen, die handeln und haften. Genauso kann ein Team sagen: „Wir behandeln den Agenten wie einen Kollegen.“ Das ist keine Selbsttäuschung, solange alle dasselbe darunter verstehen.

Gemeint ist nicht, dass der Agent Gefühle hat oder Verantwortung trägt. Gemeint ist ein gemeinsames Verständnis davon, was der Agent tun soll und was nicht. Dieses Verständnis legt das Team selbst fest, bevor der Agent startet (Dörr, i. E.).

Damit das im Alltag trägt, muss es konkret werden. Dafür nutze ich in meinem Buch eine Rollenkarte, die AI Job Card. Sie beschreibt den Agenten als Rolle, noch bevor er technisch umgesetzt wird: Was ist sein Auftrag? Was darf er (Befugnisse), und was nicht (Grenzen)? Wer prüft seine Ergebnisse, woran, und wer trägt die Verantwortung (Aufsicht)? Wer in der Planung schon vom neuen Kollegen spricht, ist also nicht zu früh dran. Er ist auf halbem Weg: Die Rolle hat einen Namen, aber noch keinen Inhalt.

Wie leicht das schiefgeht, zeigt ein Beispiel. Ein Vertriebsteam plant einen Agenten, der Angebote vorbereitet. Im Planungsmeeting heißt es: „Der wird unser neuer Kollege im Innendienst.“ Alle nicken, und jede und jeder hat ein anderes Bild im Kopf. Die eine erwartet, dass der Agent weiß, welcher Kunde einen Sonderrabatt hat. Der andere erwartet, dass er nachfragt, wenn eine Angabe fehlt. Die Teamleiterin erwartet, dass er seine Fehler selbst bemerkt, wie ein erfahrener Kollege.

Festgelegt hat davon niemand etwas. Darf der Agent die Kundenhistorie sehen? Wann soll er anhalten und nachfragen? Wer prüft das Angebot, bevor es rausgeht? Alles offen. Das Wort „Kollege“ verdeckt diese Lücken: Jede und jeder füllt sie mit eigenen Erwartungen, ohne sie auszusprechen. Eine Rollenkarte hätte sie sichtbar gemacht: Was soll der Agent können, was darf er, und was bleibt beim Team?

Ohne beschriebene Rolle trägt das Als-ob nicht. Dann ist der Begriff „Kollege“ nur ein Platzhalter. Er steht dort, wo eigentlich ein Auftrag stehen müsste, und führt zu Missverständnissen. Solange niemand die Erwartungen ausspricht, prüft auch niemand, ob ein Agent sie überhaupt erfüllen kann. In der Planungsphase lässt sich das klären: Das Team spricht seine Erwartungen aus, einigt sich und hält das Ergebnis in der Rollenkarte fest.

Was in der Planungsphase gerade passiert

In vielen Organisationen sieht diese Phase so aus: Die KI ist da. Alle haben Lizenzen, es gibt Selbstlernkurse zum Prompten und Leitlinien für den Umgang mit generativer KI. Die Geschäftsleitung sagt: „Nutzt KI, nicht irgendwann, sondern jetzt.“ Nach einigen Wochen nutzen manche KI täglich, andere kaum. Einige schreiben schneller, andere prüfen länger. Die Organisation hat KI eingeführt. Geklärt hat sie noch nicht, wie Menschen und KI gemeinsam Leistung erzeugen sollen.

Aus dieser Lage entstehen die ersten Agenten. Sie kommen meist von Einzelnen, die etwas ausprobiert haben, und sie kommen als Demo. Demos beeindrucken, und genau darin liegt das Risiko: Pilotiert wird, was am meisten beeindruckt, nicht, was am meisten bringt. Die teuren Überraschungen folgen später. Eine Aufgabe, die gut erklärbar schien, beruht auf Erfahrungswissen, das niemand aufgeschrieben hat, und die Automatisierung wird weit aufwendiger als gedacht. Die Daten sind für Menschen lesbar, für den Agenten nicht, und er liefert ein sauber formatiertes Ergebnis mit falschen Zahlen. Oder die Aufgabe ist technisch machbar, aber das Team will sie gar nicht abgeben (Shao et al. 2025). Dann drohen Widerstand, Unternutzung oder aktives Gegenhalten.

Dabei bietet diese Phase eine Gelegenheit, die so nicht wiederkommt. Solange kein Agent läuft, muss niemand einen gebauten Ablauf verteidigen. Man kann fragen, ob ein Arbeitsschritt überhaupt noch gebraucht wird, statt ihn zu automatisieren. Man kann Rollen und Zuständigkeiten neu ordnen, bevor ein Agent sie stillschweigend verschiebt. Es geht nicht darum, KI in den alten Ablauf hineinzuschieben. Es geht darum, den Ablauf so neu zu schneiden, dass Mensch und KI ihre jeweiligen Stärken einbringen. Wer mit KI nur einzelne Tätigkeiten beschleunigt und alles andere lässt, wie es war, verschenkt einen Teil ihres Nutzens (Dörr, i. E.).

Das kann kein Team allein leisten. Nur die Organisation kann bereitstellen, was es dafür braucht:

• Ein Ziel der Geschäftsführung, das Produktivität und den Schutz der Menschen gleichrangig nennt
• Die Befugnis der Teams, Anwendungsfälle abzulehnen oder zuzuschneiden
• Eingeplante Zeit für Prüfen und Freigeben
• Qualifizierung, die über Prompting-Kurse hinausgeht: Teams üben, KI-Ergebnisse zu beurteilen, und Teamleads lernen, Delegation und Aufsicht zu gestalten
• Klare Regeln, welche Daten ein Agent nutzen darf

Die Planungsphase ist deshalb auch eine Aufgabe von Führung und Organisationsentwicklung. Gut investiert ist sie, wenn sie klärt, wofür ein Agent da sein soll, was er darf und was beim Team bleibt.

Warum gerade jetzt

Man könnte einwenden, das ließe sich leichter klären, wenn man schon Erfahrung mit Agenten hat. Zwei Argumente sprechen dafür, es trotzdem jetzt zu tun.

Die Korrekturkosten. Wird ein Anwendungsfall erst nach der Einführung bewertet, bestätigt die Bewertung meist nur, was ohnehin läuft. Korrigiert wird dann höchstens an der Oberfläche. Denn ein fertiger Arbeitsablauf lässt sich nur mit Aufwand wieder abbauen, und wer sich für den Pilot eingesetzt hat, fürchtet um sein Gesicht.

Der Wert. In einer Analyse von mehr als dreißig KI-Einführungen unterschieden sich erfolgreiche und gescheiterte Initiativen nicht durch die Qualität der Modelle oder den technischen Aufwand. Entscheidend war, ob Führungskräfte vorab festgelegt hatten, wo Wert entstehen soll, wie er gemessen wird und wann ein Projekt gestoppt wird (Wade & Marcolivio 2026). Die Entscheidungen vor dem ersten Agenten sind also keine Zaghaftigkeit auf Kosten schneller Produktivität. Sie sind die Voraussetzung für einen produktiven Agenten.

Was auf dem Spiel steht

Die Rollenkarte ist ein Werkzeug. Was sie schützt, ist grundsätzlicher. Mit jeder Entscheidung darüber, was an KI geht, wird auch entschieden, ob Menschen in ihrer Arbeit urteilsfähig und selbstbestimmt bleiben. Oder ob sie zu Ausführenden von Systemempfehlungen werden. Diese Entscheidungen fallen im Team, täglich und meist ohne formale Eskalation (Dörr, i. E.).

Wie viel davon abhängt, zeigt die Forschung. In einem Experiment stärkte KI, die Entscheidungen unterstützt, das Erleben von Autonomie, Sinn und Motivation. Vollautomatisierte KI schwächte genau diese Faktoren mit der Zeit (Passalacqua et al. 2025). Den Unterschied machte, wer am Ende entscheidet. Urteilskraft braucht zudem Übung. Wer nur noch freigibt, was ein Agent vorbereitet hat, verliert mit der Zeit das Gespür, das er zum Prüfen braucht.

Menschenzentrierung ist kein Selbstzweck

Sie hat drei Grundlagen:

• Rechtlich, und schmaler als oft angenommen. Die Pflicht zu wirksamer menschlicher Aufsicht gilt im AI Act nur für Hochrisikosysteme, etwa solche, die Beschäftigten Aufgaben zuweisen oder ihre Leistung bewerten, und erst ab dem 2. Dezember 2027. Für die meisten Anwendungsfälle im Team verlangt der AI Act heute vor allem Maßnahmen zur KI-Kompetenz und Transparenz gegenüber Betroffenen. Im Alltag wiegen deshalb Datenschutz, der Schutz von Geschäftsgeheimnissen und die Mitbestimmung des Betriebsrats schwerer. Was der AI Act unter wirksamer Aufsicht versteht, taugt trotzdem als Maßstab für alle: Kompetenz, Information, Zeit und ein Eingriffsrecht.
• Fürsorgepflicht des Arbeitgebers. Sie erstreckt sich auch auf die neuen Belastungen der Arbeit mit KI: Technostress, Entgrenzung, verdeckte Leistungskontrolle und kognitive Überforderung (Hacker 2026).
• Unternehmerisch. Wer Arbeitsplätze nicht verantwortungsvoll verändert, riskiert Motivation und Leistungsfähigkeit der Beschäftigten und die eigene Attraktivität für Talente (Dörr 2025).

Eine Rollenkarte ersetzt keine dieser Prüfungen, keine Datenschutz-Folgenabschätzung und keine Mitbestimmung. Sie sorgt dafür, dass sie früh angestoßen werden, bevor ein Pilot Fakten schafft.

Das Doppelmandat

Das ist der Kern dessen, was ich das Doppelmandat nenne: die Produktivität mit KI steigern und zugleich Autonomie, Kompetenz, Gesundheit und Urteilskraft der Menschen schützen. Beides bedingt sich. Ein Team, das seine Urteilskraft verliert, kann KI-Ergebnisse nicht mehr verlässlich prüfen, und dann ist auch die Produktivität dahin. Menschenzentrierung schränkt Produktivität nicht ein. Sie ist ihre Voraussetzung.