# Agentic AI: Der Sprung von generativer zu handelnder Intelligenz
Die öffentliche Wahrnehmung künstlicher Intelligenz ist seit dem November 2022 durch ein Bild geprägt, das bereits veraltet ist, während es sich erst festigt: das Bild eines Systems, das auf eine menschliche Frage eine Antwort gibt. Frage und Antwort, Eingabe und Ausgabe, Prompt und Response. Dieses dialogische Muster hat die kulturelle Einordnung von KI dominiert, weil es das erste Muster war, das für die Allgemeinheit sichtbar wurde. Es beschreibt jedoch nicht mehr den Stand der Technik, und es wird erst recht nicht den Stand der kommenden Jahre beschreiben. Die nächste Stufe der Entwicklung, die in der Fachliteratur unter dem Begriff Agentic AI firmiert, verschiebt die Rolle der Maschine vom Antwortgeber zum Akteur. Und damit verschiebt sie auch die Rolle des Menschen, der Unternehmen, der Aufsichtsgremien und schließlich des Rechtsstaats. Dieses Essay rekonstruiert den Übergang und die Kontrollfragen, die er aufwirft, entlang der Linien, die in meinem Buch ALGORITHMUS. Wer die KI kontrolliert kontrolliert die Zukunft nachgezeichnet werden.
## Vom Prompt zur Handlung: Was Agentic AI eigentlich bedeutet
Generative Systeme der ersten Welle produzierten Text, Bild, Ton oder Code als Antwort auf eine menschliche Anfrage. Die Verantwortung für die Nutzung dieses Outputs blieb beim Menschen. Er las die Antwort, prüfte sie, übernahm oder verwarf sie. Der Mensch war die letzte Instanz, weil er die einzige ausführende Instanz war. Agentic AI verschiebt diese Grenze. Ein Agent formuliert auf der Basis eines übergeordneten Ziels eigene Zwischenschritte, greift auf Werkzeuge zu, ruft Programme auf, schreibt Datenbanken, buchte Termine, initiiert Zahlungen, verhandelt mit anderen Agenten und dokumentiert seine Handlungen. Der Mensch gibt ein Ziel vor, nicht mehr jeden einzelnen Schritt.
Dieser Unterschied erscheint auf den ersten Blick graduell. Er ist es nicht. Zwischen einem System, das Vorschläge macht, und einem System, das Verfügungen trifft, liegt eine qualitative Grenze, die in jeder Disziplin des Rechts, der Organisation und der Ethik Konsequenzen hat. Wer einen Text liest und unterzeichnet, handelt. Wer einen Agenten beauftragt, der selbst unterzeichnet, delegiert Handlungsmacht an ein System, dessen innere Logik er nur teilweise einsehen kann. Die Dogmatik der Vertretung, die das europäische Privatrecht seit dem neunzehnten Jahrhundert geprägt hat, war für diese Konstellation nicht gebaut.
In meinem Buch beschreibe ich diese Schwelle als die eigentliche Zäsur der kommenden Jahre. Nicht die Sprachqualität der Modelle, nicht ihre Fähigkeit, akademische Prüfungen zu bestehen, sondern ihre Befähigung zur autonomen Handlungskette wird über die Verteilung von Macht zwischen Unternehmen, Staaten und Individuen entscheiden. Agentic AI ist der Punkt, an dem aus einem Werkzeug ein Delegat wird.
## Die Standardkämpfe der kommenden Dekade
Wer eine Technologie kontrollieren will, muss ihre Schnittstellen kontrollieren. Das gilt für die Eisenbahn, deren Spurweite im neunzehnten Jahrhundert zum Gegenstand geopolitischer Auseinandersetzungen wurde, es gilt für die Protokolle des Internets, und es gilt in verschärfter Form für Agentic AI. Denn ein Agent ist nur so handlungsfähig, wie die Protokolle, über die er mit anderen Systemen kommuniziert, es erlauben. Wer diese Protokolle definiert, wer die Authentifizierungsmechanismen setzt, wer die Formate für Werkzeugaufrufe standardisiert, der entscheidet, welche Agenten sich durchsetzen und welche im technischen Abseits verbleiben.
Die Auseinandersetzung um diese Standards ist bereits im Gange, auch wenn sie in der öffentlichen Debatte kaum sichtbar ist. Sie findet statt zwischen den großen Plattformanbietern, die eigene Agenten-Ökosysteme aufbauen, zwischen Open-Source-Gemeinschaften, die offene Protokolle propagieren, und zwischen nationalen Regulatoren, die kritische Infrastrukturen nicht unkontrolliert in die Hand proprietärer Agentensysteme geben wollen. Die Frage, ob ein Agent eines europäischen Unternehmens mit einem Agenten eines amerikanischen Dienstleisters und eines asiatischen Zulieferers selbstständig Transaktionen abschließen kann, ist keine technische Detailfrage. Sie ist eine Frage der industriellen Souveränität.
Europa befindet sich in dieser Auseinandersetzung, wie ich im Kapitel zur europäischen Schwäche ausführe, in einer strukturell nachteiligen Position. Die regulatorische Kompetenz ist vorhanden, die infrastrukturelle Grundlage für eigene Agenten-Plattformen jedoch nur in Ansätzen. Das Risiko ist, dass europäische Unternehmen ihre Handlungsketten auf Agenten-Infrastrukturen stützen, deren Standards anderswo definiert werden, und damit in eine Abhängigkeit geraten, die in klassischen Begriffen der Halbleiterkette beschrieben wird, aber in der Logikschicht des Handelns ungleich schwerer wiegt.
## Boardroom-Governance und die Neuverteilung von Verantwortung
Die Frage, wer für die Handlungen eines autonomen Agenten verantwortlich ist, wird in den Vorstandsetagen der kommenden Jahre die Stelle einnehmen, die Fragen der IT-Sicherheit vor zwanzig Jahren eingenommen haben, nur mit deutlich höherem Einsatz. Ein Agent, der Einkaufsentscheidungen trifft, kann Lieferketten umlenken. Ein Agent, der Kundenkommunikation führt, kann vertragliche Bindungen auslösen. Ein Agent, der in einer Finanzabteilung operiert, kann Zahlungen anstoßen, die im Bestreitungsfall Gerichte beschäftigen werden. Die Frage, welches Organ des Unternehmens welche Agentenklasse für welche Zwecke freigibt, ist keine IT-Frage. Sie gehört an den Ort, an dem über die Haftung des Unternehmens entschieden wird.
In den von mir vorgeschlagenen Governance-Strukturen für KI in Unternehmen ist der Aufsichtsrat nicht bloßer Empfänger von Berichten, sondern aktiver Gestalter einer Kontrollarchitektur. Diese Architektur umfasst die Klassifikation von Agenten nach Risiko, die Definition von Eskalationsschwellen, an denen menschliche Entscheider eingebunden werden müssen, die Dokumentation aller Agentenhandlungen in einer forensisch belastbaren Form und die regelmäßige Überprüfung der Zielsetzungen, unter denen Agenten operieren. Ein Agent, dessen Zielsetzung nicht regelmäßig geprüft wird, ist kein Werkzeug, sondern ein blinder Fleck im Geschäftsmodell.
Dr. Raphael Nagel (LL.M.) hat in verschiedenen Kontexten darauf hingewiesen, dass die juristische Debatte über die Haftung für Agentenhandlungen hinter der technischen Realität zurückbleibt. Die klassische Trennung zwischen Verschulden und Gefährdungshaftung, zwischen eigenem Handeln und Handeln von Hilfspersonen, ist auf Entitäten zugeschnitten, die Absicht oder Fahrlässigkeit im menschlichen Sinne kennen. Ein Agent kennt weder das eine noch das andere. Er optimiert eine Zielfunktion unter Nebenbedingungen. Die Übersetzung dieser Optimierung in eine Haftungsarchitektur ist eine der anspruchsvollsten Aufgaben der Rechtsentwicklung der kommenden Jahre.
## Verlust- und Kontrollszenarien
In den abschließenden Teilen meines Buches unterscheide ich zwischen Verlust-Szenarien und Kontroll-Szenarien. Ein Verlust-Szenario ist nicht der Science-Fiction-Topos einer Maschine, die sich gegen ihre Schöpfer wendet. Es ist die prosaischere und wahrscheinlichere Situation, in der Unternehmen, Behörden und Gesellschaften Agentenhandlungen zulassen, deren Konsequenzen sie nicht mehr nachvollziehen können, weil die Handlungsketten zu lang, die beteiligten Systeme zu zahlreich und die Dokumentation zu lückenhaft sind. Der Kontrollverlust geschieht nicht durch einen Bruch, sondern durch Gewöhnung. Jede einzelne Delegation erscheint vernünftig. Die Summe aller Delegationen erzeugt eine Architektur, in der niemand mehr die letzte Instanz ist.
Ein Kontroll-Szenario hingegen setzt voraus, dass Organisationen ihre Agenten-Infrastruktur bewusst gestalten. Das beginnt bei der Entscheidung, welche Klassen von Handlungen überhaupt delegiert werden dürfen, und es endet bei der Frage, welche menschlichen Rollen in der Organisation erhalten bleiben müssen, um die Delegation reversibel zu halten. Ein Unternehmen, das sämtliche operativen Entscheidungen an Agenten delegiert und gleichzeitig die Kompetenz abbaut, diese Entscheidungen im Zweifel selbst treffen zu können, hat seine Souveränität an seine Infrastruktur abgegeben.
Die Unterscheidung zwischen beiden Szenarien ist keine technische, sondern eine Frage der organisationalen Selbstachtung. Sie entscheidet sich nicht in den Rechenzentren, sondern in den Sitzungen, in denen über Budgets, Rollenprofile und Ausbildungsinhalte entschieden wird. Wer Agentic AI einführt, ohne gleichzeitig die menschliche Kompetenzschicht zu pflegen, die im Ernstfall übernehmen kann, bereitet einen Kontrollverlust vor, dessen Datum noch nicht feststeht, dessen Struktur aber bereits gelegt ist.
## Die philosophische Dimension der Delegation
Jede Delegation setzt ein Verhältnis zwischen Auftraggeber und Beauftragtem voraus, das in der europäischen Rechts- und Moralphilosophie seit der Antike reflektiert wird. Der Beauftragte soll im Sinne des Auftraggebers handeln, aber er soll auch im Rahmen eines umfassenderen Normbestandes handeln, der nicht nur das Verhältnis zwischen den beiden betrifft, sondern auch das Verhältnis beider zu Dritten und zur Gemeinschaft. Ein Agent kennt dieses umfassendere Normgefüge nicht, es sei denn, es wurde ihm einprogrammiert. Die Frage, welche Normen in welcher Gewichtung in die Zielfunktion eines Agenten eingehen, ist damit eine Frage der politischen Verfassung einer Gesellschaft, auch wenn sie auf den ersten Blick als technische Konfigurationsfrage erscheint.
Die Illusion der Neutralität, die ich im vierten Kapitel meines Buches kritisch bespreche, kehrt in der Welt der Agenten in verschärfter Form zurück. Ein generatives Modell gibt eine Antwort, die der Nutzer noch einordnen kann. Ein Agent trifft eine Entscheidung, die bereits umgesetzt ist, bevor sie eingeordnet werden kann. Die Asymmetrie zwischen Geschwindigkeit der Handlung und Geschwindigkeit der Reflexion, die schon in den bisherigen algorithmischen Systemen sichtbar war, wird durch Agentic AI potenziert. Eine Gesellschaft, die diese Asymmetrie nicht institutionell bearbeitet, verliert nicht ihre Freiheit durch Zwang, sondern durch Geschwindigkeit.
Dr. Raphael Nagel (LL.M.) hat diese Beobachtung im Prolog meines Buches in die Formulierung gefasst, dass der Algorithmus jemandem gehört und dass die Frage, wem er gehört, die wichtigste Machtfrage des einundzwanzigsten Jahrhunderts sei. In der Welt der Agenten tritt zu dieser Eigentumsfrage eine zweite hinzu, nämlich die Frage, für wen der Algorithmus eigentlich handelt, wenn er handelt. Diese beiden Fragen sind nicht identisch. Wer einen Agenten besitzt, ist nicht notwendig derjenige, in dessen Interesse der Agent tatsächlich operiert, wenn die Trainingsdaten, die Protokolle und die Zielfunktionen anderswo definiert werden.
Der Übergang von generativer zu agentischer KI ist kein Kapitelwechsel in einem ansonsten bekannten Buch. Er ist der Beginn eines neuen Buches, dessen erste Seiten wir gerade schreiben, ohne zu wissen, wie viele Kapitel es umfassen wird. Die Fragen, die in diesem Essay skizziert wurden, haben keinen Anspruch auf abschließende Antworten, und es wäre intellektuell unredlich, solche Antworten zu behaupten. Was sich jedoch mit hinreichender Klarheit sagen lässt, ist, dass die Organisationen, die diese Fragen früh stellen, in einer grundsätzlich anderen Position sein werden als diejenigen, die sie erst stellen, wenn ihre Agenten bereits Entscheidungen getroffen haben, deren Konsequenzen die Organisation nicht mehr vollständig überblickt. Die Gestaltung von Agentic AI ist eine Aufgabe, die sich nicht an die Technologieabteilung delegieren lässt, und sie ist auch keine Aufgabe, die der Gesetzgeber allein lösen kann. Sie ist eine gemeinsame Aufgabe von Vorständen, Aufsichtsräten, Regulatoren und letztlich auch der demokratischen Öffentlichkeit, die die Rahmenbedingungen setzt, unter denen Delegation legitim ist. Das Buch, aus dem dieses Essay schöpft, versteht sich als Beitrag zu dieser Aufgabe, nicht als ihre Lösung. Die Lösung wird, wenn es sie gibt, aus der Summe vieler sorgfältig durchdachter Einzelentscheidungen hervorgehen, die jetzt in den Boardrooms, den Ministerien und den Universitäten getroffen werden, und deren Konsequenzen erst in zehn oder zwanzig Jahren vollständig sichtbar sein werden.
Für wöchentliche Analysen zu Kapital, Führung und Geopolitik: Dr. Raphael Nagel (LL.M.) auf LinkedIn folgen →