Agentic AI: Risiken und Vorteile der Adaptiven AI

Hier betrachten wir die vielversprechendsten Anwendungsfälle und zeigen auf, wie man aus agentenbasierten Systemen sicher und verantwortungsbewusst Nutzen ziehen kann.

Was ist Agentic AI? 

Agentic AI ist eine Art von KI-System, das in der Lage ist, Ziele zu verfolgen, ohne dass eine enge menschliche Aufsicht erforderlich ist. 

OpenAI beschreibt diese Systeme als: „Sie zeichnen sich durch die Fähigkeit aus, Handlungen auszuführen, die über einen längeren Zeitraum hinweg konsistent zur Erreichung von Zielen beitragen, ohne dass ihr Verhalten vorher festgelegt wurde“. 

Agentenbasierte Systeme bauen auf großen Sprachmodellen (LLMs) auf und weisen einige bemerkenswerte Ergänzungen auf. LLMs haben eine begrenzte Fähigkeit, Dinge zu planen. Wenn ein schriftliches Ziel und eine definierte Reihe von Aktionen vorgegeben sind, können sie eine Liste von Aktionen vorschlagen, die zur Erreichung dieses Ziels beitragen.  

Diese Aktionen werden von einem externen System ausgeführt, das mit dem LLM interagiert (normalerweise das Backend). Die Ergebnisse jeder Aktion werden in das LLM zurückgespeist, so dass das Agentensystem mit seiner Umgebung interagieren und seine Planung auf der Grundlage von Echtzeit-Kontextinformationen kontinuierlich anpassen kann. Dies wird als Anpassungsfähigkeit bezeichnet. 

„Bei der Agentic AI wird einem LLM- oder multimodalen Modell ein Ziel vorgegeben und es wird mit den Werkzeugen ausgestattet, um dieses Ziel autonom zu erreichen, wobei eine dynamische Planung verwendet wird, um sich verändernde Kontexte zu berücksichtigen“.

Inwieweit LLMs wirklich logisch denken und dynamisch planen können, ist ein strittiges Thema. Hier bei Zühlke haben wir gesehen, dass sie mit hochkomplexen Aufgaben zu kämpfen haben und nur begrenzt in der Lage sind, ihre Generationen selbst zu überprüfen. Die Technologie entwickelt sich jedoch rasant weiter, und wir können davon ausgehen, dass diese Systeme immer mehr zu autonomen Operationen in der Lage sein werden. 

Wie agenturische Systeme Werkzeuge nutzen, um Ziele zu erreichen 

Agentic AI ist so konzipiert, dass es sich nahtlos in Tools wie Unternehmensanwendungen, interne Datenbanken und Webanwendungen integrieren lässt, um seine Ziele effektiv zu erreichen. 

Wie setzt der LLM diese Werkzeuge ein? Er gibt einen genau definierten Text aus, der als „Aktion“ bezeichnet wird (normalerweise in JSON formatiert). Diese Aktion weist das zugrundeliegende System (in der Regel das Backend) an, das Tool auf eine bestimmte Art und Weise zu verwenden. Und das Ergebnis an den LLM zurückzugeben. Beispiele für Aktionen sind das Senden einer Nachricht an eine bestimmte Person, das Vornehmen von Anpassungen in einer Datenbank, das Abrufen von Informationen, das Aufrufen einer externen API, um eine Aktion auszulösen, oder sogar das Ausführen eines Programmiercodes. 

Ein Diagramm, das die Elemente eines typischen agentenbasierten KI-Systems zeigt. Ein KI-Agent erhält eine Zielbeschreibung und eine Beschreibung der Werkzeuge. Er interagiert mit menschlichen Akteuren und Werkzeugen (und bei Bedarf mit weiteren KI-Agenten), um das Ziel zu verfolgen.

Im Allgemeinen kann jedes LLM Werkzeuge auf diese Weise nutzen. Es braucht nur eine Beschreibung, wie dies zu tun ist, als Teil der Aufforderung - z.B. über ein „few-shot learning framework“ wie ReAct. Einige LLMs sind darauf abgestimmt, besonders gut darin zu sein und können besser erkennen, wann ein Werkzeug eingesetzt werden muss, um ein Ziel zu erreichen.

OpenAI nennt diese Fähigkeit Function Calling und unterstützt sie seit Juni 2023. Aus diesem Grund sind agentische Systeme nicht grundsätzlich neu, aber die meisten Unternehmen beginnen erst jetzt, ihre wertsteigernden Anwendungsfälle zu erkunden.   

Beispiele für Agent AI: Anwendungsfälle zur Prozessoptimierung 

Interne Prozesse einschließlich HR und Buchhaltung 

Agentensysteme können viele interne Routineaufgaben wie die Lohn- und Gehaltsabrechnung, die Rechnungsverwaltung und vieles mehr unterstützen: 

• Onboarding von Mitarbeitenden: Ein LLM-Assistent kann beispielsweise bei der Einarbeitung neuer Mitarbeitenden helfen, indem er sie mit den erforderlichen Informationen versorgt, ihr Profil für sie aktualisiert, sie an die erforderlichen E-Learning-Module erinnert und ihnen Kollegen empfiehlt, mit denen sie in Kontakt treten können.  

• Rekrutierung: Ein Agent kann als intelligenter persönlicher Assistent fungieren, der einem Rekrutierungsteam dabei hilft, geeignete Termine für Vorstellungsgespräche zu finden und fehlende Unterlagen von Bewerbern anzufordern.  

• Bearbeitung von Rechnungen: Ein Agent könnte bei Routineaufgaben wie dem Einholen fehlender Rechnungsunterschriften helfen. 

Sehen Sie sich den Screenshot eines Agentensystems an, das wir hier bei Zühlke entwickelt haben. Das Ziel dieses Agenten ist es, den Mitarbeitenden die Erledigung von Routineaufgaben zu erleichtern, wie z.B. das Aktualisieren ihrer persönlichen Daten über Microsoft Teams, ein Tool, das wir bei unserer täglichen Arbeit verwenden. 

Ein Screenshot eines agentenbasierten KI-Systems, das typische Mitarbeitendenanfragen bearbeitet. Der Bot kann in Microsoft Teams eingesetzt werden und überprüft Systemänderungen gemeinsam mit dem Benutzer. 

Kundenbetreuung 

Einer der interessantesten Anwendungsfälle für agentische Systeme ist die Automatisierung von Schlüsselbereichen des Kundendienstes. Ein agenturgestütztes System sollte weit über das bloße Verstehen der Worte eines Kunden hinausgehen und über die Funktionalität verfügen, das Problem eines Kunden zu verstehen und dann mehrstufige Schritte zu liefern, um dem Kunden zu helfen, seine Ziele zu erreichen.  

Der Schlüssel zur effektiven Bearbeitung von Anfragen ist die Fähigkeit, Fragen zu stellen, Absichten zu erkennen, erforderliche Informationen zu sammeln, Abgleiche mit internen Systemen vorzunehmen und Prozesse auf Anfrage zu starten. Von der Produktempfehlung bis zur technischen Fehlerbehebung sind die Möglichkeiten vielfältig.  

Wir bei Zühlke haben bereits Erfahrungen mit dem Einsatz von agentenbasierter KI zur Optimierung von Kundensupportprozessen gesammelt. So haben wir zum Beispiel gemeinsam mit einem Kunden aus der Telekommunikationsbranche einen Bot entwickelt, der Informationen aus internen Systemen nutzt, um Kundenprobleme wie Probleme mit der Internetverbindung oder die (De-)Aktivierung von SIM-Karten effektiver zu lösen. 

Vertikale Prozesse in der Industrie 

KI-Agenten können auch Prozesse teilweise automatisieren, die für bestimmte Branchen spezifisch sind - einschließlich komplexer, regulierter Umgebungen wie Finanzdienstleistungen.  

In der Versicherungsbranche kann ein LLM beispielsweise den Prozess der Schadensverwaltung durch die Klassifizierung von Schadensarten, das Sammeln fehlender Informationen und die Automatisierung von Antworten auf der Grundlage menschlicher Entscheidungen ergänzen, wobei jeder Schritt des Prozesses ordnungsgemäß dokumentiert wird.  

Das Gleiche gilt im Bankwesen für Kreditanträge, Kontoverwaltung, Finanzrecherchen und Berichte. Weitere mögliche Anwendungsfälle sind die Verwaltung von Anlageportfolios und die Betrugserkennung. 

Über die Prozessoptimierung hinaus 

Wie diese Beispiele zeigen, bieten agentische Systeme Möglichkeiten, die über die Prozessoptimierung hinausgehen. Selbst in komplexen, regulierten Bereichen können sie dazu beitragen, die Gemeinkosten zu senken, die Genauigkeit zu verbessern und die allgemeine Dienstleistungsqualität zu erhöhen. Andere Möglichkeiten umfassen: 

Agentische Risiken, Grenzen und verbleibende Herausforderungen 

Es ist bereits möglich, nützliche agentenbasierte Systeme auf der Grundlage der derzeitigen Fähigkeiten von LLM zu entwickeln. Dies erfordert jedoch eine sorgfältige Analyse der Geschäftsprozesse und ethische Praktiken, die durch einen „Responsible AI“-Rahmen untermauert werden. 

Da diese Systeme zunehmend in der Lage sind, autonom und mit begrenzter menschlicher Aufsicht zu operieren, werden sie zusätzliche Risiken und ethische Überlegungen mit sich bringen. 

Stellen Sie sich Folgendes vor: Ein LLM ohne kodierte Ethik muss von einer Person eine fehlende Information erhalten. Also beginnt es, diese Person wiederholt per E-Mail zu spammen, um sein Ziel zu erreichen. Wenn es ihm nicht gelingt, die benötigten Informationen zu erhalten, indem es die Person anspammt, weitet es sein Spammen auf alle anderen Personen aus, zu denen es Zugang hat. 

Wie dieses Beispiel zeigt, kommt es darauf an, Aufgaben und Prozessschritte bewusst und verantwortungsbewusst an Menschen und maschinelle Agenten zu vergeben und dabei die richtigen Leitplanken zu setzen. 

Wir empfehlen auch die Best Practices von OpenAI für den Schutz und die Sicherstellung der Verantwortlichkeit bei der Arbeit von Agenten. 

Neben der Abschwächung von Risiken, die sich aus dem Versagen von KI-Agenten ergeben, müssen wir auch Cybersicherheitsrisiken durch böswillige Akteure berücksichtigen.   

So ist es beispielsweise von entscheidender Bedeutung, dass ein menschlicher Akteur nicht in der Lage ist, ein KI-System zur Privilegienerweiterung zu missbrauchen. Dies ist der Fall, wenn eine Person das LLM davon überzeugt, Aktionen auszuführen, für die sie selbst keine Berechtigung hat - entweder direkt im Chat oder durch Prompt-Injection-Angriffe über Kanäle Dritter. 

Abgesehen von diesen Überlegungen unterscheiden sich agentenbasierte Systeme im Hinblick auf eine verantwortungsvolle Nutzung nicht besonders von anderen KI-Systemen. Unser Framework für Responsible AI unterstützt den Weg von der Ideenfindung bis hin zum Aufbau, Betrieb und der Skalierung sicherer, ethischer und nachhaltiger Lösungen. 

Jetzt ist es an der Zeit, Anwendungsfälle zu untersuchen

Das reichhaltige Potenzial von agentenbasierten LLMs ist noch weitgehend ungenutzt. Höchstwahrscheinlich deshalb, weil sich die Unternehmen bisher eher auf einfachere Anwendungen wie Retrieval Augmented Generation Systems (RAG) konzentriert haben.   

Aber die Anwendungsfälle, die diese Systeme unterstützen könnten, sind kaum zu übersehen - von der Optimierung wichtiger Geschäftsprozesse bis zur Verbesserung der Servicequalität. Außerdem steht die Geschichte der agentenbasierten KI noch ganz am Anfang.

„Mit der weiteren Entwicklung der Technologie wird sie immer komplexere Ziele und Handlungsräume unterstützen und mit zunehmender Unabhängigkeit arbeiten, um fortgeschrittene Anwendungsfälle zu realisieren“.   

Ihr Unternehmen kann diese Chance proaktiv nutzen, indem es klein anfängt und die Anwendungsfälle identifiziert, die Sie heute schon erdenken und testen können.

Wie bei allen KI-Experimenten ist es wichtig, sich auf praktikable, realisierbare und wünschenswerte Anwendungsfälle zu konzentrieren, die einen greifbaren Wert liefern. Außerdem sollten Sie Prototypen und Proof-of-Concepts auf transparente, verantwortungsvolle und nachhaltige Weise auf der Grundlage eines Responsible AI-Frameworks konzipieren.

Autonome Systeme bringen zusätzliche Risiken und Überlegungen mit sich, die Sie von Anfang an in Ihre Überlegungen einbeziehen sollten. 

Wie wir helfen können

Wir bei Zühlke arbeiten seit mehr als 50 Jahren mit neuen und aufstrebenden Technologien und verwandeln deren transformatives Potenzial in wertsteigernde Lösungen für unsere Kunden. Sprechen Sie noch heute mit uns darüber, wie wir Sie bei der Entwicklung und Skalierung von KI-gestützten Modellen, Prozessen und Produkten unterstützen können, die Sie benötigen, um eine nachhaltige Wirkung zu erzielen.