KI-Risiken reduzieren mit dem richtigen KI-Governance-Framework

Wer nicht wagt, der nicht gewinnt – zumindest sprichwörtlich. Aber sollte beim Thema künstliche Intelligenz wirklich der Fokus auf letzteren liegen?

Während sich Unternehmen darauf vorbereiten, immer mehr ihrer Informationen und Prozesse in neue Technologien und Tools zu überführen, bereiten sich CISOs an allen Ecken und Enden auf die möglichen Folgen vor.  

Aber sind die Bedenken bezüglich des KI-Risikomanagements vielleicht sogar unnötig? Oder könnten unkontrollierte Modelle den hart erarbeiteten Ruf eines Unternehmens ruinieren?  

Wir bei Zühlke haben mit einem interdisziplinären Team aus Data Scientist:innen, Sicherheitsexpert:innen, Consultants, Finanzexpert:innen und unseren Kunden versucht, diese Fragen zu beantworten.  

Im Folgenden erfahren Sie, was wir über die Zukunft des KI-Risikomanagements und der KI-Governance gelernt haben – und wie eine Vermischung aus typischerweise getrennten Bereichen Ihnen die Suppe versalzen kann. 

KI-Risiken in der Praxis: ein vielköpfiges Biest

Lassen Sie uns einen kleinen Schritt zurückgehen. Was genau verstehen wir unter KI-Risiken? In einem unternehmerischen Kontext ist das komplizierter, als man denken mag.  

Bei der Risikoeinstufung auf Unternehmensebene werden Schwachstellen in der Regel in einige wenige Kategorien eingeteilt: Sicherheit, betriebliche oder finanzielle Bedrohungen. KI ist jedoch anders. Sie sprengt diese Grenzen und schafft die Brücke von der technischen Welt in die weit umfassendere sozioökonomische Welt. Und sie wirft auch ethische Fragen auf.  

Wir alle interagieren auf die eine oder andere Weise mit KI. Wir alle nutzen Konten mit verschiedenen Tools. Und wir alle haben unterschiedliches Vertrauen in unsere Fähigkeit, dies sicher zu tun – beruflich wie privat.  

Daher ist es schwer zu sagen, wer für das KI-Risikomanagement verantwortlich ist. Ist das eigentliche Problem, dass Menschen unwissentlich Unternehmensinformationen als Trainingsdaten für KI-Modelle nutzen? Oder dass minderwertige Ergebnisse der Reputation schaden?

Auch die Auswirkungen unterschiedlicher Risikoarten können sehr unterschiedlich sein. Denken Sie an die rechtlichen Folgen und den Reputationsverlust, den ein Chatbot verursacht, der Kunden in die Irre führt, an die Sachschäden und die Auswirkungen auf Gesundheit und Sicherheit, wenn eine Drohne mit Autopilot in ein Gebäude stürzt, oder an die potenziellen finanziellen und betrieblichen Verluste, die ein fehlerhaftes Prognosemodell verursacht.

Verschiedene Stakeholder denken ganz unterschiedlich darüber, wo die größten Gefahren liegen, und diese Art von „Design by Committee“-Denken kann Unternehmen zum Stillstand bringen.  

Aber in gewisser Weise ist die Zeit ein gerader Kreis. Es gibt keine wirklich neuen Bedrohungen - nur wachsende Bedrohungen. Datenverluste waren schon immer etwas, das es zu bekämpfen galt. Sicherheitsverletzungen und mangelhafte Eingabe- oder Ausgabequalität ebenfalls – auch wenn der Kontext jetzt Kollegen sind, die GenAI-Tools bei ihrer täglichen Arbeit verwenden.  

Was sich also geändert hat, ist die Art und Weise, wie wir in einer Welt, in der sich die Technologie so schnell verändert, auf sie reagieren müssen. Und das erfordert einen ganzheitlichen Ansatz.

Minderung von KI-Risiken durch lebenszyklusübergreifende Governance

Die Entwicklung eines klaren Frameworks für die interne KI-Governance ist der Schlüssel zur Minderung von KI-Risiken und zur Förderung von Innovationen. Um dies effektiv zu tun, muss die KI-Governance den gesamten Lebenszyklus einer KI-Lösung regeln – von der ersten Idee über die Implementierung bis hin zur laufenden Überwachung.

Diese langfristige Sichtweise ist entscheidend für eine erfolgreiche Governance. Und das ist der Punkt, an dem viele Unternehmen straucheln. Sie müssen über die Frage „Ist der Einsatz dieses Tools für uns sicher?“ hinausgehen und zu einer regelmäßigen, iterativen Messung aller Aspekte des Risikoprofils übergehen.

Wie sehen also die Best Practices für KI-Governance aus? Unter Einbeziehung aller relevanten Stakeholder muss Ihr Chief Data oder Analytics Officer einen Ansatz verfolgen, der Folgendes umfasst: 

• Strategisches Portfoliomanagement;
• Stetige Überwachung der Wertschöpfung
• proaktive Berücksichtigung ethischer und rechtlicher Anforderungen (z. B. des EU AI Acts).

Ein entschiedenes und umfassendes Vorgehen bei der Risikobewertung ist elementar. Anwendungsfälle aber auch betriebliche und strategische Belange müssen berücksichtigt werden – nicht als konkurrierende Interessen, sondern als Teile eines Ganzen.

Mit einem Ansatz, der alle relevanten Felder abdeckt, wird jedes Risikoframework sehr unterschiedlich aussehen – weitgehend geprägt von der Diversität des Unternehmens und der vorgeschlagenen Tools. Ein verlässliches KI-Risikomanagement ist also ganzheitlich. Es ist zweckdienlich und bezieht Mitarbeitende aus dem gesamten Unternehmen ein.

Das richtige Konzept, mit großer Sorgfalt und Aufmerksamkeit bei jedem Schritt, kann genauso disruptiv sein wie jeder KI-Hype. Denn Unternehmen, die ihre KI-Governance- und Risikominderungsstrategien sauber definieren, sparen Geld, können den Wert ihrer Tools schneller realisieren und Reputationsverluste vermeiden.

Mit Zühlke den „AI Pilot Purgatory“ überwinden

Gewinnen Sie an Resilienz und schützen Sie Ihr Unternehmen mit einem intelligenten Sicherheitskonzept und tief verankerten und langfristigen Lösungen. Unser Team entwickelt KI-Risikomanagementprogramme, die auf Ihr Unternehmen zugeschnitten sind, mit Prozessen, die auf Ihre individuellen Bedürfnisse passen. Sprechen Sie noch heute mit uns, um mehr zu erfahren.