Für die Produktivsetzung von KI-Agenten muss zunächst eine Unternehmensdaten-Governance gewährleistet werden. Datenqualität, Zugriffskontrolle und die Aufzeichnung von Agenten-Ausgaben sind entscheidend für erfolgreiche und verteidigungsfähige KI-Anwendungen.
Führungskräfte verwenden viel Zeit darauf, zu hinterfragen, ob KI-Agenten produktionsreif sind, doch der Ausgangspunkt liegt nicht hier. Denn Agenten agieren nicht im luftleeren Raum. Die Qualität ihrer Entscheidungen hängt maßgeblich von der Qualität der Daten ab, die sie verwenden.
Modellsicherheit und -leistung sind zweifellos wichtig, doch sie können eine schwache Kontrolle über die Informationen, auf die ein Agent zugreifen kann, nicht kompensieren. Bevor ein Agent in Produktion geht, benötigt die Organisation verwaltete Eingaben, geeigneten Zugriff und eine verlässliche Aufzeichnung dessen, was der Agent erzeugt.
Wenn Sie einem Agenten veraltete Kundeninformationen, doppelte Datensätze oder Materialien, die nie ordnungsgemäß klassifiziert wurden, geben, arbeitet er mit dem, was er hat, und trifft über Tausende von Transaktionen hinweg schnell Entscheidungen auf Basis unzureichender Informationen.
Leider wächst die Kluft zwischen Adoption und Governance rasant. Im Eifer der KI-Einführung bringen viele Organisationen Agenten in Produktion, ohne das grundlegende Datenproblem gelöst zu haben. Dass die große Mehrheit der KI-Projekte keinen Return on Investment zeigt, sollte daher nicht überraschen.
Darüber hinaus beschränkt sich die Governance von KI-Agenten nicht auf die Daten, auf die der Agent zugreifen kann. Sie umfasst auch die Daten, die der Agent erzeugt: Entscheidungen, erteilte Anweisungen und erstellte Dokumente. Da KI zunehmend wesentlich zu Unternehmensentscheidungen beiträgt, sind KI-Nachvollziehbarkeit und Verteidigungsfähigkeit zu kritischen Fähigkeiten geworden.
Organisationen, die ein starkes Datenfundament schaffen, können beim Übergang von der Pilotphase in die Produktion mit der Zuversicht handeln, dass Agenten schlecht verwaltete Daten nicht in eine unternehmensweite Krise verwandeln werden.
Zuerst kommt das Datenproblem
Das Problem der Daten-Governance ist freilich nicht neu. Die meisten großen Organisationen haben Jahre damit verbracht, sich mit Informationen auseinanderzusetzen, die über operative Plattformen, Dateifreigaben, Archive und längst abzulösende Anwendungen verteilt sind. Doch da agentenbasierte KI diese Schwächen in großem Maßstab schnell aktivieren kann, ist das Thema nun dringlicher geworden.
Bevor einem Agenten Datenzugriff gewährt wird, muss die IT sensible und regulierte Informationen identifizieren, Klassifizierungs- und Aufbewahrungsrichtlinien konsistent durchsetzen und feststellen, welche Quellen aktuell und verlässlich sind. Altdaten erfordern besondere Sorgfalt.
Stillgelegte Anwendungen enthalten oft wertvolle Geschäftshistorie, beherbergen aber auch doppelte Datensätze, ungültige Informationen und Daten, die gesetzlichen Aufbewahrungs- oder Zurückbehaltungspflichten unterliegen.
Organisationen müssen zudem den Kontext und die Beziehungen bewahren, die Altdaten Bedeutung verleihen, und dann ausgewählte, richtlinienkontrollierte Datensätze bereitstellen. KI agiert nicht im luftleeren Raum über Daten, und ohne den umgebenden Kontext können Agenten ihre Aufgaben entweder nicht erfüllen oder – schlimmer noch – fehlerhafte Entscheidungen treffen und umsetzen.
Zugriff ist eine Geschäftsentscheidung
Ein weiterer Fehler, den Organisationen machen, besteht darin, ihren Agenten Zugriff auf mehr Daten zu gewähren, als sie benötigen. Tatsächlich sollten Agenten nur auf die Daten zugreifen, die zur Erfüllung der ihnen zugewiesenen Aufgaben erforderlich sind. Dass ein System sich mit einem Agenten verbinden kann, bedeutet nicht, dass es das auch sollte.
Betrachten Sie Agenten wie Mitarbeiter und befolgen Sie das Prinzip der minimalen Berechtigung. Ein Kundenservice-Agent benötigt beispielsweise möglicherweise aktuelle Konto- und Transaktionsinformationen, aber wahrscheinlich keine Rechtsakten oder früheren Personaldaten. Der Zugriff sollte eng am definierten Zweck des Agenten ausgerichtet sein.
Auch die Quellenherkunft ist wichtig. Ein Agent sollte ein aktuelles System of Record und ein jahrzehntealtes Archiv nicht als gleichermaßen autoritativ betrachten. Agenten müssen wissen, woher Informationen stammen, wann sie aktualisiert wurden und welche Richtlinien gelten. Auch hier ist Kontext wichtig. Ohne geeigneten Kontext machen Agenten kostspielige Fehler.
Führen Sie Aufzeichnungen darüber, was der Agent tut
Governance endet nicht, nachdem der Agent genehmigte Daten erhalten hat. KI-bezogene Daten werden schnell für Rechtsstreitigkeiten, Compliance-Prüfungen und Kundenbeschwerden wichtig. Um vorbereitet zu sein, muss eine Organisation zeigen können, wozu der Agent aufgefordert wurde, auf welche Informationen er zugegriffen hat, welche Richtlinien angewandt wurden und was danach geschah.
Prompts, abgerufene Inhalte, Ausgaben und die daraus resultierenden Entscheidungen sollten als Geschäftsaufzeichnung gespeichert werden. Eine prüfende Person sollte die Entscheidung der KI rekonstruieren und sowohl bis zu den Quelldaten als auch bis zur Person oder Einheit zurückverfolgen können, die die Aktivität autorisiert hat.
Schließlich darf Verantwortlichkeit nicht allein beim Technologieteam liegen. Führungskräfte aus Sicherheit, Daten, Datenschutz, Recht und Compliance spielen alle eine Rolle, doch es muss einen Geschäftsverantwortlichen geben, der für das Ergebnis rechenschaftspflichtig ist. Automatisierung kann eine Handlung ausführen, aber nicht die Verantwortung dafür übernehmen.
Datenvorbereitung ist kein sekundärer Arbeitsablauf, der nach einem erfolgreichen KI-Piloten angegangen wird. Sie ist Teil der Entscheidung, den Piloten in Produktion zu bringen. Wenn eine Organisation ihren Informationen nicht vertrauen, den Zugriff nicht kontrollieren und die daraus resultierenden Entscheidungen nicht klar erklären kann, ist der Agent nicht bereit für mehr Autonomie.
