For å sette AI-agenter i produksjon må virksomhetens datastyring være på plass først. Datakvalitet, tilgangskontroll og logging av agentens utdata er avgjørende for vellykkede og forsvarlige AI-implementeringer.
Ledere bruker mye tid på å vurdere om AI-agenter er klare for produksjon, men det er ikke der man bør starte. For agenter opererer ikke i et vakuum. Kvaliteten på beslutningene deres avhenger i stor grad av kvaliteten på dataene de bruker.
Modellsikkerhet og ytelse er selvsagt viktig, men de kan ikke kompensere for svak kontroll over informasjonen agenten har tilgang til. Før man setter en agent i produksjon, trenger organisasjonen styrte inndata, riktig tilgang og en pålitelig logg over det agenten produserer.
Hvis du gir en agent utdatert kundeinformasjon, dupliserte poster eller materiale som ikke er skikkelig klassifisert, vil den arbeide med det den har, og på tvers av tusenvis av transaksjoner raskt fatte beslutninger basert på utilstrekkelig informasjon.
Dessverre vokser gapet mellom adopsjon og styring raskt. I iveren etter å ta i bruk AI, setter mange organisasjoner agenter i produksjon uten å løse det grunnleggende dataproblemet. Derfor er det ikke overraskende at en stor andel av AI-prosjekter viser null avkastning på investeringen.
Dessuten er AI-agentstyring ikke begrenset til dataene agenten har tilgang til. Den omfatter også dataene agenten produserer: beslutninger, gitte instrukser og dokumenter den genererer. Etter hvert som AI bidrar betydelig til virksomhetsbeslutninger, har AI-sporbarhet og forsvarlighet blitt kritiske evner.
Organisasjoner som bygger et solid datagrunnlag, kan bevege seg fra pilot til produksjon med trygghet om at agentene ikke vil gjøre dårlig styrte data om til en virksomhetsomfattende krise.
Dataproblemet kommer først
Problemet med datastyring er selvsagt ikke nytt. De fleste store organisasjoner har brukt år på å håndtere informasjon spredt på tvers av operasjonelle plattformer, fildelinger, arkiver og applikasjoner som for lengst burde vært avviklet. Men siden agentbasert AI raskt kan aktivere disse svakhetene i stor skala, har saken blitt mer presserende.
Før en agent gis datatilgang, må IT identifisere sensitiv og regulert informasjon, håndheve klassifiserings- og oppbevaringspolicyer konsekvent, og avgjøre hvilke kilder som er oppdaterte og pålitelige. Eldre data krever spesiell oppmerksomhet.
Avviklede applikasjoner inneholder ofte verdifull forretningshistorikk, men også dupliserte poster, ugyldig informasjon og data underlagt juridiske oppbevarings- eller tilbakeholdelseskrav.
Organisasjoner må også bevare konteksten og relasjonene som gir mening til eldre data, og deretter gjøre utvalgte, policykontrollerte datasett tilgjengelige. AI opererer ikke på data i et vakuum, og uten den omkringliggende konteksten kan agenter enten ikke fullføre oppgavene sine eller, enda verre, fatte og iverksette feilaktige beslutninger.
Tilgang er en forretningsbeslutning
En annen feil organisasjoner gjør, er å gi agentene sine tilgang til mer data enn de trenger. Agenter bør faktisk bare ha tilgang til dataene som er nødvendige for å fullføre de tildelte oppgavene. At et system kan kobles til en agent, betyr ikke at det bør gjøre det.
Vurder agenter som ansatte og følg prinsippet om minste privilegium. For eksempel kan en kundeserviceagent trenge oppdatert kontoinformasjon og transaksjonsdata, men trenger sannsynligvis ikke juridiske dokumenter eller tidligere ansattes journaler. Tilgang bør følge agentens definerte formål nøye.
Kildeopprinnelse er også viktig. En agent bør ikke se et oppdatert kjernesystem og et tiår gammelt arkiv som like autoritative. Agenter må vite hvor informasjonen kommer fra, når den ble oppdatert og hvilke policyer som gjelder. Igjen er kontekst viktig. Uten tilstrekkelig kontekst gjør agenter kostbare feil.
Hold logg over hva agenten gjør
Styringen slutter ikke etter at agenten har mottatt godkjente data. AI-relaterte data blir raskt viktige for rettssaker, samsvarsvurderinger og kundeklager. For å være forberedt må en organisasjon kunne vise hva agenten ble bedt om å gjøre, hvilken informasjon den hadde tilgang til, hvilke policyer som ble anvendt og hva som skjedde etterpå.
Prompter, mottatt innhold, utdata og de resulterende beslutningene bør lagres som forretningsdokumentasjon. En gjennomganger må kunne rekonstruere AI-ens beslutning og spore den både til kilde dataene og til personen eller enheten som autoriserte aktiviteten.
Til syvende og sist kan ansvarlighet ikke bare ligge hos teknologiteamet. Ledere innen sikkerhet, data, personvern, juss og samsvar spiller alle en rolle, men en forretningseier må utpekes til å være ansvarlig for resultatet. Automatisering kan utføre en handling, men kan ikke påta seg ansvaret for den.
Dataklargjøring er ikke en sekundær arbeidsflyt som tas hånd om etter at en AI-pilot har lykkes. Det er en del av beslutningen om å flytte piloten til produksjon. Hvis en organisasjon ikke kan stole på informasjonen, ikke kan kontrollere tilgangen og ikke klart kan forklare de resulterende beslutningene, er agenten ikke klar for mer autonomi.
