Wdrożenie agentów AI do produkcji wymaga najpierw zapewnienia zarządzania danymi korporacyjnymi. Jakość danych, kontrola dostępu i rejestrowanie wyników agentów mają kluczowe znaczenie dla udanych i rozliczalnych zastosowań AI.
Menedżerowie spędzają dużo czasu, zastanawiając się, czy agenci AI są gotowi do wdrożenia produkcyjnego, ale to nie jest punkt wyjścia. Agenci nie działają w próżni. Jakość ich decyzji zależy w dużej mierze od jakości danych, z których korzystają.
Bezpieczeństwo i wydajność modelu są oczywiście ważne, ale nie mogą zrekompensować słabej kontroli nad informacjami, do których agent ma dostęp. Przed wdrożeniem agenta do produkcji organizacja potrzebuje zarządzanych danych wejściowych, odpowiedniego dostępu i wiarygodnego rejestru tego, co agent wytwarza.
Jeśli dasz agentowi nieaktualne informacje o klientach, zduplikowane rekordy lub materiały, które nigdy nie zostały odpowiednio sklasyfikowane, będzie pracował z tym, co ma, i szybko podejmie decyzje oparte na niewystarczających informacjach w tysiącach transakcji.
Niestety, przepaść między adopcją a zarządzaniem szybko się powiększa. W pośpiechu związanym z adopcją AI wiele organizacji wprowadza agentów do produkcji bez rozwiązania podstawowego problemu danych. Nic dziwnego, że zdecydowana większość projektów AI wykazuje zerowy zwrot z inwestycji.
Co więcej, zarządzanie agentami AI nie ogranicza się do danych, do których agent ma dostęp. Obejmuje również dane, które agent wytwarza: decyzje, wydane polecenia i utworzone dokumenty. W miarę jak AI wnosi istotny wkład w decyzje korporacyjne, identyfikowalność i rozliczalność AI stają się kluczowymi kompetencjami.
Organizacje, które budują solidne podstawy danych, mogą działać z pewnością, że przy przejściu od fazy pilotażowej do produkcji agenci nie zamienią źle zarządzanych danych w kryzys na skalę całej firmy.
Najpierw problem danych
Problem zarządzania danymi oczywiście nie jest nowy. Większość dużych organizacji spędziła lata, zmagając się z informacjami rozproszonymi między platformami operacyjnymi, udziałami plików, archiwami i aplikacjami, które dawno powinny zostać wycofane. Jednak agentowa AI może szybko uruchomić te słabości na skalę, więc sprawa stała się pilniejsza.
Przed przyznaniem agentowi dostępu do danych dział IT musi zidentyfikować wrażliwe i regulowane informacje, konsekwentnie egzekwować polityki klasyfikacji i przechowywania oraz określić, które źródła są aktualne i wiarygodne. Stare dane wymagają szczególnej ostrożności.
Wycofane aplikacje często zawierają cenne dane historyczne, ale także zduplikowane rekordy, nieaktualne informacje i dane podlegające wymogom prawnym lub retencyjnym.
Organizacje muszą również zachować kontekst i relacje, które nadają sens starym danym, a następnie udostępnić wyselekcjonowane, kontrolowane polityką zbiory danych. AI nie działa w próżni na danych, a bez otaczającego kontekstu agenci albo nie mogą wykonać swoich zadań, albo, co gorsza, podejmują i wdrażają błędne decyzje.
Dostęp to decyzja biznesowa
Innym błędem popełnianym przez organizacje jest zapewnienie agentom dostępu do większej ilości danych, niż potrzebują. W rzeczywistości agenci powinni mieć dostęp tylko do danych niezbędnych do wykonania przydzielonych im zadań. To, że system może połączyć się z agentem, nie oznacza, że powinien.
Traktuj agentów jak pracowników i przestrzegaj zasady najmniejszych uprawnień. Na przykład agent obsługi klienta może potrzebować aktualnych informacji o koncie i transakcjach, ale prawdopodobnie nie potrzebuje akt prawnych ani historycznych akt pracowniczych. Dostęp powinien ściśle odpowiadać zdefiniowanemu celowi agenta.
Pochodzenie źródła również ma znaczenie. Agent nie powinien traktować aktualnego systemu ewidencji i wieloletniego archiwum jako równie wiarygodnych. Agenci muszą wiedzieć, skąd pochodzą informacje, kiedy zostały zaktualizowane i jakie polityki mają zastosowanie. Znów kontekst ma znaczenie. Bez odpowiedniego kontekstu agenci popełniają kosztowne błędy.
Prowadź rejestr tego, co robi agent
Zarządzanie nie kończy się, gdy agent otrzyma zatwierdzone dane. Dane związane z AI szybko stają się istotne w sporach sądowych, kontrolach zgodności i skargach klientów. Aby być przygotowanym, organizacja musi być w stanie wykazać, co agentowi polecono zrobić, do jakich informacji miał dostęp, jakie polityki zastosowano i co się później stało.
Prompty, pobrane treści, wyniki i wynikające z nich decyzje powinny być przechowywane jako zapis biznesowy. Recenzent powinien móc odtworzyć decyzję AI i prześledzić ją zarówno do danych źródłowych, jak i do osoby lub jednostki, która autoryzowała działanie.
Wreszcie, odpowiedzialność nie może należeć wyłącznie do zespołu technologicznego. Liderzy ds. bezpieczeństwa, danych, prywatności, prawa i zgodności odgrywają rolę, ale należy wyznaczyć właściciela biznesowego, który będzie odpowiedzialny za wynik. Automatyzacja może wykonać działanie, ale nie może wziąć za nie odpowiedzialności.
Przygotowanie danych nie jest drugorzędnym przepływem pracy do rozwiązania po udanym pilotażu AI. Jest częścią decyzji o przeniesieniu pilotażu do produkcji. Jeśli organizacja nie może zaufać informacjom, nie może kontrolować dostępu i nie może jasno wyjaśnić wynikających z tego decyzji, agent nie jest gotowy na większą autonomię.
