Для запуска ИИ-агентов в промышленную эксплуатацию сначала необходимо обеспечить управление корпоративными данными. Качество данных, контроль доступа и журналирование выходных данных агентов критически важны для успешных и обосновываемых ИИ-приложений.
Руководители тратят много времени на то, чтобы понять, готовы ли ИИ-агенты к промышленной эксплуатации, однако отправная точка не здесь. Ведь агенты действуют не в вакууме. Качество их решений во многом зависит от качества используемых ими данных.
Безопасность и производительность модели, безусловно, важны, но они не могут компенсировать слабый контроль над информацией, к которой имеет доступ агент. Прежде чем запускать агента в продуктив, организации необходимы управляемые входные данные, надлежащий доступ и надежный журнал того, что агент производит.
Если вы дадите агенту устаревшую информацию о клиентах, дублирующиеся записи или материалы, которые вообще должным образом не классифицированы, он будет работать с тем, что есть, и в тысячах операций быстро начнет принимать решения на основе неполных данных.
К сожалению, разрыв между внедрением и управлением стремительно растет. В спешке внедрения ИИ многие организации запускают агентов в продуктив, не решив базовую проблему данных. Поэтому неудивительно, что подавляющее большинство ИИ-проектов демонстрирует нулевую рентабельность инвестиций.
Более того, управление ИИ-агентом не ограничивается данными, к которым агент может получить доступ. Оно также охватывает данные, которые агент создает: решения, отданные указания и сформированные им документы. По мере того как ИИ вносит значительный вклад в корпоративные решения, прослеживаемость и обосновываемость ИИ становятся критически важными компетенциями.
Организации, создающие прочную основу данных, могут переходить от пилота к продуктиву с уверенностью, что агенты не превратят плохо управляемые данные в кризис в масштабах всей компании.
Сначала проблема данных
Проблема управления данными, конечно, не нова. Большинство крупных организаций годами разбирались с информацией, разбросанной по операционным платформам, файловым хранилищам, архивам и приложениям, которые давно пора было вывести из эксплуатации. Однако агентный ИИ способен быстро активировать эти слабые места в масштабе, поэтому вопрос стал гораздо более срочным.
Прежде чем предоставлять агенту доступ к данным, ИТ-подразделение должно определить конфиденциальную и регулируемую информацию, последовательно применять политики классификации и хранения, а также определить, какие источники являются актуальными и надежными. Устаревшие данные требуют особого внимания.
Выведенные из эксплуатации приложения часто содержат ценные сведения о бизнес-истории, но при этом также хранят дублирующиеся записи, недействительную информацию и данные, подпадающие под требования законодательного хранения или удержания.
Организации также должны сохранять контекст и связи, придающие смысл устаревшим данным, а затем предоставлять доступ к отобранным, контролируемым политиками наборам данных. ИИ не действует в вакууме данных, и без окружающего контекста агенты либо не могут выполнить свои задачи, либо, что хуже, принимают и реализуют ошибочные решения.
Доступ — это бизнес-решение
Еще одна ошибка организаций — предоставлять своим агентам доступ к большему объему данных, чем им нужно. На самом деле агенты должны иметь доступ только к данным, необходимым для выполнения порученных им задач. То, что система может подключиться к агенту, не означает, что она должна это делать.
Оценивайте агентов как сотрудников и следуйте принципу наименьших привилегий. Например, агенту службы поддержки клиентов может потребоваться актуальная информация об учетной записи и транзакциях, но вряд ли ему нужны юридические файлы или прежние кадровые записи. Доступ должен строго соответствовать определенной цели агента.
Происхождение источника также важно. Агент не должен рассматривать актуальную систему учета и десятилетний архив как одинаково авторитетные. Агенты должны знать, откуда поступила информация, когда она была обновлена и какие политики применяются. И снова контекст имеет значение. Без надлежащего контекста агенты совершают дорогостоящие ошибки.
Ведите журнал того, что делает агент
Управление не заканчивается после того, как агент получил утвержденные данные. Данные, связанные с ИИ, быстро становятся важными для судебных разбирательств, проверок на соответствие требованиям и жалоб клиентов. Чтобы быть готовой, организация должна уметь показать, что от агента требовалось сделать, к какой информации он получил доступ, какие политики были применены и что произошло после этого.
Запросы, полученный контент, выходные данные и итоговые решения должны храниться как деловая запись. Проверяющий должен иметь возможность воспроизвести решение ИИ и проследить его как до исходных данных, так и до лица или подразделения, санкционировавшего деятельность.
Наконец, подотчетность не может принадлежать только технологической команде. Руководители по безопасности, данным, конфиденциальности, правовым вопросам и комплаенсу — все играют свою роль, но должен быть назначен бизнес-владелец, который будет нести ответственность за результат. Автоматизация может выполнить действие, но не может принять за него ответственность.
Подготовка данных — это не второстепенный рабочий процесс, которым можно заняться после успешного пилота ИИ. Это часть решения о переводе пилота в продуктив. Если организация не может доверять информации, не может контролировать доступ и не может четко объяснить возникшие решения, агент не готов к большей автономии.
