В одном из недавних экспериментов AI-агент проработал без перерыва почти полчаса и выдал готовый результат — при этом пользователь так и не увидел, какой код машина на самом деле запускала. Результат оказался хорошим. Нам же интереснее другой вопрос: когда та же логика доберётся до ваших предложений, счетов и писем клиентам, что именно вы покажете через месяц, если кто-то спросит почему?
Одного результата недостаточно
Человек оставляет след сам собой. Есть письмо, где обсуждалась цена, запись в календаре, чьё-то подтверждение в чате, подпись на документе. Если клиент спорит, мы всё это находим. Агент так не делает: он отдаёт итог и молчит о том, какие данные взял, на какой модели работал и какие промежуточные шаги совершил.
У большинства небольших компаний проблема не в том, что AI ошибается. Проблема в том, что ошибку невозможно восстановить задним числом. Если предложение ушло с неверной маржой, мы хотим понять, откуда сбой: из входных данных, из инструкции или из модели. Без следа остаётся только старый способ — догадываться и надеяться.
Четыре вещи, которые стоит фиксировать
По нашему опыту полноценная система аудита не нужна — достаточно четырёх пунктов, которые помещаются в обычную базу, таблицу или уже существующую CRM. Первое — вход: какие данные и какая инструкция пошли в работу. Второе — инструмент: какая модель, какая версия и через какого провайдера; одна и та же модель через разных посредников может вести себя по-разному, поэтому «мы использовали AI» — это не ответ. Третье — результат в двух версиях: что предложила машина и что человек изменил перед отправкой. Четвёртое — кто подтвердил и когда.
Четвёртый пункт самый важный и самый дешёвый. Как только рядом появляется имя, выход модели становится документом компании, а не анонимным машинным текстом. И это сразу меняет поведение: подтверждают внимательнее.
Решите заранее, что требует подписи человека
В США адвокат получил взыскание после того, как подал в суд выдуманные моделью цитаты и свидетелей. Вывод не в том, что AI использовать нельзя. Вывод в том, что не было письменного правила: какие результаты обязаны пройти через человека до отправки.
Мы советуем провести две простые границы. Первая: всё, что уходит из компании от вашего имени — клиенту, партнёру, государственному органу — требует подтверждения человека. Вторая: всё, что двигает деньги, меняет базу данных или рассылается массово, требует подтверждения человека. Остальное — внутренние сводки, черновики, сбор идей, первая версия кода — может работать свободно. Это укладывается на одну страницу и полезнее длинной AI-политики, которую никто не читает.
Где мы сами проводим границу
Честная оговорка: логировать всё не стоит. Лог — это тоже хранилище данных, и если в него попадают персональные данные клиентов, медицинская или финансовая информация, мы просто создали другую проблему. Поэтому мы сразу задаём срок хранения, решаем, какие поля пишутся в маскированном виде, и держим доступ к логу узким.
Вторая граница: прослеживаемость не строят раньше процесса. Если половина команды ещё только пробует, на что модели вообще способны, аудит преждевременен — его время приходит, когда процесс закрепился и начал повторяться. На этапе экспериментов достаточно одной договорённости: ни один результат модели не уходит клиенту напрямую.
Практический первый шаг на этой неделе: выпишите три места, где AI уже что-то делает или пишет в вашей компании, и рядом отметьте, можно ли будет восстановить результат через месяц. Там, где ответ «нет», и стоит начинать — пока агенты не стали ещё самостоятельнее.