Первый ИИ-проект часто начинается с фразы «сделаем ассистента для всей компании к пятнице». А заканчивается лишними подписками, интеграцией на полгода и ботом, которому никто не доверяет. Проблема обычно не в модели. Проблема — в ожиданиях и попытке автоматизировать всё сразу.
Нормальный старт скучнее: помощник готовит черновик ответа о статусе заказа, а оператор его проверяет и отправляет. Есть понятный результат, есть человек рядом, ошибки не улетают клиенту. Практичный способ применить принципы NIST по управлению рисками ИИ — заранее описать цель, риски и метрики, проверить сценарий на живых кейсах, а после запуска продолжать смотреть на результат.
1. Берутся за «ассистента для всей компании»
Бот, который читает почту, ведёт CRM, пишет посты, бронирует встречи и отвечает клиентам, — не один проект. Это пачка процессов с разными доступами, ошибками и ценой.
Берите одну задачу с чёткими границами. Не «улучшить поддержку», а «подготовить ответ о статусе заказа по данным из CRM». Если сотрудник не может объяснить сценарий за минуту, сначала распутайте сам процесс.
2. Автоматизируют бардак
ИИ не наведёт порядок в хаосе. Он просто быстрее его повторит. Если менеджеры называют одну причину отказа то «дорого», то «нет бюджета», то «вернётся позже», аналитика получится аккуратной только снаружи.
Сначала договоритесь о статусах, правилах и шаблонах. Назначьте владельца процесса: человека, который решает, какая инструкция актуальна. Потом подключайте автоматизацию. Иначе будет бардак, но с API.
3. Выбирают модель по громкому имени
Общий лидерборд не знает ваши товары, правила возврата и поля в CRM. Он может подсказать кандидатов, но не выбрать рабочий инструмент за вас.
Возьмите две-три модели и один набор из двадцати обезличенных обращений. Зафиксируйте версии моделей и дату теста. Сравните точность фактов, соблюдение инструкции, формат, скорость и цену готового черновика. Русский интерфейс или удобная оплата могут быть полезны команде, но они не доказывают качество ответа.
Выбирайте вариант, после которого оператор реже переписывает текст и реже ловит выдуманные факты. Не нужно объявлять победителя войны ИИ-гигантов: для первого пилота важнее один нормальный сценарий.
4. Верят демке и не тестируют реальную работу
В демо вопрос понятный, документ свежий, а клиент вежливый. В жизни приходят опечатки, скриншоты, неполные данные и три версии регламента в разных папках.
Соберите реальные кейсы без личных данных: обычные обращения, конфликтные письма, запросы без номера заказа, случаи для передачи сотруднику. Для каждого заранее запишите ожидаемый результат. Не «ответ хороший», а «не обещает возврат без проверки, просит номер заказа и не придумывает сроки».
5. Считают один промпт продуктом
Длинная инструкция в заметках разработчика — ещё не система. Кто-то поменяет пару строк, и помощник внезапно начнёт обещать клиентам то, чего компания не делает.
Храните промпт вместе с датой изменения, автором и набором тестов. Поменяли модель, инструкцию, базу знаний или интеграцию — прогоните кейсы заново. Так вы поймёте, что именно сломалось.
Ты готовишь черновик ответа клиенту интернет-магазина.
Ситуация: клиент сообщает о двойном списании за заказ.
Действие:
1. Не обещай возврат без подтверждения платежа.
2. Попроси номер заказа и идентификатор платежа или последние четыре цифры карты.
3. Объясни, что сотрудник проверит операцию и сообщит дальнейшие действия.
4. Верни тему письма и короткий спокойный текст ответа.
Последствие ошибки: нельзя писать, что возврат уже оформлен, если двойное списание не подтверждено.6. Думают, что RAG делает ответы правдивыми
RAG ищет информацию в документах и добавляет её в ответ. Полезная фича, но не заклинание на достоверность. Старые инструкции, дубли файлов и регламенты без даты он не исправит.
Начните с нескольких проверенных документов. У каждого важного правила должны быть владелец и дата обновления. Только потом расширяйте базу. Иначе ИИ будет уверенно находить неправильный ответ — с очень деловым видом.
7. Дают агенту слишком много прав
Самый рискованный старт — разрешить ИИ самому отправлять письма, менять статусы заказов и создавать возвраты. Вредная инструкция может попасть не только от пользователя, но и из письма, файла или страницы, которую читает агент. OWASP отдельно разбирает prompt injection.
На первом этапе пусть помощник читает данные и готовит черновик. Письмо, возврат или изменение в CRM подтверждает человек. Права на запись добавляйте по одному действию и только после тестов на реальных кейсах.
8. Не понимают, какие данные уходят в модель
В тестовый чат легко скопировать клиентскую базу, договоры и финансовую таблицу. Потом выясняется, что никто не решил, можно ли это отправлять, где хранятся логи и кто их видит.
Сделайте карту данных: что приходит в запросе, откуда берётся, где остаётся результат и кому он доступен. Помощнику поддержки обычно хватает номера заказа, статуса и правил ответа. Паспортные данные и вся история клиента ему чаще всего не нужны.
9. Считают только цену токенов
Дешёвый запрос не означает дешёвый проект. В бюджет пилота входят поиск по документам, вызовы инструментов, повторные прогоны, логи и время сотрудника на проверку.
Считайте цену законченного действия: черновика, который оператору осталось проверить, а не переписать с нуля. До старта задайте лимит шагов агента, длины ответа и расходов на сценарий. Добавьте остановку при повторной ошибке — чтобы бот не ходил кругами за ваши деньги.
10. Запускают пилот и перестают смотреть на него
Правила компании меняются, документы обновляются, интеграции ломаются. Поэтому у пилота должен быть владелец. Для маленькой команды достаточно человека, который раз в неделю разбирает ошибки, спорные ответы, расходы и жалобы коллег.
Добавьте журнал действий, кнопку обратной связи и понятный способ выключить автоматизацию. Это не бюрократия: без следов вы не найдёте причину ошибки, а без выключателя будете тушить пожар в чате.
Если проект затрагивает персональные данные, договоры или платежи, этот материал не заменяет юридическую или налоговую консультацию. Требования меняются, поэтому перед запуском сверьтесь с первоисточником или специалистом.
Что сделать в понедельник утром
Выберите одну задачу, которую сотрудник повторяет несколько раз в неделю. Соберите двадцать обезличенных кейсов и запишите для каждого правильный результат. Запустите ИИ только в режиме черновика, а причины правок отмечайте в простой таблице.
Не покупайте курс «ИИ-стратегия за выходные», если вам пока нужна таблица кейсов. Сегодня выпишите первые пять обращений, которые оператор уже обработал вручную, и проверьте на них одну модель. С этого начинается полезный пилот.
Статья помогла?
