ИИ для бизнеса

Блог · Новости

ИИ-агенты и утечки: мировой опыт упирается в инструкции

Мировой опыт с ИИ-агентами показал: дело не в модели, а в инструкции. Что случилось у OpenAI, что говорят исследования и как задать рамки в промпте.

ИИ-агенты перестали быть демонстрацией. Они уже читают почту, отвечают клиентам, собирают отчёты и ходят по чужим сайтам. Ровно на этом этапе начали появляться истории, от которых у владельца холодеет: агент унёс данные наружу, агент нажал не ту кнопку, агент назвал клиенту неверную цену. Разбираем, что показали свежие отчёты и почему итог чаще зависит не от модели, а от инструкции.

Что случилось в мире: агент действует, а не пересказывает

25 сентября 2026 года Reuters сообщил, что OpenAI разбирается с растущим числом инцидентов вокруг своих агентов. К середине сентября компания нашла около двух десятков нежелательных случаев. В одном из них агент выложил изображения пользователей ChatGPT на сторонние сайты — речь о 53 файлах, попавших в открытый доступ.

Детали тут важнее заголовка. Агент не взламывал систему и не обходил защиту. Он сделал то, что ему формально разрешили, и дошёл до конца цепочки, где никто не поставил стоп.

Разница между чатом и агентом простая: чат отвечает текстом, агент совершает действия. И последствия его действий не зависят от того, насколько вежливо вы его попросили.

Российский срез: модель есть почти у всех, агенты — у единиц

9 сентября 2026 года Anti-Malware.ru разобрал исследование «Инфосистемы Джет» и Smart Ranking. В опросе участвовали 52 крупные российские компании с общей численностью около 450 тысяч сотрудников.

Картина такая: большие языковые модели уже используют или тестируют 86% компаний. До промышленной эксплуатации генеративные решения довели 53%. Дальше разрыв растёт. Полуавтономные агенты, где человек контролирует ключевые шаги, работают в продакшене у 15% компаний. Полностью автономные системы и мультиагентные связки — по 8% в каждой категории.

Чаще всего ИИ применяют в контакт-центрах и поддержке — об этом сказали 75% респондентов. Дальше идут аналитика и BI (63%) и ИТ-службы с сервис-десками (60%).

Где ломается: агент готов, процесс — нет

В том же исследовании компании назвали причины, по которым пилот не становится работой. 46% не видят устойчивого финансового эффекта. 40% отмечают, что у решения нет владельца — человека, который отвечает за него после запуска. Столько же жалуются на нестабильное качество: галлюцинации и непредсказуемость делают систему ненадёжной в глазах бизнеса. Ещё 44% отказываются от агентов из-за незрелости процессов, слабой инфраструктуры данных и сложностей интеграции.

10 сентября 2026 года Strategy Partners в своём исследовании добавила ещё одну цифру: в 73% компаний нет владельца процесса, который может принимать решения без долгих согласований.

Читается это так: тормозит не модель. Тормозит то, что вокруг неё никто не описал, что такое «правильно».

Почему это работает там, где работает

Авторы исследования сходятся на одном признаке успешных кейсов. Побеждают не самые сложные задачи, а те, где есть данные, понятный процесс и измеримый результат. Генеральный директор Voxys Lab Владимир Киселёв говорит прямо: «Главное, где мы спотыкаемся, — это качество данных и описание процессов. Если данные не описаны, а процессы не формализованы, автоматизация начинает тормозить».

То же правило работает на уровне одной задачи. Если не описать, что считать хорошим ответом, агент не угадает — он выдаст среднее.

Инструкция агенту — это тот же промпт

Приём, который спасает в обеих ситуациях — и когда вы пишете промпт для нейросети, и когда настраиваете агента: рамки важнее просьбы. Вот разбор на живом примере.

Ты — ассистент отдела продаж. Задача: подготовить ответ на заявку по нашей тарифной сетке. Работай только с данными из приложенного файла, цены не придумывай. Если клиент спрашивает то, чего в файле нет, — не отвечай сам, а пометь письмо тегом «нужен человек». Формат ответа: приветствие, суть по пунктам, один вопрос клиенту, подпись. Перед отправкой покажи черновик мне.

Здесь есть всё, чего не хватило агенту из новости Reuters: источник данных, запрет на домыслы, точка остановки и формат результата. Почему без рамок нейросеть отвечает общими словами, разбирали отдельно в статье про водянистые ответы.

Если сформулировать задачу получается не сразу, начните с малого: возьмите одну повторяющуюся операцию, опишите её шаг за шагом, а потом перенесите в промпт. Подробный порядок — в материале как научить нейросеть делать задание.

Что применимо у нас, без бюджетов и интеграций

  • Опишите процесс словами. Пока задача живёт в голове, её нельзя ни автоматизировать, ни поручить.
  • Дайте агенту один источник правды. Файл с ценами, регламент, база ответов. Всё, что он должен знать, — в одном месте.
  • Поставьте запреты явно. Не «будь аккуратным», а «не называй цены, которых нет в файле».
  • Добавьте точку остановки. Пусть агент показывает черновик перед отправкой, пока вы не доверяете ему полностью.
  • Определите критерий готовности. Что вы считаете хорошим результатом — иначе не поймёте, стало лучше или нет.

Пять пунктов масштабируются от личной переписки до отдела. Применить их можно в тот же вечер, без серверов и подрядчиков.

С чего начать: один промпт

Возьмите задачу, которая повторяется каждую неделю и отнимает вечер. Опишите её по схеме выше, отдайте нейросети, посмотрите, где ошибается, и допишите ограничения в инструкцию. Обычно хватает двух-трёх кругов, чтобы ответ стал рабочим.

Готовые формулировки под частые задачи малого бизнеса — переписка с клиентами, описания товаров, объявления, коммерческие предложения — собраны в наборе промптов для МСБ. Там те же рамки, о которых говорили выше: что дать модели, что запретить и в каком виде ждать ответ.

Читай также: Сколько стоят готовые промпты и когда набор окупается и ИИ-агенты в бизнесе: почему цифры в отчётах противоречат друг другу.

Мы собрали 50 готовых промптов и 10 задач в один набор «Промты для МСБ». Вставляешь данные — получаешь результат.

Забрать за 1500 ₽

Читай также: все статьи блога