ИИ-агенты в бизнесе
ИИ-агентом называют систему, которая идёт к цели в несколько шагов. По дороге она сама пользуется инструментами (поиском, базами данных, почтой) и оценивает промежуточные результаты. В малом и среднем бизнесе сегодня, как правило, надёжнее жёстко заданные цепочки с ИИ-шагами (workflow), чем свободно действующие агенты. Чем больше агент решает сам, тем важнее права доступа, журналы и одобрение человеком.
Об ИИ-агентах говорят все. Для твоей фирмы вопрос другой: какому процессу агент действительно нужен, а где хватит простого workflow, который надёжнее и дешевле?
Мы сами строим автоматизации для небольших фирм. Поэтому без рекламных обещаний: что агенты умеют сегодня, где ломаются, как их обезопасить и что про них говорит AI Act.
Что такое ИИ-агент?
Слово понимают по-разному. Полезное разделение предложил разработчик ИИ Anthropic в статье «Building effective agents». Системы, где языковые модели и инструменты работают по заранее прописанным путям в коде, там называются workflow. Системы, где языковая модель сама решает, какие шаги делать и какими инструментами пользоваться, называются агентами. И то и другое относится к «агентным системам».
На практике разница выглядит так:
| Чат-бот | Workflow с ИИ-шагами | ИИ-агент | |
|---|---|---|---|
| Кто определяет шаги? | человек в диалоге | заранее заданный порядок | модель, по ситуации |
| Типичная задача | отвечать на вопросы | прочитать письмо, извлечь данные, подготовить черновик | поиск информации, многошаговые задачи с открытым путём |
| Инструменты | обычно только база знаний | жёстко подключены | сам выбирает из набора |
| Предсказуемость | от высокой до средней | высокая | ниже |
| Проверка | проверить ответ | проверить каждый шаг | проверить результат и путь, нужен журнал |
Границы размыты. Чат-бот, который по просьбе записывает на приём, уже пользуется инструментом. Workflow может содержать одно место, где модель выбирает между двумя путями.
Что ИИ-агенты надёжно умеют уже сегодня?
Наша оценка, не исследование: агенты сильны там, где путь к цели заранее не известен, а результат легко проверить. Примеры:
- Поиск и сводка: просмотреть несколько внутренних источников и собрать обзор со ссылками на найденное. Результат проверяет человек.
- Подготовка к работе с обращением: найти к запросу клиента нужные дела, договоры и заметки и набросать ответ.
- Задачи с кодом и данными в изолированной среде: здесь результат можно проверить автоматически. Anthropic называет программирование областью, где агенты особенно полезны, потому что тесты проверяют результат.
- Многошаговая подготовка форм: собрать данные из нескольких источников и положить черновик на одобрение.
Общее у всех примеров: агент готовит, решает человек.
Этот принцип мы советуем для любой автоматизации: системы предлагают и готовят. Там, где речь о деньгах, праве или клиентах, решает человек.
Где пределы ИИ-агентов?
Цепочки ошибок. Агент принимает много решений подряд. Ранняя ошибка тянется дальше и может усилиться. Anthropic прямо предупреждает о накоплении ошибок и советует много тестировать в изолированной среде и ставить ограничители.
Стоимость и время. Агенту часто нужно много обращений к модели на одну задачу. По словам Anthropic, агентные системы нередко платят задержкой и стоимостью за лучший результат. Окупается ли это, нужно проверять для каждой задачи.
Безопасность: prompt injection. Проект OWASP ставит prompt injection на первое место среди рисков приложений на языковых моделях (LLM01). Имеются в виду входные данные, которые меняют поведение модели непредусмотренным образом. OWASP различает:
- прямую атаку: кто-то сам даёт системе манипулирующие указания;
- косвенную атаку: указание спрятано в содержимом, которое система обрабатывает, например на сайте, в письме или в документе.
Агенты читают много чужого текста и при этом могут действовать. Одна спрятанная строка во входящем письме способна подтолкнуть агента с доступом к твоей почте к нежелательному действию. Поэтому главная защита состоит в правах доступа и одобрении человеком.
Качество данных. Агент хорош ровно настолько, насколько хороши его источники. Устаревшие прайсы, дубли документов или противоречивые инструкции дают неверные промежуточные результаты, а на них строятся все следующие шаги.
Прослеживаемость. Когда модель сама выбирает путь, потом труднее объяснить, почему что-то произошло, если каждый шаг не записан в журнал.
Агент или workflow: что подходит моему процессу?
Anthropic советует искать самое простое решение и усложнять только при необходимости. Иногда это значит вообще не строить агентную систему. Решить помогут такие вопросы:
| Вопрос | Скорее workflow | Скорее агент |
|---|---|---|
| Шаги известны заранее? | да | нет, путь зависит от случая |
| Каждый прогон должен идти одинаково (проверка, аудит)? | да | нет |
| Результат легко проверить? | неважно | да, иначе слишком рискованно |
| Насколько дорога ошибка? | подходит и при высоком риске | только при низком риске или с одобрением |
| Много исключений, которые не уложить в правила? | мало | много |
Типичный вымышленный пример
Оптовик хочет принимать заказы, которые приходят по почте. Шаги всегда одни и те же: прочитать письмо, извлечь товары и количества, сверить со складской системой, создать заказ как черновик, при неясности передать менеджеру. Здесь подходит workflow с одним ИИ-шагом для извлечения данных.
С вопросом «Собери всё, что мы обсуждали с клиентом X за последние два года» всё иначе: какие источники нужны, зависит от случая. Здесь может пригодиться агент, у которого есть только права на чтение.
Как такой workflow выглядит в малом масштабе, показывает наша статья Чеки в таблицу с помощью ИИ: фиксированные шаги, один ИИ-шаг для распознавания, в конце проверяет человек.
Как обеспечить безопасность и ответственность?
- Минимальные права: OWASP советует ограничить права модели необходимым. Агенту для поиска информации нужны права на чтение, а не на запись или отправку.
- Одобрение человеком: для действий с высоким риском OWASP советует одобрение человеком. В фирме это значит: никакой отправки, оплаты или изменения договора без одобрения.
- Чужой текст считать данными: входящие тексты не должны становиться указаниями для системы. Чётко отделяй и помечай такое содержимое.
- Журналы: каждый шаг, каждый инструмент и каждый источник записываются, чтобы результаты можно было проследить.
- Тестировать изолированно: сначала в тестовой среде на тестовых данных, потом в реальной работе под контролем и с выборочными проверками.
- Защита данных: заранее определи, какие персональные данные видит агент и куда они уходят, и оформи обработку данных по поручению (Auftragsverarbeitung).
Что говорит AI Act об ИИ-агентах?
Наша оценка на 26 октября 2026 года, не юридическая консультация.
- Понятия «ИИ-агент» в регламенте об ИИ нет. Важно, является ли система ИИ-системой в смысле статьи 3 пункта 1: по смыслу это машинная система, которая может работать с разной степенью автономии и из входных данных выводит, как создавать результаты, например прогнозы, контент, рекомендации или решения. Агент на базе языковой модели, как правило, под это подпадает.
- Языковая модель под агентом часто является моделью ИИ общего назначения (статья 3 пункт 63). Обязанности по статьям 53 и далее лежат на её поставщике, то есть, например, на производителе модели, а не на фирме, которая агента просто использует.
- Статья 50 абзац 1: если агент предназначен для прямого общения с людьми, поставщики со 2 августа 2026 года должны обеспечить, чтобы люди узнали, что говорят с ИИ, если это не очевидно. Кто заказывает разработку агента и запускает его под своим именем, может сам оказаться поставщиком. Подробнее: Должен ли чат-бот говорить, что он ИИ?
- Статья 4: поставщики и пользователи принимают меры, чтобы поддерживать развитие ИИ-компетенций своего персонала (редакция регламента (ЕС) 2026/1744, действует с 27 июля 2026 года).
- Высокий риск: если агент используется, например, при кадровых решениях или в других сферах из Приложения III, могут действовать дополнительные обязанности. После поправок регламента (ЕС) 2026/1744 они применяются со 2 декабря 2027 года. Это нужно проверять отдельно.
Какие обязанности касаются тебя, зависит от твоей роли (поставщик или пользователь) и от того, как используется агент. Однозначно ответить на это в общем виде нельзя.
ИИ-агенты в малом бизнесе: сколько они экономят на самом деле?
Измеренной экономии в этих исследованиях нет. Цифры взяты из опросов и отражают оценки самих компаний.
YouGov для Alibaba.com и bevh
52 %
фирм от десяти сотрудников
видят возможность сэкономить с помощью ИИ-агентов от 10 до более чем 30 % рутинных операционных задач. Опрошены 438 руководителей малых и средних фирм (с 8 по 15 сентября 2026 года). Около 40 % называют главной нагрузкой обработку заказов и обслуживание клиентов, 32 % жалуются на административную перегрузку.
Civey для eco
74 %
из 500 компаний
разрешают ИИ-агентам в лучшем случае подготовительную работу или самостоятельную работу под контролем человека (опрос с 18 сентября по 3 октября 2026 года). 47 % предусмотрели бы автоматическое аварийное отключение. Статистическая погрешность, по данным eco, составляет от 9,1 до 9,4 процентного пункта в зависимости от вопроса.
Стоит помнить, что Alibaba.com сама продаёт ИИ-агентов.
Сколько агент сэкономит именно в твоей фирме, покажет только собственный замер. До запуска запиши, сколько сегодня занимает процесс, например ответы на типовые запросы. После тестового периода сравни с новым значением и учти время, которое сотрудники тратят на проверку.
С чего начать работу с ИИ-агентами?
- Выбери процесс, который повторяется часто и результат которого легко проверить.
- Опиши процесс: шаги, правила, исключения, задействованные системы.
- Реши: хватит ли workflow? Чаще всего да. Агента стоит рассматривать только там, где путь действительно открыт.
- Определи права: читать, готовить черновики, выполнять. И что из этого требует одобрения.
- Протестируй: на настоящих, но некритичных случаях. Сравни результаты.
- Запускай и докручивай: делай выборочные проверки, разбирай журналы, поправляй правила.
Если агент должен работать со знаниями фирмы, обычно нужна актуальная база знаний, которую поддерживают в порядке. Агент находит только то, что можно найти и что актуально.
Частые вопросы
Что такое ИИ-агент простыми словами?
ИИ-агентом называют программу, которой ставят цель, а путь к ней она планирует сама. Для этого она пользуется инструментами вроде поиска, баз данных или почты, проверяет промежуточные результаты и решает, каким будет следующий шаг.
Чем чат-бот отличается от ИИ-агента?
Чат-бот отвечает на вопросы в диалоге, разговором управляет человек. Агент ведёт задачу через несколько шагов и сам пользуется инструментами. Чем больше ему разрешено делать, тем больше защиты ему нужно.
Безопасны ли ИИ-агенты?
Сами по себе не безопасны. Главные риски: цепочки ошибок и prompt injection, то есть манипулирующие указания в обрабатываемом тексте. Минимальные права, одобрение человеком для рискованных действий, журналы и тесты в изолированной среде снижают риск, но не убирают его полностью.
Какие задачи ИИ-агенты могут взять на себя в фирме?
Прежде всего подготовительные задачи с открытым путём и легко проверяемым результатом: поиск во внутренних источниках, сбор материалов по делу, черновики. Фиксированные повторяющиеся процессы обычно надёжнее делать через workflow.
Нужна ли агентам база знаний?
Если агент должен работать со знаниями фирмы, да. Он находит только то, что можно найти и что актуально. Устаревшие или противоречивые документы ведут к неверным результатам, поэтому порядок стоит навести заранее.
Агент или workflow? Разберём на твоём процессе
На бесплатной проверке готовности к ИИ мы за 45 минут пройдём твои процессы и покажем, где хватит workflow, а где агент действительно сэкономит время. Сделать можем и то и другое в рамках нашей KI-Automatisierung.
Источники
Проверено 26 октября 2026 года.
- YouGov по заказу Alibaba.com и bevh, пресс-релиз от 24 сентября 2026 года: bevh.org
- eco/Civey, пресс-релиз от 14 октября 2026 года: eco.de
- Anthropic, «Building effective agents»: anthropic.com
- OWASP GenAI Security Project, LLM01:2025 Prompt Injection: genai.owasp.org
- Регламент (ЕС) 2024/1689 (AI Act): EUR-Lex
- Регламент (ЕС) 2026/1744 («KI-Omnibus», в том числе статья 4): EUR-Lex
Статья даёт общую информацию и не заменяет юридическую консультацию.
