Блог

ИИ-агенты в бизнесе

Что они умеют и чего не умеют

10 мин чтения

Ноутбук на светлом столе, на экране страница KI-Automatisierung сайта kazarnovskis.de, рядом красный блокнот с ручкой

ИИ-агентом называют систему, которая идёт к цели в несколько шагов: сама ищет информацию, заглядывает в базы данных и почту и сама оценивает, что получилось. В малом и среднем бизнесе сегодня, как правило, надёжнее сценарий, где каждый шаг прописан заранее и ИИ делает только свою часть, чем агент, который сам решает, что делать дальше. Чем больше агент решает сам, тем важнее следить, к чему у него есть доступ, записывается ли каждое его действие и подтверждает ли человек важные шаги.

Об ИИ-агентах сейчас говорят все. Но для твоей фирмы важен другой вопрос: где агент действительно нужен, а где хватит простого workflow, который надёжнее и дешевле?

Мы сами настраиваем автоматизацию для небольших фирм, поэтому расскажем без рекламных обещаний: что агенты умеют сегодня, где дают сбой, как их обезопасить и что о них говорит AI Act.

Что такое ИИ-агент?

Под этим словом понимают разное. Удобное разделение предлагает компания Anthropic, разработчик ИИ, в статье «Building effective agents». Системы, в которых языковые модели и инструменты работают по заранее прописанным в коде путям, там называют workflow. Системы, в которых языковая модель сама решает, какие шаги делать и какими инструментами пользоваться, называют агентами. И те и другие относятся к «агентным системам».

На практике разница выглядит так:

Чат-бот Workflow с ИИ ИИ-агент
Кто определяет шаги? человек в диалоге заранее заданный порядок модель, по ситуации
Типичная задача отвечать на вопросы прочитать письмо, извлечь данные, подготовить черновик искать информацию, решать задачи в несколько шагов, где путь заранее не ясен
Инструменты обычно только база знаний подключены заранее сам выбирает из набора
Предсказуемость от высокой до средней высокая ниже
Контроль проверить ответ проверить каждый шаг проверить результат и путь, записывать все действия

Границы между ними размыты. Чат-бот, который по просьбе клиента записывает его на приём, уже пользуется инструментом. А в workflow может быть одна развилка, где модель сама выбирает один из двух путей.

Что ИИ-агенты уже сегодня умеют делать надёжно?

Это наша оценка, а не исследование: агенты сильны там, где путь к цели заранее неизвестен, а результат легко проверить. Например:

  • Поиск и сводка: просмотреть несколько внутренних источников и собрать обзор со ссылками на найденное. Результат проверяет человек.
  • Подготовка ответа клиенту: найти по его запросу нужные дела, договоры и заметки и набросать ответ.
  • Задачи с кодом и данными в изолированной среде: здесь результат можно проверить автоматически. По словам Anthropic, в программировании агенты особенно полезны, потому что результат проверяют тесты.
  • Заполнение форм в несколько шагов: собрать данные из нескольких источников и отдать черновик человеку на утверждение.

У всех примеров одно общее: агент готовит, решает человек.

Этого принципа мы советуем держаться в любой автоматизации: система предлагает и готовит, а там, где речь идёт о деньгах, юридических вопросах или клиентах, решает человек.

Чего ИИ-агенты пока не умеют?

Ошибки накапливаются. Агент принимает много решений подряд, и ошибка в начале тянется дальше и может разрастись. Anthropic прямо предупреждает об этом и советует много тестировать в изолированной среде и ставить ограничения.

Цена и время. На одну задачу агенту часто нужно много обращений к модели. По словам Anthropic, агентные системы нередко справляются с задачей лучше, но работают дольше и стоят дороже. Окупается ли это, нужно проверять для каждой задачи.

Безопасность: prompt injection. Проект OWASP ставит prompt injection на первое место среди рисков для приложений на основе языковых моделей (LLM01). Речь о входных данных, которые меняют поведение модели непредусмотренным образом. OWASP различает:

  • прямую атаку: кто-то сам вводит в систему команды, чтобы её обмануть;
  • косвенную атаку: команда спрятана в тексте, который система обрабатывает, например на сайте, в письме или в документе.

Агенты читают много чужих текстов и при этом могут действовать. Одна спрятанная строка во входящем письме способна подтолкнуть агента, у которого есть доступ к твоей почте, к нежелательному действию. Поэтому главная защита: ограниченный доступ и подтверждение важных шагов человеком.

Качество данных. Агент хорош ровно настолько, насколько хороши его источники. Устаревшие прайс-листы, дубли документов или противоречивые инструкции дают неверные промежуточные результаты, а на них опираются все следующие шаги.

Сложно разобраться задним числом. Когда модель сама выбирает путь, потом труднее понять, почему что-то произошло, если не записывать каждый шаг.

Агент или workflow: что подходит для моего процесса?

Anthropic советует начинать с самого простого решения и усложнять, только когда это действительно нужно. Иногда это значит вообще обойтись без агентной системы. Определиться помогут такие вопросы:

Вопрос Скорее workflow Скорее агент
Шаги известны заранее? да нет, путь зависит от случая
Процесс должен каждый раз идти одинаково (проверки, аудит)? да нет
Результат легко проверить? неважно да, иначе слишком рискованно
Насколько дорого обойдётся ошибка? подходит и при высоком риске только при низком риске или с подтверждением человека
Много ли исключений, которые не уложить в правила? мало много

Вымышленный, но типичный пример

Оптовая фирма хочет автоматически заносить в систему заказы, которые приходят по почте. Шаги всегда одни и те же: прочитать письмо, выписать товары и их количество, сверить с данными складской программы, создать черновик заказа, а если что-то неясно, передать менеджеру. Здесь подходит workflow, в котором ИИ выполняет только один шаг: извлекает данные из письма.

С задачей «Собери всё, что мы обсуждали с клиентом X за последние два года» по-другому: какие источники понадобятся, заранее неизвестно. Здесь может пригодиться агент, которому разрешено только читать.

Как такой workflow выглядит в небольшом масштабе, показывает наша статья Чеки в таблицу с помощью ИИ: шаги заданы заранее, ИИ только распознаёт чек, а в конце всё проверяет человек.

Как обезопасить агента и не потерять контроль?

  1. Минимальные права: OWASP советует давать модели только те права, без которых не обойтись. Агенту, который ищет информацию, нужно право читать, а не писать или отправлять.
  2. Подтверждение человеком: OWASP советует, чтобы рискованные действия подтверждал человек. В фирме это значит: ни одно письмо, ни один платёж, ни одно изменение договора не проходит без подтверждения.
  3. Чужой текст только как данные: входящие тексты не должны становиться командами для системы. Чётко отделяй и помечай такое содержимое.
  4. Запись действий: каждый шаг, каждый инструмент и каждый источник фиксируются, чтобы потом можно было понять, откуда взялся результат.
  5. Тесты в изоляции: сначала в тестовой среде на тестовых данных, потом в реальной работе под контролем и с выборочными проверками.
  6. Защита данных: заранее определи, какие персональные данные видит агент и куда они уходят, и оформи договор об обработке данных по поручению.

Что говорит AI Act об ИИ-агентах?

Наша оценка по состоянию на 26 октября 2026 года, а не юридическая консультация.

  • Понятия «ИИ-агент» в AI Act нет. Важно другое: считается ли система ИИ-системой по пункту 1 статьи 3. Если упростить, это машинная система, которая может работать с разной степенью автономии и по входным данным сама определяет, как получить результат: прогноз, контент, рекомендацию или решение. Агент на базе языковой модели под это определение, как правило, подпадает.
  • Языковая модель, на которой работает агент, часто относится к моделям ИИ общего назначения (пункт 63 статьи 3). Обязанности по статьям 53 и далее лежат на её поставщике, например на производителе модели, а не на фирме, которая просто использует агента.
  • Статья 50 абзац 1: если агент рассчитан на прямое общение с людьми, поставщики со 2 августа 2026 года обязаны сделать так, чтобы люди знали, что говорят с ИИ, если это не очевидно. Тот, кто заказывает разработку агента и запускает его под своим именем, сам может оказаться поставщиком. Подробнее: Должен ли чат-бот говорить, что он ИИ?
  • Статья 4: поставщики и пользователи принимают меры, чтобы помогать своим сотрудникам развивать компетенции в области ИИ (в редакции регламента (ЕС) 2026/1744, действует с 27 июля 2026 года).
  • Высокий риск: если агент участвует, например, в кадровых решениях или работает в других сферах, перечисленных в Приложении III, могут появиться дополнительные обязанности. С учётом поправок, внесённых регламентом (ЕС) 2026/1744, они действуют со 2 декабря 2027 года. Это нужно проверять отдельно.

Какие обязанности касаются именно тебя, зависит от твоей роли (поставщик или пользователь) и от того, как ты используешь агента. Общего ответа на это нет.

ИИ-агенты в малом бизнесе: сколько они экономят на самом деле?

Замеров реальной экономии в приведённых ниже исследованиях нет. Цифры взяты из опросов и отражают оценки самих компаний.

YouGov по заказу Alibaba.com и bevh

52 %

фирм от десяти сотрудников

считают, что с помощью ИИ-агентов можно сократить от 10 до более чем 30 % рутинных операционных задач. Опрошено 438 руководителей малых и средних фирм (с 8 по 15 сентября 2026 года). Около 40 % называют главной нагрузкой обработку заказов и обслуживание клиентов, 32 % жалуются на перегрузку административной работой.

Civey по заказу eco

74 %

из 500 компаний

доверяют ИИ-агентам в лучшем случае подготовительную работу или самостоятельную работу под контролем человека (опрос с 18 сентября по 3 октября 2026 года). 47 % хотели бы предусмотреть автоматическое аварийное отключение. Статистическая погрешность, по данным eco, в зависимости от вопроса составляет от 9,1 до 9,4 процентного пункта.

Учти: Alibaba.com сама продаёт ИИ-агентов.

Сколько агент сэкономит именно в твоей фирме, покажет только собственный замер. До запуска засеки, сколько времени сегодня уходит на процесс, например на ответы на типовые запросы. После тестового периода сравни с новым замером и не забудь учесть время, которое сотрудники тратят на проверку.

С чего начать работу с ИИ-агентами?

  1. Выбери процесс, который повторяется часто и результат которого легко проверить.
  2. Опиши процесс: шаги, правила, исключения, какие программы в нём задействованы.
  3. Реши: хватит ли workflow? Чаще всего да. Агента стоит рассматривать только там, где путь к результату действительно не ясен заранее.
  4. Определи права: только читать, готовить черновики или выполнять действия. И отметь, что из этого требует подтверждения человека.
  5. Протестируй: на настоящих, но некритичных случаях. Сравни результаты.
  6. Запускай и докручивай: делай выборочные проверки, смотри записи действий, поправляй правила.

Если агент должен работать с внутренней информацией фирмы, как правило, нужна база знаний, которую поддерживают в актуальном состоянии. Агент найдёт только то, что вообще можно найти и что не устарело.

Частые вопросы

Что такое ИИ-агент простыми словами?

ИИ-агентом называют программу, которой ставят цель, а путь к ней она планирует сама. Для этого она пользуется инструментами вроде поиска, баз данных или почты, проверяет промежуточные результаты и решает, каким будет следующий шаг.

Чем чат-бот отличается от ИИ-агента?

Чат-бот отвечает на вопросы в диалоге, и разговором управляет человек. Агент выполняет задачу в несколько шагов и сам пользуется инструментами. Чем больше ему разрешено, тем надёжнее его нужно подстраховать.

Безопасны ли ИИ-агенты?

Сами по себе нет. Главные риски: ошибки, которые накапливаются от шага к шагу, и prompt injection, то есть спрятанные команды в тексте, который обрабатывает агент. Минимальные права, подтверждение рискованных действий человеком, запись всех действий и тесты в изолированной среде снижают риск, но не убирают его полностью.

Какие задачи ИИ-агенты могут взять на себя в фирме?

Прежде всего подготовительные задачи, где путь заранее не ясен, а результат легко проверить: поиск во внутренних источниках, сбор материалов по делу, черновики. Типовые повторяющиеся процессы обычно надёжнее автоматизировать через workflow.

Нужна ли агентам база знаний?

Если агент должен работать с внутренней информацией фирмы, да. Он найдёт только то, что вообще можно найти и что не устарело. Устаревшие или противоречивые документы ведут к неверным результатам, поэтому порядок в них стоит навести заранее.

Агент или workflow? Разберём на примере твоего процесса

На бесплатной проверке готовности к ИИ мы за 45 минут разберём твои процессы и покажем, где хватит workflow, а где агент действительно сэкономит время. Настроить можем и то и другое: это часть нашей KI-Automatisierung.

Пройти бесплатный аудит

Источники

Дата обращения: 26 октября 2026 года.

  • YouGov по заказу Alibaba.com и bevh, пресс-релиз от 24 сентября 2026 года: bevh.org
  • eco/Civey, пресс-релиз от 14 октября 2026 года: eco.de
  • Anthropic, «Building effective agents»: anthropic.com
  • OWASP GenAI Security Project, LLM01:2025 Prompt Injection: genai.owasp.org
  • Регламент (ЕС) 2024/1689 (AI Act): EUR-Lex
  • Регламент (ЕС) 2026/1744 («KI-Omnibus», в том числе статья 4): EUR-Lex

Статья даёт общую информацию и не заменяет юридическую консультацию.

Переходите на Маркетинг 4.0 и выведите бизнес на уровень, которого он заслуживает.

Мы объединяем технологии, креатив и анализ данных в единую систему, нацеленную на доход. Готовы к маркетингу, который даёт результаты? Тогда давайте начнём.