Статья

Из модели в работника: как ИИ-агента собирают под конкретную задачу

Из модели в работника: как ИИ-агента собирают под конкретную задачу

Кира НейманКира Нейман·7 ноября·
29
··0·
Если коротко: сама языковая модель — это «мозг без рук». Она умеет рассуждать и писать текст, но не умеет сама открыть таблицу, отправить письмо или проверить результат. ИИ-агент появляется, когда вокруг модели собирают обвязку: инструкции (роль и правила), инструменты (поиск, база данных, почта, код), память и цикл, в котором модель выбирает действие, видит результат и решает, что делать дальше. Под каждую задачу эти детали подбирают заново, и чем проще достаточно, тем лучше.
Меня зовут Кира Нейман, я рассказываю про нейросети по-человечески. Слово «агент» сейчас используют для всего подряд, от чат-бота с шаблонами до автономных систем, поэтому ниже я разберу, из чего агент действительно состоит, чем он отличается от обычной автоматизации и когда он вам вообще не нужен.

Модель, чат-бот и агент: в чём разница

Модель отвечает на запрос и забывает о нём. Чат-бот добавляет историю диалога. Агент добавляет способность действовать: вызывать внешние сервисы и самому решать, в каком порядке и сколько раз. Команда Anthropic в статье «Building effective agents» предлагает чёткое различие. Workflow — это системы, где модели и инструменты управляются заранее написанным кодом, то есть путь известен. Агенты — системы, где сама модель направляет свой процесс и использование инструментов, сохраняя контроль над тем, как выполнить задачу.
Это различие практическое. Если вы можете написать алгоритм «сначала сделай A, потом B, потом C», вам нужен workflow, и модель в нём — один из шагов. Если число шагов заранее неизвестно, потому что зависит от находок по пути, нужен агент. Большинство задач на самом деле относится к первому типу, и это хорошая новость: такие системы дешевле и предсказуемее.

Из чего собирается агент

Базовый кирпичик в той же статье называется «расширенная модель» (augmented LLM): языковая модель, оснащённая поиском, инструментами и памятью. Она сама формулирует поисковые запросы, выбирает нужный инструмент и решает, какую информацию сохранить. Остальное строится вокруг этого кирпичика. Давайте посмотрим на детали по порядку.

Инструкция и роль

Это системный запрос: кем является агент, какие у него границы, в каком формате отвечать, когда нужно остановиться и спросить человека. Плохая инструкция — главный источник ошибок: если агент не знает, что нельзя удалять данные без подтверждения, он может это сделать, потому что формально это один из вариантов решения задачи.

Инструменты

Инструмент — любая функция, которую агент может вызвать: поиск по базе знаний, чтение файла, запрос в CRM, отправка письма, запуск кода. Для модели инструмент описан текстом: название, назначение, параметры. Поэтому качество описания напрямую определяет качество работы: если два инструмента описаны размыто, модель будет путать их. Авторы статьи Anthropic рекомендуют давать модели понятный, хорошо документированный интерфейс к её возможностям.
Чтобы не подключать каждый сервис вручную, появился открытый стандарт Model Context Protocol (MCP). Его документация описывает MCP как открытый стандарт подключения ИИ-приложений к внешним системам: источникам данных, инструментам и рабочим процессам. Сравнение там простое — это как порт USB-C: один способ подключения вместо десятков разных. Для вас это означает, что у агента можно относительно быстро «подключить» календарь, документы или базу.

Память и контекст

У модели есть ограниченное «окно» контекста: всё, что в него не вошло, она не видит. Поэтому агент хранит заметки: краткое содержание прошлых шагов, найденные факты, предпочтения пользователя. Память бывает короткой (в рамках одной задачи) и долгой (между сеансами). Чем длиннее задача, тем важнее решить, что именно запоминать: лишний шум в контексте отвлекает модель так же, как человека.

Цикл: действие — результат — решение

Самое важное отличие агента — цикл. Модель выбирает действие, система его выполняет, результат возвращается модели, и она решает, закончить или продолжить. Как описано в статье Anthropic, агент на каждом шаге опирается на обратную связь от среды, например на результат вызова инструмента, может остановиться и запросить человека и обычно имеет условия остановки, такие как предел числа итераций. Без таких ограничений цикл может ходить по кругу и сжигать бюджет.
Из чего собирают ИИ-агента вокруг языковой модели: инструкция, инструменты, память и цикл действий

Как подбирают конструкцию под задачу

Та же статья описывает несколько типовых схем сборки, и их полезно знать, потому что они покрывают большую часть практики. Цепочка промптов разбивает задачу на последовательные шаги с проверками между ними. Маршрутизация классифицирует вход и отправляет его специализированному обработчику, например вопрос по оплате к одному сценарию, а технический — к другому. Параллелизация запускает независимые части одновременно или несколько раз проверяет одно и то же для надёжности. Оркестратор и исполнители: главная модель сама делит задачу и раздаёт части помощникам, а потом собирает итог. Оценщик и улучшатель: одна модель пишет, другая критикует, и они повторяют круг.
Чтобы выбрать схему, задайте себе три вопроса. Известны ли шаги заранее? Если да — цепочка или маршрутизация. Можно ли частично проверить результат автоматически, например запустить тесты или сверить число? Если да — добавьте проверку в цикл. Дорога ли ошибка? Если да — добавьте человека в точку подтверждения. Простая цепочка с одним инструментом и проверкой часто работает лучше, чем «умный» многоагентный проект.

Пример: агент для разбора входящей почты

Допустим, нужен помощник, который разбирает заявки клиентов. Сначала это workflow из трёх шагов: модель классифицирует письмо, по классу выбирает шаблон ответа, человек подтверждает отправку. Инструменты: чтение почты и справочник тарифов. Память не нужна. Если выяснится, что в письмах часто встречаются нестандартные вопросы, добавляется поиск по базе знаний и разрешение модели самой решать, что искать. Только потом, при необходимости, возникает настоящий агент с циклом и лимитом шагов. Так сложность растёт вслед за реальной потребностью, а не вперёд неё.

Ограничения и риски

Авторы Anthropic прямо говорят, что начинать надо с простейшего решения и усложнять, только если это измеримо улучшает результат: часто хватает одного хорошо составленного обращения к модели. Агенты стоят дороже и могут накапливать ошибки шаг за шагом, поэтому их стоит тестировать в изолированной среде и ограничивать полномочия. Дополнительные риски: ложные утверждения модели, подмена инструкций в тексте, который агент читает на веб-страницах или в письмах, и избыточные права доступа. Практика безопасности простая: давайте агенту минимально необходимые права, отделяйте чтение от записи, храните журнал действий и требуйте подтверждения для необратимого.
Базовые правила безопасности при запуске ИИ-агента: права, журнал, подтверждения и тесты

Коротко

ИИ-агент — это модель плюс инструкция, инструменты, память и цикл действий. Сначала решите, нужен ли вам workflow с известными шагами или агент, который выбирает путь сам. Подключайте инструменты через понятные описания или стандарт вроде MCP. Добавляйте проверки результата и человека в точки с высокой ценой ошибки, ставьте предел шагов. Начинайте с самого простого варианта и усложняйте его только тогда, когда это реально улучшает результат.
0

Пока нет комментариев

Как собирают ИИ-агента под задачу: из модели в работника