19 октября Microsoft опубликовала документ с неожиданно честным названием: «Агенты — ваши новые инсайдеры». И прямым текстом: передовым моделям, независимо от того, кто их сделал, нельзя доверять. Не потому что они злые, а потому что они непредсказуемы: их учили решать задачу, а не соблюдать правила вашей компании. Разбираем, что это значит для пинского магазина, автосервиса или небольшого производства — и что можно сделать за один день и без бюджета.

Что сказали в Microsoft

Формулировка из блога Microsoft Security дословно: агенты — это «способные инструменты, которым пользователи могут дать доступ к важным системам. Они могут ошибаться, быть обмануты или скомпрометированы. Их модели могут давать разный результат, контекст может меняться, а планы эволюционировать по ходу работы».

То есть проблема не в хакерах. Проблема в том, что агент, который прекрасно начал задачу, к третьему шагу может решить её иначе, чем вы предполагали. И делать это непрерывно, со скоростью машины и в масштабе.

Отсюда главный тезис, который в компании повторяют за главой: мы должны отделить поставку интеллекта от полномочий над ним. Решения о том, к чему агент имеет доступ и что ему можно делать, должны находиться снаружи модели — там, где модель не может их обойти или изменить.

Самое неприятное: агента приносят в кармане

Раньше ИИ в компанию «приходил» через поставщика: подписали договор, получили доступы, всё под контролем. Сейчас — иначе. Microsoft расширила обнаружение до 60 типов локальных агентов, включая Claude Code, OpenAI Codex и GitHub Copilot. Их ставят на рабочие ноутбуки сотрудники: сами, бесплатно, за десять минут.

В фирме на пятнадцать человек «айтишник» — это бухгалтер и подрядчик на полставки. Про этих агентов он не знает. Владелец — тем более. Вчера мы писали про агента как сотрудника: роль, лимит, журнал; теперь выясняется, что половина проблемы — вообще не в задачах, а в том, что вы не знаете, кто у вас работает.

Ответственность уже переехала к клиенту

Вторая новость этой недели — про деньги и договоры. Meta переписала коммерческие условия: если её ИИ ошибается, по условиям юридически виноват клиент. В рознице спор идёт не о цене разработки, а о обещании, которое сделала программа: если автоответчик написал «скидка 10% до пятницы», это уже обязательство магазина, а не «технический сбой».

Именно поэтому в крупных компаниях появилась новая формула: чем выше цена ошибки агента, тем важнее контроль человека. Её на этой неделе повторили и эксперты по данным, и банки: 52% финансовых организаций в регионе уже пилотируют агентов, но никто не отдаёт им финальное решение.

Четыре шага, которые Microsoft называет обязательными

Знать. Какие агенты есть, кто их владелец, зачем они и что делают. Без этого всё остальное бессмысленно.
Ограничить. Агент не должен наследовать все права сотрудника. Он начинает с нуля полномочий и получает только то, что нужно для конкретной задачи.
Закрыть. Данные, инструменты и системы на пути агента — под контролем. На рискованном шаге требуется доказуемое одобрение человеком.
Адаптировать. Права меняются вместе с риском: сегодня можно читать — завтра нельзя, если поведение изменилось.

Показательный пример из документа: агент, согласующий расходы, может читать заявки и проверять политику, но не должен получать все права своего сотрудника. А на шаге, который стоит денег, обязан спросить.

Как это выглядит в Пинске

Никакой «цифровой трансформации» для этого не нужно. Нужен один день и три листа бумаги.

Карта агентов. Обойдите пять сотрудников и спросите: кто ставил приложение с ИИ, кто подключал «бота-помощника» к рабочей почте или Instagram, кто просил подрядчика «настроить ChatGPT». Скорее всего, найдётся два-три агента, о которых вы не знали.
Стоп-лист полномочий. Отдельный аккаунт для агента, узкая задача, лимит по деньгам и список тем, где он молчит: гарантии, сроки, наличие, цены.
Ревизия обещаний. Все автоответы и шаблоны, где программа говорит от имени фирмы. Всё, что похоже на скидку, срок или гарантию, — либо убираем, либо делаем правдой.

И главное: не «внедрим всё». По оценке Gartner, более 40% проектов с ИИ-агентами могут закрыть к концу 2027 года — чаще всего не из-за технологий, а из-за отсутствия правил и измеримой отдачи. Поэтому начинают с одного процесса и одной цифры, а не с «агента вообще». Кстати, у соседей-россиян тема уже ушла в малый бизнес: на этой неделе вышли сразу несколько материалов «как внедрить ИИ-агента в малый бизнес».

Что предлагаем

ЧП «Варяг» в Пинске делает бесплатный аудит агентов за один визит. На выходе — три документа на одну страницу: карта всех ИИ-помощников в вашей компании с владельцами и доступами; стоп-лист полномочий, который можно повесить на стену; ревизия обещаний бота с тремя-пятью исправлениями на эту неделю. Дальше — по желанию: пилот одного процесса на две недели с фиксированной ценой и одной метрикой.

Напишите в Telegram @trkvarjag слово «АУДИТ».