Локальный ИИ-агент: сколько стоит своё железо и когда оно окупается

15 сентября 2026 · 9 мин чтения

Если данные нельзя выпускать за периметр компании, напрашиваются свой сервер и открытая модель. Сервер придётся арендовать или купить, модель обновлять, а за системой кто-то должен следить постоянно, не в свободное от других дел время.

Кому локальный агент нужен не для галочки

Причин две, и обе конкретные.

Первая — персональные данные граждан РФ. По 152-ФЗ имя, телефон и адрес клиента при сборе хранят в базах на территории России. Отправить их в модель, которая считает запрос за рубежом, — значит оформить трансграничную передачу с уведомлением Роскомнадзора, поэтому проще обезличивать их заранее.

С 1 июля 2025 года закон прямо запрещает хранить такую базу за границей, а штраф юрлицу за нарушение локализации составляет от 1 до 6 млн ₽, при повторном нарушении до 18 млн ₽.

Вторая — коммерческая тайна: чертежи, рецептура, условия с поставщиками, финансовая модель. Её охраняет отдельный закон (98-ФЗ), а главный риск здесь договорной и репутационный: такой текст однажды может оказаться в логах чужого API.

Если ни того, ни другого в процессе нет, локальный агент решает задачу, которой не существует. На небольшом потоке экономии на токенах он не даёт. Как модели различаются по доступу и цене, разобрано в статье Нейросети для бизнеса.

Из чего собран локальный агент

Локальный агент собран из нескольких слоёв, и каждый требует отдельного решения.

Модель с открытыми весами: DeepSeek, Llama, Mistral, Qwen. Она не ходит во внешний API вообще. Весь расчёт идёт на вашем железе.

Сервер или облачный GPU под эту модель. Модели с открытыми весами не работают на обычном офисном сервере. Нужна видеокарта с достаточным объёмом памяти. Чем крупнее модель, тем дороже конфигурация.

Агентный слой поверх модели. Это код, который решает, когда вызвать инструмент, обратиться к базе или переспросить. Модель сама по себе только отвечает на вопрос. Агентность добавляет отдельный код, и его тоже кто-то пишет и чинит.

Интеграции с вашими системами: CRM, 1С, канал, откуда приходят обращения. Без них агент отвечает в пустоту и не доводит до конца ни один процесс.

Сколько стоит железо и инженер

Лицензия открытой модели ничего не стоит, платить приходится за всё, что вокруг неё.

Арендовать сервер с видеокартой под модель среднего размера стоит десятки тысяч рублей в месяц (оценка по рынку облачных GPU-провайдеров). Крупная модель или несколько параллельных диалогов поднимают счёт в разы. Купить своё железо дороже на старте, зато дальше нет ежемесячного счёта. Только GPU дешевеет и устаревает: замену конфигурации закладывайте через два-три года.

Дальше — инженер. На рынке развёртывание модели и агентного слоя с нуля оценивают в две-четыре недели для несложного сценария. Дольше, чем собрать того же агента поверх готового API: инфраструктуру приходится настраивать самому.

Работа на этом не заканчивается. Открытые модели и библиотеки вокруг них обновляются часто, и кто-то должен проверять, что очередное обновление не сломало рабочий сценарий. Это либо доля ставки штатного инженера, либо подрядчик на регулярном абонементе.

Третья статья расходов на старте не видна: простой. Свой сервер иногда падает, и чинить его в выходной день тоже приходится вам, а не провайдеру с дежурной поддержкой.

Где проходит точка, после которой свой контур дешевле API

Платный API устроен просто: чем больше диалогов, тем больше счёт, и рост почти линейный. Свой сервер устроен иначе: основные деньги уходят один раз, на железо и настройку, а дальше цена почти не растёт вместе с потоком, пока сервер справляется с нагрузкой.

На маленьком и нестабильном потоке обращений платный API дешевле: вы платите за то, что реально использовали, а не за простаивающий сервер по ночам. На большом и стабильном потоке кривые расходов меняются местами, и свой контур начинает выигрывать за счёт объёма.

Где именно проходит эта точка, зависит от объёма диалогов, размера модели и цены токена у конкретного провайдера на момент расчёта. Универсальной цифры здесь нет: считайте на своём реальном потоке за месяц, а не на паре тестовых диалогов.

Что теряете, уходя от внешнего API в свой контур

Свой контур снимает вопрос 152-ФЗ и утечки коммерческой тайны одним решением, и это настоящий выигрыш. Платить за него приходится качеством, поддержкой и скоростью обновлений.

На сложной многошаговой логике и на коде закрытые модели из внешнего API пока идут впереди открытых того же размера. На типовых диалогах разница почти не видна, на сложной аналитике или юридическом тексте видна сразу.

Если платный API сбоит, есть провайдер, которому можно позвонить. Открытую модель на своём сервере никто так не поддерживает. Есть комьюнити, документация и ваш инженер, который разбирается сам.

Внешний провайдер выкатывает новую версию модели, и она становится лучше сама, без вашего участия. На своём сервере модель приходится обновлять руками: сначала проверить совместимость, потом прогнать сценарии заново и только после этого переключать прод.

Гибридный вариант: на своём сервере только чувствительная часть

Требование по данным можно закрыть и без полного self-host. Гибрид дешевле и быстрее: данные обезличивают перед отправкой в модель, а саму модель у себя не разворачивают.

Имя, телефон, адрес и другие идентификаторы клиента заменяют метками до того, как текст уходит в языковую модель, работающую через внешний API. Модель обрабатывает обезличенный текст и возвращает результат. Метки с реальными данными сопоставляете только вы, и делаете это вне модели.

Формально персональные данные за периметр не выходят вообще, и при этом не приходится тянуть свой GPU-сервер.

Как это выглядит: оптовый поставщик разбирает заявки дилеров с ценами по договору и остатками на складе, часть данных подпадает под 152-ФЗ. Вместо своего сервера контур разворачивают в РФ-облаке, а персональные данные контрагентов обезличивают перед отправкой в модель. Так требование хранить данные в России закрыто без покупки собственного GPU.

Гибрид не годится, если сам текст целиком — тайна: чертёж, код, финансовая модель, где обезличить нечего, потому что секретна вся структура документа, а не отдельные поля. Тогда остаётся либо свой сервер, либо процесс без модели на этом шаге.

Чек-лист: когда своя инфраструктура оправдана, а когда нет

Я советую считать свой сервер всерьёз, если к вам относится большинство пунктов из списка.

• В диалогах или документах есть персональные данные или коммерческая тайна, которую нельзя обезличить.
• Поток обращений большой и стабильный, а не редкий и всплесками.
• В штате уже есть инженер, способный держать систему, а не нанятый специально под этот проект.
• Сложные многошаговые задачи не преобладают, открытой модели хватает по качеству.

Если данные обезличиваются без потери смысла задачи, поток небольшой или нестабильный, а своего инженера в штате нет, берите гибрид или обычный API: так дешевле и быстрее в запуске. Требование по 152-ФЗ при этом закрывает то же обезличивание или выбор модели с обработкой в РФ.

Частые вопросы