Вопрос «а наши данные не утекут?» возникает на первой же встрече про ИИ. Ответ зависит не от технологии, а от того, что именно вы собираетесь обрабатывать.
Когда локальная модель обязательна
- Обрабатываются персональные данные, и требования к их размещению зафиксированы во внутренних регламентах.
- В данных есть коммерческая тайна: цены для конкретных контрагентов, себестоимость, условия сделок.
- Отрасль регулируется, и вопрос будет задан на проверке.
Когда это перестраховка
Если ассистент отвечает на вопросы по публичным материалам — описанию услуг, условиям доставки, инструкциям — держать под это собственную инфраструктуру дорого и незачем.
Промежуточный вариант, который закрывает большинство случаев: обезличивание на входе. Из текста убираются имена, номера договоров и суммы, наружу уходит обезличенный запрос, а подстановка обратно происходит на вашей стороне.
Во что обходится разница
Локальное развёртывание — это оборудование или аренда GPU, обновления, дежурство. Разница в стоимости владения обычно кратная. Поэтому решение принимается не «на всякий случай», а по перечню данных, которые реально попадают в обработку.