Приватный ИИ для бизнеса: как выбрать, GDPR, 10 вопросов
Коротко. Приватный ИИ для бизнеса может работать локально или у внешнего провайдера по подходящему договору. В статье сравниваются три варианта и приводятся десять вопросов поставщику. Основной пример — локальная обработка. Она сама по себе не доказывает безопасность или соответствие GDPR: проверяйте доступ, внешние подключения, хранение и конкретную задачу.
Приватный ИИ — это использование ИИ с определёнными условиями доступа и обработки. Он может работать локально или на внешнем хостинге по подходящему договору. В этой статье речь прежде всего о локальном запуске для внутренних документов. Пригодность зависит от данных, прав и всей цепочки обработки, а не названия. Чувствительные и регулируемые задачи требуют отдельной оценки.
Статья опирается на страницу CNIL о развертывании генеративного ИИ (опубликованную в июле 2024 года), текст GDPR и документацию llama.cpp по состоянию на 28 октября 2026 года. Мы устанавливаем локальный ИИ в нашей студии в Ницце, и приведенная ниже сетка вопросов основана на этой практике.
Каковы три способа использования ИИ в бизнесе?
| Потребительский онлайн-чат-бот | Профессиональное облачное предложение или API | Локальный ИИ (компьютер или сервер) | |
|---|---|---|---|
| Куда попадают ваши документы | на серверы провайдера | на серверы провайдера по договору | остаются на вашей машине или утвержденном хранилище |
| Правовая база | стандартные условия провайдера | договор об обработке данных для ознакомления и подписания | Обязанности контролёра остаются; внешних обработчиков нужно оценить |
| Структура затрат | бесплатно или подписка за пользователя | за пользователя или за токен | оборудование и настройка, без платы за токены |
| Кому подходит | неконфиденциальный контент | разнообразные задачи без жёстких требований к конфиденциальности | конфиденциальные документы, повторяющиеся задачи |
| Слабое место | вы не контролируете ни обработку, ни повторное использование | зависимость от провайдера и его субподрядчиков | расходы на оборудование, настройку и обслуживание ложатся на вас |
Ни один из трех вариантов не является «единственно правильным». Важно то, какой именно документ вы в него загружаете.
Что говорят GDPR и CNIL?
Сначала определите роли сторон для конкретной обработки. Поставщик, который обрабатывает персональные данные по вашему поручению, может быть обработчиком, но это не автоматическая роль для любого использования ИИ. Когда такие отношения действительно возникают, проверьте следующие требования со специалистом по защите данных:
-
Достаточные гарантии. Статья 28 предписывает использовать только тех обработчиков, которые предоставляют достаточные гарантии применения надлежащих технических и организационных мер.
-
Договор. Обработка строится на договоре: обработчик работает только по письменным инструкциям контролёра, его персонал связан обязательством конфиденциальности, а данные удаляются или возвращаются по выбору контролёра.
-
Передача данных. Согласно статье 44, передача данных в третью страну допускается только при соблюдении условий соответствующей главы. Поэтому всегда уточняйте, где именно обрабатываются данные.
CNIL в своей публикации за июль 2024 года рекомендует исходить из конкретной потребности, а не развертывать генеративный ИИ без чёткой цели, определять разрешенные и запрещенные сценарии использования (например, не передавать персональные данные системе), обучать пользователей и заранее привлекать специалиста по защите данных, руководителя информационных служб и руководителей бизнеса. Ведомство советует делать ставку на локальные, безопасные и специализированные системы. В противном случае необходимо оценить, может ли провайдер повторно использовать данные, предоставленные системе, и адаптировать их использование соответствующим образом. CNIL также напоминает, что такие системы могут выдавать неточные, но правдоподобные ответы.
Когда локальный ИИ имеет смысл?
Локальный ИИ оправдан главным образом в трех случаях:
-
Конфиденциальные документы, такие как контракты, клиентские файлы или медицинские карты, которым незачем покидать ваш компьютер.
-
Повторяющиеся задачи, такие как расшифровка записей, извлечение таблиц из PDF или ответы на частые вопросы по вашим собственным документам. См., например, нашу статью о преобразовании счетов из PDF в Excel.
-
Предсказуемые расходы, без тарификации за токены или пользователей.
Он имеет меньше смысла для эпизодического составления неконфиденциального текста или если некому заниматься установкой и обновлениями. В таком случае профессиональное предложение с чётким договором может оказаться более разумным.
Что нужно для запуска локального ИИ?
Проект llama.cpp служит отличным ориентиром. Его цель — запуск языковых моделей без тяжелой настройки на самом разном оборудовании: процессорах, чипах Apple Silicon, видеокартах Nvidia и AMD и других. Он поддерживает квантование от 1,5 до 8 бит, что ускоряет выполнение и снижает потребление памяти, а также распределяет нагрузку между процессором и видеокартой для моделей, превышающих объём видеопамяти. Кроме того, он предоставляет сервер, совместимый с интерфейсом OpenAI, поэтому к нему могут подключаться уже существующие инструменты.
Главный вывод: чем больше модель, тем больше памяти ей требуется, а подходящее оборудование зависит от поставленной задачи. Мы не приводим универсальных цифр: вы находите их путем тестирования на собственных документах.
Как проверить систему до загрузки настоящих документов
Начните с вымышленных или разрешённых несекретных файлов. Для ассистента по документам задайте вопрос, ответ на который есть в конкретном источнике, а затем вопрос без ответа в этих файлах. В первом случае нужна ссылка на правильный фрагмент, во втором — честное «информация не найдена». Наличие ссылки ещё не доказывает точность: откройте источник и проверьте ответ. Для чат-бота на вашем сайте есть проверка 20 вопросами перед запуском, она идёт дальше.
До передачи системы согласуйте проверки прав пользователей, удаления документа из индекса, сроков хранения журналов и восстановления резервной копии. Если требуется работа без интернета, проверьте её с отключёнными внешними подключениями после установки зависимостей. Отдельно проверьте OCR, эмбеддинги, веб-инструменты, телеметрию, резервные копии и запасные модели: локальный запуск основной модели не делает эти компоненты локальными.
Записывайте конфигурацию, ожидаемый и полученный результат, нерешённые вопросы. Это предлагаемые приёмочные проверки, а не отчёт об испытаниях у клиента. Перед отправкой сообщения, изменением деловой записи и другими значимыми действиями оставьте подтверждение человеком.
Локальные вычисления могут убрать плату провайдеру за токены, но остаются оборудование, электричество, обслуживание, лицензии и возможные облачные дополнения. Перед подбором техники проверьте лицензии модели и программ, право коммерческого использования, число одновременных пользователей и время ответа. Регулируемые и чувствительные задачи требуют отдельной оценки, а не универсального обещания безопасности.
Какие вопросы следует задать провайдеру ИИ?
Эту сетку мы используем как для облачных предложений, так и для локальных инсталляций. Расплывчатый ответ на любой из этих вопросов — это уже ценная информация.
| Вопрос | Здоровый ответ | Тревожный знак |
|---|---|---|
| Где обрабатываются мои документы? | точное место, в письменном виде | «в облаке» и ничего более |
| Где и как долго они хранятся? | фиксированный срок, возможность удаления | неограниченное хранение |
| Используются ли мои данные для обучения или улучшения модели? | нет, в письменном виде | молчание или «возможно» |
| Заключен ли договор об обработке данных (ст. 28)? | да, с задокументированными инструкциями, конфиденциальностью, удалением или возвратом | только общие условия |
| Какие субподрядчики задействованы? | известный список | список скрыт или неизвестен |
| Передаются ли данные за пределы Европейского союза (ст. 44)? | нет, либо это обосновано и объяснено | нет ответа |
| Кто имеет удаленный доступ к моим данным? | никто без вашего согласия, доступ фиксируется в журналах | постоянный доступ без описания |
| Фиксируются ли доступы и действия в журналах? | да, и вы можете изучить эти журналы | отсутствие журналов |
| Могу ли я получить и удалить свои данные? | да, с помощью письменной процедуры | экспорт невозможен |
| Что гарантируется? | выполненная работа и приемочные испытания | гарантия в виде «соответствия GDPR» |
Последняя строка имеет решающее значение: никто не может гарантировать соответствие вашим требованиям за вас. Серьёзный провайдер прямо скажет вам об этом.
Каковы ограничения приватного ИИ?
-
Это не сертификат соответствия. Вы остаётесь контролёром данных, и такая настройка не заменит ни специалиста по защите данных, ни юриста.
-
Ошибки по-прежнему возможны. Локальная модель также может выдавать неточные, но правдоподобные ответы, на что указывает CNIL. Сохраняйте контроль со стороны человека.
-
Качество зависит от модели и оборудования. Для некоторых задач модель, работающая на одном компьютере, может уступать крупнейшим облачным моделям. Проверяйте это на своих документах до принятия окончательного решения.
-
Требуется обслуживание: обновления, резервное копирование и правила доступа — всё это стоит планировать с самого начала.
-
Режим «офлайн» — это вариант настройки, а не аудированный стандарт безопасности.
Как Castel Studio работает с приватным ИИ?
Мы проектируем, устанавливаем и обучаем использованию рабочей станции с приватным ИИ: письменная спецификация и фиксированная смета, утверждаемый вами до покупки список оборудования, локальная настройка для работы с документами, поиском и текстами, а также обучение при передаче. Начальная цена составляет 2 900 € без учета оборудования, без платы за токены или пользователей. Приемочные испытания согласовываются в письменном виде до сборки. Для более узких задач страница локального ИИ предлагает, среди прочего, ассистента по вашим документам от 790 € и расшифровку без облака от 90 € за пакет.
Если вы сомневаетесь между облачным предложением и локальной установкой, опишите свои документы и задачи в нескольких строках, не отправляя конфиденциальные файлы через форму. Мы ответим в письменном виде в течение 48 часов, включая честный ответ «локальный ИИ здесь не подходит», если это действительно так.
Отсутствие платы за токены относится к выбранному локальному движку, а не означает нулевые расходы. Оборудование, электричество, обслуживание, лицензии, поддержка и возможные удалённые компоненты нужно отдельно указать в смете.
Вопросы
Является ли локальный ИИ автоматически соответствующим GDPR?
Нет. Полностью локальная конфигурация может не отправлять документы внешнему ИИ-сервису, но нужно отдельно проверить подключённые инструменты, удалённую поддержку и резервные копии. Правовое основание, информирование, безопасность и сроки хранения остаются важны. Локальный запуск не является сертификатом соответствия; при необходимости привлеките DPO или юриста.
В чем разница между приватным, локальным и on-premise ИИ?
Это разные понятия. Локальный описывает место выполнения вычислений; on-premise означает размещение в ваших помещениях. Приватный описывает условия доступа или договорные гарантии и может включать внешний хостинг. Уточняйте, кто управляет системой, куда идут данные и кто имеет доступ.
Могу ли я использовать онлайн-чат-бот с клиентскими данными?
Сначала определите данные, цель, правовое основание и реальные роли сторон. Если поставщик обрабатывает персональные данные по вашему поручению, проверьте договор по статье 28 и применимые правила международной передачи. Обычный потребительский чат-бот не становится подходящим для конфиденциальных клиентских файлов автоматически.
Нужен ли мне большой сервер для локального запуска ИИ?
Не обязательно, но объём памяти имеет значение. Такие проекты, как llama.cpp, работают на процессорах, чипах Apple Silicon и видеокартах, используя квантование для снижения требований к памяти, и могут распределять нагрузку между процессором и видеокартой для моделей, превышающих объём видеопамяти. Подходящее оборудование зависит от модели и задач, и его можно подобрать путем тестирования на ваших собственных документах.
Сколько стоит настройка приватного ИИ?
В студии Castel ПК, готовый для локального ИИ, стоит от 390 € без учета оборудования, ассистент по вашим собственным документам — от 790 €, а рабочая станция с приватным ИИ — от 2 900 € без учета оборудования, без платы за токены или пользователей. Стоимость командного сервера или полноценной системы рассчитывается по письменной смете.