Приватний ШІ для бізнесу: як обрати, GDPR, 10 запитань
Коротко. Приватний ШІ для бізнесу може працювати локально або в зовнішнього провайдера за відповідним договором. У статті порівнюються три варіанти і наведено десять запитань постачальнику. Основний приклад — локальна обробка. Вона сама собою не доводить безпеку чи відповідність GDPR: перевіряйте доступ, зовнішні під’єднання, зберігання і конкретне завдання.
Приватний ШІ — це використання ШІ з визначеними умовами доступу й обробки. Він може працювати локально або на зовнішньому хостингу за відповідним договором. У цій статті йдеться передусім про локальний запуск для внутрішніх документів. Придатність залежить від даних, прав і всього ланцюжка обробки, а не від назви. Чутливі й регульовані завдання потребують окремої оцінки.
Стаття спирається на сторінку CNIL про розгортання генеративного ШІ (опубліковану в липні 2024 року), текст GDPR і документацію llama.cpp станом на 28 жовтня 2026 року. Ми встановлюємо локальний ШІ в нашій студії в Ніцці, і наведена нижче сітка запитань ґрунтується на цій практиці.
Які три способи використання ШІ в бізнесі?
| Споживчий онлайн-чат-бот | Професійна хмарна пропозиція або API | Локальний ШІ (комп’ютер або сервер) | |
|---|---|---|---|
| Куди потрапляють ваші документи | на сервери провайдера | на сервери провайдера за договором | лишаються на вашій машині або в затвердженому сховищі |
| Правова база | стандартні умови провайдера | договір про обробку даних для ознайомлення й підписання | обов’язки контролера лишаються; зовнішніх обробників треба оцінити |
| Структура витрат | безкоштовно або підписка за користувача | за користувача або за токен | обладнання й налаштування, без плати за токени |
| Кому підходить | неконфіденційний вміст | різноманітні завдання без жорстких вимог до конфіденційності | конфіденційні документи, повторювані завдання |
| Слабке місце | ви не контролюєте ні обробку, ні повторне використання | залежність від провайдера та його субпідрядників | витрати на обладнання, налаштування й обслуговування лягають на вас |
Жоден із трьох варіантів не є «єдино правильним». Важливо, який саме документ ви в нього завантажуєте.
Що кажуть GDPR і CNIL?
Спершу визначте ролі сторін для конкретної обробки. Постачальник, який обробляє персональні дані за вашим дорученням, може бути обробником, але це не автоматична роль для будь-якого використання ШІ. Коли такі відносини справді виникають, перевірте такі вимоги з фахівцем із захисту даних:
-
Достатні гарантії. Стаття 28 приписує користуватися лише тими обробниками, які надають достатні гарантії застосування належних технічних і організаційних заходів.
-
Договір. Обробка будується на договорі: обробник працює лише за письмовими інструкціями контролера, його персонал пов’язаний зобов’язанням конфіденційності, а дані видаляються або повертаються на вибір контролера.
-
Передача даних. Згідно зі статтею 44, передача даних до третьої країни допускається лише за дотримання умов відповідного розділу. Тому завжди уточнюйте, де саме обробляються дані.
CNIL у своїй публікації за липень 2024 року радить виходити з конкретної потреби, а не розгортати генеративний ШІ без чіткої мети, визначати дозволені й заборонені сценарії використання (наприклад, не передавати системі персональні дані), навчати користувачів і заздалегідь залучати фахівця із захисту даних, керівника інформаційних служб і керівників бізнесу. Відомство радить робити ставку на локальні, безпечні й спеціалізовані системи. Інакше треба оцінити, чи може провайдер повторно використовувати надані системі дані, і відповідно адаптувати їхнє використання. CNIL також нагадує, що такі системи можуть видавати неточні, але правдоподібні відповіді.
Коли локальний ШІ має сенс?
Локальний ШІ виправданий головним чином у трьох випадках:
-
Конфіденційні документи, як-от договори, клієнтські файли чи медичні картки, яким нема чого залишати ваш комп’ютер.
-
Повторювані завдання, як-от розшифрування записів, вилучення таблиць із PDF або відповіді на часті запитання за вашими власними документами. Див., наприклад, нашу статтю про перетворення рахунків із PDF в Excel.
-
Передбачувані витрати, без тарифікації за токени чи користувачів.
Він має менше сенсу для епізодичного складання неконфіденційного тексту або коли нікому займатися встановленням і оновленнями. У такому разі професійна пропозиція з чітким договором може виявитися розумнішою.
Що потрібно для запуску локального ШІ?
Проєкт llama.cpp — добрий орієнтир. Його мета — запуск мовних моделей без складного налаштування на найрізноманітнішому обладнанні: процесорах, чипах Apple Silicon, відеокартах Nvidia і AMD та інших. Він підтримує квантування від 1,5 до 8 біт, що прискорює виконання і зменшує споживання пам’яті, а також розподіляє навантаження між процесором і відеокартою для моделей, що перевищують обсяг відеопам’яті. Крім того, він надає сервер, сумісний з інтерфейсом OpenAI, тож до нього можуть під’єднуватися вже наявні інструменти.
Головний висновок: що більша модель, то більше пам’яті їй потрібно, а придатне обладнання залежить від поставленого завдання. Ми не наводимо універсальних цифр: ви знаходите їх тестуванням на власних документах. Наш окремий посібник про локальну LLM для малого бізнесу показує порядок розмірів файлів моделей.
Як перевірити систему до завантаження справжніх документів
Почніть із вигаданих або дозволених несекретних файлів. Для асистента за документами поставте запитання, відповідь на яке є в конкретному джерелі, а потім запитання без відповіді в цих файлах. У першому випадку потрібне посилання на правильний фрагмент, у другому — чесне «інформацію не знайдено». Наявність посилання ще не доводить точності: відкрийте джерело і перевірте відповідь. Для чат-бота на вашому сайті є перевірка 20 питаннями перед запуском, вона йде далі.
До передання системи узгодьте перевірки прав користувачів, видалення документа з індексу, строків зберігання журналів і відновлення резервної копії. Якщо потрібна робота без інтернету, перевірте її з вимкненими зовнішніми під’єднаннями після встановлення залежностей. Окремо перевірте OCR, ембединги, веб-інструменти, телеметрію, резервні копії й запасні моделі: локальний запуск основної моделі не робить ці компоненти локальними.
Записуйте конфігурацію, очікуваний і отриманий результат, нерозв’язані питання. Це пропоновані приймальні перевірки, а не звіт про випробування в клієнта. Перед надсиланням повідомлення, зміною ділового запису та іншими важливими діями залишайте підтвердження людиною.
Локальні обчислення можуть прибрати плату провайдерові за токени, але лишаються обладнання, електрика, обслуговування, ліцензії й можливі хмарні доповнення. Перед добором техніки перевірте ліцензії моделі й програм, право комерційного використання, кількість одночасних користувачів і час відповіді. Регульовані й чутливі завдання потребують окремої оцінки, а не універсальної обіцянки безпеки.
Які запитання варто поставити провайдеру ШІ?
Цю сітку ми використовуємо і для хмарних пропозицій, і для локальних інсталяцій. Розпливчаста відповідь на будь-яке з цих запитань — це вже цінна інформація.
| Запитання | Здорова відповідь | Тривожна ознака |
|---|---|---|
| Де обробляються мої документи? | точне місце, письмово | «у хмарі» і більше нічого |
| Де і як довго вони зберігаються? | фіксований строк, можливість видалення | необмежене зберігання |
| Чи використовуються мої дані для навчання або покращення моделі? | ні, письмово | мовчання або «можливо» |
| Чи укладено договір про обробку даних (ст. 28)? | так, із задокументованими інструкціями, конфіденційністю, видаленням або поверненням | лише загальні умови |
| Які субпідрядники залучені? | відомий список | список прихований або невідомий |
| Чи передаються дані за межі Європейського Союзу (ст. 44)? | ні, або це обґрунтовано й пояснено | немає відповіді |
| Хто має віддалений доступ до моїх даних? | ніхто без вашої згоди, доступ фіксується в журналах | постійний доступ без опису |
| Чи фіксуються доступи й дії в журналах? | так, і ви можете переглянути ці журнали | журналів немає |
| Чи можу я отримати й видалити свої дані? | так, за письмовою процедурою | експорт неможливий |
| Що гарантується? | виконана робота і приймальні випробування | гарантія у вигляді «відповідності GDPR» |
Останній рядок вирішальний: ніхто не може гарантувати відповідність вашим вимогам за вас. Серйозний провайдер прямо скаже вам про це.
Які обмеження має приватний ШІ?
-
Це не сертифікат відповідності. Ви лишаєтеся контролером даних, і таке налаштування не замінить ні фахівця із захисту даних, ні юриста.
-
Помилки так само можливі. Локальна модель теж може видавати неточні, але правдоподібні відповіді, на що вказує CNIL. Зберігайте контроль із боку людини.
-
Якість залежить від моделі й обладнання. Для деяких завдань модель, що працює на одному комп’ютері, може поступатися найбільшим хмарним моделям. Перевіряйте це на своїх документах до остаточного рішення.
-
Потрібне обслуговування: оновлення, резервне копіювання і правила доступу — усе це варто планувати від самого початку.
-
Режим «офлайн» — це варіант налаштування, а не аудитований стандарт безпеки.
Як Castel Studio працює з приватним ШІ?
Ми проєктуємо, встановлюємо і навчаємо користуватися робочою станцією з приватним ШІ: письмова специфікація і фіксований кошторис, затверджуваний вами до купівлі список обладнання, локальне налаштування для роботи з документами, пошуком і текстами, а також навчання під час передання. Початкова ціна — 2 900 € без урахування обладнання, без плати за токени чи користувачів. Приймальні випробування узгоджуються письмово до складання. Для вужчих завдань сторінка локального ШІ пропонує, серед іншого, асистента за вашими документами від 790 € і розшифрування без хмари від 90 € за пакет.
Якщо ви вагаєтеся між хмарною пропозицією і локальним встановленням, опишіть свої документи й завдання в кількох рядках, не надсилаючи конфіденційних файлів через форму. Ми відповімо письмово протягом 48 годин, зокрема чесно скажемо «локальний ШІ тут не підходить», якщо це справді так.
Відсутність плати за токени стосується обраного локального рушія, а не означає нульових витрат. Обладнання, електрику, обслуговування, ліцензії, підтримку й можливі віддалені компоненти треба окремо вказати в кошторисі.
Запитання
Чи є локальний ШІ автоматично відповідним GDPR?
Ні. Повністю локальна конфігурація може не надсилати документи зовнішньому ШІ-сервісу, але треба окремо перевірити під'єднані інструменти, віддалену підтримку й резервні копії. Правова підстава, інформування, безпека й строки зберігання лишаються важливими. Локальний запуск не є сертифікатом відповідності; за потреби залучіть DPO або юриста.
У чому різниця між приватним, локальним і on-premise ШІ?
Це різні поняття. Локальний описує місце виконання обчислень; on-premise означає розміщення у ваших приміщеннях. Приватний описує умови доступу або договірні гарантії і може включати зовнішній хостинг. Уточнюйте, хто керує системою, куди йдуть дані і хто має доступ.
Чи можна використовувати онлайн-чат-бот із клієнтськими даними?
Спершу визначте дані, мету, правову підставу і реальні ролі сторін. Якщо постачальник обробляє персональні дані за вашим дорученням, перевірте договір за статтею 28 і застосовні правила міжнародної передачі. Звичайний споживчий чат-бот не стає придатним для конфіденційних клієнтських файлів автоматично.
Чи потрібен великий сервер для локального запуску ШІ?
Не обов'язково, але обсяг пам'яті має значення. Такі проєкти, як llama.cpp, працюють на процесорах, чипах Apple Silicon і відеокартах, використовуючи квантування для зниження вимог до пам'яті, і можуть розподіляти навантаження між процесором і відеокартою для моделей, що перевищують обсяг відеопам'яті. Придатне обладнання залежить від моделі й завдань, і його можна підібрати тестуванням на ваших власних документах.
Скільки коштує налаштування приватного ШІ?
У студії Castel ПК, готовий для локального ШІ, коштує від 390 € без урахування обладнання, асистент за вашими власними документами — від 790 €, а робоча станція з приватним ШІ — від 2 900 € без урахування обладнання, без плати за токени чи користувачів. Вартість командного сервера або повноцінної системи розраховується за письмовим кошторисом.