Сигурност при работа с AI: какви данни не бива да споделяте?

Какво не бива да въвеждате в AI?

Не въвеждайте следните категории данни в общодостъпни AI модели:

• лични данни – имена, адреси, единни граждански номера (ЕГН), телефонни номера и имейл адреси на клиенти, служители или ваши собствени;
• медицинска документация – истории на заболявания, резултати от изследвания и диагнози на пациенти, защитени от строги нормативни изисквания, като GDPR и HIPAA;
• поверителна фирмена информация – непубликувани финансови отчети, маркетингови стратегии, клиентски бази данни и планове за сливания, придобивания или съкращения;
• търговски тайни – изходен код на софтуер, производствени рецептури, уникални алгоритми и вътрешна техническа документация;
• пароли и данни за достъп – API ключове, идентификационни данни за вход, токени за удостоверяване, данни от платежни карти и ключове за криптиране;
• материали, защитени с авторско право – пълни текстове на книги, платени научни статии или сценарии, за които нямате необходимия лиценз;
• незаконно съдържание – материали, насърчаващи насилие или омраза, както и инструкции за действия в нарушение на закона.

Какво се случва с данните, които въвеждате в AI?

Данните, изпратени до доставчици на облачни услуги, преминават през няколко етапа на обработка и анализ. Жизненият им цикъл не приключва с генерирането на отговор.

Обучение на модели

Информацията, въведена в стандартни потребителски версии на генеративни инструменти, често се използва за допълнително обучение на моделите. Това означава, че тя може да повлияе на параметрите на невронната мрежа и теоретично да се появи в бъдещ отговор към друг потребител.

Ръчен преглед и модериране

Освен автоматична обработка AI системите използват и филтри за безопасност. Ако алгоритъмът определи дадено запитване като подозрително, например като нарушение на условията за ползване, разговорът може да бъде маркиран за ръчен преглед. Така служители на доставчика или външни проверяващи могат да получат пряк достъп до въведеното съдържание с цел подобряване на механизмите за модериране.

Съхранение на данни и резервни копия

Доставчиците на AI съхраняват записи на разговорите на своите сървъри, за да осигуряват непрекъснатост на услугата, да диагностицират грешки и да запазват контекст за бъдещи сесии. Изтриването на чат от потребителския интерфейс рядко означава незабавно премахване на информацията от сървърите. Данните могат да останат за определен период в резервните системи на доставчика, което увеличава риска от разкриване на поверителна информация при успешна кибератака срещу облачната инфраструктура.

Лични и фирмени акаунти: разлики в защитата

Безплатните и платените стандартни лични акаунти в много популярни услуги по подразбиране допускат използването на въведената информация за обучение. Ако споделите поверителни материали, всяка сесия може да доведе до непредвидено разкриване на съдържанието им.

В бизнес и корпоративни среди – например при акаунти Enterprise или услуги в частен облак, достъпвани чрез API на доставчици като Microsoft Azure, AWS и Google Cloud – стандартите за защита са по-строги. Доставчиците гарантират съответствие със стандарти и изисквания за сигурност като ISO 27001, SOC 2 и GDPR, а в договорите си (SLA/DPA) заявяват, че не използват данните на клиентите за обучение на публични базови модели. В тези среди ограниченията за въвежданите данни може да са по-гъвкави, но все пак са необходими политики за управление на риска и контрол на достъпа.

Какво можете да въвеждате безопасно в AI?

Въпреки ограниченията има много видове информация, които можете да предоставите на AI за обработка, при условие че не съдържат поверителни данни. Сред тях са:

• публично достъпни материали – статии от свободни източници, публикации в блогове, общодостъпни пазарни доклади, нормативни актове и съдържание от уебсайтове като Уикипедия;
• неповерителна информация – общи инструкции, въпроси за теоретични понятия, граматични и правописни правила, математически уравнения и справки за значението на думи;
• анонимизирани откъси от документация – образци на документи, примерни договори и части от програмен код, от които са премахнати уникални променливи, ключове, имена на клиенти и подробности за вътрешната архитектура;
• собствени авторски текстове – чернови на имейли, публикации за социални мрежи, планове за презентации и статии, които не съдържат чувствителна бизнес информация;
• отворени набори от данни – синтетични данни или статистика от публични хранилища, използвани за упражняване на анализ и форматиране.

Как да анонимизирате съобщения и данни, преди да ги изпратите на AI?

Замяна на идентификатори с условни означения

Този подход заменя чувствителните данни с измислени еквиваленти. Например името „Иван Иванов“ може да стане „[Клиент_1]“, а „Фирма Пример“ – „[Организация_А]“. Така се запазват структурата, синтаксисът и контекстът на документа, необходими на езиковия модел, без да се посочва пряко първоначалното лице или организация.

Методи за маскиране на чувствителна информация

Маскирането скрива пряко важни поредици от символи, най-често чрез замяна със специални знаци – например номер на карта 4532 **** **** ****. Ефективен подход е и обобщаването на данните: вместо точна стойност, например заплата 2400 лв, посочете диапазон, например „заплата между 2000 и 3000 лв“. Това намалява риска от повторно идентифициране.

Автоматизиране на процеса с DLP и RegEx

При ръчното премахване на информация от дълги текстове лесно се допускат пропуски. В професионална среда се използват скриптове с регулярни изрази (RegEx) или системи за предотвратяване на загуба на данни (DLP). Те могат автоматично да сканират запитването преди изпращане и да откриват, блокират или заменят поредици от символи, съответстващи на ЕГН, идентификационни номера по ДДС, имейл адреси и номера на банкови сметки.

Как да спрете обучението на AI модели с вашите данни?

Можете да ограничите риска при споделяне на информация с AI и чрез настройките на самия инструмент. Повечето доставчици предлагат възможност да откажете използването на съдържанието си за обучение.

• ChatGPT (OpenAI) – в настройките на акаунта (Settings), раздел „Data controls“, се намира опцията „Improve the model for everyone“. Изключването ѝ спира използването на въведените текстове за обучение на модела. В текущата версия на интерфейса това не премахва разговорите от изгледа на потребителя – историята им се запазва. Независимо от тази настройка OpenAI съхранява логовете на своите сървъри за 30 дни с цел предотвратяване на злоупотреби и поддържане на сигурността, преди да ги изтрие окончателно.
• Gemini (Google) – в настройките за поверителност изключете „Gemini Apps Activity“. Така новите разговори няма да се запазват в акаунта ви в Google и няма да се използват за обучение на модели. Промяната обаче не изтрива незабавно логовете от инфраструктурата на доставчика: Google ги съхранява до 72 часа, за да поддържа сигурността на услугата.
• Claude (Anthropic) – при безплатните и стандартните потребителски версии понастоящем настройките по подразбиране допускат използването на въведените данни за подобряване на моделите. Това е съществена промяна спрямо ранния период на компанията, когато Anthropic изтъкваше, че не използва потребителските разговори за обучение. За да изключите тази възможност, отворете раздела за поверителност в настройките на акаунта и деактивирайте „Help improve Claude“.

Имайте предвид, че промените в настройките за поверителност и отказът от използване на данните за обучение действат само занапред. Информация, изпратена преди промяната и вече включена в процеса на обучение, не може да бъде премахната от параметрите на модела само чрез тази настройка.