Халюцинации на AI: какво представляват и как да ги предотвратим?

Какво представляват халюцинациите на AI?

Например, ако помолим AI да посочи ЕИК на 20 компании от София с растящи приходи, може да получим привидно логичен и пълен списък. Само че… всички посочени ЕИК може да са измислени.

Отличителното при халюцинациите е именно тази привидна логика: отговорите изглеждат убедителни, а AI не показва и следа от съмнение. Затова интерфейсите на езиковите модели напомнят на потребителите да проверяват цитираните числа и факти.

Защо възникват халюцинациите на AI?

Халюцинации възникват най-често в три случая:

• липса на данни (основната причина — моделът започва да гадае);
• неточна инструкция (моделът запълва пропуските);
• твърде сложна задача (моделът се опитва да направи всичко наведнъж).

Проблемът не е само в езиковите модели, а и в достъпа им до данни. Следователно халюцинациите не възникват спонтанно и без причина — те произтичат от условия, които можем да променим.

Как да ограничим халюцинациите на AI?

Халюцинациите на AI могат да бъдат ограничени чрез пряк, структуриран достъп до данни. В такава среда езиковите модели най-добре интерпретират информация, вземат решения и правят изводи.

Именно на това се основават следващите три метода. Изборът между тях зависи от нуждите и техническите ви възможности.

Подготовка на файл с данни

Предоставянето на готови данни е най-простият начин съществено да намалите риска от халюцинации. Така оставяте по-малко пространство на AI да „дописва собствена история“.

Начинаещите често очакват езиковият модел да бъде едновременно търсачка, ETL процес и инструмент за извличане на данни от сайтове. Но когато задачата включва събиране, почистване и стандартизиране на данни, контекстният прозорец може да се запълни и рискът от халюцинации рязко нараства.

Затова си струва да разделите събирането на данни на няколко по-малки заявки и да проверявате отговорите на AI в движение. Може да звучи досадно и времеемко, но така изграждате надеждна основа, върху която езиковите модели могат да покажат истинския си потенциал: да работят с налични данни.

Използване на API

Свързването с API е по-напреднал подход — осигурява по-бърз достъп до данни в по-голям мащаб, като данните могат да се поддържат и актуални. Ако файлът с данни е като да подадете кофа с вода, API е като да отворите кран.

Търсенето, което използват ChatGPT, Claude или Gemini, не се различава много от човешкото търсене. Езиковите модели преглеждат съдържание във външни сайтове като Reddit или Wikipedia и се връщат с отговор.

При този подход обаче не можете да сте сигурни, че информацията е вярна и актуална. Разпръснатите източници означават различни формати и дати, а нерядко — и човешки грешки или мнения, представени като факти. API преодолява тази слабост, като предоставя постоянен, програмен достъп до подготвени данни.

Например API на Monitly предоставя достъп до статистика от цял свят чрез директни връзки с източници като Националния статистически институт, Eurostat, World Bank, WHO, IMF и много други. Така AI не трябва да търси информация из различни сайтове: той изпраща заявка директно към API и получава актуален резултат, който може да анализира и интерпретира.

Свързване чрез MCP

Свързването на AI чрез MCP (Model Context Protocol) дава на езиковите модели пряк достъп до файлове, електронни таблици, код или приложения. Това значително намалява риска от халюцинации, защото предоставя готови данни, с които моделът да работи.

Например платформата за фирмени данни Compabase предлага MCP, чрез който AI може бързо да проверява местни компании. Ако този път поискаме ЕИК на 20 компании от София с растящи приходи, вместо измислена информация ще получим последователен, проверен списък. Разликата не е, че моделът изведнъж е станал „по-умен“. Преди той просто не е имал достъп до тези данни, а сега изпълнява проста SQL заявка към базата и получава готов резултат.

С други думи:

Без MCP:

• някои от компаниите не съществуват;
• финансовите данни са произволни;
• ЕИК са измислени.

С MCP:

• моделът изпраща заявка към базата данни;
• получава конкретни записи;
• резултатът от заявката е детерминистичен.

Разбира се, рискът от халюцинации не изчезва, ако продължаваме да изискваме прекомерна обработка и комбиниране на данни. Но когато осигурим среда с ясна структура, данни в реално време и ограничено поле за интерпретация, AI спира да гадае и започва да анализира действително наличната информация.