Halucinație (în AI)

O halucinație este un răspuns al unui asistent AI care sună sigur și plauzibil, dar este fals sau inventat: o dată, un citat, o lege, o sursă care nu există.

De ce se întâmplă

OpenAI explică, într-un articol de cercetare, că modelele de limbaj halucinează în parte pentru că antrenarea și evaluarea obișnuite răsplătesc ghicitul, nu recunoașterea incertitudinii. Pe scurt: un model care ghicește pare uneori mai bun decât unul care spune „nu știu”. Rezultatul este un text fluent, cu ton sigur, care poate amesteca informații reale cu informații false.

Exemplu (inventat, pentru ilustrare)

Ceri: „Dă-mi trei surse oficiale pentru acest articol din regulament.” Asistentul îți dă trei titluri de documente cu aspect credibil. Două există, al treilea nu a existat niciodată. Nimic din ton nu îți arată care este care. De aceea verifici fiecare sursă în pagina oficială, nu doar că „sună bine”.

Cum reduci riscul

Dă-i voie să spună „nu știu”: scrie în prompt „Dacă nu ești sigur sau nu ai informația, spune clar că nu ai suficiente informații.” Documentația Anthropic recomandă exact această tehnică.
Lucrează pe textul tău: lipește documentul și cere răspunsuri doar din el, cu citate exacte. Dacă nu găsește un citat, afirmația se retrage.
Verifică tot ce are consecințe: date, cifre, legi, nume, doze, sume. Nicio tehnică nu elimină complet halucinațiile; documentația Anthropic spune că le reduc, nu că le elimină.

Nu înseamnă că AI-ul este inutil, nici că greșește mereu. Înseamnă că tu rămâi responsabil de ce folosești mai departe: AI-ul propune, tu verifici și decizi.

Întrebări frecvente

Halucinația este o defecțiune pe care o repară o actualizare?

Nu complet. Cercetătorii o tratează ca pe o problemă deschisă. Articolul OpenAI arată că ține și de felul în care sunt evaluate modelele, iar documentația Anthropic spune că tehnicile existente reduc halucinațiile, dar nu le elimină. Verificarea rămâne obligatorie.

Cum îmi dau seama că un răspuns este inventat?

De obicei nu îți dai seama din ton, pentru că textul sună sigur. Verifici faptele concrete (nume, date, cifre, citate, legi) într-o sursă oficială sau în documentul tău. Dacă ai cerut o sursă, deschide-o: linkul sau titlul pot să nu existe.

Mă ajută să cer „fii sigur” sau „nu greși”?

Mai util este să îi dai voie explicit să spună că nu știe și să îi ceri să se bazeze doar pe textul pe care i l-ai dat. O cerere generală de a nu greși nu înlocuiește verificarea.