AI halucinacije su situacije u kojima model generiše informaciju koja zvuči ubedljivo, ali je objektivno netačna. To nije „bug“ — to je karakteristika jezičkih modela. Oni ne znaju šta je tačno, oni znaju šta zvuči verovatno.
Najčešći primeri: izmišljeni citati i autori („Prema istraživanju prof. Markovića iz 2023...“ — i profesor i istraživanje su izmišljeni), pogrešne činjenice, izmišljeni događaji, netačne matematičke računice, lažne reference.
Zašto se to dešava? Jezički modeli su obučeni da predviđaju sledeću reč na osnovu ogromne količine teksta. Oni nemaju bazu znanja, ne razlikuju istinu od fikcije — samo prave statistički ubedljive rečenice.
Kako se braniti: Proveravajte činjenice kod pouzdanih izvora. Pitajte AI za izvore, a zatim ih proverite (ali ne verujte AI-ju da su izvori tačni). Tražite konkretne, proverljive informacije. Koristite više AI alata za isti zadatak.
Zlatno pravilo: ako AI tvrdi nešto što zvuči čudno, neverovatno, ili suviše dobro da bi bilo istinito — verovatno nije tačno. Proverite. Jednostavna pretraga na Google-u ili Vikipediji može da otkrije halucinaciju.
Svaka lekcija na AI na dan uključuje upravo ovu veštinu: odvajanje AI rezultata od dokaza. Naši polaznici uče da AI koriste kao pomoćnika, ne kao izvor istine.