AI halucinacije su situacije u kojima model generiše informaciju koja zvuči ubedljivo, ali je objektivno netačna. To nije „bug“ — to je karakteristika jezičkih modela. Oni ne znaju šta je tačno, oni znaju šta zvuči verovatno.
Najčešći primeri: izmišljeni citati i autori („Prema istraživanju prof. Markovića iz 2023...“ — i profesor i istraživanje su izmišljeni), pogrešne činjenice, izmišljeni događaji, netačne matematičke računice, lažne reference.
Zašto se to dešava? Jezički modeli su obučeni da predviđaju sledeću reč na osnovu ogromne količine teksta. Neki sistemi koriste pretragu i baze dokumenata, ali i tada mogu pogrešno da protumače izvor ili navedu tvrdnju koju izvor ne podržava.
Kako se braniti: Proveravajte činjenice kod pouzdanih izvora. Pitajte AI za izvore, a zatim ih proverite (ali ne verujte AI-ju da su izvori tačni). Tražite konkretne, proverljive informacije. Koristite više AI alata za isti zadatak.
Proveravaj i tvrdnje koje zvuče sasvim obično. Pronađi primarni izvor, proveri datum i pročitaj deo koji podržava tvrdnju. Slaganje dva AI alata ili rezultat pretrage samo po sebi nije dokaz.
Svaka lekcija na AI na dan uključuje upravo ovu veštinu: odvajanje AI rezultata od dokaza. Naši polaznici uče da AI koriste kao pomoćnika, ne kao izvor istine.