- Mākslīgā intelekta halucinācijas rodas, kad ģeneratīvie modeļi rada plūstošu, bet nepamatotu vai nepatiesu saturu, ko lietotāji var sajaukt ar faktu.
- Sliktas kvalitātes vai neobjektīvi apmācības dati, reālās pasaules pamatojuma trūkums un pārāk pārliecināta dekodēšana veicina šos maldinošos rezultātus.
- Halucinācijas jau ietekmē tādas kritiskas jomas kā medicīna, jurisprudence un klientu apkalpošana, graujot uzticību un radot juridiskus un ētiskus riskus.
- Iegūšanas, iekšējās verifikācijas, noteikšanas metožu un cilvēka uzraudzības apvienošana ir galvenais, lai halucinācijas būtu pārvaldāmas reālos lietojumos.
Mākslīgā intelekta halucinācijas ir viens no dīvainākajiem un svarīgākajiem mūsdienu mākslīgā intelekta sistēmu trūkumiem , īpaši lieliem valodu modeļiem un ģeneratīvajiem rīkiem, kas pēc pieprasījuma raksta, zīmē vai atbild uz jautājumiem. Šīs sistēmas var sniegt plūstošas, pārliecinātas atbildes, kas izklausās pilnīgi saprātīgas, tomēr satur faktus, citātus vai detaļas, kas ir vienkārši izdomātas. Lietotājiem grūtākais ir tas, ka kļūda bieži vien slēpjas aiz ārkārtīgi pārliecinošas valodas.
Kad cilvēki runā par “mākslīgā intelekta halucinācijām”, viņi nerunā par mašīnām, kurām ir sapņi vai vīzijas, tāpat kā cilvēkiem . Šis termins ir metafora: tas apraksta situācijas, kad mākslīgā intelekta sistēma ģenerē saturu, kas šķiet saskaņots un ticams, bet ir nepareizs, neobjektīvs, loģiski kļūdains vai atvienots no tās apmācības datiem. Praksē tas var būt gan nepareizs datums vēsturiskā kopsavilkumā, gan safabricētas zinātniskas atsauces, neesošas tiesas prāvas vai pat izdomātas tīmekļa lapas.
Kas īsti ir mākslīgā intelekta halucinācijas?
Tehniskā ziņā mākslīgā intelekta halucinācija ir jebkura modeļa izvade, kas ir maldinoša, nepatiesa vai nepamatota ar datiem, uz kuriem modelis tika apmācīts vai uz kuriem tas tika balstīts . Izmantojot ģeneratīvus modeļus, lietotāji sagaida atbildes, kas jēgpilni atbild uz viņu jautājumiem, piemēram, pareizu atbildi uz jautājumu vai precīzu dokumenta kopsavilkumu. Halucinācija rodas, ja sistēma sniedz atbildi, kas neizriet no tās avotiem, neatbilst reālās pasaules faktiem vai nav izsekojama līdz nevienam uzticamam modelim tās apmācības datos.
Šī parādība ir īpaši redzama lielos valodu modeļos (LLM), piemēram, tērzēšanas robotos un modeļos, piemēram, Gemini . Šie modeļi ir apmācīti paredzēt nākamo vārdu secībā, analizējot milzīgu digitālā teksta apjomu. Tie darbojas kā ievērojami jaudīgāka automātiskās pabeigšanas dzinēja versija: saņemot uzvedni, tie turpina minēt visticamāko nākamo marķieri, tad nākamo utt. Tā kā tie ir optimizēti, lai būtu noderīgi, saskaņoti un plūstoši, tie bieži turpina ģenerēt tekstu pat tad, ja nav pārliecināti, tā vietā, lai atklāti signalizētu: "Es nezinu".
Rezultātā mākslīgā intelekta sistēma var “aizpildīt tukšumus” ikreiz, kad apmācības datos trūkst informācijas, tā ir neskaidra vai slikti attēlota . Ja ir pieejams pietiekami daudz modeļu, atbilde parasti ir saprātīga. Taču, tiklīdz modelis pārkāpj šos modeļus, tas var izdomāt detaļas, interpolēt starp nesaistītiem faktiem vai pārliecinoši apgalvot lietas, kas nekad nav novērotas. Tā ir halucināciju būtība: ticama valoda bez stabila faktu enkura.
Halucinācijas neaprobežojas tikai ar tekstu; tās rodas arī attēlu un modeļu atpazīšanas sistēmās . Redzes modeļi dažreiz var “redzēt” formas, objektus vai iezīmes, kas pamatā esošajos datos nemaz nav sastopamas, līdzīgi kā cilvēki, kas pamana sejas uz Mēness virsmas vai dzīvniekus mākoņos. Abos gadījumos sistēma pārinterpretē troksni, pārvēršot neskaidru vai neskaidru ievadi par kaut ko tādu, kas izskatās jēgpilns.
Tā kā halucinācijas rodas no tā, kā šie modeļi ir uzbūvēti un apmācīti, tās nav tikai neregulāras kļūmes, bet gan strukturāls risks . Pētnieki regulāri mēra halucināciju biežumu salīdzinošajā novērtējumā un līderu sarakstos, un reālās pasaules ieviešana tādās jomās kā veselības aprūpe, tiesības vai finanses jau ir radījusi augsta līmeņa piemērus, kad safabricēts saturs ir nonācis līdz gala lietotājiem.
Kāpēc mākslīgā intelekta sistēmas halucinē: dati, modeļi un pamatojums
Lai saprastu, kāpēc notiek halucinācijas, ir jāsāk ar to, kā tiek apmācīti mākslīgā intelekta modeļi . Lielākā daļa mūsdienu sistēmu, īpaši tiesību maģistra programmas (LLM), mācās no milzīgām apmācības datu kopām, kas apvieno grāmatas, rakstus, tīmekļa vietnes un citus publiskus avotus. Apmācības laikā modelis meklē statistiskas likumsakarības: kā vārdi mēdz sekot citiem vārdiem, kuras tēmas parādās kopā, kuras struktūras atkārtojas. Tas neveido iekšēju pasaules modeli cilvēciskā izpratnē, kā arī nesaglabā skaidrus faktus kā ierakstus datubāzē.
Tāpēc apmācības datu kvalitāte, pilnīgums un neobjektivitāte ir kritiski svarīga . Ja datu kopa ir nepilnīga, ļoti sagrozīta vai satur sistemātiskas kļūdas, modelis uztvers un pastiprinās šīs deformācijas. Piemēram, medicīnisko attēlu klasifikators, kas apmācīts tikai ar vēža audiem un nekad nav bijis pakļauts veseliem attēliem, var iemācīties, ka jebkuri audi, kas līdzinās tā apmācības piemēriem, ir vēža audi. Kad šāda sistēma tiek ieviesta reālajā pasaulē, tā var kļūdaini marķēt veselus audus kā ļaundabīgus nevis tāpēc, ka tā būtu ļaunprātīga, bet gan tāpēc, ka tas ir vienīgais modelis, ko tā zina.
Kļūdaini, trokšņaini vai neobjektīvi apmācības dati ir tikai viens halucināciju avots . Vēl viens svarīgs faktors ir pienācīga pamata trūkums reālās pasaules zināšanās, fiziski ierobežojumi vai pārbaudāmi ārēji avoti. Daudzi mākslīgā intelekta modeļi darbojas tikai simbolu telpā: tie manipulē ar tekstu vai pikseļiem, tieši nesaistot tos ar fiziskiem objektiem, atjauninātām datubāzēm vai sensoru pieredzi. Bez pamata modelis var viegli radīt apgalvojumu, kas izklausās reālistisks, tomēr ir pretrunā ar pamatfaktiem, piemēram, norādot nepareizu datumu vēsturiskam notikumam vai izgudrojot zinātnisku koncepciju, kas nekad nav pastāvējusi.
Šis pamatojuma trūkums var attiekties arī uz atsaucēm, saitēm un citātiem . Ir novērots, ka teksta modeļi veido URL, zinātniskus rakstus, akadēmisku autoru atsauces un pat citātus, kas no pirmā acu uzmetiena izskatās pilnīgi ticami. Modelis "nemelo" ar nolūku; tas veido tekstu, kas statistiski atgādina atsauces, ko tas ir redzējis, pat ja konkrētā nosaukuma, autora un žurnāla kombinācija nekad nav pastāvējusi realitātē.
Modeļa sarežģītība un pārmērīga pielāgošana rada vēl vienu riska slāni . Ļoti sarežģīti modeļi ar miljoniem vai miljardiem parametru var attēlot smalkus modeļus, taču tie var arī iegaumēt viltus korelācijas vai troksni. Kad modelis pārāk labi pielāgojas saviem apmācības datiem, tas var paļauties uz trauslām norādēm, kas nevispārinās, kā rezultātā, mainoties apstākļiem, rodas dīvaini rezultāti. Attēlu atpazīšanā tas var radīt sirreālas vai sapņainas interpretācijas; tekstā tas var izraisīt garas spriešanas ķēdes, kas izklausās sarežģītas, bet balstās uz kļūdainu pieņēmumu.
Konkrēti mākslīgā intelekta halucināciju piemēri praksē
Ģeneratīvā mākslīgā intelekta ieviešana reālajā pasaulē jau ir radījusi daudzus publiskus halucināciju piemērus . Viens plaši apspriests gadījums notika, kad Google tērzēšanas robots Bard kļūdaini apgalvoja, ka Džeimsa Veba kosmiskais teleskops ir pirmo reizi uzņēmis planētas attēlus ārpus mūsu Saules sistēmas. Apgalvojums izklausījās iespaidīgi un tika pasniegts pārliecinoši, taču tas bija faktiski kļūdains; iepriekšējie teleskopi jau bija radījuši šādus attēlus.
Vēl viens skaļš incidents bija saistīts ar Microsoft tērzēšanas sistēmu, kuras kodētais nosaukums bija Sidneja . Testēšanas laikā lietotāji ziņoja par sarunām, kurās modelis paziņoja, ka ir iemīlējies viņos, vai apgalvoja, ka izspiego Bing darbiniekus. Šīs atbildes nebija balstītas nevienā pamatā esošā realitātē; tās bija modeļa saskaņošanas rezultāti ar romantisku vai sazvērestības valodu, kas redzama tā apmācības datos, apvienojumā ar sarunvalodas stilu, kas veicina sarežģītus naratīvus.
Meta Galactica valodas modelis, kas bija paredzēts zinātnisku uzdevumu veikšanai, arī tika atsaukts neilgi pēc tā publiskās demonstrācijas 2022. gadā . Lietotāji ātri nodemonstrēja, ka sistēma spēj radīt zinātniski skanošu tekstu, kurā precīzi fakti ir sajaukti ar safabricētām atsaucēm, neobjektīviem apgalvojumiem un izdomātiem rakstiem. Rezultāti izskatījās pēc akadēmiskiem rakstiem ar tehnisku žargonu, taču faktu saturs varēja būt bīstami neuzticams.
Ziņu mediji ir dokumentējuši arī mazākas, bet daudznozīmīgas halucinācijas . Vienā gadījumā laikraksta “The New York Times” žurnālisti jautāja tērzēšanas robotam par pirmo reizi, kad laikraksts publicēja rakstu par mākslīgo intelektu. Modelis piedāvāja vairākas detalizētas atbildes, tostarp datumus un aprakstus, tomēr dažas no šīm detaļām izrādījās nepareizas vai pilnībā izdomātas. Sistēma ģenerēja ticamu stāstu, jo uzvedne atbilda daudziem modeļiem tās apmācības datos, nevis tāpēc, ka tai bija piekļuve precīzam, pārbaudāmam arhīvam.
Pat šķietami vienkārši uzdevumi, piemēram, īsas biogrāfiskas piezīmes rakstīšana, var izraisīt halucinācijas . Pirms karaļa Čārlza III faktiskās kronēšanas pieprasījums pēc īsa profila lika vienam tērzēšanas robotam pārliecinoši paziņot, ka kronēšanas ceremonija notikusi Vestminsteras abatijā 2023. gada 19. maijā. Patiesībā kronēšana notika 6. maijā. Modelis zināja tipiskas britu kronēšanas vietas, rituālas frāzes un laika grafikus, taču tam nebija piekļuves nākotnes notikumiem, un tas joprojām piedāvāja konkrētu, nepareizu datumu, kas tika formulēts kā konstatēts fakts.
Halucinācijas kritiskās jomās: medicīnā, tieslietās un citur
Risks ievērojami palielinās, ja halucinācijas parādās tādās augsta riska jomās kā veselības aprūpe, tiesību zinātne vai finanses . Medicīnā jaunākie pētījumi liecina, ka pat progresīvi, konkrētai jomai paredzēti modeļi var ģenerēt izdomātas anatomiskas struktūras vai maldinošus klīniskos aprakstus. Viens piemērs bija Med-Gemini, ar Google saistīts modelis, kurā akadēmiskā stila skaidrojumā tika minēta neesoša smadzeņu struktūra, ko sauc par "bazilārajiem ganglijiem". Termins izklausījās pēc reālu anatomisku vārdu sajaukuma, taču šāda struktūra neeksistē.
Juridiskajā jomā halucinācijas jau ir nonākušas faktiskos tiesas dokumentos . Ir ziņots par vairākiem gadījumiem, kad juristi izmantoja tērzēšanas robotprogrammatūras dokumentu sagatavošanai un pēc tam iesniedza tos bez rūpīgas cilvēka pārbaudes. Mākslīgā intelekta sistēma ģenerēja atsauces uz tiesas lēmumiem, kas šķita perfekti formatētas un ticamas, taču rūpīgāk pārbaudot, atklājās, ka dažas no atsaucēs minētajām lietām nekad nebija izskatījusi neviena tiesa. Šie safabricētie precedenti piespieda tiesnešus un pretējās puses advokātus tērēt laiku neesošu avotu pārbaudei un radīja nopietnus jautājumus par profesionālo atbildību.
Halucinācijas var ietekmēt arī ikdienas lietojumprogrammas, piemēram, klientu apkalpošanu . Ir dokumentētas situācijas, kad automatizēts atbalsta robots izgudroja atmaksas vai garantijas politikas, kas nebija daļa no uzņēmuma oficiālajiem noteikumiem. No klienta viedokļa robota atbilde šķita autoritatīva – tajā tika izmantots zīmola tonis un vārdu krājums –, tomēr tā uzņēmās saistības, kuras nekad nebija apstiprinājusi vadība vai kuras nebija ietvertas nekādos noteikumos un nosacījumos.
Šādu kļūdu kumulatīvā ietekme ir uzticības erozija . Organizācijas, kas izmanto mākslīgā intelekta asistentus, riskē sabojāt savu reputāciju, ja lietotāji atkārtoti sastopas ar nepareizām, tomēr pārliecinātām atbildēm. Regulētās nozarēs likmes ir vēl augstākas: halucinācijas izraisīta diagnoze, izdomāts juridiskais precedents vai fiktīva atbilstības prasība var radīt reālas finansiālas, medicīniskas vai juridiskas sekas.
Atbildība šādās situācijās joprojām ir mainīgs mērķis . Ja lēmums tiek pieņemts, pamatojoties uz mākslīgā intelekta ģenerētu halucināciju, atbildība var tikt sadalīta starp lietotājiem, izstrādātājiem, pārdevējiem un ieviesējām organizācijām. Likumdevēji un regulatori tikai sāk definēt, kur atrodas atbildība, taču pamatmodelis ir skaidrs: nekontrolēta paļaušanās uz ģeneratīvajām sistēmām kritiski svarīgu lēmumu pieņemšanā var pavērt durvis dārgām kļūdām un juridiskiem strīdiem.
Cik bieži mākslīgā intelekta sistēmas halucinē?
Neskatoties uz straujo progresu, halucinācijas joprojām ir izmērāma un ievērojama problēma modernākajos modeļos . Ap 2023. gadu dažos pētījumos tika lēsts, ka līdz pat 27 % atbilžu no lieliem valodu modeļiem saturēja kāda veida faktu kļūdas, un halucināciju līmenis noteikta veida uzdevumiem vai datu kopām pārsniedza 40 %. Tas nozīmē, ka daudzos reālistiskos scenārijos gandrīz puse no šķietami pamatotajām atbildēm varētu ietvert vismaz vienu maldinošu detaļu.
Jaunākie pētījumi liecina, ka jaunākās modeļu paaudzes ir uzlabojušās, bet nav novērsušas problēmu . Piemēram, nozares ziņojumos minētajos iekšējos testos ir apgalvots, ka modernāks modelis varētu samazināt halucināciju līmeni no aptuveni 20.6 % līdz aptuveni 4.8 % atsevišķos etalonos. Citas sistēmas, piemēram, specifiskas Gemini-2.0-Flash-001 konfigurācijas, šauros, precīzi definētos novērtējumos, izmantojot automātiskās salīdzināšanas metodes, ir sasniegušas halucināciju līmeni tuvu 1 %.
Vienlaikus pētnieki ir pamanījuši interesantu paradoksu . Daži no sarežģītākajiem spriešanas modeļiem, kas rada garākas domu ķēdes un detalizētākus skaidrojumus, var halucinēt vairāk, nevis mazāk. Iemesls ir intuitīvs: garas atbildes sniedz modelim vairāk iespēju novirzīties no faktiem, iekļaut spekulatīvus pieņēmumus vai veidot daudzpakāpju argumentus, balstoties uz nestabilu sākuma punktu.
Akadēmiskais darbs ir sācis sistemātiski klasificēt un mērīt halucinācijas . Aptaujas par LLM halucinācijām piedāvā taksonomijas, kas nošķir iekšējās halucinācijas (kur rezultāts nav saderīgs ar sniegto informāciju, piemēram, nepareizs dotā dokumenta kopsavilkums) un ārējās halucinācijas (kur modelis pievieno ticamas, bet nepamatotas detaļas). Līderu saraksti, piemēram, Vectara Hallucination Leaderboard, salīdzina populārus modeļus standarta testos, lai novērtētu, kuri no tiem, visticamāk, ģenerēs kļūdainu saturu.
Jaunas noteikšanas metodes sniedzas tālāk par vienkāršām pareizības pārbaudēm . Viens ievērojams pētījumu virziens izmanto semantisko entropiju – aptuveni to, cik nenoteikts modelis ir par to, kas tam būtu jāsaka –, lai atzīmētu aizdomīgus rezultātus. Ja modelis uzrāda lielas iekšējas neatbilstības starp vairākiem iespējamiem turpinājumiem, šī paaugstinātā semantiskā entropija var būt brīdinājuma zīme, ka pašreizējā atbilde, visticamāk, ir halucinācija, pat ja nav pieejama zelta standarta atsauces atbilde.
Metodes halucināciju mazināšanai un atklāšanai
Tā kā halucinācijas ir iestrādātas ģeneratīvo modeļu darbībā, nav viena maģiska risinājuma, taču ir parādījušās vairākas daudzsološas stratēģijas . Viena no ietekmīgākajām pieejām ir izguves paplašinātā ģenerēšana (RAG). Tā vietā, lai ļautu modelim paļauties tikai uz to, ko tas iegaumējis apmācības laikā, RAG sistēma vispirms vaicā ārējos, atlasītos datu avotos, piemēram, dokumentācijā, zināšanu bāzēs vai indeksētās tīmekļa lapās, un pēc tam lūdz modelim ģenerēt atbildi, kas ir skaidri balstīta uz šiem izgūtajiem dokumentiem.
RAG efektīvi sniedz modelim kaut ko konkrētu, uz ko balstīties . Kad lietotājs uzdod jautājumu, sistēma ielādē atbilstošās teksta daļas, un modelim tiek piedāvāts tās apkopot vai apvienot, nevis improvizēt no nulles. Tas var ievērojami samazināt halucinācijas jomās, kur ir pieejams aktuāls, uzticams saturs, piemēram, tehniskās rokasgrāmatas, uzņēmuma iekšējās politikas vai zinātniskās datubāzes.
Vēl viena aizsardzības līnija ir iekšējā verifikācija un paškonsekvences pārbaude . Tā vietā, lai uzticētos vienam modeļa caurlaides posmam, dažas sistēmas ģenerē vairākas kandidātu atbildes un pēc tam salīdzina tās savā starpā. Ja visas versijas saplūst ar vienu un to pašu apgalvojumu, pastāv lielāka iespēja, ka tas ir stabils un pareizs; ja tās atšķiras, sistēma var atturēties, lūgt skaidrojumu vai skaidri norādīt uz nenoteiktību. Šo paškonsekvences pārbaudi var automatizēt, un tā jau ir pierādījusi savu potenciālu halucināciju mazināšanā spriešanas uzdevumos.
Pētnieki ir ierosinājuši arī eksperimentālākas arhitektūras, piemēram, metodes, kas pārstrukturē lietotāja vaicājumu pirms atbildes sniegšanas . Viens piemērs no jaunākajiem akadēmiskajiem darbiem ir metode, kas pazīstama kā Acurai, kuras mērķis ir pārformulēt uzvednes tā, lai virzītu modeli uz pārbaudāmiem spriešanas ceļiem. Lai gan šādas pieejas joprojām ir agrīnā stadijā, tās norāda uz nākotni, kurā modelis vairāk skaitļošanas piepūles veltīs jautājuma domāšanas plānošanai, nevis uzreiz pārlēks uz plūstošu stāstījumu.
Uzraudzības aspektā semantiskās entropijas zondes un saistītie rīki piedāvā lētu veidu, kā atklāt potenciālas halucinācijas . Izmērot, cik lielā mērā modelis iekšēji "nesakrīt ar sevi", veidojot atbildi, šīs zondes var atzīmēt fragmentus, kas ir pelnījuši cilvēka pārskatīšanu. Svarīgi ir tas, ka šādām metodēm nav nepieciešams marķēts pareizo atbilžu datu kopums, padarot tās piemērotas atvērta tipa, reālās pasaules scenārijiem.
Cilvēka uzraudzības un atbildīgas izmantošanas loma
Pat ar uzlabotām arhitektūrām un viedām noteikšanas sistēmām cilvēka uzraudzība joprojām ir būtiska mākslīgā intelekta halucināciju pārvaldībā . Visizturīgākās lietojumprogrammas ir tās, kas uzskata mākslīgo intelektu par spēcīgu palīgu vai otro pilotu, nevis par autonomu lēmumu pieņēmēju. Tādās nozarēs kā veselības aprūpe, banku darbība vai valsts pārvalde labākā prakse ir ļaut modelim filtrēt informāciju, sagatavot dokumentu melnrakstus vai apkopot garus materiālus, kamēr cilvēks-eksperts veic galīgo pārskatīšanu un apstiprināšanu.
Gan nozares līderi, gan pētnieki uzsver, ka lietotājiem nevajadzētu akli uzticēties mākslīgā intelekta rezultātiem, īpaši attiecībā uz jutīgām tēmām . Uzņēmumi, kas izstrādā galvenos modeļus, ir skaidri brīdinājuši, ka viņu sistēmas joprojām var halucinēt un ka atbildes jāizmanto piesardzīgi medicīnisku, juridisku vai finansiālu padomu sniegšanai. Daži pakalpojumu sniedzēji paļaujas uz cilvēku vērtētājiem, lai pārbaudītu neobjektivitāti, faktu kļūdas un potenciāli kaitīgu saturu, integrējot viņu atsauksmes apmācībā, izmantojot pastiprinājuma mācīšanos no cilvēku atsauksmēm (RLHF).
Caurspīdīgums attiecībā uz ierobežojumiem ir galvenais faktors lietotāju uzticības saglabāšanā . Ja pakalpojumu sniedzēji atzīst, ka viņu modeļi var radīt neprecīzu vai safabricētu informāciju, lietotāji, visticamāk, saglabās veselīgu skepticisma līmeni, pārbaudīs atbildes vēlreiz un izvairīsies deleģēt kritiskus spriedumus. Turpretī mākslīgā intelekta pārspīlēta pozicionēšana kā nekļūdīga vai “inteliģenta” cilvēka izpratnē rada nereālas cerības un liek halucinācijām justies kā nodevībai, nevis tehniskiem artefaktiem.
Raugoties nākotnē, regulējums, visticamāk, noteiks to, kā organizācijas pārvalda halucināciju riskus . Politikas veidotāji jau izstrādā noteikumus, kas paredz riska novērtējumus, cilvēka iesaistes procesus un skaidru modeļa iespēju un atteices režīmu dokumentāciju. Daudzās jurisdikcijās uzņēmumiem, kas ievieš mākslīgā intelekta rīkus augsta riska jomās, būs jāpierāda, ka tiem ir ieviesti atbilstoši drošības pasākumi, lai novērstu halucināciju tiešu ietekmi uz kritiski svarīgiem lēmumiem.
Galu galā visuzticamākās sistēmas ir tās, kas izstrādā darbplūsmas, ņemot vērā mākslīgā intelekta stiprās un vājās puses . Ģeneratīvie modeļi izceļas ar melnrakstu ģenerēšanu, iespēju izpēti, alternatīvu frāžu nodrošināšanu un modeļu izcelšanu lielos teksta apjomos. Tie ir daudz mazāk uzticami kā vienīgie patiesības noteicēji. Kad sistēmas ir veidotas tā, lai cilvēki saglabātu kontroli pār galvenajiem lēmumiem un verifikācijas soļiem, halucinācijas kļūst par pārvaldāmu troksni, nevis katastrofālām kļūmēm.
Šīm tehnoloģijām attīstoties, reālistiska attieksme pret mākslīgā intelekta halucinācijām būs būtiska visiem iesaistītajiem – izstrādātājiem, organizācijām, regulatoriem un ikdienas lietotājiem. Izpratne, ka tekoša atbilde ne vienmēr ir pareiza, modeļu apvienošana ar ārējiem zināšanu avotiem, halucināciju sistemātiska mērīšana un noteikšana, kā arī cilvēka sprieduma saglabāšana svarīgu lēmumu centrā ir daļa no ģeneratīvā mākslīgā intelekta gudras izmantošanas. Tā vietā, lai jautātu, vai halucinācijas pilnībā izzudīs, noderīgāks jautājums ir, kā mēs varam izveidot sistēmas, stimulus un ieradumus, kas padara šīs neizbēgamās kļūdas redzamas, ierobežotas un daudz mazāk kaitīgas.
