Çima AI Chatbots Hallucinate dikin? Lêkolîna Zanistê

Muxaberatên Artificial (AI) chatbots îro bûne yek ji jiyana me, ji birêvebirina bernameyan bigire heya peydakirina piştgiriya xerîdar bi her tiştî re dibe alîkar. Lêbelê, wekî van chatbots her ku diçe pêşdetir dibe, pirsgirêka eleqedar ku bi navê halusînasyon tê zanîn derketiye holê. Di AI-ê de, halusînasyon bûyerên ku chatbot agahdariya nerast, xapînok, an bi tevahî çêkirî çêdike vedibêje.

Bifikirin ku ji arîkarê xweya virtual li ser hewayê bipirsin, û ew dest pê dike ku agahdariya kevnar an bi tevahî xelet di derheqê bahozek ku qet çênebûye de bide we. Digel ku ev dibe ku balkêş be, di warên krîtîk ên wekî lênihêrîna tenduristî an şîreta dadrêsî de, halusînasyonên weha dikarin bibin sedema encamên cidî. Ji ber vê yekê, têgihîştina çima chatbotên AI-ê halusîn dikin ji bo zêdekirina pêbawerî û ewlehiya wan pêdivî ye.

Bingehên AI Chatbots

Chatbotên AI-ê ji hêla algorîtmayên pêşkeftî ve têne hêz kirin ku wan dihêle ku zimanê mirovan fêm bikin û çêbikin. Du celebên sereke yên chatbotên AI-ê hene: modelên bingehîn û hilberîner.

chatbots-based qaîdeyên qaîdeyên an skrîptên pêşwext bişopînin. Ew dikarin peywirên rasterast wekî veqetandina maseyek li xwaringehekê an bersivdana pirsên karûbarê xerîdar ên hevpar bi rê ve bibin. Van bot di çarçoveyek tixûbdar de tevdigerin û xwe bispêrin bertekên taybetî an peyvên sereke da ku bersivên rast peyda bikin. Lêbelê, hişkiya wan şiyana wan a birêvebirina pirsên tevlihevtir an nediyar sînordar dike.

Ji aliyekî din ve, modelên hilberîner bikar tînin fêrbûna makîneyê û Prosesa Zimanê Zimanzayî (NLP) ji bo afirandina bersivan. Van modelan li ser gelek daneyan, şêwazên fêrbûnê û strukturên zimanê mirovan têne perwerde kirin. Mînakên populer hene GPT ya OpenAI rêze û Google's Bert. Van modelan dikarin bersivên maqûltir û bi kontekstê ve têkildar biafirînin, ku wan ji chatbotên-bingeha qaîdeyan pirrengtir û guncawtir bikin. Lêbelê, ev nermbûn di heman demê de wan bêtir meyla halusînasyonê dike, ji ber ku ew bi rêbazên îhtîmalî ve girêdayî ne ku bersivan biafirînin.

AI Halucination çi ye?

Halusînasyona AI-ê çêdibe dema ku chatbot naverokek ku di rastiyê de ne bingeh diafirîne. Ev dikare wekî xeletiyek rastînek hêsan be, mîna xeletîkirina dîroka bûyerek dîrokî, an tiştek tevlihevtir, mîna çêkirina çîrokek tevahî an pêşniyarek bijîjkî. Digel ku halusînasyonên mirovî ezmûnên hestî ne bêyî teşwîqên derveyî, ku pir caran ji hêla faktorên psîkolojîk an neurolojîk ve têne çêkirin, halusînasyonên AI-ê ji şirovekirina xelet an zêde gelemperîkirina daneyên perwerdehiya modelê derdikevin. Mînakî, heke AI-yek gelek nivîsarên li ser dînozoran xwendibe, dibe ku ew bi xeletî celebek nû, xeyalî ya dinosaur ku qet tunebû çêbike.

Têgeha halusînasyona AI-ê ji rojên destpêkê yên fêrbûna makîneyê ve heye. Modelên destpêkê, ku bi nisbetî sade bûn, bi gelemperî xeletiyên ciddî yên gumanbar kirin, wek pêşniyar kirin ku "Parîs paytexta Îtalyayê ye. Her ku teknolojiya AI-ê pêşde çû, halusînasyon naziktir bûn lê potansiyel xeternaktir bûn.

Di destpêkê de, ev xeletiyên AI-ê tenê wekî anomalî an meraq têne dîtin. Lêbelê, her ku rola AI-ê di pêvajoyên biryara krîtîk de mezin bûye, çareserkirina van pirsgirêkan her ku diçe bileztir bûye. Yekbûna AI-ê di warên hesas ên mîna lênihêrîna tenduristî, şîreta dadrêsî, û karûbarê xerîdar de xetereyên bi halusînasyonan re têkildar zêde dike. Ev hewce dike ku meriv van bûyeran fêm bike û kêm bike da ku pêbawerî û ewlehiya pergalên AI-ê peyda bike.

Sedemên Hallucination AI

Fêmkirina ka çima chatbotên AI-ê halusîn dikin vekolîna çend faktorên bi hev ve girêdayî ye:

Pirsgirêkên Kalîteya Daneyê

Kalîteya daneyên perwerdehiyê girîng e. Modelên AI-ê ji daneyên ku têne xwarin fêr dibin, ji ber vê yekê heke daneyên perwerdehiyê beralî, kevnar, an nerast bin, dê encamên AI-ê wan xeletiyan nîşan bidin. Mînakî, heke chatbotek AI-ê li ser metnên bijîjkî yên ku pratîkên kevnar tê de têne perwerde kirin, dibe ku ew dermankirinên kevin an zirardar pêşniyar bike. Digel vê yekê, heke daneyan cihêrengiyê nebe, dibe ku AI nekare şertên li derveyî çarçoveya perwerdehiya xweya tixûbdar fam bike, ku bibe sedema encamên xelet.

Mîmarî û Perwerdehiya Modelê

Mîmarî û pêvajoya perwerdehiya modelek AI-ê jî rolên krîtîk dilîze. Overfitting diqewime dema ku modelek AI-ê daneyên perwerdehiyê pir baş fêr dibe, tevî deng û xeletiyên wê, ku ew li ser daneyên nû kêm performans dike. Berevajî vê, kêmbûn çêdibe dema ku model pêdivî ye ku daneyên perwerdehiyê bi têra xwe fêr bibe, ku di encamê de bersivên pir hêsan têne peyda kirin. Ji ber vê yekê, domandina hevsengiyek di navbera van tundûtûjiyan de dijwar e lê ji bo kêmkirina halusînasyonan pêdivî ye.

Nezelalî di Ziman de

Zimanê mirovî di xwezayê de tevlîhev û tijî nuansan e. Peyv û biwêj dikarin li gorî hevokê xwedî gelek wateyên bin. Ji bo nimûne, peyva "banke” dikare were wateya saziyek darayî an kêleka çem. Modelên AI-ê bi gelemperî hewceyê bêtir çarçoveyek hewce ne ku van têgînan vebêjin, ku rê li ber têgihiştin û halusînasyonan vedike.

Pirsgirêkên Algorîtmîkî

Algorîtmayên AI-ê yên heyî xwedan tixûb hene, nemaze di birêvebirina girêdanên demdirêj de û domandina domdariya di bersivên wan de. Van dijwariyan dikarin bibin sedem ku AI-ê di heman danûstendinê de daxuyaniyên nakok an neguncan hilberîne. Mînakî, dibe ku AI di destpêka danûstendinê de rastiyek îdîa bike û paşê xwe berovajî bike.

Pêşveçûn û Lêkolînên Dawîn

Lekolînwan bi domdarî dixebitin ku halusînasyonên AI-yê kêm bikin, û lêkolînên vê dawiyê di gelek warên sereke de pêşkeftinên sozdar anîne. Yek hewldanek girîng başkirina kalîteya daneyê ye ku bi berhevkirina danehevên rasttir, cihêreng û nûjentir e. Ev tê de pêşxistina rêbazên ji bo parzûnkirina daneyên nerast an xelet û bicîhkirina ku komên perwerdehiyê çarçove û çandên cihêreng temsîl dikin. Bi safîkirina daneyên ku modelên AI-ê li ser têne perwerde kirin, ji ber ku pergalên AI-ê bingehek çêtir a agahdariya rast digirin, îhtîmala halusînasyonan kêm dibe.

Teknîkên perwerdehiya pêşkeftî di çareserkirina halusînasyona AI-ê de jî rolek girîng dileyzin. Teknîkên wekî erêkirina xaçerê û danehevên berfirehtir dibe alîkar ku pirsgirêkên mîna zêdebûn û kêmderxistin kêm bikin. Wekî din, lêkolîner rêgezên ku têgihîştina çarçoveyek çêtir di nav modelên AI-ê de tevlihev bikin digerin. Modelên veguherîner, yên wekî BERT, di têgihiştin û çêkirina bersivên guncav ên çarçovê de pêşkeftinên girîng nîşan dane, halusînasyonan kêm dikin û bihêlin ku AI-ê bi rengek bikêrtir nuwazeyan bigire.

Digel vê yekê, nûbûnên algorîtmîkî têne lêkolîn kirin ku rasterast bi halusînasyonan re mijûl bibin. Yek ji van nûbûn e AI-ya şirovekirî (XAI), ku armanc dike ku pêvajoyên biryara AI-ê zelaltir bike. Bi têgihiştina ka pergalek AI-ê çawa digihîje encamek taybetî, pêşdebir dikarin bi bandortir çavkaniyên halusînasyonê nas bikin û rast bikin. Ev şefafîtî dibe alîkar ku faktorên ku dibin sedema halusînasyonan destnîşan bikin û sivik bikin, pergalên AI-ê pêbawer û pêbawertir dike.

Van hewildanên hevgirtî yên di qalîteya daneyê, perwerdehiya modelê, û pêşkeftinên algorîtmîkî de nêzîkatiyek pir-alî ji bo kêmkirina halusînasyonên AI-yê û zêdekirina performansa giştî û pêbaweriya chatbotên AI-ê temsîl dikin.

Nimûneyên cîhana rastîn ên AI Halucination

Mînakên cîhana rastîn ên halusînasyona AI-ê ronî dikin ka ev xeletî çawa dikarin bandorê li sektorên cihêreng bikin, carinan bi encamên cidî.

Di tenduristiyê de, lêkolînek ji hêla Koleja Dermanê ya Zanîngeha Florida ChatGPT li ser pirsên bijîjkî yên hevpar ên têkildarî urolojiyê ceriband. Encam bi fikar bûn. Chatbot tenê 60% ji dema bersivên guncan peyda kir. Bi gelemperî, wê rêwerzên klînîkî xelet şîrove kir, agahdariya girîng a kontekstê ji bîr kir, û pêşniyarên dermankirinê yên nerast çêkir. Mînakî, ew carinan bêyî ku nîşanên krîtîk nas bike, dermankirinê pêşniyar dike, ku dikare bibe sedema şîreta potansiyel xeternak. Ev girîngiya ku pergalên AI-ya bijîjkî rast û pêbawer in destnîşan dike.

Bûyerên girîng di karûbarê xerîdar de qewimîn ku chatbotên AI-ê agahdariya çewt peyda kirin. Bûyerek berbiçav tê de ye chatbota Air Canada, ku hûrguliyên nerast di derbarê siyaseta wan a biratiyê de da. Vê agahdariya xelet bû sedem ku rêwîyek ji vegerandina dravê wenda bibe, û bû sedema tevliheviyek girîng. Dadgehê li dijî Air Canada biryar da û bal kişand ser berpirsiyariya wan a ji agahdariya ku ji hêla chatbota wan ve hatî peyda kirin. Ev bûyer girîngiya nûvekirina bi rêkûpêk û verastkirina rastbûna databasên chatbot-ê destnîşan dike ku pêşî li pirsgirêkên wekhev bigire.

Qada qanûnî bi halusînasyona AI-ê re pirsgirêkên girîng ceriband. Di dozek dadgehê de, Parêzerê New York Steven Schwartz ChatGPT bikar anî ji bo çêkirina referansên dadrêsî ji bo kurtenivîsek, ku tê de şeş vegotinên dozên çêkirî hene. Ev bû sedema bertekên giran û tekezî li ser hewcedariya çavdêriya mirovî di şîreta dadrêsî ya ku ji hêla AI-ê ve hatî hilberandin da ku rastbûn û pêbaweriyê peyda bike.

Encamên Etîk û Pratîk

Encamên exlaqî yên halusînasyonên AI-yê kûr in, ji ber ku agahdariya çewt a AI-ê dikare bibe sedema zirarek girîng, wekî xeletiyên bijîjkî û windahiyên darayî. Di pêşkeftina AI-ê de şefafî û berpirsiyarî ji bo kêmkirina van xetereyan pir girîng e.

Agahdariya xelet ji AI-ê dikare encamên cîhana rastîn hebe, bi şîretên bijîjkî yên nerast re jiyanê bixe xetereyê û bi şîreta dadrêsî ya xelet re bibe sedema encamên neheq. Dezgehên birêkûpêk ên mîna Yekîtiya Ewropî bi pêşniyarên mîna Qanûna AI-ê dest bi çareserkirina van pirsgirêkan kirine, ku armanc ew e ku rêwerzên ji bo bicîhkirina AI-ya ewledar û exlaqî saz bikin.

Di operasyonên AI-ê de şefafî girîng e, û qada XAI-yê balê dikişîne ser fêmkirina pêvajoyên biryara AI-ê. Ev şefafî dibe alîkar ku halusînasyonan nas bike û rast bike, û pê ewle bike ku pergalên AI-ê pêbawer û pêbawer in.

The Bottom Line

Chatbotên AI-ê di warên cihêreng de bûne amûrên bingehîn, lê meyla wan a halusînasyonan kêşeyên girîng derdixe holê. Bi têgihîştina sedeman, ji pirsgirêkên kalîteya daneyê bigire heya tixûbên algorîtmîkî - û pêkanîna stratejiyên ji bo kêmkirina van xeletiyan, em dikarin pêbawerî û ewlehiya pergalên AI-ê zêde bikin. Pêşketinên domdar ên di berhevkirina daneyan, perwerdehiya modelê, û AI-ya raveker de, digel çavdêriya bingehîn a mirovî, dê bibin alîkar ku chatbotên AI-ê agahdariya rast û pêbawer peyda bikin, di dawiyê de di van teknolojiyên hêzdar de pêbawerî û karanîna mezintir zêde bikin.

Divê xwendevan jî li ser jorîn fêr bibin AI Çareseriyên Tespîtkirina Halûsînasyonê.