Cén fáth a bhfuil AI Chatbots siabhránach? Ag Iniúchadh na hEolaíochta

Faisnéis Saorga (AI) Tá chatbots ina gcuid lárnach dár saol inniu, ag cuidiú le gach rud ó bhainistiú sceidil go dtí tacaíocht a sholáthar do chustaiméirí. Mar sin féin, mar seo chatbots níos mó chun cinn, tá an cheist imní ar a dtugtar siabhránachtaí tagtha chun cinn. In AI, tagraíonn siabhránacht do chásanna ina ngineann chatbot faisnéis mhíchruinn, mhíthreorach nó atá déanta go hiomlán.

Samhlaigh ag cur ceiste ar do chúntóir fíorúil faoin aimsir, agus tosaíonn sé ag tabhairt eolas atá as dáta nó go hiomlán mícheart duit faoi stoirm nár tharla riamh. Cé go bhféadfadh sé seo a bheith suimiúil, i réimsí ríthábhachtacha cosúil le cúram sláinte nó comhairle dlí, is féidir iarmhairtí tromchúiseacha a bheith mar thoradh ar siabhránachtaí dá leithéid. Dá bhrí sin, tá sé ríthábhachtach tuiscint a fháil ar an bhfáth ar chatbots AI hallucinate chun a n-iontaofacht agus a sábháilteacht a fheabhsú.

Bunúsacha AI Chatbots

Tá chatbots AI faoi thiomáint ag ard-halgartaim a chuireann ar a gcumas teanga dhaonna a thuiscint agus a ghiniúint. Tá dhá phríomhchineál chatbots AI: samhlacha bunaithe ar rialacha agus samhlacha giniúna.

Chatbots bunaithe ar rialacha rialacha nó scripteanna réamhshainithe a leanúint. Is féidir leo tascanna simplí a láimhseáil cosúil le tábla a chur in áirithe i mbialann nó ceisteanna coitianta maidir le seirbhís do chustaiméirí a fhreagairt. Feidhmíonn na róbónna seo laistigh de raon feidhme teoranta agus braitheann siad ar thruiceoirí nó eochairfhocail ar leith chun freagraí cruinne a sholáthar. Mar sin féin, cuireann a dochtúlacht teorainn lena gcumas déileáil le ceisteanna níos casta nó gan choinne.

Úsáideann samhlacha giniúna, ar an láimh eile, foghlaim meaisín agus Próiseáil Teanga Nádúrtha (NLP) chun freagraí a ghiniúint. Cuirtear oiliúint ar na múnlaí seo ar mhéideanna ollmhóra sonraí, patrúin foghlama agus struchtúir i dteanga an duine. I measc na samplaí coitianta tá GPT OpenAI sraith agus Google's BERT. Is féidir leis na samhlacha seo freagraí níos solúbtha agus níos ábhartha ó thaobh comhthéacs a chruthú, rud a fhágann go bhfuil siad níos ilúsáide agus níos inoiriúnaithe ná botanna comhrá bunaithe ar rialacha. Mar sin féin, cuireann an tsolúbthacht seo níos mó seans ann go mbeidh siabhránachtaí orthu, toisc go mbíonn siad ag brath ar mhodhanna dóchúlachta chun freagraí a ghiniúint.

Cad é Hallucination AI?

Tarlaíonn siabhránacht AI nuair a ghineann chatbot ábhar nach bhfuil bunaithe ar an réaltacht. D’fhéadfadh sé seo a bheith chomh simplí le hearráid fhíorasach, amhail dáta imeachta stairiúil a fháil mícheart, nó rud níos casta, mar scéal iomlán nó moladh leighis a chumadh. Cé gur eispéiris céadfacha gan spreagthaigh sheachtracha iad siabhránachtaí daonna, a eascraíonn go minic de bharr fachtóirí síceolaíochta nó néareolaíocha, eascraíonn siabhránachtaí AI ó mhíthuiscint nó róghinearálú na samhla ar a sonraí oiliúna. Mar shampla, má tá go leor téacsanna faoi dhineasáir léite ag AI, d’fhéadfadh sé go hearráideach speiceas nua, ficseanúil dineasáir nach raibh ann riamh.

Tá coincheap na hallucination AI thart ó laethanta tosaigh na foghlama meaisín. Is minic a rinne múnlaí tosaigh, a bhí sách simplí, botúin fhíor-amhrasach, mar a mholann “Is é Páras príomhchathair na hIodáile.” De réir mar a chuaigh teicneolaíocht AI chun cinn, d'éirigh na siabhránachtaí níos caolchúisí ach d'fhéadfadh go mbeadh siad níos contúirtí.

Ar dtús, níor breathnaíodh ar na hearráidí AI seo ach aimhrialtachtaí nó fiosrachtaí. Mar sin féin, de réir mar a tháinig méadú ar ról AI i bpróisis chinnteoireachta ríthábhachtacha, tá níos mó práinne ag baint le dul i ngleic leis na saincheisteanna sin. Méadaíonn comhtháthú AI i réimsí íogaire cosúil le cúram sláinte, comhairle dlí, agus seirbhís do chustaiméirí na rioscaí a bhaineann le siabhránachtaí. Mar sin tá sé riachtanach na teagmhais seo a thuiscint agus a mhaolú chun iontaofacht agus sábháilteacht na gcóras AI a chinntiú.

Cúiseanna siabhránachtaí AI

A thuiscint cén fáth a bhfuil AI chatbots hallucinate i gceist le roinnt fachtóirí idirnasctha a iniúchadh:

Fadhbanna Cáilíochta Sonraí

Tá cáilíocht na sonraí oiliúna ríthábhachtach. Foghlaimíonn samhlacha AI ó na sonraí a chothaítear dóibh, mar sin má tá na sonraí oiliúna claonta, as dáta, nó míchruinn, léireoidh aschuir an AI na lochtanna sin. Mar shampla, má chuirtear oiliúint ar chatbot AI ar théacsanna leighis a chuimsíonn cleachtais atá as dáta, d’fhéadfadh sé cóireálacha atá imithe i léig nó cóireálacha díobhálacha a mholadh. Ina theannta sin, mura bhfuil éagsúlacht sna sonraí, d’fhéadfadh go dteipfeadh ar an AI comhthéacsanna lasmuigh dá raon feidhme teoranta oiliúna a thuiscint, rud a fhágann go mbeidh aschuir earráideacha ann.

Ailtireacht Shamhla agus Oiliúint

Tá róil ríthábhachtacha ag próiseas ailtireachta agus oiliúna samhail AI. Ró-fheistiú Tarlaíonn sé nuair a fhoghlaimíonn samhail AI na sonraí oiliúna ró-mhaith, lena n-áirítear a torann agus earráidí, rud a fhágann go bhfeidhmíonn sé go dona ar shonraí nua. Os a choinne sin, tarlaíonn tearcfheistiú nuair is gá don tsamhail na sonraí oiliúna a fhoghlaim go leordhóthanach, rud a fhágann go mbíonn freagraí ró-shimplithe ann. Dá bhrí sin, tá sé dúshlánach cothromaíocht a choinneáil idir na foircinní seo ach tá sé riachtanach chun siabhránachtaí a laghdú.

Athbhrí i dTeanga

Tá teanga dhaonna casta ó dhúchas agus lán de nuances. Is féidir bríonna iolracha a bheith ag focail agus frásaí ag brath ar an gcomhthéacs. Mar shampla, an focal “bancd’fhéadfadh go gciallódh “foras airgeadais nó taobh abhann. Is minic go mbíonn níos mó comhthéacs ag teastáil ó shamhlacha AI chun téarmaí den sórt sin a dhíbhrí, rud a fhágann go mbíonn míthuiscintí agus siabhránachtaí ann.

Dúshláin Algartamacha

Tá teorainneacha ag na halgartaim AI reatha, go háirithe maidir le spleáchais fhadtéarmacha a láimhseáil agus comhsheasmhacht a choinneáil ina gcuid freagraí. Féadfaidh na dúshláin seo a bheith ina gcúis don AI ráitis chontrártha nó dhochreidte a tháirgeadh fiú laistigh den chomhrá céanna. Mar shampla, d’fhéadfadh AI fíric amháin a éileamh ag tús comhrá agus é féin a bhréagnú níos déanaí.

Forbairtí le Déanaí agus Taighde

Oibríonn taighdeoirí go leanúnach chun siabhránachtaí AI a laghdú, agus tá dul chun cinn geallta i roinnt príomhréimsí tar éis dul chun cinn a dhéanamh i staidéir le déanaí. Iarracht shuntasach amháin is ea cáilíocht sonraí a fheabhsú trí thacair shonraí níos cruinne, níos éagsúla agus níos nuashonraithe a choimeád. Baineann sé seo le modhanna a fhorbairt chun sonraí atá claonta nó mícheart a scagadh agus a chinntiú go léiríonn na tacair oiliúna comhthéacsanna agus cultúir éagsúla. Trí scagadh a dhéanamh ar na sonraí a gcuirtear oiliúint ar mhúnlaí AI, laghdaítear an dóchúlacht go dtarlóidh siabhránachtaí de réir mar a fhaigheann na córais AI bunús níos fearr d’eolas cruinn.

Tá ról ríthábhachtach ag ardteicníochtaí oiliúna freisin maidir le dul i ngleic le siabhránachtaí AI. Cuidíonn teicnící cosúil le tras-bhailíochtú agus tacair shonraí níos cuimsithí le saincheisteanna a laghdú mar rófheisteas agus gannfheistiú. Ina theannta sin, tá taighdeoirí ag fiosrú bealaí chun tuiscint níos fearr ar chomhthéacs a ionchorprú i múnlaí AI. Tá feabhsuithe suntasacha léirithe ag samhlacha trasfhoirmeoirí, ar nós BERT, maidir le freagraí atá oiriúnach don chomhthéacs a thuiscint agus a ghiniúint, ag laghdú siabhránachtaí trí ligean don AI nuances a thuiscint ar bhealach níos éifeachtaí.

Ina theannta sin, tá nuálaíochtaí algartamacha á iniúchadh chun aghaidh a thabhairt go díreach ar siabhránachtaí. Tá nuálaíocht amháin den sórt sin AI inmhínithe (XAI), a bhfuil sé mar aidhm aige próisis cinnteoireachta AI a dhéanamh níos trédhearcaí. Trí thuiscint a fháil ar an gcaoi a dtagann córas AI ar chonclúid ar leith, is féidir le forbróirí foinsí siabhránachta a aithint agus a cheartú ar bhealach níos éifeachtaí. Cuidíonn an trédhearcacht seo chun na fachtóirí as a dtagann siabhránachtaí a aithint agus a mhaolú, rud a fhágann go mbeidh córais AI níos iontaofa agus níos iontaofa.

Léiríonn na comhiarrachtaí seo i gcáilíocht sonraí, oiliúint mhúnla agus dul chun cinn algartamacha cur chuige ilghnéitheach chun siabhránachtaí AI a laghdú agus feabhas a chur ar fheidhmíocht iomlán agus iontaofacht chatbots AI.

Fíor-domhan Samplaí de Shamhlaíocht AI

Léiríonn samplaí fíordhomhanda de siabhránacht AI an tionchar a bhíonn ag na hearráidí seo ar earnálacha éagsúla, uaireanta le hiarmhairtí tromchúiseacha.

I gcúram sláinte, staidéar ag Coláiste Leighis Ollscoil Florida thástáil ChatGPT ar cheisteanna coitianta leighis a bhaineann le húireolaíocht. Ba ábhar imní iad na torthaí. Níor sholáthair an chatbot freagraí cuí ach 60% den am. Go minic, rinne sé míthuiscint ar threoirlínte cliniciúla, fágadh faisnéis thábhachtach chomhthéacsúil ar lár, agus rinne sé moltaí cóireála míchuí. Mar shampla, molann sé uaireanta cóireálacha gan comharthaí ríthábhachtacha a aithint, rud a d'fhéadfadh a bheith mar thoradh ar chomhairle a d'fhéadfadh a bheith contúirteach. Léiríonn sé seo an tábhacht a bhaineann lena chinntiú go bhfuil córais AI leighis cruinn agus iontaofa.

Tharla teagmhais shuntasacha i seirbhís do chustaiméirí nuair a chuir AI chatbots faisnéis mhícheart ar fáil. Cás suntasach i gceist Chatbot Aeir Ceanada, a thug sonraí míchruinne faoina mbeartas táillí méala. Mar thoradh ar an eolas mícheart seo chaill taistealaí aisíocaíocht, rud a chuir isteach go mór. Rialaigh an chúirt i gcoinne Air Canada, ag cur béime ar a bhfreagracht as an bhfaisnéis a chuir a chatbot ar fáil. Léiríonn an teagmhas seo an tábhacht a bhaineann le cruinneas bunachair shonraí chatbot a nuashonrú agus a fhíorú go rialta chun saincheisteanna comhchosúla a chosc.

Bhí fadhbanna suntasacha sa réimse dlí maidir le siabhránachtaí AI. I gcás cúirte, Bhain dlíodóir Nua-Eabhrac Steven Schwartz úsáid as ChatGPT chun teistiméireachtaí dlíthiúla a ghiniúint le haghaidh mionteagaisc, a chuimsigh sé cinn de lua cásanna monaraithe. Bhí iarmhairtí tromchúiseacha mar thoradh air seo agus leag sé béim ar an ngá atá le maoirseacht dhaonna i gcomhairle dlí arna giniúint ag AI chun cruinneas agus iontaofacht a chinntiú.

Impleachtaí Eiticiúla agus Praiticiúla

Tá impleachtaí eiticiúla na siabhránachtaí AI as cuimse, toisc go bhféadfadh dochar suntasach a bheith mar thoradh ar mhífhaisnéis faoi thiomáint AI, amhail mídhiagnóisí leighis agus caillteanais airgeadais. Tá sé ríthábhachtach trédhearcacht agus cuntasacht i bhforbairt AI a áirithiú chun na rioscaí seo a mhaolú.

Is féidir le hiarmhairtí fíordhomhanda a bheith ag faisnéis mhícheart ó AI, beatha a chur i mbaol trí chomhairle mhícheart leighis agus toradh éagórach a bheith mar thoradh ar chomhairle dlí lochtach. Tá comhlachtaí rialála ar nós an Aontais Eorpaigh tar éis dul i ngleic leis na saincheisteanna seo le tograí cosúil leis an Acht AI, a bhfuil sé mar aidhm acu treoirlínte a bhunú le haghaidh imscaradh AI sábháilte agus eiticiúil.

Tá trédhearcacht in oibríochtaí AI riachtanach, agus díríonn réimse XAI ar phróisis cinnteoireachta AI a dhéanamh intuigthe. Cuidíonn an trédhearcacht seo le siabhránachtaí a aithint agus a cheartú, ag cinntiú go bhfuil córais AI níos iontaofa agus níos iontaofa.

An Bun Líne

Tá chatbots AI tar éis éirí ina n-uirlisí riachtanacha i réimsí éagsúla, ach cruthaíonn a gclaonadh i leith siabhránachtaí dúshláin shuntasacha. Trí na cúiseanna a thuiscint, ó shaincheisteanna cáilíochta sonraí go teorainneacha algartamacha - agus straitéisí a chur i bhfeidhm chun na hearráidí seo a mhaolú, is féidir linn iontaofacht agus sábháilteacht na gcóras AI a fheabhsú. Cabhróidh dul chun cinn leanúnach i gcoimeád sonraí, oiliúint mhúnla, agus AI inmhínithe, mar aon le maoirseacht dhaonna riachtanach, lena chinntiú go soláthraíonn chatbots AI faisnéis chruinn iontaofa, ag cur le muinín agus fóntais níos mó sna teicneolaíochtaí cumhachtacha seo ar deireadh.

Ba chóir do léitheoirí foghlaim faoin mbarr freisin AI Réitigh Braite Hallucination.