Ko umetna inteligenca proizvaja 'smeti'

Vas skrbi, da se orodja umetne inteligence oddaljujejo od reševanja največjih svetovnih izzivov in se namesto tega osredotočajo na ustvarjanje vsebine, ki je samo bleščeča in želi na hitro zadovoljiti uporabnike? 

Chen pravi, da "namesto da bi umetno inteligenco gradili za zdravljenje raka ali razumevanje vesolja, jo vse bolj optimiziramo za AI smeti", poroča spletna stran Business Insider.

Izraz 'AI smeti' opisuje površne in nepraktične odzive, ki na videz morda zvenijo dobro, a dejansko nimajo prave vsebine. Zato "modele učimo, da lovijo dopamin namesto resnice", kar pomeni, da AI postaja nekakšen 'razvajenec', ki nam ponuja, kar mu je všeč, namesto tistega, kar dejansko mi potrebujemo. 

Ta trend ni le nevaren, ampak pomeni tudi zapravljeno priložnost za celotno človeštvo. Moramo se vprašati, ali je to res pot, po kateri želimo, da se razvija tehnologija, ki bi nam lahko rešila planet in spremenila življenje - seveda na bolje? 

V rokah imamo torej orodje, ki bi lahko rešilo številne težave na svetu. Zakaj se potem dogaja, da z njim ravnamo tako nespametno?

Razlog za to so tako imenovane lestvice, kot je LMArene, kjer lahko uporabniki glasujejo o kakovosti odgovorov AI ali o tem, kateri od ponujenih odgovorov so boljši, poroča omenjena stran. Uporabniki teh odgovorov ne berejo pozorno in ne preverjajo njihove točnosti, ampak jih preletijo in v dveh sekundah izberejo odgovor, ki se jim zdi učinkovit, namesto tistega, ki je resničen. Posledica tega je, da se nekateri modeli AI naučijo, kako zveneti čim bolje in čim pametneje, namesto da bi bili točni in uporabni.

V teoriji se lahko zgodi, da bo slabši AI model bolje uvrščen prav zato, ker daje odgovore, ki so učinkovitejši in zvenijo privlačnejše, vendar je njihova kakovost slabša v primerjavi z odgovori nižje uvrščenih modelov, poroča omenjena spletna stran.

AI torej v številnih primerih sploh ne dela tega, kar mi zares potrebujemo. Ali sploh lahko verjamemo številkam in obljubam o napredku umetne inteligence? Raziskovalci iz Evropske komisije imajo resen dvom. Njihov članek Ali lahko zaupamo merilom AI? iz februarja jasno kaže, da so današnji načini ocenjevanja orodij popolnoma zgrešeni.