Inteligența artificială nu reușește să se potrivească cu oamenii în apelurile de judecată și este mai predispusă să emită pedepse mai aspre pentru cei care încalcă regulile, potrivit unui nou studiu al cercetătorilor e la Univertatea Tehnologică din Massachusetts (MIT).
Descoperirea ar putea avea implicații în lumea reală dacă sistemele de inteligență artificială vor fi folosite pentru a prezice o recidivă, ceea ce ar putea duce la pedepse mai lungi cu închisoarea sau la stabilirea cauțiunii la un preț mai mare, arată cercetătorii americani porivit foxnews.com.
Experții au studiat modelele de învățare automată și au descoperit că atunci când AI nu este antrenată corespunzător, face apeluri de judecată mai severe decât oamenii.
„Cred că majoritatea cercetătorilor de inteligență artificială/învățare automată presupun că judecățile umane în ceea ce privește datele și etichetele sunt părtinitoare, dar acest rezultat spune ceva mai rău Aceste modele nici măcar nu reproduc judecăți umane deja părtinitoare, deoarece datele pe care sunt instruite au un defect. Oamenii ar eticheta diferit caracteristicile imaginilor și ale textului dacă ar ști că aceste caracteristici vor fi folosite pentru o judecată”, explică Marzyeh Ghassemi, profesor la MIT.
Companii din toată lumea au început să implementeze tehnologia AI sau să ia în considerare utilizarea tehnologiei pentru a ajuta la sarcinile de zi cu zi, de obicei gestionate de oameni. Noua cercetare a examinat cât de aproape AI „poate reproduce judecata umană”. Cercetătorii au stabilit că atunci când oamenii antrenează sisteme cu date „normative” – etichetează în mod explicit o potențială încălcare – sistemele AI ajung la un răspuns mai asemănător cu cel uman decât atunci când sunt antrenate cu „date descriptive” (definite ca atunci când oamenii etichetează fotografiile sau textul într-un mod real). „Acest lucru arată că datele contează cu adevărat”, a declarat Aparna Balagopalan, de la MIT, care a participat la elaborarea studiului. (redacția UZPR)
Foto: pixabay.com