Koga bo ubil samovozeči avto? Stroj, reši čim več ljudi, predvsem pa reši mene!

Če se pojavi situacija, ko se mora avtonomni sistem avtomobila hitro odločiti, koga žrtvovati v primeru neposredne nesreče, kako naj se odzove? Žrtvovanje potnikov, da bi rešili pešce? Če je potrebno, ubiti pešca, da prizanese na primer štiričlansko družino, ki potuje z avtomobilom? Ali pa bi se moral vedno najprej zaščititi?

Čeprav je več kot šestdeset podjetij samo v Kaliforniji že prejelo dovoljenja za osebno testiranje, je težko reči, da se bo industrija soočila z etičnimi dilemami. Trenutno se spopada z bolj osnovnimi težavami – delovanjem in navigacijsko učinkovitostjo sistemov ter preprosto izogibanjem trkom in nepredvidenim dogodkom. V situacijah, kot je nedavni umor pešca v Arizoni ali kasnejše nesreče (1), je do zdaj šlo zgolj za okvare sistema in ne za nekakšno "etično izbiro" avtomobila.

Reši bogate in mlade

Vprašanja sprejemanja tovrstnih odločitev niso abstraktni problemi. To lahko potrdi vsak izkušen voznik. Lani so raziskovalci iz laboratorija MIT Media Lab analizirali več kot štirideset milijonov odgovorov anketirancev z vsega sveta, ki so jih zbrali med raziskavo, ki se je začela leta 2014. Anketni sistem, ki ga imenujejo »Etični stroj«, je pokazal, da je na različnih mestih po svetu svetu se podobna vprašanja postavljajo različni odgovori.

Najbolj splošni sklepi so predvidljivi. V ekstremnih situacijah ljudje raje reševanje ljudi kot skrb za živali, s ciljem rešiti čim več življenj in so ponavadi mlajši od starejših (2). Obstajajo tudi nekatere, a manj očitne preference, ko gre za reševanje žensk pred moškimi, ljudi z višjim statusom pred revnejšimi in pešcev pred potniki v avtomobilu..

2. Koga naj avto reši?

Ker je skoraj pol milijona anketirancev izpolnilo demografske vprašalnike, je bilo mogoče njihove želje povezati s starostjo, spolom in verskim prepričanjem. Raziskovalci so ugotovili, da te razlike niso »bistveno vplivale« na odločitve ljudi, so pa opazili nekatere kulturne vplive. Francozi so na primer težili k pretehtanju odločitev na podlagi ocenjenega števila smrtnih žrtev, medtem ko je bil na Japonskem najmanjši poudarek. Vendar pa je v Deželi vzhajajočega sonca življenje starejših cenjeno veliko bolj kot na Zahodu.

»Preden dovolimo našim avtomobilom, da sprejemajo lastne etične odločitve, moramo o tem imeti globalno razpravo. Ko bodo podjetja, ki delajo na avtonomnih sistemih, spoznala naše želje, bodo razvila etične algoritme v strojih, ki temeljijo na njih, politiki pa bodo lahko začeli uvajati ustrezne zakonske določbe, «je zapisali znanstveniki oktobra 2018 v Nature.

Eden od raziskovalcev, vključenih v eksperiment Moral Machine, Jean-Francois Bonnefont, je ugotovil, da je prednost reševanja ljudi višjega statusa (kot so vodilni pred brezdomci) zaskrbljujoča. Po njegovem mnenju je to zelo povezano z stopnjo ekonomske neenakosti v določeni državi. Kjer so bile neenakosti večje, je bilo dano prednost žrtvovanju revnih in brezdomcev.

Ena od prejšnjih študij je pokazala zlasti, da bi po mnenju anketirancev avtonomni avtomobil moral zaščititi čim več ljudi, četudi to pomeni izgubo potnikov. Hkrati pa so anketiranci izjavili, da tako programiranega avtomobila ne bi kupili. Raziskovalci so to pojasnili medtem ko se ljudem zdi bolj etično rešiti več ljudi, so tudi sebični, kar bi lahko bil signal proizvajalcem, da bodo kupci neradi kupovali avtomobile, opremljene z altruističnimi sistemi.. Pred časom so predstavniki podjetja Mercedes-Benz povedali, da če bi njihov sistem rešil samo eno osebo, bi izbrali voznika in ne pešca. Val javnih protestov je podjetje prisililo, da je umaknilo svojo izjavo. Toda raziskave jasno kažejo, da je bilo v tem svetem ogorčenju veliko hinavščine.

To se v nekaterih državah že dogaja. prvi poskusi pravne ureditve na terenu. Nemčija je sprejela zakon, ki zahteva, da se avtomobili brez voznika za vsako ceno izogibajo poškodbam ali smrti. Zakon tudi navaja, da algoritmi nikoli ne morejo sprejemati odločitev na podlagi značilnosti, kot so starost, spol, zdravje ali pešci.

Audi prevzame odgovornost

Oblikovalec ni sposoben predvideti vseh posledic delovanja avtomobila. Realnost lahko vedno zagotovi kombinacijo spremenljivk, ki še nikoli niso bile preizkušene. To spodkopava našo vero v možnost "etičnega programiranja" stroja sploh. Zdi se nam, da bi morala v situacijah, ko pride do napake in do tragedije »po krivdi avtomobila«, odgovornost prevzeti proizvajalec in razvijalec sistema.

Morda je to sklepanje pravilno, morda pa ne zato, ker je bilo napačno. Namesto tega, ker je bilo dovoljeno gibanje, ki ni bilo 2019 % brez možnosti, da bi ga naredili. Zdi se, da je to razlog in družba se ne izogiba skupni odgovornosti, ki je pred kratkim objavila, da bo prevzela odgovornost za nesreče, v katerih bo sodeloval 8-letna A3, medtem ko bo v njem uporabljal samodejni sistem Traffic Jam Pilot (XNUMX).

3. Audi Traffic Jam Pilot Interface

Po drugi strani pa je na milijone ljudi, ki vozijo avtomobile in tudi delajo napake. Zakaj bi torej morali biti v tem pogledu diskriminirani stroji, ki statistično naredijo veliko manj napak kot ljudje, kar dokazujejo številne napake?

Če se komu zdi, da so dileme etike in odgovornosti v svetu avtonomnih vozil enostavne, naj razmišlja...