Koga će ubiti samovozeći automobil? Mašino, spasi što više ljudi, ali prije svega spasi mene!

Ako dođe do situacije u kojoj autonomni sistem automobila mora brzo da izabere koga da žrtvuje u slučaju neposredne nesreće, kako treba da reaguje? Žrtvovanje putnika da bi se spasili pješaci? Ako je potrebno, ubiti pješaka da poštedite, na primjer, četveročlanu porodicu koja putuje automobilom? Ili bi možda uvijek trebao prvo sebe zaštititi?

Dok je više od šezdeset kompanija već dobilo dozvole za lično testiranje samo u Kaliforniji, teško je reći da je industrija spremna da se suoči s etičkim dilemama. Trenutno se bori s osnovnim problemima - radom i navigacijskom efikasnošću sistema i jednostavno izbjegavanjem sudara i nepredviđenih događaja. U situacijama poput nedavnog ubistva pješaka u Arizoni, ili naknadnih sudara (1), do sada se radilo jednostavno o sistemskim kvarovima, a ne o nekoj vrsti "etičkog izbora" automobila.

Spasite bogate i mlade

Pitanja donošenja ovakvih odluka nisu apstraktni problemi. Svaki iskusni vozač to može potvrditi. Prošle godine istraživači iz MIT Media Lab-a analizirali su preko četrdeset miliona odgovora ispitanika iz cijelog svijeta, koje su prikupili tokom istraživanja pokrenutog 2014. Anketni sistem koji nazivaju „Etička mašina“ pokazao je da je na raznim mjestima u U svijetu se na slična pitanja postavljaju različiti odgovori.

Najopštiji zaključci su predvidljivi. U ekstremnim situacijama ljudi više vole spašavanje ljudi nego brigu o životinjama, sa ciljem da spasu što više života, i obično su mlađi od starijih (2). Postoje i neke, ali manje očigledne, preferencije kada je u pitanju spašavanje žena u odnosu na muškarce, ljudi višeg statusa nad siromašnijim ljudima i pješaka u odnosu na putnike u automobilu..

2. Koga auto treba spasiti?

Budući da je skoro pola miliona ispitanika ispunilo demografske upitnike, bilo je moguće povezati njihove preferencije sa godinama, spolom i vjerskim uvjerenjima. Istraživači su zaključili da ove razlike nisu "značajno utjecale" na odluke ljudi, ali su primijetili neke kulturne utjecaje. Francuzi su, na primjer, težili da odluke vagaju na osnovu procijenjenog broja smrtnih slučajeva, dok je u Japanu naglasak bio najmanji. Međutim, u Zemlji izlazećeg sunca život starijih se cijeni mnogo više nego na Zapadu.

“Prije nego što dopustimo našim automobilima da donose vlastite etičke odluke, moramo imati globalnu debatu o tome. Kada kompanije koje rade na autonomnim sistemima nauče o našim preferencijama, tada će razviti etičke algoritme u mašinama zasnovanim na njima, a političari mogu početi uvoditi adekvatne zakonske odredbe”, napisali su naučnici u oktobru 2018. u Nature.

Jedan od istraživača uključenih u eksperiment Moralne mašine, Jean-Francois Bonnefont, smatra da je sklonost spašavanju ljudi višeg statusa (kao što su rukovodioci u odnosu na beskućnike) alarmantna. Po njegovom mišljenju, to je u velikoj meri povezano sa nivo ekonomske nejednakosti u datoj zemlji. Tamo gdje su nejednakosti bile veće, prednost je data žrtvovanju siromašnih i beskućnika.

Jedna od prethodnih studija pokazala je, posebno, da, prema mišljenju ispitanika, autonomni automobil treba da zaštiti što više ljudi, čak i ako to znači gubitak putnika. U isto vrijeme, međutim, ispitanici su izjavili da ne bi kupili auto programiran na ovaj način. Istraživači su to objasnili dok ljudi smatraju da je etičnije spasiti više ljudi, oni su i sebični, što bi mogao biti signal proizvođačima da će kupci nerado kupovati automobile opremljene altruističkim sistemima.. Prije nekog vremena predstavnici kompanije Mercedes-Benz rekli su da će, ako njihov sistem spasi samo jednu osobu, izabrati vozača, a ne pješaka. Talas javnog protesta primorao je kompaniju da povuče svoju izjavu. Ali istraživanja jasno pokazuju da je u ovom svetom ogorčenju bilo mnogo licemjerja.

To se već dešava u nekim zemljama. prvi pokušaji pravne regulative u polju. Njemačka je usvojila zakon koji zahtijeva da automobili bez vozača izbjegnu ozljede ili smrt po svaku cijenu. Zakon takođe kaže da algoritmi nikada ne mogu donositi odluke na osnovu karakteristika kao što su starost, pol, zdravlje ili pešaci.

Audi preuzima kontrolu

Dizajner nije u stanju predvidjeti sve posljedice rada automobila. Stvarnost uvijek može pružiti kombinaciju varijabli koje nikada prije nisu bile testirane. Ovo podriva našu vjeru u mogućnost "etičkog programiranja" mašine uopće. Čini nam se da u situacijama kada dođe do greške i tragedije „zbog greške automobila“, odgovornost treba da snose proizvođač i programer sistema.

Možda je ovo razmišljanje tačno, ali možda ne zato što je bilo pogrešno. Tačnije, zato što je dozvoljen pokret koji nije bio 2019% oslobođen mogućnosti da ga napravi. Čini se da je to razlog, a kompanija ne izbjegava zajedničku odgovornost, koja je nedavno objavila da će preuzeti odgovornost za nesreće u kojima je učestvovao 8-godišnji A3 dok u njemu koristi automatski sistem Traffic Jam Pilot (XNUMX).

3. Audi Traffic Jam Pilot sučelje

S druge strane, postoje milioni ljudi koji voze automobile i također griješe. Pa zašto bi mašine, koje statistički prave mnogo manje grešaka od ljudi, o čemu svedoče brojne greške, bile diskriminisane u tom pogledu?

Ako neko misli da su dileme etike i odgovornosti u svetu autonomnih vozila jednostavne, neka razmišlja...