Tramvaj ubrzava i uskoro će, ako ne skrene u drugi trak, pregaziti i ubiti petero ljudi koji se nalaze na tračnicama. A ako skrene u drugi trak, ubit će jednog slučajnog prolaznika koji se tamo zatekao. Vi ste u kontrolnoj sobi i možete pritiskom na dugme promijeniti smjer kretanja tramvaja: što ćete učiniti? Hoćete li skrenuti tramvaj i spasiti pet života, a pritom ubiti slučajnog prolaznika, ili nećete poduzeti ništa i time petero ljudi prepustiti smrti?
Gornji pasus opisuje jednu od mnogih varijacija slavnog (neki kažu „ozloglašenog“) psihološkog eksperimenta, u znanstvenoj literaturi poznatog kao „tramvajski problem“, u kojem se od čovjeka traži da donese moralnu odluku o tome tko će u rečenoj hipotetskoj situaciji ostati živ, a tko umrijeti. Što god da čovjek poduzme, ili ne poduzme, šteta u vidu izgubljenih života je neizbježna, ali nije jednaka, te ispitanik mora odrediti koju će štetu izabrati kao manju. Eksperiment testira čovjekove moralne preferencije, odnosno etičke sudove.
Rezultati možda najobimnijeg projekta ove vrste u povijesti nedavno su objavljeni u časopisu „Nature“. Eksperiment pod nazivom „Moralni stroj“ proveli su istraživači s Massachusetts Institute of Technology (MIT) u američkom Cambridgeu, tako što su 2016. na deset svjetskih jezika (engleski, arapski, kineski, francuski, njemački, japanski, korejski, portugalski, ruski i španjolski) postavili na webu igraću video-platformu s raznim rizičnim prometnim situacijama, s tim da je umjesto tramvaja u igru uveden samovozeći automobil. Građani su morali donijeti niz odluka o tome kako bi samovozeći automobil trebao postupiti u ponuđenim situacijama neizbježnih nesreća, odnosno koje bi prioritete umjetna inteligencija morala imati pri određivanju čiji će život u konkretnoj nesreći poštedjeti.
Eksperiment je imao ogroman odaziv. Uključilo se više milijuna ljudi u 233 zemlje i teritorija na svim kontinentima, koji su ukupno zabilježili 40 milijuna odluka. Pola milijuna ljudi (njih 492.921) ispunilo je i upitnik o svojim socioekonomskim obilježjima (dob, spol, obrazovanje, prihod, politički pogledi i religijska uvjerenja), pa su istraživači mogli ustanoviti utječu li te karakteristike na donošenje odluka.
Ljudi i bogovi
Testiralo se devet različitih dilema koje su trebale polarizirati ljude. Treba li samovozeći automobil dati prednost ljudima pred kućnim ljubimcima? Putnicima pred pješacima? Većem broju života pred manjim? Ženama pred muškarcima? Mlađima pred starijima? Sposobnijima pred manje sposobnima? Onima s višim socijalnim statusom pred onima s nižim? Onima koji poštuju prometna pravila pred onima koji ih krše? I treba li automobil uopće poduzeti ikakvu akciju, ili ne treba?
Pritom, umjesto da iznosi pojedinačne dileme, eksperiment je sudionike suočio s raznim višestrukim kombinacijama dilema. Na primjer: hoće li samovozeći automobil nastaviti ravno naprijed i ubiti tri starija pješaka ili će skrenuti u betonsku barikadu i time ubiti tri svoja mlada putnika?
Generalno se pokazalo da su ljudi skloniji poštedjeti ljude u odnosu na životinje, veći broj ljudi u odnosu na manji, te mlađe ljude u odnosu na starije. To su tri najizraženije preferencije. Kod preostalih šest dilema češće se pošteđuju oni koji zakonito prelaze cestu, oni s višim socijalnim statusom, sposobni, žene i pješaci.
Kod zadnje dileme (poduzimanje akcije ili neaktivnost) građani nešto češće biraju neaktivnost, što pokazuje koliko teško ljudima pada odgovornost da odrede tko će živjeti, a tko umrijeti, čak i kad znaju da netko svakako mora umrijeti. Većina ljudi ipak se nerado igra bogova.
Pokazalo se da socioekonomska obilježja ispitanika ne utječu bitno na donošenje odluke. Razlike su u tom smislu neznatne, a donekle su izraženije tek kod spola (muškarci nešto rjeđe od žena preferiraju pošteđivanje žena, ali je i njima to većinski izbor) i religijskog uvjerenja (religiozni ljudi nešto češće preferiraju pošteđivanje ljudi u odnosu na životinje, iako je to i nevjernicima većinski izbor).
No zato je utvrđeno da se preferencije ljudi iz različitih zemalja znatno razlikuju, odnosno da su odluke visoko povezane s kulturom i ekonomijom. Pritom zemlje koje su geografski blizu pokazuju sličnije moralne preferencije, s tri dominantna klastera koje su nazvani „Zapad“, „Istok“ i „Jug“.
Kina protiv Francuske
„Zapadni klaster“ obuhvaća Sjevernu Ameriku i većinu europskih zemalja, podjednako i katoličke i pravoslavne i protestantske kulturne grupe. „Istočni klaster“ sadrži dalekoistočne zemlje poput Kine i Tajvana, gdje dominira konfucijanska kultura, te islamske zemlje poput Indonezije, Pakistana i Saudijske Arabije, dok se „Južni klaster“ sastoji od latinoameričkih zemalja, te onih u kojima francuska kultura povijesno ima snažan utjecaj (bivše kolonije, prekomorski teritoriji).
Tako su, recimo, ispitanici iz kolektivističkih kultura poput Kine i Japana manje spremni poštedjeti mlade pred starima – možda, pretpostavili su istraživači, zbog većeg naglaska na poštivanju starijih osoba u tim kulturama.
Najviše sklonosti starima pokazuju Tajvan i Kina (bez obzira na međusobne političke razlike), a potom Južna Koreja, Japan i Singapur – sve države s Dalekog Istoka. Na drugoj strani skale, kolonu zemalja s izraženom individualističkom kulturom – gdje ispitanici preferiraju poštedjeti mlade, a ne stare osobe – predvodi Francuska, iza koje slijede zemlje koje redom kulturološki pripadaju Zapadu: Grčka, Kanada, Britanija, Australija, Norveška, SAD, Švedska, Njemačka.
Pokazalo se i da su ispitanici iz siromašnijih zemalja sa slabijim institucijama tolerantniji od ostalih prema pješacima koji krše prometna pravila, što autori studije tumače njihovim socijaliziranjem u kulturi koja tolerira nepridržavanje zakona i pravila, i blaže – ili čak nikako – kažnjava prekršitelje. To su mahom zemlje iz Južnog klastera.
Nadalje, ispitanici iz zemalja s visokom razinom ekonomske nejednakosti pokazuju veći jaz između tretmana osoba s visokim i niskim društvenim statusom. Tako je u zemljama „Južnog klastera“, gdje je socijalna nejednakost najveća, ujedno i najizraženija preferencija da se poštede osobe višeg socijalnog statusa, što sugerira da su žiteljima tih zemalja klasne razlike tako duboko utuvljene u svijest da ih smatraju normalnim i prirodnim, pa to uvjerenje prenose i na odluke o tome koga autonomni automobil treba poštedjeti.
Etičke zablude naroda
Istraživači su otkrili i da broj ljudi koji će nastradati nije uvijek dominantan faktor u odabiru skupine koju treba poštedjeti. Rezultati su pokazali da se tim kriterijem više od ostalih služe ispitanici iz individualističkih kultura – možda zbog većeg naglaska na vrijednosti svakog pojedinca.
Listu takvih zemalja opet predvodi Francuska, koju ponovo slijede zemlje zapadnog kruga: Izrael, Britanija, Kanada, SAD, Norveška, Australija i Singapur (kao jedina zemlja Dalekog Istoka, očito najbliža zapadnim vrijednostima). A na suprotnom kraju ljestvice opet su zemlje Dalekog Istoka: Japan, Tajvan, Kina, Južna Koreja i Finska (kao zapadna zemlja očito najbliža dalekoistočnim društvenim vrijednostima).
Istraživači priznaju da bi rezultati mogli biti iskrivljeni, jer su ispitanici bili samoselektirani, pa je vjerojatnije da su familijarni s internetom, visokog društvenog statusa i tehnološke kompetencije. Ali zainteresirani za korištenje samovozećih auta zacijelo će i imati takva obilježja.
Studija ima važne implikacije za zemlje koje testiraju samovozeće automobile, jer bi te postavke mogle igrati ulogu u oblikovanju dizajna i regulacije takvih vozila. Tako će kineski potrošači vjerojatno lakše ući u auto koji bi preferirao poštedu putnika u odnosu na pješake, budući da se na kineskom uzorku pokazalo da tamošnji ispitanici preferiraju pošteđivanje putnika u automobilu, a ne pješaka. Štoviše, Kina je uvjerljivo prva po preferiranju putnika pred pješacima.
No autori studije drže da ne bi trebalo slijepo slušati „glas naroda“, budući da su neki od rezultata etički zabrinjavajući, poput onog da ponegdje ljudi preferiraju poštedjeti osobe višeg društvenog statusa, nasuprot onima s nižim statusom.
„Diskusija bi se trebala kretati prema analizi rizika – o tome tko je veći rizik ili manji rizik – umjesto da određuje tko će umrijeti ili ne“, zaključuje jedan od autora studije dr. Edmond Awad.
Ubij kriminalca, poštedi psa!
Što se tiče profila ljudi koje ljudi odlučuju poštedjeti, na vrhu liste su bebe u kolicima, mala djeca i trudnice. Na dnu popisa su beskućnici, starci, kriminalci i životinje: upada u oči da bi više ljudi poštedjelo psa nego kriminalca, ali kriminalac dobija prednost pred mačkom. Čini se da u ljudskoj svijesti psi kotiraju više od mačaka.
Žene najviše štite Južnjaci
Zemlje Južnog klastera, u odnosu na Zapadni i Istočni klaster, imaju najveću preferenciju za pošteđivanje žena u odnosu na muškarce (možda zbog izraženog macho-kulta i snažnog osjećaja časti), te za pošteđivanje sposobnijih u odnosu na manje sposobne (danak socijalnom darvinizmu u tim zemljama).
Ispitanici iz zemalja Južnog klastera također imaju najslabije preferencije da poštede ljude u odnosu na životinje. Ili u tim zemljama ljudski život vrijedi manje nego u drugim klasterima, ili je kult životinja tamo izraženiji. Zdravorazumski gledano, prije će biti ono prvo.
