MORALNA DILEMA: Jeste li spremni pod vlak baciti jednu osobu kako biste spasili njih pet?

Piše: Devon Frye

Tko će vas vjerojatnije baciti pod jureći vlak kako bi spasio živote drugih ljudi – osoba iz Amerike ili osoba iz Kine?

Možda zvuči kao bizarno pitanje, ali psihologe i filozofe odgovor itekako zanima jer nam on pomaže da dođemo do temeljnog pitanja: U kojoj mjeri naš kulturni kontekst oblikuje naš moral?

Zahvaljujući međukulturnoj studiji objavljenoj u Zborniku radova Nacionalne akademije znanosti, u Americi, imamo mnoštvo novih podataka o tome. Radi se o najvećoj studiji ove vrste dosad. Sedamdeset tisuća sudionika iz 42 zemlje moralo je odgovoriti na pitanja vezana uz moralne dileme, a međunarodni tim psihologa potom je uspio pokazati kako kultura utječe na donošenje (ne)moralnih odluka.

Ova studija bi mogla imati i implikacije na to kako programiramo strojeve (u prvom redu autonomna vozila) da donose odluke u doba umjetne inteligencije

Sudionicima je predstavljeno više verzija klasične dileme poznate kao ‘problem jurećeg vlaka’. Pitanje je bilo sljedeće: Trebam li preusmjeriti vlak tako da ubije jednu osobu, ako time od smrti mogu spasiti pet ljudi na drugom kolosijeku?

Studija je otkrila da su sudionici iz istočnih zemalja poput Kine ili Japana bili manje skloni podržati žrtvovanje osobe u nevolji nego sudionici iz zapadnih zemalja poput Sjedinjenih Američkih Država.

Naravno, sljedeće pitanje je: Što pokreće ovu međukulturnu razliku kada su posrijedi moralne dileme? Ima li to veze s religioznošću svake zemlje? Njezinim naglaskom na individualizmu? Njezinim bruto domaćim proizvodom?

Autori sugeriraju da je ovdje naglasak na jednoj drugoj varijabli. To je relacijska mobilnost (relational mobility) ili lakoća s kojom ljudi u određenom društvu mogu razviti nove odnose. Studija je otkrila da se na temelju relacijske mobilnosti može jako dobro predvidjeti tendencija podržavanja žrtvovanja jedne osobe, čak i ako zanemarimo religiju, individualizam i BDP.

„Puno smo skloniji vjerovati ljudima koji odbacuju žrtve za veće dobro. S takvim ljudima želimo biti prijatelji, izlaziti ili se vjenčati“ – Molly Crockett, Sveučilište Yale

Ako živite u društvu s visokom relacijskom mobilnošću, poput SAD-a, imate puno mogućnosti za pronalaženje novih prijatelja, pa nije ‘smak svijeta’ ako vam vaši sadašnji prijatelji okrenu leđa. Ali ako živite u području s niskom relacijskom mobilnošću, imate manje izgleda za stjecanje novih prijatelja, pa ćete biti posebno oprezni kako biste izbjegli otuđenje sadašnjih.

„Ljudi u društvima s niskom relacijskom mobilnošću mogu imati manju mogućnost izražavanja. Štoviše, takvi ljudi se libe izražavati stavove koji šalju negativan društveni signal. Podržavanje žrtvovanja u problemu jurećeg vlaka upravo je takav stav“, navodi se u studiji, u kojoj stoji i to da pritisak života u tim društvima određene ideje može učiniti „moralno nezamislivima“.

Studija pokazuje da su naša uvjerenja o tome što je moralno, barem do određene mjere, proizvodi našeg kulturnog konteksta. No, intrigantno je da studija također pokazuje da postoji nešto univerzalno kada pričamo o ljudskom moralu.

„Ovo je nešto oko čega se filozofi nisu slagali, neki kažu da je etika univerzalna, a neki kažu da je subjektivna“, rekao mi je koautor Edmond Awad sa Sveučilišta u Exeteru. „Ispostavilo se da postoje dokazi koji podupiru oba stajališta.“

NA RASKRIŽJU RAZNIH KULTURA

Često govorimo o problemu jurećeg vlaka kao da je tu posrijedi samo jedna stvar, ali zapravo postoji više verzija misaonog eksperimenta. Istraživači su testirali tri verzije koje su nazvali: Prekidač (Switch), Petlja (Loop) i Pješački most (Footbridge). One su im pomogle da identificiraju gdje se, pri donošenju moralnih odluka, ljudi iz različitih kultura slažu odnosno razilaze u mišljenju.

U verziji Prekidača, vlak će ubiti pet radnika, ali može ga se preusmjeriti na drugi kolosijek gdje će ubiti samo jednog radnika.

U verziji Petlje, vlak se može preusmjeriti na sporedni kolosijek koji se kasnije ponovno spaja s glavnim. Na sporednom kolosijeku ubit će jednog radnika čije će tijelo zaustaviti vlak prije nego što ubije petoricu na glavnoj pruzi.

U verziji Pješačkog mosta, veliki čovjek može se gurnuti pod vlak. Umrijet će, ali njegovo će tijelo spriječiti vlak da ubije petoricu radnika na pruzi.

Ispostavilo se da ljudi u svim slučajevima, bez obzira na njihov kulturni kontekst, daju isti odgovor kada ih se zamoli da rangiraju moralnu prihvatljivost djelovanja u svakom slučaju. Kažu da je Prekidač najprihvatljiviji, zatim Petlja, pa Pješački most.

To je vjerojatno zato što je u Prekidaču smrt radnika nesretna nuspojava akcije koja spašava petoricu, dok u Pješačkom mostu smrt velikog čovjeka nije nuspojava već sredstvo za postizanje cilja – i zahtijeva upotrebu osobne sile protiv njega.

Bez obzira na točno obrazloženje, čini se da je ovaj obrazac rangiranja kulturno univerzalan u moralnoj psihologiji (iako je moguće da neka još neproučena kultura ima drugačije mišljenje). Studija sugerira da to možemo pripisati „osnovnim kognitivnim procesima“.

Ali, kulture pokazuju varijacije u tome koliko snažno podržavaju ili odbacuju svaku žrtvu. Vi se možete složiti s tim da je moralnije djelovati u scenariju Prekidača nego u scenariju Pješačkog mosta, ali i dalje se snažno protiviti djelovanju čak i u Prekidaču, kao što pokazuju sudionici u Kini i Japanu.

Hoćemo li htjeti različita pravila za strojeve u različitim zemljama? To je samo jedno u nizu vrlo škakljivih pitanja

Tamo ulogu mogu igrati religijske norme. „Problemi s vlakom proizlaze iz pokušaja primjene apstraktnih pravila na praktično razmišljanje i zahtijevaju od nas da se distanciramo od svih potencijalnih žrtava“, rekao je Philip Ivanhoe, direktor Sungkyun instituta za konfucijanske studije i istočnoazijsku filozofiju, koji nije sudjelovao u provedbi studije. „I budizam i konfucijanizam smatraju ljubaznost ili suosjećanje primarnim vrlinama i bez obzira na to što netko učini u problemu jurećeg vlaka, ne može ga se smatrati ljubaznim.“

No autori studije sugeriraju da niska relacijska mobilnost možda igra veću ulogu, jer uzrokuje da ljudi „doživljavaju veći pritisak kada treba izraziti mišljenje koje ih označava nepouzdanima“. Autori citiraju psihologinju Molly Crockett sa Sveučilišta Yale, koja je pokazala da smo puno skloniji vjerovati ljudima koji odbacuju žrtve za veće dobro. S takvim ljudima želimo biti prijatelji, izlaziti ili se vjenčati.

„Kada su u pitanju žrtvene dileme“, rekla je Crockett, „puno više vjerujemo ljudima koji kažu da nije u redu žrtvovati (čak ni tu) jednu osobu da bi se spasile mnoge druge.“

Dok je Crockett pokazala da je to istina u zapadnim društvima s visokom relacijskom mobilnošću, autori studije sugeriraju da proširuju njezin rad istraživanjem učinka u istočnim društvima s niskom relacijskom mobilnošću.

STUDIJA IMA VAŽNA OGRANIČENJA, ALI I VAŽNE IMPLIKACIJE

Unatoč impresivno velikom skupu podataka, ova studija ima niz značajnih nedostataka. Svi sudionici bili su volonteri u online eksperimentu: na MIT-ovoj mrežnoj stranici Moral Machine, koja je u početku bila osmišljena za prikupljanje odgovora o moralnoj prihvatljivosti odluka koje donose autonomni automobili, ali je također nudila ‘obični način’ koji je istraživačima omogućio prikupljanje drugih vrsta odgovora.

„Naš uzorak je iskrivljen u smislu dobi, spola i obrazovanja: Procjenjujemo da su trećina naših sudionika bila mladi, fakultetski obrazovani muškarci“, napominju autori. Zatim priznaju još jedan problem: „U našoj analizi usredotočili smo se na relacijsku mobilnost zbog njezinog teorijskog interesa, ali jedno od ograničenja ove strategije je to što relacijska mobilnost još nije procijenjena u svim zemljama zastupljenim u našem skupu podataka.“ (Iako iz upitnika znamo koliko ljudi osjećaju relacijsku mobilnost u određenoj zemlji, u nekim zemljama nije dovoljno ljudi ispunilo upitnike kako bi se osigurala pouzdanost podataka.)

S pozitivne strane, istraživači objavljuju svoj ogromni skup podataka, koji će i drugi moći koristiti te nadopunjavati ga.

U međuvremenu, studija ima važne implikacije na to kako gledamo na svoje moralne odluke. One ne proizlaze iz nekog univerzalnog, ahistorijskog, hermetički zatvorenog područja čistog razuma; već ih oblikuju kulturne norme.

Studija bi također mogla imati implikacije na to kako programiramo strojeve da donose odluke u doba umjetne inteligencije. Uzmimo za primjer automobile bez vozača. „Žrtvene dileme pružaju koristan alat za proučavanje i razumijevanje kako javnost želi da automobili bez vozača distribuiraju neizbježan rizik na cesti“, rekao je Awad.

Trebaju li oni koji donose mjere uzeti u obzir kako se moralne preferencije razlikuju među zemljama prilikom reguliranja budućeg programiranja? Hoćemo li htjeti različita pravila za strojeve u različitim zemljama? To su još uvijek vrlo škakljiva pitanja.

(Izvor: awaken.com; 1. rujna 2025.)