Temat po raz pierwszy na poważnie, w sposób naukowy został podjęty przez autorów serwisu Moral Machine, za pomocą którego zebrano dane kilku milionów ochotników z 233 państw i terytoriów zależnych świata. Uczestnikom badania przedstawiono 13 sytuacji, w których musieli podjąć decyzję, kogo oszczędzić a komu skończyć życie na drodze, bazując na przedstawionych cechach uczestników ruchu drogowego.

Jak podkreślają autorzy pracy, umieszczonej w ostatnim numerze czasopisma Nature, jest to pierwszy krok w kierunku ustalenia jakiegoś konsensusu, który będzie w tej sprawie pewnie potrzebny. Nie jest powiedziane, że o moralności maszyn zdecyduje większość, ale uzyskane wyniki dają pewien wgląd na to jak mogłoby to wyglądać. Nawet jeżeli decyzję podejmą na końcu etycy, to ważne, by obywatele z takimi decyzjami się zgadzali.

Globalne preferencje

Z badania jasno wynika, że globalnie jest kilka preferencji ze znaczącą przewagą, które mogłyby stanowić fundament polityki postępowania autonomicznych pojazdów. Uczestnicy badania wybrali znacznie częściej poświęcenie zwierząt, aby ocalić ludzi, ocalenie większej ilości ludzi jeśli możliwe i poświęcenie starszej osoby kosztem młodszej.

Ten ostatni przepis wydaje się chyba najbardziej kontrowersyjny i jedyne poważne opracowanie niemieckiej komisji etyki zautomatyzowanych pojazdów wskazuje w swoich regułach, że nie powinno być żadnego preferowania uczestników ruchu drogowego względem atrybutów fizycznych i cech osób.

W zależności od miejsca na świecie samochód może zabić kogoś innego

Prawie pół miliona osób biorących udział w ankiecie wypełniło dane demograficzne i na tej podstawie można również postawić bardzo ciekawe wnioski…

Naukowcy na podstawie 9 decyzji dla 130 krajów, gdzie było co najmniej 100 respondentów stworzyli klastry wspólnych cech. Okazuje się, że są trzy strefy na świecie, które różnią się nieco między sobą moralnością w niektórych kwestiach.

Pierwsza grupa to tzw. “państwa zachodnie”, do których należy Ameryka Płn., chrześcijańska Europa, w tym Polska. W drugiej grupie tzw. “południowej” znalazły się Ameryka Południowa i Środkowa, a także co ciekawe Francja i terytoria zależne w przeszłości od tego państwa. W trzeciej grupie klasteryzacja umieściła państwa Wschodu z kulturą konfucjanizmu i religii islamskiej.

Jakie były różnice między tymi grupami? Jest kilka cech wykazujących znaczne różnice. Na przykład preferencja, by oszczędzić młodych kosztem starych. W krajach Wschodu jest to znacznie mniej wyraźna preferencja. Największy odsetek osób za takim rozwiązaniem głosowało w klastrze południowym. Podobnie rzecz się miała w oszczędzaniu osób bogatszych. Ludzie byli najbardziej skłonni tak robić w krajach południa. Na południu też większa część respondentów opowiedziała się za oszczędzeniem zwierząt.

Z innych ciekawych obserwacji - reprezentanci badania z południa znacznie bardziej woleli oszczędzić kobietę niż mężczyznę i osobę wysportowaną niż otyłą.

Autorzy badania zauważają, że decyzje moralne uczestników są skorelowane z ich geograficznym i kulturowym pochodzeniem. Widać to wyraźnie, gdy porównujemy kultury kolektywistyczne z tymi nastawionymi bardziej na jednostkę. Widać to w takich decyzjach jak oszczędzanie większej grupy ludzi, czy oszczędzanie młodych kosztem starszych.

Widać także, że w krajach z silniejszymi instytucjami prawa i większym bogactwem respondenci częściej wybierali oszczędzanie osoby postępującej legalnie względem tych przechodzących przez jezdnię w niedozwolonym miejscu. Co ciekawe, kraje z większymi dysproporcjami między bogatymi i biednymi obywateli również mniej równo traktują ich na drodze (z preferencją oszczędzania lepiej usytuowanych).

Dla ciekawostki w tym badaniu Polakom najbliżej było do Łotyszy, Słoweńców, Rosjan, Ukraińców, Białorusinów, Mołdawian i Gruzinów.

Wyzwania

Oczywiście badanie to jest dopiero pierwszym krokiem w podjęciu dyskusji nad przyszłą moralnością pojazdów autonomicznych. Wiemy, że świat jest bardziej wielowymiarowy niż to jak scenariusze zostały tutaj przedstawione, i wybór może dotyczyć wielu cech na raz. Dla uproszczenia także przyjęto, że samochód ze 100-procentową pewnością wie jakie cechy mają osoby, nad którymi stoją te moralne wybory, a tak przecież nigdy nie będzie.

Oczywiście nie da się też uogólnić badania na całą populację jeśli nie jest ona przedstawiona w próbce w sposób reprezentatywny, a tym nie cechuje się badanie z ochotnikami.