Newsy

Naukowcy chcą nauczyć pojazdy autonomiczne podejmowania decyzji moralnych. Pracują nad bardziej realistycznymi scenariuszami dla sztucznej inteligencji

2024-01-25  |  06:15

Rynek autonomicznych pojazdów do końca dekady ma zwiększyć swoją wartość prawie pięciokrotnie. W miastach, które dopuszczają takie samochody do ruchu, dochodzi do wypadków wynikających ze złych „decyzji” podejmowanych przez sztuczną inteligencję kierującą pojazdem. Naukowcy uważają, że wynika to ze zbyt ubogiego zestawu modeli decyzyjnych wykorzystywanych do programowania pojazdów. Opierają się one na tzw. dylemacie wagonika, czyli wyborze spośród dwóch rozwiązań tego, które będzie miało teoretycznie łagodniejsze skutki. Na podstawie zróżnicowanych scenariuszy badacze opracowują dużo bardziej złożone i w większym stopniu zbliżone do rzeczywistych dylematów kierowców rozwiązanie do szkolenia pojazdów autonomicznych.

Pojazdom autonomicznym towarzyszy wiele problemów i wyzwań. W San Francisco, gdzie pojazdy autonomiczne poruszają się od jakiegoś czasu po drogach w postaci robotaxi, często blokują one ruch drogowy i stwarzają problemy z przejazdem wozów strażackich i innych pojazdów uprzywilejowanych, na przykład karetek. W obszarach gęsto zaludnionych warto zachować ostrożność i dopilnować, aby pojazdy autonomiczne były wyposażone w funkcje umożliwiające ocenę etyczną przed ich wprowadzeniem na drogi. W przeciwnym razie obawiam się, że liczba wypadków śmiertelnych na drogach nie ulegnie zmniejszeniu, ale wzrośnie – mówi agencji Newseria Innowacje Veljko Dubljević, adiunkt na Uniwersytecie Stanu Karolina Północna, prowadzący NeuroComputational Ethics Research Group.

Naukowcy opracowali nowy eksperyment, by lepiej zrozumieć, które decyzje na drodze ludzie postrzegają jako moralne i jako niemoralne.

– Naszym celem jest opracowanie solidnego zbioru bodźców – podobnie jak w przypadku ludzi w rzeczywistości wirtualnej symulatora ruchu drogowego możemy wykorzystać te symulacje do szkolenia sztucznej inteligencji. Mamy nadzieję, że pomoże to przygotować sztuczną inteligencję kierującą pojazdami autonomicznymi, aby nie popełniała ona błędów, które zdarzają się obecnie – wyjaśnia Veljko Dubljević. – Jako minimum potrzebujemy funkcjonalnego odpowiednika podejmowania decyzji moralnych, choćby na podstawowym poziomie, zanim dopuścimy pojazdy autonomiczne do ruchu na obszarach gęsto zaludnionych.

Badacze skupili się na opracowaniu zestawu wyzwań moralnych w ruchu drogowym bardziej realistycznego niż scenariusz inspirowany tak zwanym dylematem wagonika. Polega on na wyborze jednego z dwóch rozwiązań – decyzji, czy zabić jedną osobę, aby uniknąć śmierci wielu osób. Ten dylemat jest wykorzystywany do badania oceny moralnej w ruchu drogowym. Jednak naukowcy podkreślają, że kierowcy codziennie podejmują na drodze szereg różnych decyzji o charakterze moralnym i są one dużo bardziej złożone niż wybór między dwiema opcjami.

Na przykład jeśli zdecydujemy się na manewr skręcania bez włączenia kierunkowskazu, jest to decyzja o charakterze moralnym, w tym przypadku decyzja niemoralna. Jeśli kogoś cechuje agresywny styl jazdy, może na przykład przejechać na czerwonym świetle lub uniemożliwić przejazd osobie mającej pierwszeństwo – wyjaśnia badacz z Uniwersytetu Stanu Karolina Północna. – W naszym opracowaniu zdefiniowaliśmy dwie kategorie decyzji moralnych i niemoralnych. Niektóre z nich są decyzjami o niewielkim znaczeniu, na przykład jeśli zapomnimy o włączeniu kierunkowskazu przy skręcaniu. Nie są to dobre decyzje, ale nie są też katastrofalne. Są również decyzje o dużym znaczeniu, na przykład jeśli ktoś z powodu pośpiechu przekracza prędkość o 50 km/h na bardzo ruchliwej ulicy – mogą one mieć skutki śmiertelne. Nie oznacza to jednak, że nie można ich w niektórych przypadkach uzasadnić. Wyobraźmy sobie karetkę pogotowia, która porusza się z dużą prędkością, żeby uratować komuś życie.

Naukowcy opracowali różne scenariusze, które uwzględniają ocenę moralną trzech różnych aspektów: intencję i charakter osoby, która podejmuje decyzje na drodze, samo działanie i jego konsekwencje. W proponowanych scenariuszach rodzic musi podejmować decyzje na drodze, próbując punktualnie dowieźć dziecko do szkoły. Przykładowo w jednej wersji rodzic hamuje na żółtym świetle i dowozi dziecko do szkoły na czas, w innej przejeżdża na czerwonym świetle i powoduje wypadek. Każdy taki scenariusz jest zaprogramowany w środowisku rzeczywistości wirtualnej i podlega ocenie przez uczestników badania w skali od 1 do 10, na ile moralne było zachowanie kierowcy. W takim badaniu realizowanym w warunkach pełnej immersji uczestniczyło 200 osób. Kolejnych tysiąc było testowanych przy komputerze stacjonarnym.

Planujemy zająć się symulatorem ruchu drogowego, w którym nie mamy już do czynienia z perspektywą osoby trzeciej, gdzie respondenci obserwują sytuację i dokonują jej moralnej oceny, ale biorą w niej czynny udział. Będą widzieć karetki pogotowia, inne pojazdy, które mogą sygnalizować zmianę pasa lub nie, przejeżdżać na czerwonym świetle itp. Gdy zbierzemy dane od setek respondentów, poddamy je analizie i wyciągniemy wnioski, co powinno nam zapewnić lepszy wgląd w podejmowanie decyzji moralnych na drodze. Naszym celem jest lepsze zrozumienie decyzji, jakie ludzie podejmują podczas jazdy i kiedy sytuacje o małym znaczeniu przeradzają się w zagrożenie życia – zapowiada Veljko Dubljević.

Według analityków Grand View Research światowy rynek pojazdów autonomicznych będzie notował w bieżącej dekadzie dynamiczny wzrost: z ponad 42 mld dol. przychodów w 2022 roku do ponad 206 mld dol. w 2030 roku. Eksperci z Instytutu Transportu Samochodowego przewidują natomiast, że w Polsce pierwsze takie auta pojawią się na drogach właśnie w roku 2030.

– Uważam, że w przyszłości pojazdy autonomiczne będą musiały być wyposażone w podstawowe funkcje związane z podejmowaniem decyzji moralnych analogiczne lub zbliżone do ludzkiej intuicji moralnej, aby radzić sobie z sytuacjami pojawiającymi się na drodze. Najlepiej zapobiegać takim sytuacjom, nie pozwalając, aby ze zdarzeń o małym znaczeniu, na przykład jeśli ktoś zapomni o sygnalizacji manewru, rozwinęły się w sytuacje o dużym znaczeniu, w wyniku których ktoś może zginąć. Na tym polega sedno decyzji moralnych, jakie podejmują pojazdy autonomiczne – ich oprogramowanie musi rozpoznać zdarzenie istotne pod względem moralnym, aby zapobiec pogorszeniu się sytuacji – mówi naukowiec.

Czytaj także

Kalendarium

Więcej ważnych informacji

Konkurs Polskie Branży PR

Jedynka Newserii

Jedynka Newserii

Handel

Polskie firmy z szansą na zdobycie azjatyckich rynków. Mogą otrzymać wsparcie na promocję podczas Expo 2025 w Osace

W 2025 roku w japońskiej Osace odbędzie się Wystawa Światowa Expo 2025. Udział w niej, a także towarzyszących imprezie wydarzeniach i targach to dla polskich firm szansa na wzrost rozpoznawalności swoich marek za granicą, a w konsekwencji na rozwój ich potencjału eksportowego. Expo 2025 będzie się koncentrowało na innowacjach służących zrównoważonemu rozwojowi. PARP, który jest partnerem wydarzenia w Polsce, do 26 września br. czeka na wnioski firm zainteresowanych udziałem w wydarzeniu i ekspansją na azjatyckie rynki. W ramach programu mogą one otrzymać wsparcie na udział w targach, na misje wyjazdowe i kampanie promocyjne przed i po zakończeniu Expo. Nabór finansowany jest z Funduszy Europejskich dla Nowoczesnej Gospodarki 2021–2027

Polityka

Rośnie ryzyko wybuchu epidemii w Strefie Gazy. Brakuje czystej wody, kanalizacji i toalet, a w zniszczonej enklawie wykryto polio

W Strefie Gazy brakuje praktycznie wszystkiego – od żywności i wody po podstawowe leki – ale najgorsze może dopiero nadejść – alarmuje Polska Akcja Humanitarna. – Kilka dni temu w wodzie w Strefie Gazy znaleziono polio typu 2. Ta woda jest bardzo zanieczyszczona, infrastruktura wodno-sanitarna na tym terenie tak naprawdę już nie istnieje. Na dodatek od dziewięciu miesięcy dzieci nie są szczepione, ponieważ nie ma warunków, żeby to zrobić, więc istnieje bardzo duże zagrożenie wybuchu epidemii – mówi Magdalena Foremska z PAH. W odpowiedzi na kryzys organizacja uruchomiła duże projekty pomocowe, które mają zapewnić żywność i opiekę medyczną w Strefie Gazy i na Zachodnim Brzegu.

IT i technologie

Gminy potrzebują inwestycji w cyberbezpieczeństwo. Eksperci widzą duże ryzyka wynikające z zaniedbań

Dane gromadzone przez jednostki samorządu terytorialnego mogą być bardzo niebezpiecznym narzędziem w rękach przestępców. Wykradzione mogą posłużyć do fałszowania tożsamości człowieka. Tymczasem poziom inwestycji w cyberbezpieczeństwo jest w gminach niski, a liczba ataków hakerskich na nie stale rośnie. Eksperci czekają na pozytywne skutki rządowego programu Cyberbezpieczny Samorząd. W jego ramach 1,5 mld zł trafi na inwestycje w poprawę bezpieczeństwa cybernetycznego samorządów: zarówno na poziomie sprzętu i oprogramowania, jak i kompetencji oraz procedur.

Partner serwisu

Instytut Monitorowania Mediów

Szkolenia

Akademia Newserii

Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a  także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.