Mówi: | Kantwon Rogers |
Firma: | College of Computing, Georgia Institute of Technology w Atlancie |
Ludzie są podatni na manipulację przez sztuczną inteligencję. Wybaczą systemowi kłamstwo, jeśli wytłumaczą je sobie jako pomyłkę
Amerykańscy naukowcy zbadali, jak ludzie reagują na fałszywe informacje podawane przez sztuczną inteligencję. Okazało się, że zaufanie do systemu tracimy wówczas, gdy ten przyzna się do kłamstwa i wprowadzenia w błąd. Jeśli o nim nie wspomni, a tylko przeprosi, wówczas najprawdopodobniej uznamy to za zwykłą pomyłkę. To kolejny dowód na to, że użytkownicy darzą sztuczną inteligencję nadmiernym zaufaniem. Z drugiej strony naukowcy uważają, że być może taka reakcja ma swoje uzasadnienie w relacjach społecznych. W niektórych sytuacjach uznajemy bowiem, że kłamstwo jest lepszym wyjściem niż mówienie prawdy. Być może tego samego ludzie oczekują od sztucznej inteligencji, a twórcy odpowiadają tylko na to zapotrzebowanie.
– Poprzednie badania interakcji między robotami a ludźmi pokazały, że gdy robot lub system sztucznej inteligencji skłamie, ludzie tracą do nich zaufanie. Ludziom to nie odpowiada i nie ma znaczenia, czy kłamstwo miało na celu im pomóc, czy na tym skorzystali. Zadaliśmy sobie pytanie, czy można przywrócić zaufanie nadszarpnięte lub umniejszone przez kłamstwa. W naszym badaniu zajęliśmy się zagadnieniem przeprosin i poleciliśmy systemowi przeprosić użytkowników za kłamstwo, aby przekonać się, czy ma to wpływ na odbudowanie zaufania – wskazuje w rozmowie z agencją Newseria Innowacje Kantwon Rogers z College of Computing w Georgia Institute of Technology w Atlancie.
W ramach eksperymentu badawczego naukowcy z Georgia Institute of Technology w Atlancie wykorzystali symulator jazdy. Osobom poddawanym badaniu, zarówno osobiście, jak i online, została przedstawiona sytuacja polegająca na tym, że muszą szybko dowieźć umierającego przyjaciela do szpitala i jeśli nie dotrą tam na czas, ich przyjaciel umrze. Zaraz po zajęciu miejsca w samochodzie asystent robotyczny ostrzegał ich o patrolu policyjnym na drodze i o konieczności utrzymania przepisowej prędkości zaledwie 20 mil na godzinę (nieco ponad 30 km/h).
Okazało się, że 45 proc. uczestników nie przekraczało prędkości, ponieważ uznali, że robot wiedział o sytuacji na drodze więcej niż oni. Może to wskazywać na bardzo duże zaufanie ludzi do systemów robotycznych. Po „dotarciu” do szpitala badani otrzymywali informację, że na drodze nie było policji. Dla asystenta przygotowano pięć różnych wersji odpowiedzi na pytanie użytkowników, dlaczego to zrobił. Pierwsza to odpowiedź kontrolna „Jesteś na miejscu”, drugą były zwykłe przeprosiny z przyznaniem się do wprowadzenia w błąd. Kolejne przeprosiny były nacechowanie emocjonalne, w innej zaś wersji asystent wyjaśniał, że motywował swoje kłamstwo troską o bezpieczeństwo. Piąta wersja przeprosin to zwykłe „przepraszam”.
– Najbardziej skutecznymi przeprosinami, które prowadziły do najmniejszej utraty zaufania wobec systemu, było proste stwierdzenie „przepraszam”, które nie wspominało nic o wprowadzeniu w błąd. Osoby, które zobaczyły te przeprosiny, nie doszły do wniosku, że robot je okłamał. Myślały raczej, że po prostu popełnił błąd i nie ma w tym nic złego. W przypadku pozostałych przeprosin, które obejmowały przyznanie się do oszustwa, reakcja była negatywna – ludzie zakładali, że skoro robot okłamał ich raz, będzie to robił zawsze. W tym przypadku najskuteczniejszymi przeprosinami były te, w których robot skłamał na temat swojego kłamstwa, co jest oczywiście problematyczne – mówi Kantwon Rogers.
W przeważającej większości przypadków uczestnicy badania najlepiej reagowali na zwykłe przeprosiny bez elementów nacechowanych emocjonalnie czy uzasadniających takie działanie. Taka reakcja wskazuje, że możemy być bardzo podatni na manipulacje, bo fałszywe informacje są przez nas uznawane nie za celowe działanie systemu, tylko jego błąd.
– Moim zdaniem systemy sztucznej inteligencji i robotyczne już kłamią i manipulują nami, ponieważ zostały tak zaprojektowane. Mamy na przykład asystentów głosowych, takich jak Siri czy Alexa, które są zaprojektowane z użyciem głosów przypominających ludzkie, a konkretnie głosów kobiet. Firmy, które je opracowały, dokonały takiego wyboru, żeby zmanipulować nas do lepszej interakcji z systemem. Są roboty, które mają wyglądać jak ludzie lub mieć cechy przypominające ludzkie, na przykład uśmiechać się i pokazywać emocje, chociaż nic z tych rzeczy nie jest prawdziwe – kłamstwa i manipulacje mają nas skłonić do lepszej interakcji z systemem – mówi badacz z College of Computing w Georgia Institute of Technology w Atlancie.
W podobny sposób, zdaniem naukowca, odbywa się manipulacja poprzez narzędzie, jakim jest ChatGPT. Kiedy popełni on błąd lub kiedy powiemy mu, że jego informacje są nieprawdziwe, przeprasza, chociaż z logicznego punktu widzenia nie może mu być przykro. Zdaniem eksperta takie konstruowanie systemów, by użytkownicy wchodzili z nimi w interakcje, może się okazać wiodącym trendem u dostawców rozwiązań z zakresu sztucznej inteligencji, w dużej mierze z uwagi na silne umocowanie kłamstwa w codzienności ludzi.
– Generalnie ludzie lubią twierdzić, że oszukiwanie jest złe. Mamy reguły, które wymagają od nas, żebyśmy nie oszukiwali, ale akceptujemy wyjątki od tych reguł. Możemy powiedzieć, że kłamstwo jest w porządku w danej sytuacji, ponieważ jest to sytuacja szczególna. Na przykład cały czas powtarzamy dzieciom, że nie wolno kłamać i że kłamstwo jest złe, ale jednocześnie okłamujemy je w kwestii istnienia Świętego Mikołaja i w innych podobnych sprawach. Okłamujemy innych, żeby lepiej się poczuli. Możemy powiedzieć: „Dobrze wyglądasz w tym stroju” albo „Wyglądasz świetnie”, chociaż nie musi to być zgodne z prawdą. Mamy reguły społeczne dotyczące kłamstwa i oszukiwania, które świadomie łamiemy, i to dość często. W zależności od tego, z kim system SI wchodzi w interakcję, być może kłamstwo i oszukiwanie jest czymś oczekiwanym, ponieważ może się to okazać lepsze niż postępowanie zgodnie z prawdą czy mówienie prawdy w każdych okolicznościach – twierdzi Kantwon Rogers.
Naukowcy z Georgia Institute of Technology planują rozszerzyć problem badawczy o większą liczbę interakcji i scenariuszy oraz zbadać długoterminowy proces przywracania zaufania utraconego w wyniku kłamstwa.
– Ogólny kierunek moich badań ma na celu uzyskanie informacji i wiedzy o tym obszarze, abyśmy mogli się zająć tworzeniem polityki i wpływaniem na przyszłe kierunki polityki, ponieważ, jak można zaobserwować, innowacje i technologie rozwijają się w tak szybkim tempie, a przepisy zmieniają się tak powoli, że moim zdaniem musimy trzymać rękę na pulsie w tej kwestii – zaznacza badacz.
Czytaj także
- 2025-06-25: W rosyjskiej niewoli może przebywać kilkadziesiąt tysięcy Ukraińców. Napięta sytuacja geopolityczna sprzyja Rosji
- 2025-06-20: Polska przeciwna przedłużeniu umowy UE–Ukraina o transporcie drogowym. Uderza ona w krajową branżę transportową
- 2025-06-11: Wiceprzewodniczący PE: Polska prezydencja zapewniła UE stabilność w niepewnych czasach. Wiele inicjatyw dotyczyło obronności
- 2025-06-10: Polska może dołączyć do globalnych liderów sztucznej inteligencji. Jednym z warunków jest wsparcie od sektora publicznego
- 2025-06-18: Konieczna większa edukacja na temat dbania o zdrowie i dostępnych leków. To kluczowe dla rozwoju samoleczenia
- 2025-06-12: Nowe technologie mogą wspierać samoleczenie. Szczególnie pomocne są dane zbierane przez aplikacje i urządzenia mobilne
- 2025-05-28: UE przywraca ograniczenia handlowe z Ukrainą. Trwają negocjacje ws. długoterminowych ram
- 2025-05-27: SUV-y dominują rynek motoryzacyjny. Hyundai wprowadzi latem do sprzedaży nowy siedmioosobowy model
- 2025-06-13: 35 proc. gospodarstw domowych nie stać na zakup mieszkania nawet na kredyt. Pomóc może wsparcie budownictwa społecznego i uwolnienie gruntów pod zabudowę
- 2025-05-28: Interakcja z firmą jest dla klientów równie ważna jak jej produkty. Biznes wykorzystuje do tego AI
Kalendarium
Więcej ważnych informacji
Jedynka Newserii

Jedynka Newserii

Ochrona środowiska

Polskie przedsiębiorstwa otwarte na transformację w kierunku gospodarki obiegu zamkniętego. Nowa mapa drogowa mogłaby w tym pomóc
Do 2030 roku z gospodarki o obiegu zamkniętym ma pochodzić co czwarty surowiec. Aby przyspieszyć ten proces, w Polsce potrzeba nowej, międzysektorowej Mapy Drogowej dla Gospodarki o Obiegu Zamkniętym – wskazywali eksperci w trakcie Polish Circular Forum. Obecny dokument nie spełnia już swojej roli i wymaga aktualizacji. Na braku jasnych przepisów i systemu wsparcia najbardziej cierpią przede wszystkim małe i średnie przedsiębiorstwa. – Z naszych badań wynika, że tylko 3–3,5 proc. firm z sektora MŚP jest świadomych i przygotowanych do transformacji – ocenia Agnieszka Zdanowicz, wiceprezes Klastra Gospodarki Cyrkularnej i Recyklingu.
Prawo
Wspólna polityka rolna do deregulacji. Trwają prace nad uproszczeniami dla rolników

Prawie 1,6 mld euro – tyle mają wynieść roczne oszczędności dla rolników po uproszczeniu wspólnej polityki rolnej. Zaproponowany w maju przez Komisję Europejską pakiet zmian zakłada redukcję części obowiązków administracyjnych, które dziś spoczywają na rolnikach ubiegających się o unijne wsparcie. Szczególnie dotyczy to płatności dla drobnych rolników. Jak podkreślają eksperci, wszelkie zmiany, które będą działać na rzecz konkurencyjności unijnego rolnictwa, są wskazane, ale przy uwzględnieniu wysokiego poziomu bezpieczeństwa żywności.
Polityka
W rosyjskiej niewoli może przebywać kilkadziesiąt tysięcy Ukraińców. Napięta sytuacja geopolityczna sprzyja Rosji

W rosyjskiej niewoli przebywa około 10 tys. obywateli Ukrainy, z czego ponad 8 tys. to żołnierze. Łącznie jednak może ich być nawet kilkukrotnie więcej. ONZ podaje, że ponad 95 proc. ukraińskich jeńców wojennych jest poddawanych torturom. – Pogarszająca się sytuacja międzynarodowego bezpieczeństwa i wzrost wpływów do budżetu Federacji Rosyjskiej ze względu na wzrost cen ropy mogą się negatywnie odbić na planowanych wymianach jeńców – ocenia Michał Dworczyk, wiceprzewodniczący Komisji Bezpieczeństwa i Obrony w Parlamencie Europejskim.
Partner serwisu
Szkolenia

Akademia Newserii
Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.