Bezpieczeństwo w świecie magii

„Każda wystarczająco zaawansowana technologia jest nieodróżnialna od magii” - to słowa Arthura C. Clarke’a, brytyjskiego prozaika, pisarza fantastycznonaukowego, propagatora kosmonautyki, które jakże dobrze oddają sztuczną inteligencję. W jaki sposób poruszać się w świecie AI, by nie był czarną iluzją i by zachować bezpieczeństwo?

Ostatnie miesiące to prawdziwy rozkwit sztucznej inteligencji, można zatem śmiało powiedzieć, że żyjemy w świecie magicznym. Narzędzia takie, jak duże modele językowe, Chat GPT oraz wiele innych wpływają na nasze codzienne życie. Zacznijmy od tego, czym jest sztuczna inteligencja z punktu widzenia użytkowego?

- Sztuczna inteligencja to w praktyce sposób na automatyzację decyzji. Na to by w różnych dziedzinach życia, poszczególnych procesach i aspektach naszego dnia codziennego, pewne decyzje podejmować w sposób automatyczny. Mogą one dotyczyć rozpoznawania ludzi, weryfikacji tożsamości, udzielenia dostępu do konta bankowego, a także działania naszych urządzeń. Są to decyzje, które również wpływają na nasze bezpieczeństwo. Pamiętajmy, że sztuczna inteligencja jest kolejnym narzędziem w naszych rękach, która pomaga nam przetwarzać informacje i wykonuje dokładnie to, do czego została przygotowana. I tutaj tkwi haczyk - wyjaśnia Piotr Biczyk, Board Member Sales & Partnerships QED Software.

Używając sztucznej inteligencji oczekujemy rozwiązań życzeniowych, a otrzymujemy systemowe czyli dokładnie to, w jaki sposób została zaprogramowana AI. Ma to swoje blaski, jak i cienie.

- Każdy automatyczny proces decyzyjny można próbować ogrywać. Osoba starająca się hakować nasze konto, wiedząca, że weryfikacja naszej tożsamości odbywa się w sposób automatyczny z wykorzystaniem sztucznej inteligencji może próbować ten system obejść i go złamać. Pojawiła się cała dziedzina nauki (Adversarial Machine Learning) zajmująca się atakowaniem mechanizmów sztucznej inteligencji. Mówimy tu na przykład o sposobach modyfikacji obrazów poprzez nałożenie takiego makijażu, aby twarz została rozpoznana nie jako jej właściciel, a ktoś inny, albo aby cały system zupełnie przestał działać. Ciekawym przykładem jest eksperyment polegający na naklejeniu kilku małych kawałków taśmy na znak drogowy “stop”, który przez samochód sterowany sztuczną inteligencją został odczytany jako ograniczenie prędkości do 50 km/h. Jak widać, każdy mechanizm oparty o sztuczną inteligencję można spróbować ograć - podkreśla ekspert i dodaje, że każda automatyzacja decyzji zwiększa to ryzyko. I tutaj niezwykle ważną kwestią jest zarówno zrozumienie zagrożenia, jak tez wykorzystanie AI do podejmowania decyzji, które będą zwiększać nasze bezpieczeństwo.

- Z jednej strony będą to zabezpieczenia systemowe, na przykład bankowe, kiedy zostaniemy powiadomieni o nietypowej transakcji finansowej i poproszeni o weryfikację, podobnie będzie podczas logowania na nasze konta, maile, profile z obcych urządzeń, ale ważnym zabezpieczeniem powinna być także nasza czujność. Jeśli dzwoni do nas ktoś bliski, słyszymy i rozpoznajemy jego głos, prosi nas o pilne przesłanie na konto dużej kwoty finansowej, zweryfikujmy jego tożsamość poprzez zadanie pytania, na które oszuści nie będą znali odpowiedzi. Za głosem, który do nas przemawia nie musi stać ktoś z naszych bliskich, tylko mógł on zostać wygenerowany przez AI - radzi Piotr Biczyk.

Innym ważnym aspektem jest to na jakiej podstawie sztuczna inteligencja podejmuje decyzje. Jako przykład potencjalnych problemów ekspert podaje system stworzony w Stanach Zjednoczonych mający wspierać sędziów w rozpoznawaniu sytuacji, w których przestępca jest zdolny do recydywy, bądź nie. System działał świetnie do czasu, gdy ktoś zauważył, że system potencjalnych recydywistów typował na podstawie koloru skóry. Łatwo sobie wyobrazić, że ten wynik nie został pozytywnie odebrany. Dlatego kluczową kwestią jest z jednej strony korzystanie z mechanizmów XAI (eXplainable AI), a z drugiej zrozumienie iż będzie umiał tylko tyle, ile było w danych uczących – wliczając w to wszelkie przeszłe uprzedzenia czy niewygodne korelacje.

Nie należy demonizować sztucznej inteligencji. Jest to kolejne narzędzie, które odgrywa rolę w naszym życiu. Jeżeli chcemy, aby wpływało w sposób bezpieczny musimy wykazać się zdrowym rozsądkiem i nie powinniśmy bezrefleksyjnie wierzyć w to co widzimy czy słyszymy. Warto być na bieżąco z tym co to narzędzie potrafi by nie dać się zaskoczyć.

***

QED Software jest wiodącą firmą w dziedzinie sztucznej inteligencji i analizy danych. Oferujemy klientom najnowsze technologie i najlepsze rozwiązania. Zajmujemy się tworzeniem produktów umożliwiających wdrażanie sztucznej inteligencji w biznesie. Bazujemy na najnowszych osiągnięciach naukowych, umożliwiając automatyzację i wsparcie działań decyzyjnych w ramach procesów biznesowych organizacji.

Kontakt dla mediów:

Maja Święcka
+48 601 298 905

maja.swiecka@prsetters.com