Naukowcy będą pracować nad zwiększeniem wiarygodności sztucznej inteligencji. W Warszawie powstał nowy ośrodek badawczy

Na początku października na Politechnice Warszawskiej oficjalnie otwarto Centrum Wiarygodnej Sztucznej Inteligencji, które jest jednym z nielicznych ośrodków badawczych w Polsce specjalizujących się w tym obszarze. Centrum powstało dzięki środkom w wysokości prawie 30 mln zł z Funduszy Europejskich z programu FENG, które przyznała Fundacja na rzecz Nauki Polskiej w ramach działania Międzynarodowe Agendy Badawcze. Prowadzone w ośrodku badania mają sprawić, że AI stanie się bardziej wiarygodna i wyjaśnialna. To powinno otworzyć drogę do szerokiego i bezpiecznego jej wykorzystania w przemyśle i przyspieszenia odkryć naukowych np. w medycynie czy chemii.

– Sztuczna inteligencja jest w tym momencie gamechangerem i powoli zmienia wszystko. Jej najbardziej oczywiste „objawy”, które widzimy na co dzień, czyli różnego rodzaju czaty pozwalające nam szybko otrzymywać odpowiedzi na pytania, to jest tylko powierzchnia. Sztuczna inteligencja to również rozwój medycyny, przemysłu, nowoczesnych technologii czy identyfikacja nowych leków – mówi agencji Newseria prof. dr hab. Krzysztof Pyrć, prezes Fundacji na rzecz Nauki Polskiej.

Jak wynika z raportu międzynarodowej firmy doradczej KPMG „Sztuczna inteligencja w Polsce. Krajobraz pełen paradoksów” z lipca br., 84 proc. Polaków korzysta ze sztucznej inteligencji w różnej formie. Wśród wszystkich polskich użytkowników 83 proc. stosuje ją w celach prywatnych, a 71 proc. pracujących respondentów – w środowisku zawodowym. Według danych GUS „Społeczeństwo informacyjne w Polsce w 2024 roku” 5,9 proc. polskich przedsiębiorstw zadeklarowało wykorzystanie technologii sztucznej inteligencji. Największy udział odnotowano w dużych podmiotach (33 proc.), a jeden z najmniejszych z kolei wśród małych firm (4 proc.).

– Żeby sztuczna inteligencja była wiarygodna i żebyśmy wiedzieli, dlaczego ona podejmuje konkretne decyzje, kluczowe jest zrozumienie i prowadzenie badań nad tym, jak ona działa, rozumienie tych procesów tak, żebyśmy nadążali za tym, co się dzieje – mówi prof. Krzysztof Pyrć.

Odpowiedzi na te pytania będą szukać naukowcy pracujący w Centrum Wiarygodnej Sztucznej Inteligencji (Centre for Credible AI, CCAI). Ten nowy ośrodek badawczy na Politechnice Warszawskiej będzie prowadzić działalność w zakresie rozwijania i wdrażania systemów sztucznej inteligencji oraz rozwiązań, które zwiększają ich bezpieczeństwo, przejrzystość i niezawodność.

– Tworzymy to centrum po to, żeby rozwijać algorytmy pozwalające lepiej zrozumieć metody AI, które nas otaczają. Jest to bardzo ważne, ponieważ dzisiaj widzimy bardzo wiele przykładów algorytmów, które szkodzą ludziom, a my chcemy, żeby one były lepiej zrozumiałe, kontrolowalne, żeby lepiej służyły ludzkości – mówi prof. dr hab. inż. Przemysław Biecek, dyrektor Centrum Wiarygodnej Sztucznej Inteligencji.

Centrum zostało uruchomione w ramach działania Międzynarodowe Agendy Badawcze, które jest realizowane przez Fundację na rzecz Nauki Polskiej i finansowane ze środków unijnych z programu Fundusze Europejskie dla Nowoczesnej Gospodarki 2021–2027. Fundacja na rzecz Nauki Polskiej, która pełni rolę instytucji pośredniczącej w systemie dystrybucji funuduszy unijnych, przyznała na ten cel w drodze konkursu dofinansowanie w wysokości prawie 30 mln zł.

– Celem działania Międzynarodowych Agend Badawczych jest wspieranie centrów doskonałości, które są w stanie tworzyć nową jakość i wykraczać poza przeciętność. To są ośrodki, które mają skupiać doskonałych liderów, naukowców, jak również młodych ludzi, którzy chcą się rozwijać i tworzyć naukę – mówi prof. Krzysztof Pyrć. – Ściśle współpracujemy z Ministerstwem Funduszy i Polityki Regionalnej w przekazywaniu środków strukturalnych, które napływają do Polski z Komisji Europejskiej. To są środki na tworzenie innowacji i poprawę rozwoju Polski i warunków życia. Fundacja część tych pieniędzy przeznacza właśnie na tworzenie głębokiej innowacji, która bazuje na badaniach naukowych i w założeniu ma przynieść przełomowe wyniki, które zmienią nasz świat, nie tylko lokalnie, ale i globalnie.

Do zadań CCAI będzie należeć budowa AI, którą można zrozumieć dzięki technikom interpretacji i wyjaśnienia, zweryfikować poprzez formalne testy i mechanizmy oceny ryzyka, a także kontrolować z użyciem rozwiązań zgodnych z wartościami i potrzebami społeczeństwa.

– W pierwszej kolejności powstaną nowe wyniki badawcze, takie jak nowe metody, algorytmy, publikacje, oprogramowanie, ale w dalszej kolejności liczymy na dużą adaptację tych rozwiązań w przemyśle, sektorze medycznym i finansowym – wyjaśnia dyrektor Centrum Wiarygodnej Sztucznej Inteligencji. – W szczególności każde miejsce, które wykorzystuje algorytm AI do automatycznego podejmowania decyzji, jak na przykład bankowość i ryzyko kredytowe, medycyna, diagnostyka lub wspieranie leczenia, może skorzystać z algorytmów, które są lepiej zrozumiałe i bardziej kontrolowane, żeby nie dopuścić do przypadkowych pomyłek.

Centrum Wiarygodnej Sztucznej Inteligencji skupia się na tworzeniu standardów, rekomendacji i dobrych praktyk dotyczących audytu modeli AI dla sektora biznesowo-gospodarczego w Polsce i na całym świecie. 

– Ten projekt jest odpowiedzią na rosnące zapotrzebowanie na kontrolę i analizę algorytmów AI, które nas otaczają. Jest ich coraz więcej i rodzą olbrzymie możliwości. Przykładowo Nagroda Nobla z fizyki i chemii z poprzedniego roku jest przykładem, jak wiele nowych rzeczy możemy się dowiedzieć dzięki algorytmowi AI, możemy odkrywać nowe cząsteczki – tłumaczy prof. Przemysław Biecek. – Mam nadzieję, że dzięki algorytmom AI pojawią się nowe odkrycia, czy w chemii, czy w fizyce, czy w naukach społecznych. Niedługo być może w pewnych zastosowaniach AI osiągnie ponadludzkie możliwości, coś, co widzieliśmy już dla gry w szachy czy zmieniania białek. Prawdopodobnie takie możliwości pojawią się też w innych obszarach nauki i dzięki algorytmom ekstrakcji wiedzy z tych narzędzi jeszcze zwiększymy naszą wiedzę w świecie.

W centrum pracować będzie około 20 naukowców w czterech grupach badawczych. Prof. Przemysław Biecek pokieruje zespołem związanym z analizą techniczną modeli AI. Prof. Janusz Hołyst z Wydziału Fizyki Politechniki Warszawskiej poprowadzi zespół zajmujący się analizą modeli AI z użyciem technik do analizy modeli złożonych. Prof. Katarzyna Budzyńska z Wydziału Administracji i Nauk Społecznych będzie nadzorować zespół zajmujący się ludzkim aspektem bezpieczeństwa modeli AI, a prof. Dariusz Plewczyński z Wydziału Matematyki i Nauk Informacyjnych – zespół zajmujący się modelami AI stosowanymi w obszarze bioinformatyki.

Projekt MAB zakłada udział jednostek z zagranicy. Dlatego też strategicznym partnerem CCAI jest Fraunhofer Heinrich-Hertz-Institut z Berlina, prestiżowy ośrodek badawczy, który specjalizuje się w telekomunikacji, przetwarzaniu sygnałów, wizji komputerowej i sztucznej inteligencji.