Mówi: | dr Harish Tayyar Madabushi |
Firma: | Uniwersytet w Bath |
Obecna technologia sztucznej inteligencji nie stanowi zagrożenia dla istnienia ludzkości. Nie jest zdolna do samodzielnego myślenia i planowania
Duże modele językowe, takie jak ChatGPT, nie potrafią samodzielnie nabywać nowych umiejętności, rozumować czy planować. Nie stanowią więc egzystencjalnego zagrożenia dla ludzkości – dowiedli naukowcy, którzy przeanalizowali możliwości dużych modeli językowych właśnie pod takim kątem. Nie oznacza to jednak, że narzędzia te nie stanowią żadnego zagrożenia. Wykorzystane niewłaściwie już dziś służą chociażby do szerzenia dezinformacji.
– Modele językowe nie stanowią zagrożenia, ponieważ nie mogą samodzielnie tworzyć planów czy strategii, które mogłyby być skierowane przeciwko nam. Kiedy korzystamy z dużego modelu językowego, takiego jak ChatGPT, mechanizm jego działania opiera się na rozwiązywaniu problemów na podstawie przykładów. Oznacza to, że nasze sugestie muszą być jasne, bardzo przejrzyste, proste, a model nie jest w stanie zrobić czegoś zupełnie odbiegającego od naszych wskazań. Jeśli nie wydamy polecenia, model nie będzie w stanie wykonać działania – informuje w wywiadzie dla agencji Newseria Innowacje dr Harish Tayyar Madabushi, wykładowca w dziedzinie sztucznej inteligencji na Uniwersytecie w Bath.
W ramach badania zrealizowanego przez naukowców z Uniwersytetu w Bath we współpracy z Uniwersytetem Technicznym w Darmstadt w Niemczech przeprowadzono eksperymenty mające na celu sprawdzenie zdolności dużych modeli językowych do wykonywania zadań, z którymi modele nigdy wcześniej się nie zetknęły. Chodziło o zweryfikowanie ich tzw. umiejętności emergentnych. Testy wyraźnie wykazały brak umiejętności złożonego rozumowania. Oznacza to, że modele – takie jakie znamy dzisiaj, ale i najprawdopodobniej te, które powstaną w przyszłości – mimo zwiększenia możliwości operacyjnych nie posiądą zdolności rozumowania i planowania.
– Trzeba jednak brać pod uwagę, że te modele mogą zostać wykorzystane w sposób, którego byśmy sobie nie życzyli. Na przykład ludzie mogą korzystać z modeli językowych, aby tworzyć bardzo dobrze skonstruowane fake newsy czy dobrze napisane wiadomości spam. Typowe wiadomości spam nie są zbyt dobrze zredagowane, więc łatwo je rozpoznać i usunąć. Teraz możemy dostawać takie wiadomości napisane nienagannym językiem. To samo dotyczy fake newsów, a generowanie takich materiałów będzie łatwiejsze. Nasze badanie ma na celu odróżnianie od siebie tych problemów. Nie musimy się martwić, że modele językowe zaczną działać niezależnie i stwarzać dla nas zagrożenie. Zamiast tego skupmy się na tym, co stanowi realne ryzyko – radzi dr Harish Tayyar Madabushi.
Niedocenianie możliwości, jakie w negatywnym kontekście stwarzają modele językowe, to jeden problem. Na drugim biegunie stoi natomiast drugi – przecenianie możliwości, jakimi dysponują narzędzia takie jak ChatGPT.
– Kiedy widzimy tekst wygenerowany przez model językowy, przypisujemy mu znaczenie, co w tym przypadku niekoniecznie jest właściwym podejściem. Tylko dlatego, że model potrafi wygenerować wypowiedź, która ma jakieś znaczenie, nie oznacza, że model przeanalizował i przyswoił to znaczenie. Przeważnie nie dysponuje on tego rodzaju informacjami, co potwierdzają nasze obserwacje. Wcale nie twierdzę, że AI nie należy się ekscytować, przeciwnie – modele językowe stanowią przełom i są zdolne do niewiarygodnych rzeczy, zwiększą wydajność w wielu dziedzinach. Jednak przecenianie tych modeli lub bezpodstawne obawy nie są właściwym podejściem do tego tematu. Myślę, że warto zwracać uwagę na pozytywne aspekty i zachować realistyczne podejście w zakresie możliwości tych modeli, żeby nie były one źródłem obaw, ale były postrzegane jako pozytywne zjawisko i ekscytujące narzędzie, z którego możemy korzystać – wskazuje badacz Uniwersytetu w Bath.
Według Polaris Market Research światowy rynek dużych modeli językowych do 2032 roku osiągnie roczne przychody w wysokości niemal 62 mld dol. przy średniorocznym tempie wzrostu wynoszącym 32 proc. W 2023 roku ten rynek był wart 5 mld dol. Analitycy podkreślają, że kluczowym czynnikiem napędzającym rozwój tego rynku w najbliższych latach będzie wprowadzenie funkcji zerowej ingerencji człowieka. Dzięki temu wzrośnie wydajność modeli i ich możliwość autonomicznego uczenia się, bez ręcznej ingerencji człowieka. Na rozwój rynku będzie też miała wpływ stale rosnąca liczba danych, na których modele mogą się uczyć.
Czytaj także
- 2025-04-17: Phishing największym cyberzagrożeniem. Przestępcy będą coraz częściej sięgać po AI, by skutecznie docierać do potencjalnych ofiar
- 2025-04-15: 1 mln zł na innowacyjne rozwiązania dla miast. Granty mogą otrzymać naukowcy i start-upy
- 2025-04-04: Obowiązki w zakresie zrównoważonego rozwoju staną się mniej uciążliwe. Będą dotyczyć tylko największych firm
- 2025-04-14: Nowe technologie podstawą w reformowaniu administracji. Będą też kluczowe w procesie deregulacji
- 2025-04-15: Obciążenia regulacyjne uderzają w branżę nowych technologii i start-upy. To może hamować innowacje
- 2025-03-18: Europa będzie się zbroić. Musi być gotowa na atak Rosji na kraj NATO w ciągu kilku najbliższych lat
- 2025-03-05: Sztuczna inteligencja usprawni załatwianie spraw urzędowych. Polski model językowy PLLuM zadebiutuje w mObywatelu
- 2025-04-16: Sztuczna inteligencja napędza innowacje, ale pochłania ogromne ilości prądu. Rośnie potrzeba bardziej energooszczędnych rozwiązań
- 2025-03-31: Biznes apeluje o wdrożenie pakietu Omnibus. Chodzi o zmniejszenie obowiązków związanych z ESG
- 2025-03-03: Unia Europejska spóźniona w wyścigu AI. Eksperci apelują o szybsze inwestycje i zaprzestanie regulacji
Kalendarium
Więcej ważnych informacji
Jedynka Newserii

Jedynka Newserii

Prawo

Kwestie bezpieczeństwa priorytetem UE. Polska prezydencja ma w tym swój udział
– Polska prezydencja skierowała oczy Europy na obronność – przekonuje Magdalena Sobkowiak-Czarnecka z KPRM. Większość europejskich państw jest zgodna, że najważniejszą kwestią jest obecnie finansowanie bezpieczeństwa i obronności. Jednym z priorytetów białej księgi w sprawie obronności europejskiej będzie Tarcza Wschód, która obejmuje umocnienia wzdłuż wschodniej i północnej granicy Polski.
Problemy społeczne
Duża zmiana w organizacji pracy w firmach. Elastyczność wśród najważniejszych oczekiwań pracowników

Dotychczasowe modele organizacji pracy w firmach nie zawsze odpowiadają na wyzwania przyszłości. Ostatnie lata zmieniły zasady gry na rynku pracy i teraz elastyczność liczy się na nim bardziej niż kiedykolwiek wcześniej. Elastyczny model pracy staje się jednym z bardziej oczekiwanych benefitów, a dla firm jest to sposób na przyciągnięcie talentów. Kolejnym jest wykorzystanie innowacyjnych narzędzi technologicznych. To jednak wymaga zarówno od pracowników, jak i od pracodawców zaangażowania w ciągłe podnoszenie kompetencji.
Motoryzacja
Pożary pojazdów elektrycznych są rzadsze niż spalinowych. W powszechnym przekonaniu jest odwrotnie, bo brakuje edukacji

Trzydzieści pożarów aut elektrycznych i niemal 9,5 tys. pożarów aut spalinowych – to statystyki za ubiegły rok. Jak podkreślają eksperci, statystycznie pojazdy elektryczne płoną rzadziej niż spalinowe. W przeliczeniu na tysiąc zarejestrowanych pojazdów wskaźnik pożarów w przypadku elektryków wynosi 0,372, a w przypadku aut spalinowych 0,424. Specjaliści są zgodni co do tego, że w powszechnym obiegu brakuje rzetelnej wiedzy na temat samochodów elektrycznych i ich bezpieczeństwa pożarowego.
Partner serwisu
Szkolenia

Akademia Newserii
Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.