Mówi: | dr Harish Tayyar Madabushi |
Firma: | Uniwersytet w Bath |
Obecna technologia sztucznej inteligencji nie stanowi zagrożenia dla istnienia ludzkości. Nie jest zdolna do samodzielnego myślenia i planowania
Duże modele językowe, takie jak ChatGPT, nie potrafią samodzielnie nabywać nowych umiejętności, rozumować czy planować. Nie stanowią więc egzystencjalnego zagrożenia dla ludzkości – dowiedli naukowcy, którzy przeanalizowali możliwości dużych modeli językowych właśnie pod takim kątem. Nie oznacza to jednak, że narzędzia te nie stanowią żadnego zagrożenia. Wykorzystane niewłaściwie już dziś służą chociażby do szerzenia dezinformacji.
– Modele językowe nie stanowią zagrożenia, ponieważ nie mogą samodzielnie tworzyć planów czy strategii, które mogłyby być skierowane przeciwko nam. Kiedy korzystamy z dużego modelu językowego, takiego jak ChatGPT, mechanizm jego działania opiera się na rozwiązywaniu problemów na podstawie przykładów. Oznacza to, że nasze sugestie muszą być jasne, bardzo przejrzyste, proste, a model nie jest w stanie zrobić czegoś zupełnie odbiegającego od naszych wskazań. Jeśli nie wydamy polecenia, model nie będzie w stanie wykonać działania – informuje w wywiadzie dla agencji Newseria Innowacje dr Harish Tayyar Madabushi, wykładowca w dziedzinie sztucznej inteligencji na Uniwersytecie w Bath.
W ramach badania zrealizowanego przez naukowców z Uniwersytetu w Bath we współpracy z Uniwersytetem Technicznym w Darmstadt w Niemczech przeprowadzono eksperymenty mające na celu sprawdzenie zdolności dużych modeli językowych do wykonywania zadań, z którymi modele nigdy wcześniej się nie zetknęły. Chodziło o zweryfikowanie ich tzw. umiejętności emergentnych. Testy wyraźnie wykazały brak umiejętności złożonego rozumowania. Oznacza to, że modele – takie jakie znamy dzisiaj, ale i najprawdopodobniej te, które powstaną w przyszłości – mimo zwiększenia możliwości operacyjnych nie posiądą zdolności rozumowania i planowania.
– Trzeba jednak brać pod uwagę, że te modele mogą zostać wykorzystane w sposób, którego byśmy sobie nie życzyli. Na przykład ludzie mogą korzystać z modeli językowych, aby tworzyć bardzo dobrze skonstruowane fake newsy czy dobrze napisane wiadomości spam. Typowe wiadomości spam nie są zbyt dobrze zredagowane, więc łatwo je rozpoznać i usunąć. Teraz możemy dostawać takie wiadomości napisane nienagannym językiem. To samo dotyczy fake newsów, a generowanie takich materiałów będzie łatwiejsze. Nasze badanie ma na celu odróżnianie od siebie tych problemów. Nie musimy się martwić, że modele językowe zaczną działać niezależnie i stwarzać dla nas zagrożenie. Zamiast tego skupmy się na tym, co stanowi realne ryzyko – radzi dr Harish Tayyar Madabushi.
Niedocenianie możliwości, jakie w negatywnym kontekście stwarzają modele językowe, to jeden problem. Na drugim biegunie stoi natomiast drugi – przecenianie możliwości, jakimi dysponują narzędzia takie jak ChatGPT.
– Kiedy widzimy tekst wygenerowany przez model językowy, przypisujemy mu znaczenie, co w tym przypadku niekoniecznie jest właściwym podejściem. Tylko dlatego, że model potrafi wygenerować wypowiedź, która ma jakieś znaczenie, nie oznacza, że model przeanalizował i przyswoił to znaczenie. Przeważnie nie dysponuje on tego rodzaju informacjami, co potwierdzają nasze obserwacje. Wcale nie twierdzę, że AI nie należy się ekscytować, przeciwnie – modele językowe stanowią przełom i są zdolne do niewiarygodnych rzeczy, zwiększą wydajność w wielu dziedzinach. Jednak przecenianie tych modeli lub bezpodstawne obawy nie są właściwym podejściem do tego tematu. Myślę, że warto zwracać uwagę na pozytywne aspekty i zachować realistyczne podejście w zakresie możliwości tych modeli, żeby nie były one źródłem obaw, ale były postrzegane jako pozytywne zjawisko i ekscytujące narzędzie, z którego możemy korzystać – wskazuje badacz Uniwersytetu w Bath.
Według Polaris Market Research światowy rynek dużych modeli językowych do 2032 roku osiągnie roczne przychody w wysokości niemal 62 mld dol. przy średniorocznym tempie wzrostu wynoszącym 32 proc. W 2023 roku ten rynek był wart 5 mld dol. Analitycy podkreślają, że kluczowym czynnikiem napędzającym rozwój tego rynku w najbliższych latach będzie wprowadzenie funkcji zerowej ingerencji człowieka. Dzięki temu wzrośnie wydajność modeli i ich możliwość autonomicznego uczenia się, bez ręcznej ingerencji człowieka. Na rozwój rynku będzie też miała wpływ stale rosnąca liczba danych, na których modele mogą się uczyć.
Czytaj także
- 2025-06-10: Polska może dołączyć do globalnych liderów sztucznej inteligencji. Jednym z warunków jest wsparcie od sektora publicznego
- 2025-06-12: Nowe technologie mogą wspierać samoleczenie. Szczególnie pomocne są dane zbierane przez aplikacje i urządzenia mobilne
- 2025-05-30: Konsumenci doceniają działania firm na rzecz środowiska i społeczeństwa. Dla przedsiębiorstw to szansa na rozwój
- 2025-06-12: W UE wciąż więcej kontroli działań firm w ramach ESG niż zachęt. Konieczne jest złagodzenie podejścia
- 2025-05-27: SUV-y dominują rynek motoryzacyjny. Hyundai wprowadzi latem do sprzedaży nowy siedmioosobowy model
- 2025-05-28: Interakcja z firmą jest dla klientów równie ważna jak jej produkty. Biznes wykorzystuje do tego AI
- 2025-04-30: Zielona transformacja wiąże się z dodatkowymi kosztami. Mimo to firmy traktują ją jako szansę dla siebie i Europy
- 2025-04-29: Rozwój sztucznej inteligencji drastycznie zwiększa zapotrzebowanie na energię. Rozwiązaniem są zrównoważone centra danych
- 2025-04-17: Phishing największym cyberzagrożeniem. Przestępcy będą coraz częściej sięgać po AI, by skutecznie docierać do potencjalnych ofiar
- 2025-04-15: 1 mln zł na innowacyjne rozwiązania dla miast. Granty mogą otrzymać naukowcy i start-upy
Kalendarium
Więcej ważnych informacji
Jedynka Newserii

Jedynka Newserii

Finanse

Europosłowie za wydłużeniem finansowania krajowych planów odbudowy o 1,5 roku. Apelują o większą przejrzystość wydatków
Instrument na rzecz Odbudowy i Zwiększania Odporności (RRF) – uruchomiony po pandemii COVID-19 – wygasa w sierpniu 2026 roku. Europosłowie w przyjętej niedawno rezolucji postulują, by przedłużyć ten termin o 18 miesięcy dla kluczowych projektów bliskich ukończenia. To szczególnie ważne dla Polski, która przez trzy lata – przez spór poprzedniego rządu z Komisją Europejską – miała zablokowany dostęp do środków z Krajowego Planu Odbudowy (KPO). Jednocześnie rezolucja wzywa do większej przejrzystości wydawanych funduszy.
Polityka
Prof. G. Kołodko: Druga prezydentura Trumpa zmienia Amerykę i świat na gorsze. Nie przyczynia się do rozwiązywania fundamentalnych światowych problemów

Zdaniem byłego wicepremiera i ministra finansów, prof. Grzegorz Kołodki, trumpizm wzmacnia pewne trendy nacjonalizmu, populizmu ekonomicznego i handlowego nie tylko w Ameryce, ale także w innych państwach. W ocenie ekonomisty Trump i trumpizm będą mieli negatywne skutki dla światowych procesów demograficznych, społecznych, kulturowych i ekonomicznych. Prezydentura Trumpa nie skupia się na rozwiązywaniu najważniejszych światowych problemów, takich jak m.in. migracja, zimna wojna, czy też ocieplenie klimatu.
Konsument
Branża opakowań nie traktuje unijnych regulacji jako zagrożenia. Widzi w nich impuls do rozwoju

W UE co roku wytwarza się ponad 2,2 mld t odpadów. Aby ograniczyć ich ilość, promowane jest przechodzenie na bardziej zrównoważony model, czyli gospodarkę o obiegu zamkniętym. W ramach pakietu zmian prawnych ograniczających negatywny wpływ działalności człowieka na środowisko nacisk położony jest w dużej mierze na producentów opakowań. Przedstawiciele branży podkreślają, że nowe regulacje to dla nich nie tylko nowe obowiązki, ale też okazja na zbudowanie przewagi konkurencyjnej.
Partner serwisu
Szkolenia

Akademia Newserii
Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.