Mówi: | dr Harish Tayyar Madabushi |
Firma: | Uniwersytet w Bath |
Obecna technologia sztucznej inteligencji nie stanowi zagrożenia dla istnienia ludzkości. Nie jest zdolna do samodzielnego myślenia i planowania
Duże modele językowe, takie jak ChatGPT, nie potrafią samodzielnie nabywać nowych umiejętności, rozumować czy planować. Nie stanowią więc egzystencjalnego zagrożenia dla ludzkości – dowiedli naukowcy, którzy przeanalizowali możliwości dużych modeli językowych właśnie pod takim kątem. Nie oznacza to jednak, że narzędzia te nie stanowią żadnego zagrożenia. Wykorzystane niewłaściwie już dziś służą chociażby do szerzenia dezinformacji.
– Modele językowe nie stanowią zagrożenia, ponieważ nie mogą samodzielnie tworzyć planów czy strategii, które mogłyby być skierowane przeciwko nam. Kiedy korzystamy z dużego modelu językowego, takiego jak ChatGPT, mechanizm jego działania opiera się na rozwiązywaniu problemów na podstawie przykładów. Oznacza to, że nasze sugestie muszą być jasne, bardzo przejrzyste, proste, a model nie jest w stanie zrobić czegoś zupełnie odbiegającego od naszych wskazań. Jeśli nie wydamy polecenia, model nie będzie w stanie wykonać działania – informuje w wywiadzie dla agencji Newseria Innowacje dr Harish Tayyar Madabushi, wykładowca w dziedzinie sztucznej inteligencji na Uniwersytecie w Bath.
W ramach badania zrealizowanego przez naukowców z Uniwersytetu w Bath we współpracy z Uniwersytetem Technicznym w Darmstadt w Niemczech przeprowadzono eksperymenty mające na celu sprawdzenie zdolności dużych modeli językowych do wykonywania zadań, z którymi modele nigdy wcześniej się nie zetknęły. Chodziło o zweryfikowanie ich tzw. umiejętności emergentnych. Testy wyraźnie wykazały brak umiejętności złożonego rozumowania. Oznacza to, że modele – takie jakie znamy dzisiaj, ale i najprawdopodobniej te, które powstaną w przyszłości – mimo zwiększenia możliwości operacyjnych nie posiądą zdolności rozumowania i planowania.
– Trzeba jednak brać pod uwagę, że te modele mogą zostać wykorzystane w sposób, którego byśmy sobie nie życzyli. Na przykład ludzie mogą korzystać z modeli językowych, aby tworzyć bardzo dobrze skonstruowane fake newsy czy dobrze napisane wiadomości spam. Typowe wiadomości spam nie są zbyt dobrze zredagowane, więc łatwo je rozpoznać i usunąć. Teraz możemy dostawać takie wiadomości napisane nienagannym językiem. To samo dotyczy fake newsów, a generowanie takich materiałów będzie łatwiejsze. Nasze badanie ma na celu odróżnianie od siebie tych problemów. Nie musimy się martwić, że modele językowe zaczną działać niezależnie i stwarzać dla nas zagrożenie. Zamiast tego skupmy się na tym, co stanowi realne ryzyko – radzi dr Harish Tayyar Madabushi.
Niedocenianie możliwości, jakie w negatywnym kontekście stwarzają modele językowe, to jeden problem. Na drugim biegunie stoi natomiast drugi – przecenianie możliwości, jakimi dysponują narzędzia takie jak ChatGPT.
– Kiedy widzimy tekst wygenerowany przez model językowy, przypisujemy mu znaczenie, co w tym przypadku niekoniecznie jest właściwym podejściem. Tylko dlatego, że model potrafi wygenerować wypowiedź, która ma jakieś znaczenie, nie oznacza, że model przeanalizował i przyswoił to znaczenie. Przeważnie nie dysponuje on tego rodzaju informacjami, co potwierdzają nasze obserwacje. Wcale nie twierdzę, że AI nie należy się ekscytować, przeciwnie – modele językowe stanowią przełom i są zdolne do niewiarygodnych rzeczy, zwiększą wydajność w wielu dziedzinach. Jednak przecenianie tych modeli lub bezpodstawne obawy nie są właściwym podejściem do tego tematu. Myślę, że warto zwracać uwagę na pozytywne aspekty i zachować realistyczne podejście w zakresie możliwości tych modeli, żeby nie były one źródłem obaw, ale były postrzegane jako pozytywne zjawisko i ekscytujące narzędzie, z którego możemy korzystać – wskazuje badacz Uniwersytetu w Bath.
Według Polaris Market Research światowy rynek dużych modeli językowych do 2032 roku osiągnie roczne przychody w wysokości niemal 62 mld dol. przy średniorocznym tempie wzrostu wynoszącym 32 proc. W 2023 roku ten rynek był wart 5 mld dol. Analitycy podkreślają, że kluczowym czynnikiem napędzającym rozwój tego rynku w najbliższych latach będzie wprowadzenie funkcji zerowej ingerencji człowieka. Dzięki temu wzrośnie wydajność modeli i ich możliwość autonomicznego uczenia się, bez ręcznej ingerencji człowieka. Na rozwój rynku będzie też miała wpływ stale rosnąca liczba danych, na których modele mogą się uczyć.
Czytaj także
- 2024-11-04: Resort rolnictwa chce uporządkować kwestię dzierżawy rolniczej. Dzierżawcy mają zyskać dostęp do unijnych dopłat
- 2024-10-30: Kompetencje społeczne są kluczowe w świecie pełnym ekranów. Można je rozwijać już u przedszkolaków
- 2024-10-28: Martyna Wojciechowska: Sztuczna inteligencja zastępująca dziennikarzy i artystów to niepokojący trend. To prowadzi do dezinformacji
- 2024-11-04: Polski rynek roślinny rozwija się wolniej niż na Zachodzie. Kraje z największą konsumpcją mamy szansę dogonić za kilkanaście lat
- 2024-10-29: Polska pracuje nad propozycjami dotyczącymi konkurencyjności UE. To element przygotowań do prezydencji
- 2024-10-16: Polskie firmy dostrzegają korzyści z gospodarki obiegu zamkniętego. Wciąż jednak ich wiedza jest niewystarczająca [DEPESZA]
- 2024-10-09: Szwedzka Akademia Nauk uhonorowała lata pracy nad sztuczną inteligencją. Nagroda Nobla trafiła do twórców sztucznych sieci neuronowych
- 2024-10-18: Nowe technologie zmieniają pracę statystyków. Mogą poddawać szybkiej analizie duże zasoby informacji
- 2024-10-23: Polska w końcówce krajów wdrażających w firmach sztuczną inteligencję. Bolączką jest brak kompetencji cyfrowych u menedżerów
- 2024-10-17: Mała liczba punktów ładowania spowalnia rozwój elektromobilności. Powodem długi czas oczekiwania na przyłącza prądowe
Kalendarium
Więcej ważnych informacji
Jedynka Newserii
Jedynka Newserii
Przemysł
Nowe otwarcie unijnej polityki gospodarczej. Polska prezydencja w Unii szansą na korzystne zmiany dla przedsiębiorców
Z początkiem stycznia 2025 roku Polska obejmie rotacyjną prezydencję w Radzie UE i przez pół roku będzie przewodniczyć jej pracom. To szansa na wprowadzenie zmian do unijnej agendy, przedefiniowanie strategii rozwoju Wspólnoty i korektę polityki gospodarczej. Kluczowe zmiany, których oczekują przedsiębiorcy, to między innymi wzmocnienie i ochrona jednolitego rynku UE w związku z nowymi wyzwaniami, związanymi m.in. z rosnącą rolą Chin i wyborami prezydenckimi w Stanach Zjednoczonych.
Handel
Eksport produktów spożywczych z Polski spowalnia. Producentom coraz trudniej konkurować niższą ceną
W ciągu ośmiu miesięcy 2024 roku polscy rolnicy wyeksportowali tylko o 0,5 proc. więcej żywności niż w takim samym okresie poprzedniego roku. Wartość eksportu wyrażona w złotych nawet spadła (o 5,6 proc.) ze względu na umocnienie polskiej waluty do dolara i euro, w którym większość polskiego eksportu jest rozliczana. Problemem polskiego rolnictwa są wysokie koszty produkcji spowodowane m.in. wprowadzaniem Europejskiego Zielonego Ładu, koncentracja eksportu na nasyconych rynkach europejskich i brak rozpoznawalnych globalnie marek.
Ochrona środowiska
Ekstremalne zjawiska pogodowe w Polsce to kilka miliardów strat rocznie. To duże wyzwanie dla branży ubezpieczeniowej
W ciągu niespełna dwóch dekad ekstremalne zjawiska pogodowe spowodowały około 115 mld zł bezpośrednich strat – wynika z analizy IOŚ-PIB. To rocznie średnio 6 mld zł strat. Najbardziej kosztowne są susze i powodzie, które ze względu na zmiany klimatu mogą pojawiać się coraz częściej. To rodzi wiele wyzwań związanych z ubezpieczaniem mienia.
Partner serwisu
Szkolenia
Akademia Newserii
Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.