Komunikaty PR

Duże modele językowe - jak skutecznie z nich korzystać?

2024-07-10  |  14:00
Biuro prasowe

Sztuczna inteligencja nie jest niczym nowym, ale w przestrzeni medialnej głośno zrobiło się o niej wraz z pojawieniem się szeroko dostępnego dużego modelu językowego jakim jest GPT. Możliwości tego, jak i podobnych modeli wywołały ogromne zainteresowanie – także po stronie biznesu, który szuka odpowiedzi jak można wykorzystać LLM (ang. Large Language Models – duże modele językowe) w swoich działaniach.

Niedawny wzrost zainteresowania generatywną sztuczną inteligencją wynika przede wszystkim z gwałtownego i szerokiego zastosowania dużych modeli językowych, takich jak GPT-4. Modele te stały się przedmiotem gorących dyskusji wśród ekspertów; niektórzy postrzegają je jako kolejny etap ewolucji sztucznej inteligencji (AI), podczas gdy inni koncentrują się na ich wadach i ograniczeniach. Już teraz rynek wycenia takie rozwiązania na 6 mld dolarów z perspektywą wzrostu do 30 mld dolarów w 2030 roku.

Duże modele językowe doskonale nadają się do polepszania jakości interakcji człowiek-system za pomocą języka naturalnego, automatyzacji prostych procesów, przetwarzania informacji tekstowych i generowania kreatywnych treści. Możliwości te sprawiają, że firmy decydują się na inwestycje w takie rozwiązania.” – komentuje Bogusław Kosęda, Data Science Consultant, Endava Poland

Kluczowym aspektem wdrażania LLM jest odpowiednia ewaluacja potrzeb i możliwości. Ilu pracowników będzie korzystać z rozwiązań wykorzystujących LLM, jakie mają być ich zadania, czy LLM ma mieć dostęp do firmowych danych, czy będzie istniał zespół odpowiedzialny za zarządzanie i weryfikację generowanych odpowiedzi? Wykorzystanie dużych modeli językowych budzi wiele pytań i wątpliwości.

 

Dobór modelu do potrzeb firmy

Wszystko zaczyna się od wytypowania zadań, do których chcemy wykorzystać LLM i doboru odpowiedniego modelu, który może im sprostać. Proste czynności, takie jak generowanie krótkich tekstów, mogą być rozwiązywane za pomocą stosunkowo małych modeli, które można uruchomić nawet na podstawowych urządzeniach takich jak laptop. Bardziej złożone modele wymagają znacznej mocy obliczeniowej do szkolenia się, ale także do samego procesu generowania wyników.

Obecnie najłatwiejszym sposobem dla firm na korzystanie z najbardziej zaawansowanych modeli LLM jest użycie tych wstępnie wytrenowanych i wdrożonych w chmurze. Przykładem może być model Gemini dostarczany przez Google. Co więcej, można wykorzystać rozwiązania, które integrują LLM z systemami firmy, a także koordynują i monitorują ich pracę. Jednymi z najpopularniejszych przykładów takich bibliotek są LangChain i LangSmith.

Połączenie modelu LLM z danymi firmy daje mu możliwość wyszukiwania i wnioskowania na temat danych specyficznych dla przedsiębiorstwa. Teoretycznie oznacza to, że taki model LLM staje się maszyną do rozwiązywania problemów biznesowych, których rozwiązanie znajduje się już w danych. Dodatkowo, praca modelu LLM na firmowych danych znacznie ogranicza halucynacje, choć nie eliminuje ich całkowicie. Na szczęście narzędzia do łączenia LLM z zewnętrznymi bazami danych posiadają mechanizm śledzenia pochodzenia informacji wykorzystywanych przez LLM do generowania wyników” - wyjaśnia Bogusław Kosęda, Data Science Consultant, Endava Poland

Chociaż każdy z nas może wchodzić w interakcje z modelami LLM za pomocą promptów, poważne aplikacje biznesowe wymagają odpowiednich umiejętności inżynierskich. W tym przypadku umiejętności inżynierii ML (ang. Machine Learning) (w zakresie badań i rozwoju), QA (ang. Quality Assurance) w zakresie testowania oraz umiejętności LLMOps (ang. Large Language Model Operations) w zakresie wdrażania, monitorowania i konserwacji.

 

Ograniczenia i problemy dużych modeli językowych (LLM)

Duże modele językowe obarczone są też szeregiem ograniczeń, dlatego tak ważny jest odpowiedni nadzór i ewaluacja uzyskanych w pracy z nimi wyników.

Halucynacje - modele mogą generować wyniki, które są błędne, bezsensowne lub nieistotne dla danej wejściowej informacji. Wynika to często z niepokrywających się danych wykorzystanych w procesie uczenia. LLM może udzielać np. porad prawnych z innego systemu prawnego niż z tego od którego pada zapytanie. Problem ten nadal pozostaje nierozwiązany i jest jednym z głównych ograniczeń tej technologii.

Trudność testowania LLM - ze względu na "kreatywność" LLM, przetestowanie wszystkich możliwych danych wejściowych i wyjściowych, które mogą pojawić się w produkcji jest niemożliwe. Dlatego tak ważny jest monitoring metryk i nadzór nad systemami opartymi na LLM.

Etyka - modele LLM mogą generować wyniki obarczone uprzedzeniami. Uprzedzenia te pochodzą z zestawów danych, które zostały przekazane modelowi podczas etapów wstępnego uczenia lub dostrajania.

Koszt - w przypadku największych LLM płacimy za transfer danych do i z modelu. W niektórych przypadkach biznesowych koszty te mogą być znaczne.

Utrzymanie - jeśli dostawca LLM zaktualizuje konkretny model, który był wykorzystywany w danym rozwiązaniu, należy ponownie przeprowadzić proces kontroli jakości i monitorowania - co również może być kosztowne.

Technologia zmienia się na naszych oczach a każdego dnia trafiają do nas informacje o nowych możliwościach czy zastosowaniu dużych modeli językowych, dlatego tak ważne jest odpowiednie przygotowanie i ocena naszych potrzeb względem LLM.

Newseria nie ponosi odpowiedzialności za treści oraz inne materiały (np. infografiki, zdjęcia) przekazywane w „Biurze Prasowym”, których autorami są zarejestrowani użytkownicy tacy jak agencje PR, firmy czy instytucje państwowe.
Ostatnio dodane
komunikaty PR z wybranej przez Ciebie kategorii
Technologie Polki najbardziej przedsiębiorczymi kobietami w Unii Europejskiej. Jak w biznesie może pomóc im AI? Biuro prasowe
2025-04-29 | 10:00

Polki najbardziej przedsiębiorczymi kobietami w Unii Europejskiej. Jak w biznesie może pomóc im AI?

Udział kobiet na stanowiskach kierowniczych w Polsce wynosi 43 % i jest to drugi najwyższy wynik w Europie (wyżej jest jedynie Łotwa – 46%).* Polki od lat udowadniają,
Technologie Trendy w branży elektrotechnicznej – jakie rozwiązania dominują na rynku?
2025-04-17 | 07:00

Trendy w branży elektrotechnicznej – jakie rozwiązania dominują na rynku?

Branża elektrotechniczna dynamicznie się rozwija, dostosowując do rosnących wymagań użytkowników oraz wyzwań związanych z efektywnością energetyczną
Technologie Emitel zbudował sieć do monitorowania lotu dronów na 8 lotniskach w całej Polsce
2025-03-25 | 11:00

Emitel zbudował sieć do monitorowania lotu dronów na 8 lotniskach w całej Polsce

Emitel S.A. wzmacnia swoją pozycję na tworzącym się w Polsce rynku projektowania i budowy infrastruktury sieciowej dla bezzałogowych statków powietrznych. Na podstawie

Kalendarium

Więcej ważnych informacji

Jedynka Newserii

Jedynka Newserii

Ochrona środowiska

Zielona transformacja wiąże się z dodatkowymi kosztami. Mimo to firmy traktują ją jako szansę dla siebie i Europy

Bez zaangażowania największych firm, które ograniczają własny ślad węglowy, będzie trudno o transformację energetyczną. Jak wynika z danych Europejskiego Banku Inwestycyjnego, w ubiegłym roku 61 proc. przedsiębiorstw z UE zainwestowało w walkę ze zmianą klimatu. Choć z tymi inwestycjami wiążą się zwykle ogromne koszty, część firm traktuje je jako szansę na podniesienie swojej konkurencyjności. Wśród znaczących korzyści podnoszą też kwestię zmniejszania zależności od dostaw surowców energetycznych z innych krajów.

Prawo

Rolnicy z Wielkopolski i Opolszczyzny protestują przeciwko likwidacji ich miejsc pracy. Minister rolnictwa deklaruje szukanie rozwiązań

W czwartek 24 kwietnia pracownicy towarowych gospodarstw rolnych z województw wielkopolskiego i opolskiego protestowali przed Ministerstwem Rolnictwa i Rozwoju Wsi w Warszawie. To już kolejny – po poznańskim – protest, który ma zwrócić uwagę na opieszałość urzędników w związku z zagospodarowaniem zwracanych do Zasobu Skarbu Państwa dzierżawionych gruntów, na których dziś prowadzona jest działalność rolnicza. Minister Czesław Siekierski przyjął delegację pracowników, która przekazała petycję z postulatami wymagającymi pilnych działań urzędniczych.

Prawo

W połowie maja pierwszym pakietem deregulacyjnym zajmie się Senat. Trwają prace nad drugim pakietem

Zgodnie z zaplanowanym porządkiem obrad na posiedzeniu 14–15 maja Senat zajmie się pierwszym pakietem deregulacyjnym, przygotowanym przez Ministerstwo Rozwoju i Technologii. Przyjęty w ubiegłym tygodniu przez Sejm dokument zawiera około 40 rozwiązań, które mają ułatwić prowadzenie biznesu. W ciągu kilku miesięcy efekty mają być odczuwalne dla przedsiębiorców. Jednocześnie trwają już prace nad kolejnymi propozycjami deregulacyjnymi.

Partner serwisu

Instytut Monitorowania Mediów

Szkolenia

Akademia Newserii

Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a  także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.