Źródło: materiał na licencji: Newseria.pl
Duże modele językowe, takie jak ChatGPT, nie(spacja)potrafią samodzielnie nabywać nowych umiejętności, rozumować czy planować. Nie stanowią więc egzystencjalnego zagrożenia dla(spacja)ludzkości – dowiedli naukowcy, którzy przeanalizowali możliwości dużych modeli językowych właśnie pod takim kątem. Nie oznacza to jednak, że narzędzia te nie(spacja)stanowią żadnego zagrożenia. Wykorzystane niewłaściwie już dziś służą chociażby do szerzenia dezinformacji.
– Modele językowe nie(spacja)stanowią zagrożenia, ponieważ nie(spacja)mogą samodzielnie tworzyć planów czy strategii, które mogłyby być skierowane przeciwko nam. Kiedy korzystamy z(spacja)dużego modelu językowego, takiego jak ChatGPT, mechanizm jego działania opiera się na rozwiązywaniu problemów na podstawie przykładów. Oznacza to, że nasze sugestie muszą być jasne, bardzo przejrzyste, proste, a model nie(spacja)jest w(spacja)stanie zrobić czegoś zupełnie odbiegającego od naszych wskazań. Jeśli nie(spacja)wydamy polecenia, model nie(spacja)będzie w(spacja)stanie wykonać działania(spacja)-(spacja)informuje w(spacja)wywiadzie dla(spacja)agencji Newseria Innowacje dr Harish Tayyar Madabushi, wykładowca w(spacja)dziedzinie sztucznej inteligencji na Uniwersytecie w(spacja)Bath.
W ramach badania zrealizowanego przez(spacja)naukowców z(spacja)Uniwersytetu w(spacja)Bath we współpracy z(spacja)Uniwersytetem Technicznym w(spacja)Darmstadt w(spacja)Niemczech przeprowadzono eksperymenty mające na celu sprawdzenie zdolności dużych modeli językowych do wykonywania zadań, z(spacja)którymi modele nigdy wcześniej się nie(spacja)zetknęły. Chodziło o(spacja)zweryfikowanie ich tzw. umiejętności emergentnych. Testy wyraźnie wykazały brak umiejętności złożonego rozumowania. Oznacza to, że modele – takie jakie znamy dzisiaj, ale i(spacja)najprawdopodobniej te, które powstaną w(spacja)przyszłości – mimo zwiększenia możliwości operacyjnych nie(spacja)posiądą zdolności rozumowania i(spacja)planowania.
-(spacja)Trzeba jednak brać pod uwagę, że te modele mogą zostać wykorzystane w(spacja)sposób, którego byśmy sobie nie(spacja)życzyli. Na przykład ludzie mogą korzystać z(spacja)modeli językowych, aby tworzyć bardzo dobrze skonstruowane fake newsy czy dobrze napisane wiadomości spam. Typowe wiadomości spam nie(spacja)są zbyt dobrze zredagowane, więc łatwo je rozpoznać i(spacja)usunąć. Teraz możemy dostawać takie wiadomości napisane nienagannym językiem. To samo dotyczy fake newsów, a generowanie takich materiałów będzie łatwiejsze. Nasze badanie ma na celu odróżnianie od siebie tych problemów. Nie musimy(spacja)się(spacja)martwić, że modele językowe zaczną działać niezależnie i(spacja)stwarzać dla(spacja)nas zagrożenie. Zamiast tego skupmy się na tym, co stanowi realne ryzyko(spacja)-(spacja)radzi dr Harish Tayyar Madabushi.
Niedocenianie możliwości, jakie w(spacja)negatywnym kontekście stwarzają modele językowe, to jeden problem. Na drugim biegunie stoi natomiast drugi – przecenianie możliwości, jakimi dysponują narzędzia takie jak ChatGPT.
– Kiedy widzimy tekst wygenerowany przez(spacja)model językowy, przypisujemy mu znaczenie, co w(spacja)tym przypadku niekoniecznie jest właściwym podejściem. Tylko dlatego, że model potrafi wygenerować wypowiedź, która ma jakieś znaczenie, nie(spacja)oznacza, że model przeanalizował i(spacja)przyswoił to znaczenie. Przeważnie nie(spacja)dysponuje on tego rodzaju informacjami, co potwierdzają nasze obserwacje. Wcale nie(spacja)twierdzę, że AI nie(spacja)należy się ekscytować, przeciwnie – modele językowe stanowią przełom i(spacja)są zdolne do niewiarygodnych rzeczy, zwiększą wydajność w(spacja)wielu dziedzinach. Jednak przecenianie tych modeli lub bezpodstawne obawy nie(spacja)są właściwym podejściem do tego tematu. Myślę, że warto zwracać uwagę na pozytywne aspekty i(spacja)zachować realistyczne podejście w(spacja)zakresie możliwości tych modeli, żeby nie(spacja)były one źródłem obaw, ale były postrzegane jako pozytywne zjawisko i(spacja)ekscytujące narzędzie, z(spacja)którego możemy korzystać –(spacja)wskazuje badacz Uniwersytetu w(spacja)Bath.
Według Polaris Market Research światowy rynek dużych modeli językowych do 2032 roku osiągnie roczne przychody w(spacja)wysokości niemal 62 mld dol. przy średniorocznym tempie wzrostu wynoszącym 32 proc. W 2023 roku ten rynek był wart 5 mld dol. Analitycy podkreślają, że kluczowym czynnikiem napędzającym rozwój tego rynku w(spacja)najbliższych latach będzie wprowadzenie funkcji zerowej ingerencji człowieka. Dzięki temu wzrośnie wydajność modeli i(spacja)ich możliwość autonomicznego uczenia się, bez ręcznej ingerencji człowieka. Na rozwój rynku będzie też miała wpływ stale rosnąca liczba danych, na których modele mogą się uczyć.
