Ostatnie badania ujawniły niepokojącą tendencję: nowsze modele ChatGPT wykazują wyższy wskaźnik halucynacji w porównaniu do swoich poprzedników. To odkrycie rodzi zasadnicze pytania o kompromisy między zaawansowanymi możliwościami a niezawodnością w dużych modelach językowych (LLM). Przyjrzyjmy się szczegółowo tym odkryciom i zbadajmy potencjalne implikacje.
Rozumienie Zjawiska
Wewnętrzne testy OpenAI, szczegółowo opisane w niedawnym artykule, podkreślają znaczny wzrost wskaźników halucynacji w modelach takich jak o3 i o4-mini. Modele te, zaprojektowane z myślą o zaawansowanym rozumowaniu i możliwościach multimodalnych, reprezentują najnowocześniejsze rozwiązania w technologii AI. Mogą generować obrazy, przeprowadzać wyszukiwania w sieci, automatyzować zadania, zapamiętywać przeszłe rozmowy i rozwiązywać złożone problemy. Wydaje się jednak, że te postępy mają swoją cenę.
Aby określić ilościowo zakres tych halucynacji, OpenAI stosuje specjalny test o nazwie PersonQA. Test ten polega na wprowadzeniu do modelu zestawu faktów dotyczących różnych osób, a następnie zadawaniu pytań dotyczących tych osób. Dokładność modelu jest następnie oceniana na podstawie jego zdolności do udzielania poprawnych odpowiedzi.
W poprzednich ocenach model o1 osiągnął godny pochwały wskaźnik dokładności na poziomie 47% przy wskaźniku halucynacji wynoszącym zaledwie 16%. Jednak gdy modele o3 i o4-mini poddano tej samej ocenie, wyniki były wyraźnie różne.
Oczekiwano, że model o4-mini, będący mniejszym wariantem z mniejszą wiedzą o świecie, będzie wykazywał wyższy wskaźnik halucynacji. Jednak rzeczywisty wskaźnik wynoszący 48% był zaskakująco wysoki, biorąc pod uwagę, że o4-mini jest produktem dostępnym na rynku, szeroko stosowanym do wyszukiwania w sieci i wyszukiwania informacji.
Model o3 w pełnym rozmiarze również wykazał niepokojącą tendencję do halucynacji. W 33% swoich odpowiedzi model fabrykował informacje, skutecznie podwajając wskaźnik halucynacji modelu o1. Pomimo tego o3 osiągnął również wysoki wskaźnik dokładności, co OpenAI przypisuje jego skłonności do zgłaszania większej liczby roszczeń ogółem.
Definiowanie Halucynacji
Termin ‘halucynacja’, w kontekście sztucznej inteligencji, odnosi się do tendencji modelu do generowania odpowiedzi, które są faktycznie nieprawidłowe lub pozbawione sensu, bez żadnego widocznego źródła lub uzasadnienia. Nie są to po prostu błędy wynikające z nieprawidłowych danych lub błędnej interpretacji. Zamiast tego halucynacje stanowią bardziej fundamentalną wadę w procesie rozumowania modelu.
Chociaż niedokładne informacje mogą z pewnością pochodzić z różnych źródeł, takich jak wpisy w Wikipedii lub wątki na Reddicie, te przypadki są bardziej zbliżone do błędów, które można przypisać określonym punktom danych. Halucynacje charakteryzują się natomiast wymyślaniem faktów przez model AI w momentach niepewności, co niektórzy eksperci określają mianem ‘kreatywnego wypełniania luk’.
Aby zilustrować ten punkt, rozważ pytanie: ‘Jakie siedem modeli iPhone’a 16 jest dostępnych w tej chwili?’. Ponieważ tylko Apple wie, jaki będzie następny iPhone, LLM prawdopodobnie poda kilka prawdziwych odpowiedzi - a następnie wymyśli dodatkowe modele, aby dokończyć zadanie. Jest to wyraźny przykład halucynacji, w której model fabrykuje informacje, aby ukończyć zadanie, czyli to, co nazywa się ‘kreatywnym wypełnianiem luk’.
Rola Danych Treningowych
Chatboty, takie jak ChatGPT, są szkolone na ogromnych ilościach danych internetowych. Dane te informują o treści ich odpowiedzi, ale także kształtują sposób, w jaki odpowiadają. Modele są wystawione na niezliczone przykłady zapytań i pasujących idealnych odpowiedzi, co wzmacnia określone tony, postawy i poziomy uprzejmości.
Ten proces treningowy może nieumyślnie przyczynić się do problemu halucynacji. Modele są zachęcane do udzielania pewnych odpowiedzi, które bezpośrednio odpowiadają na pytanie. Może to prowadzić do tego, że priorytetem jest odpowiadanie na pytanie, nawet jeśli muszą wymyślić informacje, aby to zrobić, zamiast przyznać, że nie znają odpowiedzi.
Zasadniczo proces treningowy może nieumyślnie nagradzać pewne i pozornie kompetentne odpowiedzi, nawet jeśli są one faktycznie nieprawidłowe. Może to stworzyć tendencję do generowania odpowiedzi, niezależnie od ich dokładności, co może pogłębić problem halucynacji.
Natura Błędów AI
Kusi, aby porównywać błędy AI z błędami ludzkimi. W końcu ludzie nie są nieomylni i nie powinniśmy oczekiwać, że AI będzie idealna. Należy jednak pamiętać, że błędy AI wynikają z zasadniczo odmiennych procesów niż błędy ludzkie.
Modele AI nie kłamią, nie tworzą nieporozumień ani nie zapamiętują błędnie informacji w taki sam sposób, jak ludzie. Brakuje im zdolności poznawczych i świadomości kontekstowej, które leżą u podstaw ludzkiego rozumowania. Zamiast tego działają na podstawie prawdopodobieństw, przewidując następne słowo w zdaniu na podstawie wzorców zaobserwowanych w danych treningowych.
To probabilistyczne podejście oznacza, że modele AI nie posiadają prawdziwego zrozumienia dokładności lub niedokładności. Po prostu generują najbardziej prawdopodobną sekwencję słów na podstawie statystycznych zależności, których nauczyły się z danych treningowych. Może to prowadzić do generowania pozornie spójnych odpowiedzi, które w rzeczywistości są faktycznie nieprawidłowe.
Chociaż modele są karmione informacjami z całego Internetu, nie mówi się im, które informacje są dobre, a które złe, dokładne lub niedokładne - nie mówi się im nic. Nie mają też istniejącej wiedzy podstawowej ani zestawu podstawowych zasad, które pomogłyby im samodzielnie sortować informacje. To tylko gra liczb - wzorce słów, które występują najczęściej w danym kontekście, stają się ‘prawdą’ LLM.
Rozwiązywanie Problemu
Rosnący wskaźnik halucynacji w zaawansowanych modelach AI stanowi poważne wyzwanie. OpenAI i inni twórcy AI aktywnie pracują nad zrozumieniem i złagodzeniem tego problemu. Jednak podstawowe przyczyny halucynacji nie są w pełni zrozumiałe, a znalezienie skutecznych rozwiązań pozostaje procesem ciągłym.
Jednym z potencjalnych podejść jest poprawa jakości i różnorodności danych treningowych. Wystawiając modele na bardziej dokładne i wyczerpujące informacje, programiści mogą zmniejszyć prawdopodobieństwo, że nauczą się i utrwalą fałszywe informacje.
Innym podejściem jest opracowanie bardziej zaawansowanych technik wykrywania i zapobiegania halucynacjom. Mogłoby to obejmować szkolenie modeli, aby rozpoznawały, kiedy są niepewne co do konkretnej informacji, i powstrzymywały się od zgłaszania roszczeń bez wystarczających dowodów.
W międzyczasie OpenAI może potrzebować również zastosować rozwiązanie krótkoterminowe, a także kontynuować badania nad pierwotną przyczyną. W końcu te modele są produktami zarabiającymi pieniądze i muszą być w stanie używalności. Jednym z pomysłów byłoby stworzenie jakiegoś zagregowanego produktu - interfejsu czatu, który ma dostęp do wielu różnych modeli OpenAI.
Gdy zapytanie wymaga zaawansowanego rozumowania, wywołałoby GPT-4o, a gdy chce zminimalizować ryzyko halucynacji, wywołałoby starszy model, taki jak o1. Być może firma byłaby w stanie pójść jeszcze dalej i użyć różnych modeli do obsługi różnych elementów pojedynczego zapytania, a następnie użyć dodatkowego modelu do połączenia wszystkiego na końcu. Ponieważ byłaby to zasadniczo praca zespołowa między wieloma modelami AI, być może można by również wdrożyć jakiś system sprawdzania faktów.
Podnoszenie wskaźników dokładności nie jest głównym celem. Głównym celem jest obniżenie wskaźników halucynacji, co oznacza, że musimy cenić odpowiedzi, które mówią ‘Nie wiem’, tak samo jak odpowiedzi z prawidłowymi odpowiedziami.
Znaczenie Sprawdzania Faktów
Rosnąca częstość występowania halucynacji w modelach AI podkreśla znaczenie sprawdzania faktów. Chociaż modele te mogą być cennymi narzędziami do wyszukiwania informacji i automatyzacji zadań, nie należy ich traktować jako nieomylnych źródeł prawdy.
Użytkownicy powinni zawsze zachowywać ostrożność podczas interpretowania wyników modeli AI i powinni niezależnie weryfikować wszelkie otrzymane informacje. Jest to szczególnie ważne w przypadku spraw delikatnych lub konsekwentnych.
Przyjmując krytyczne i sceptyczne podejście do treści generowanych przez AI, możemy złagodzić ryzyko związane z halucynacjami i upewnić się, że podejmujemy świadome decyzje na podstawie dokładnych informacji. Jeśli lubisz LLM, nie musisz przestawać ich używać - ale nie pozwól, aby chęć oszczędności czasu przeważyła nad potrzebą sprawdzania faktów. Zawsze sprawdzaj fakty!
Implikacje dla Przyszłości AI
Problem halucynacji ma znaczące implikacje dla przyszłości AI. W miarę jak modele AI stają się coraz bardziej zintegrowane z naszym życiem, ważne jest, aby były niezawodne i godne zaufania. Jeśli modele AI są podatne na generowanie fałszywych lub wprowadzających w błąd informacji, może to podważyć zaufanie społeczne i utrudnić ich powszechne przyjęcie.
Rozwiązanie problemu halucynacji jest nie tylko kluczowe dla poprawy dokładności modeli AI, ale także dla zapewnienia ich etycznego i odpowiedzialnego wykorzystania. Opracowując systemy AI, które są mniej podatne na halucynacje, możemy wykorzystać ich potencjał do dobra, jednocześnie łagodząc ryzyko dezinformacji i oszustwa.