Zmora sztucznej inteligencji: Czy faktycznie można zaufać LLMą - poważna analiza

Spis treści:

• OpenAI, halucynacje i liczby z testów
• Uniwersytet Stanforda i Harvard o diagnozach medycznych
• Praktyka pacjentów oraz lekarzy
• Motoryzacja i serwis - ostrzeżenie z praktyki
• Leaderboardy i benchmarki - co mówią o postępach?
• Czego wymaga bezpieczne korzystanie z modeli językowych?
• Co mówią liczby o zaufaniu do ChatGPT i innych modeli?
• Jak wdrażać modele w organizacjach w Polsce i nie tylko?
• Kiedy można zaufać?

OpenAI, halucynacje i liczby z testów

Badania wskazują, że nowsze modele potrafią częściej "halucynować", czyli generować treści niezgodne z faktami. W wewnętrznych testach OpenAI model o3 miał w takich próbach błąd w 33% odpowiedzi, a wersja o4-mini w 48% przypadków, gdy pytano o publicznie dostępne fakty. To twarde dane, które pokazują, że większa "płynność" odpowiedzi nie musi oznaczać większej rzetelności.

OpenAI opublikowało także analizę przyczyn halucynacji i zaproponowało metody ich ograniczania. Zgodnie z tym opracowaniem modele bywają nagradzane za "zgadywanie", a nie za przyznanie się do niepewności; poprawa kalibracji i ewaluacji ma zmniejszać to zjawisko. To nie rozwiązuje problemu całkowicie, ale precyzuje, skąd się bierze.

Uniwersytet Stanforda i Harvard o diagnozach medycznych

W medycynie wyniki są mieszane: w części badań modele wypadają bardzo dobrze, ale w meta-analizach przewaga znika. Zespół ze Stanfordu pokazał, że lekarze wspierani GPT-4 nie poprawili wyraźnie trafności wnioskowania diagnostycznego względem standardowych narzędzi, choć same modele w teście winiet potrafiły osiągać wysokie oceny. To sygnał, że integracja z pracą kliniczną jest trudniejsza niż pojedyncze testy wiedzy.

Przegląd 83 badań opublikowany w "Nature Digital Medicine" oszacował łączną dokładność diagnostyczną generatywnej sztucznej inteligencji na 52,1% i nie wykazał istotnej różnicy względem lekarzy. Wynik ten odcina się od pojedynczych spektakularnych przypadków trafnej podpowiedzi i zachęca do ostrożności w interpretacji anegdot.

Równolegle Harvard Kennedy School analizował, jak chatboty radzą sobie z dezinformacją dotyczącą wojny w Ukrainie. Badacze zwracają uwagę na "stochastyczne kłamstwa" i luki informacyjne, które modele wypełniają treściami pozornie wiarygodnymi. To istotne ostrzeżenie dla zastosowań informacyjnych i politycznych.

Praktyka pacjentów oraz lekarzy

Znajdujemy przypadki, w których wskazówki ChatGPT pomogły pacjentom dojść do właściwej diagnozy, jednocześnie podkreślając ryzyko błędnej interpretacji przez użytkowników. Lekarze, m.in. dr. Adam Rodman z Harvardu, widzą potencjał, ale przypominają o konieczności zachowania procedur i nadzoru klinicznego. Wnioski: używać jako wsparcia, nie jako substytutu diagnostyki i opieki.

Najnowsze prace sugerują też, że gdy lekarze modyfikują decyzje w oparciu o GPT-4, trafność bywa wyższa, ale wpływ zależy od kontekstu, zadania i sposobu integracji. Badania nad zmianami decyzji klinicznych oraz nad tym, jak użytkownicy współpracują z modelami, pokazują duże rozbieżności wyników i potrzebę standaryzacji.

Motoryzacja i serwis - ostrzeżenie z praktyki

Testy porad dotyczących napraw samochodów pokazały, że modele potrafią generować mylące wskazówki, co opisują różne branżowe serwisy. W praktyce oznacza to realne ryzyko kosztownych błędów, jeśli użytkownik potraktuje odpowiedź jako instrukcję bez weryfikacji u fachowca. To przykład dziedziny, gdzie konsekwencje błędu są natychmiastowe.

Leaderboardy i benchmarki - co mówią o postępach?

Publiczne zestawienia halucynacji, takie jak tablica Vectary, oraz nowe benchmarki tworzone z autentycznych dialogów, pokazują, że problem jest mierzalny i wciąż powszechny. Przykład zbioru AuthenHallu wskazuje, że w 31,4% realnych par pytanie-odpowiedź występowały halucynacje, z przewagą błędów sprzecznych z faktami. Warto śledzić te wskaźniki, gdyż są aktualizowane wraz z wersjami modeli.

Czego wymaga bezpieczne korzystanie z modeli językowych?

Modele są przydatne jako narzędzia wspomagające, ale wymagają kontroli źródeł, świadomości błędów i odpowiedzialnego wdrożenia w procesach decyzyjnych. Poniższe praktyki pomogą Ci w rozsądnym korzystaniu z sztucznej inteligencji:

• Sprawdzaj kluczowe liczby i fakty w niezależnych źródłach, zwłaszcza gdy decyzja ma skutki zdrowotne, prawne lub finansowe.
• Wymagaj od modeli przyznawania się do niepewności; pytaj o zakres błędu, źródła i alternatywy.
• Traktuj wynik jako hipotezę do weryfikacji, nie jako ostateczne rozstrzygnięcie. Dotyczy to szczególnie diagnoz, napraw i porad technicznych.
• Korzystaj z aktualnych benchmarków i polityk jakości dostawców, śledź zmiany w modelach.

Co mówią liczby o zaufaniu do ChatGPT i innych modeli?

W skali zadań faktograficznych wskaźniki błędów potrafią sięgać od 31% do 48% w zależności od modelu i testu, a w diagnozie medycznej średnia dokładność z 83 badań wyniosła 52,1%. Równocześnie istnieją scenariusze, w których model działa bardzo dobrze, lecz włączenie go do pracy ludzi nie zawsze podnosi łączną skuteczność. Te rozbieżności wynikają z rodzaju zadania, jakości promptów, użytych źródeł oraz sposobu, w jaki człowiek interpretuje wynik.

Jak wdrażać modele w organizacjach w Polsce i nie tylko?

Dla firm i instytucji najważniejsze jest projektowanie procesu decyzyjnego tak, by model był "drugą parą oczu", a nie jedynym arbitrem. Praktyka z medycyny podpowiada: definiuj kryteria jakości, loguj zapytania i odpowiedzi, wprowadzaj przeglądy ludzkie dla spraw wrażliwych, a także oceniaj wpływ na wynik końcowy, nie tylko na pojedyncze pytanie. Stała kalibracja i ewaluacja redukują ryzyko halucynacji, co potwierdzają raporty badawcze.

Kiedy można zaufać?

Ufaj warunkowo, czyli jeśli sprawdzasz źródła, wiesz co robisz i jak model może się mylić, oraz masz procedury weryfikacji; nie ufaj w przypadku instrukcji "krok po kroku"czy porad szczególnie w aspektach o wysokim ryzyku - zwłaszcza przy braku niezależnego potwierdzenia. Wniosek: modele najlepiej traktować jako szybkie narzędzia do generowania hipotez, streszczeń i wariantów, a nie jako jedyne źródło prawdy.

Zanim zaufasz:

1. Pytaj o źródła i proś o rozwiązanie jakichkolwiek niepewności.
2. Weryfikuj (przede wszystkim najistotniejsze) informacje w niezależnych bazach lub publikacjach.
3. Gdy stawką jest zdrowie lub majątek - skonsultuj wynik ze specjalistą.
4. W projektach (firmowych) stosuj próg akceptacji błędu i audyt jakości odpowiedzi.

Przypisy:

Nature Digital Medicine to renomowane czasopismo naukowe specjalizujące się w badaniach z zakresu medycyny cyfrowej i zastosowania sztucznej inteligencji w opiece zdrowotnej. Publikuje recenzowane artykuły dotyczące analizy danych medycznych, algorytmów diagnostycznych i bezpieczeństwa cyfrowych systemów klinicznych.

Harvard Kennedy School - Wydział Uniwersytetu Harvarda zajmujący się polityką publiczną i zarządzaniem. Instytucja ta prowadzi badania nad wpływem technologii na społeczeństwo, demokrację oraz dezinformację cyfrową. W ostatnich latach naukowcy z Kennedy School analizują sposób, w jaki algorytmy generatywne kształtują przekaz medialny i zaufanie społeczne.

Jalopnik to amerykański portal motoryzacyjny koncentrujący się na kulturze samochodowej, recenzjach oraz tematach bezpieczeństwa drogowego. Serwis często testuje nowe technologie w branży, w tym systemy wspomagania kierowcy, aplikacje diagnostyczne i sztuczną inteligencję w motoryzacji.

AuthenHallu - Zbiór danych opracowany do analizy tzw. halucynacji w modelach językowych. Składa się z rzeczywistych dialogów, w których oceniane są błędy faktograficzne generowane przez sztuczną inteligencję. Zestaw ten jest wykorzystywany w badaniach porównawczych nad wiarygodnością dużych modeli językowych i stanowi ważny punkt odniesienia w ocenie jakości ich odpowiedzi.

Źródło: Harvard Kennedy School, Jalopnik, Nature, OpenAI, Sky News, Stanford University, Vectary, Wired, YouTube