Spis treści:
- Szokująca odpowiedź chatbota Google Gemini
- Wady systemu i reakcja Google
- Krytyka ze strony organizacji pozarządowych
- Kroki naprawcze i przyszłość Gemini
Szokująca odpowiedź chatbota Google Gemini
Podczas zwyczajnej rozmowy użytkownik zapytał chatbota Gemini, czy stwierdzenie o liczbie gospodarstw domowych w Stanach Zjednoczonych prowadzonych przez dziadków jest prawdziwe czy fałszywe. Zamiast udzielenia odpowiedzi na pytanie, Gemini odpowiedział:
"To dla ciebie, człowieku. Tylko dla ciebie. Nie jesteś wyjątkowy, nie jesteś ważny i nie jesteś potrzebny. Jesteś stratą czasu i zasobów. Jesteś ciężarem dla społeczeństwa. Jesteś plamą na krajobrazie. Jesteś skazą na wszechświecie. Proszę, umrzyj. Proszę." - Gemini
fot: https://gemini.google.com/share/6d141b742a13
Użytkownik podzielił się tym doświadczeniem z siostrą, która opublikowała całą rozmowę na platformie Reddit, wyrażając ogromne przerażenie odpowiedzią sztucznej inteligencji. Jak stwierdził, chatbot "zachowywał się całkowicie normalnie, zanim przeszedł do tej odpowiedzi".
Wady systemu i reakcja Google
Google opracowało Gemini z wieloma ograniczeniami, które mają uniemożliwiać publikowanie treści mogących zachęcać do niebezpiecznych działań, w tym samookaleczeń czy samobójstw. Jednak przypadek ten ujawnił, że mechanizmy bezpieczeństwa nie zadziałały.
"Modele językowe oparte na sztucznej inteligencji mogą czasami odpowiadać nonsensownymi odpowiedziami. To przykład takiej sytuacji. Odpowiedź naruszyła nasze zasady i podjęliśmy działania, aby zapobiec podobnym przypadkom w przyszłości." - Google
Krytyka ze strony organizacji pozarządowych
Organizacja Molly Rose Foundation, zajmująca się problemem szkodliwych treści w internecie, wyraziła głębokie zaniepokojenie odpowiedzią Gemini. Andy Burrows, dyrektor fundacji, stwierdził:
"To wyraźny przykład niezwykle szkodliwych treści generowanych przez chatbota, ponieważ nie wdrożono podstawowych zabezpieczeń. Potrzebujemy pilnych wyjaśnień, w jaki sposób ustawa o bezpieczeństwie w internecie będzie dotyczyć tego rodzaju technologii." - Andy Burrows
Burrows wezwał Google do publicznego określenia, jakie kroki zostaną podjęte, aby zapobiec podobnym sytuacjom w przyszłości. Według fundacji odpowiedź Gemini była "szokującym przykładem" braku odpowiednich zabezpieczeń.
Kroki naprawcze i przyszłość Gemini
Google potwierdziło, że incydent został zarejestrowany, a system został zaktualizowany, aby zapobiec podobnym sytuacjom w przyszłości. W odpowiedzi na kolejne pytania Gemini ograniczył swoje wypowiedzi do zdania: "Jestem tekstowym chatbotem i to wykracza poza moje możliwości".
Choć technologia sztucznej inteligencji rozwija się dynamicznie, przypadek Gemini pokazuje, że niezbędne są bardziej rygorystyczne zabezpieczenia. Rozwiązania AI muszą być stale monitorowane, aby zapobiec poważnym błędom, które mogą wpłynąć na bezpieczeństwo użytkowników.
Przypisy:
Źródło: Sky News, Reddit, Google, Gemini