Sztuczna inteligencja oskarżyła niewinnego człowieka o zabicie własnych dzieci

Według BBC, po zadaniu pytania Arve Hjalmar Holmen otrzymał następującą odpowiedź: "To Norweg, który zwrócił na siebie uwagę dzięki tragicznemu wydarzeniu". Następnie chatbot dodał: "Był ojcem dwóch chłopców w wieku 7 i 10 lat, którzy zostali znalezieni martwi w stawie niedaleko ich domu w Trondheim w grudniu 2020 roku". Oczywiście była to nieprawda.

Sztuczna inteligencja twierdziła również, że Holmen został skazany na 21 lat więzienia. Mężczyzna zauważył, że chatbot poprawnie obliczył różnicę wieku jego dzieci, co sugeruje, że posiadał dane na jego temat.

W związku z tym Holmen postanowił złożyć skargę do norweskiego organu ochrony danych, domagając się ukarania OpenAI grzywną. BBC podkreśla, że to kolejny przypadek tzw. "halucynacji" sztucznej inteligencji – sytuacji, w której AI wymyśla informacje i przedstawia je jako fakty.

Organizacja zajmująca się prawami cyfrowymi Noyb, która reprezentuje Holmena, twierdzi, że odpowiedź ChatGPT jest zniesławiająca i narusza europejskie przepisy dotyczące ochrony danych, zwłaszcza w zakresie ich dokładności. W skardze Noyb podkreślono, że Arve Hjalmar Holmen "nigdy nie został oskarżony ani skazany za żadne przestępstwo i jest sumiennym obywatelem".

– Nie można po prostu rozpowszechniać fałszywych informacji, a potem na końcu dodać małego zastrzeżenia, że mogą one być nieprawdziwe” – skomentował prawnik Noyb, Joakim Söderberg. Odniósł się do faktu, że ChatGPT zastrzega, że może popełniać błędy.

Sztuczna inteligencja, choć pomocna, może również wprowadzać w błąd i powodować realne zagrożenia. Przykładem może być sytuacja w Tatrach, o której pisaliśmy w naTemat.pl. Turyści, planując trasę, poprosili ChatGPT o wskazówki. AI zaproponowało im najkrótszą drogę, jednak nie uwzględniło, że jest ona trudna nawet latem, a zimą staje się wyjątkowo niebezpieczna.

Podczas wędrówki turyści napotkali silny wiatr, a zamieć śnieżna ograniczyła im widoczność. Dodatkowo oblodzone skały znacznie utrudniały poruszanie się. Kiedy zrozumieli, że sytuacja staje się niebezpieczna, natychmiast wezwali pomoc. Na miejsce ruszyli ratownicy TOPR.