Tak dzieci urządzają koszmar dzieciom dzięki AI. "Masz problem? Zniknij"

Stoi na szkolnym korytarzu. Nie rozumie, dlaczego tak na nią patrzą. Czuje na sobie ukradkowe uśmieszki, wytykanie palcami. Potem słyszy sek*ualne propozycje:  "Za ile mi to zrobisz?", "A to? Za ile chcesz?". Czasem pada wyzwisko. 

Zanim odkryje, że ktoś ją cyfrowo "rozebrał", minie trochę czasu. 

Paweł Boguszewski, mediator z wieloletnim doświadczeniem, kurator sądowy i detektyw, prezes Fundacji Całym Sercem Nadzieja, słyszał takie historie wiele razy. 

Deepfake'i to przerobione zdjęcia lub filmy, w których wygląd, głos lub ruchy osoby zostały zmanipulowane przy użyciu algorytmów AI. Zwykle powstają bez zgody i trafiają do internetu. Cel jest zawsze ten sam: upokorzyć, ośmieszyć, odebrać godność. 

Ofiarą może zostać niemal każdy. Wystarczy, że ktoś pobierze zwykłe zdjęcie z mediów społecznościowych. I zrobi z nim, co chce. 

– Jak reagują dzieci, gdy odkrywają, że ktoś stworzył ich cyfrowy wizerunek I że są tam nagie? – pytam.

– Wstydzą się. Dokładnie tak samo, jakby to była prawdziwa fotografia – odpowiada Paweł Boguszewski.

– Szukają pomocy? – dopytuję.

– To wcale nie jest proste. Nastolatek rzadko przychodzi od razu do rodzica czy nauczyciela i mówi: "mam problem". Częściej zwraca się do rówieśników, którzy dają nieraz tragiczne rady: "ucieknij z domu", "zniknij", "popełnij samob*jstwo". Gdyby dziecko zadzwoniło na telefon zaufania, otrzymałoby wsparcie. Brak tej pomocy czasem prowadzi do dramatycznych sytuacji.

Jak powinien zareagować rodzic, gdy dowie się, że jego dziecko stało się ofiarą deepfake'u?

– Nie ma jednego gotowego schematu. Czasem wystarczy rozmowa wychowawcza, by wyjaśnić sprawę i podjąć próbę usunięcia materiałów. Innym razem trzeba włączyć szkołę, a w poważniejszych przypadkach zgłosić sprawę na policję – tłumaczy Boguszewski.

Podkreśla, że w internecie nic nie ginie. Wiele osób mogło już obejrzeć zdjęcia, zrobić zrzuty ekranu lub je pobrać. Nadkom. Sylwia Bojarowicz z Centralnego Biura Zwalczania Cyberprzestępczości w Olsztynie dodaje:

 – Gdy zdjęcie trafi do sieci, tracimy nad nim kontrolę. Może zostać skopiowane, przekazane dalej i żyć własnym życiem. Nawet jeśli uda się je usunąć, nie mamy żadnej gwarancji, że nie pojawi się ponownie i nie spowoduje kolejnej fali cyberprzemocy. Dlatego apeluję o rozsądek i ostrożność w tej kwestii.

Paweł Boguszewski: – Samo usunięcie zdjęć nie kończy problemu. Ważne jest podjęcie działań, które skutecznie pozwolą wyjaśnić sytuację i zapewnić dziecku wsparcie. 

Jest nie tylko ofiara, ale i sprawca. Co motywuje młodych ludzi do tworzenia zmanipulowanych materiałów ośmieszających innych? Czy w ogóle rozumieją konsekwencje swoich działań?

Paweł Boguszewski wyjaśnia, że najczęściej dzieje się to pod wpływem grupy rówieśniczej. Sprawca chce być "modny", popularny, zdobyć uwagę. Odpowiedzialność często rozkłada się na kilka osób: jeden napisze komentarz, drugi wstawi zdjęcie, trzeci zdecyduje się na przeróbkę.

– Rzadko zdarza się, że ktoś od razu cyfrowo "rozbiera" kolegę. Zazwyczaj zaczyna się od hejtu, potem pojawiają się komentarze, ukradkiem zrobione zdjęcia, a na końcu przeróbki na materiały pornograficzne. Przemoc często zaczyna się w realnym świecie, a później przenosi do internetu – opowiada. 

Detektyw zauważa, że cyberprzemoc pojawia się już w pierwszych klasach podstawówki. 

– Kolega lub koleżanka zrobi zdjęcie i przerobi je na "krowę" czy "świnię", a inne dzieci będą wyśmiewać ofiarę, wołając na nią "świnio". Dziecko często nie rozumie, dlaczego tak się dzieje – przywołuje znane sytuacje. 

W starszych klasach mechanizm jest ten sam, ale treści są poważniejsze – zdjęcia przedstawiają piersi lub genitalia, a wizerunek nielubianego kolegi łączy się z innym dzieckiem, by wywołać śmiech lub upokorzenie.

Jak chronić wizerunek swojego dziecka? Nadkom. Sylwia Bojarowicz radzi:

– Przede wszystkim warto przestrzegać zasad bezpieczeństwa w sieci. Portale społecznościowe i komunikatory wyraźnie określają minimalny wiek użytkownika – zazwyczaj jest to 13 lat. Niestety, wielu rodziców tego nie kontroluje i pozwala dzieciom zakładać konta wcześniej, omijając te ograniczenia.

I choć, jak podkreśla, nie jest to przestępstwo ani wykroczenie, warto stosować się do tych regulacji. Mają przede wszystkim funkcję ochronną – zmniejszają ryzyko, na jakie narażone są młodsze dzieci korzystające z internetu.

Kto ponosi odpowiedzialność za rozpowszechnianie deepfake'ów – ten, kto je tworzy, czy ten, kto udostępnia? 

Ustalenie, kto stoi za deepfake'iem wcale nie jest proste. Sprawcy działają anonimowo, często korzystając z fałszywych kont i narzędzi ukrywających tożsamość. Materiał krąży w sieci, trafia na kolejne serwery, często zagraniczne. Nawet jeśli uda się znaleźć osobę, która go udostępniła, nie zawsze wiadomo, czy to ona była autorem przeróbki. Odtworzenie ścieżki cyfrowych śladów bywa dużym wyzwaniem.

W jednej z podwarszawskich szkół podstawowych uczniowie stworzyli w aplikacji nagie zdjęcie swojej koleżanki, a następnie na Instagramie zachęcali innych do podobnego wykorzystywania jej wizerunku. Mirosław Wróblewski, prezes UODO zgłosił sprawę policji. Jednak ani policja, ani prokuratura nie podjęła działań.

W wielu systemach prawnych brak jest specjalnych regulacji dotyczących tworzenia deepfake'ów. Sprawców często kwalifikuje się pod ogólne przepisy, np. o zniesławieniu czy naruszeniu wizerunku, które nie zawsze odpowiadają specyfice technologii.

O zmiany w prawie walczy Mirosław Wróblewski, prezes UODO. Zwraca uwagę, że obecne przepisy nie nadążają za możliwościami współczesnych narzędzi AI, w tym deepfake'ów. W piśmie do wicepremiera i ministra cyfryzacji Krzysztofa Gawkowskiego podkreśla, że prawo chroni wizerunek jedynie częściowo.

Dziś temat jest rozproszony w kilku aktach prawnych:

Problem w tym, że przepisy te nie tworzą spójnego systemu ochrony. Jak podkreśla prezes UODO, brakuje narzędzi pozwalających na szybką reakcję – na przykład natychmiastowe usuwanie fałszywych materiałów, zanim wyrządzą poważną krzywdę.

A jak uda się namierzyć sprawcę i okaże się nim dziecko? Co mu grozi?

– W przypadku osób nieletnich właściwym organem pozostaje zawsze Wydział rodzinny i nieletnich w sądzie rejonowym. To on decyduje o dalszym postępowaniu wobec młodej osoby, która mogła naruszyć prawo. Kwestie dotyczące postępowania wobec osób nieletnich, które popełniły czyny karalne, regulowane są Ustawą o wspieraniu i resocjalizacji nieletnich. Stosuje się zazwyczaj środki wychowawcze czy lecznicze – odpowiada nadkom. Sylwia Bojarowicz. 

Pytam Ministerstwo Sprawiedliwości, czy odpowiedzialność za publikację treści powinna spoczywać na platformie internetowej.

"Obecnie prawo karne nie przewiduje karnej odpowiedzialności operatorów platform za treści publikowane przez użytkowników, o ile sami nie uczestniczą świadomie w popełnieniu przestępstwa" – czytam w odpowiedzi. 

W reakcji na rosnące zagrożenie Ministerstwo Cyfryzacji wprowadza działania mające chronić dzieci i młodzież w sieci. Tworzony jest system pozwalający szybciej wykrywać nielegalne treści i sprawców oraz efektywniej współpracować z policją i wymiarem sprawiedliwości. Równocześnie wprowadzane są przepisy umożliwiające szybkie blokowanie i usuwanie szkodliwych materiałów z platform internetowych, w tym treści stworzonych przy użyciu technologii deepfake'u.

Zastanawiam się też, czy karze powinni podlegać twórcy aplikacji wykorzystywanych do generowania takich zdjęć. Ministerstwo Sprawiedliwości odpowiada, że byłoby to rozwiązanie zbyt daleko idące.

"Narzędzia technologiczne, podobnie jak noże czy samochody, mogą być użyte zarówno legalnie, jak i w sposób przestępczy. Sam fakt dostarczenia narzędzia nie może prowadzić do odpowiedzialności karnej jego twórcy, jeśli nie uczestniczył w bezprawnym działaniu" – brzmi odpowiedź. 

Deepfake'i i cyfrowe manipulacje pokazują, jak cienka jest granica między żartem a prawdziwą krzywdą. Paweł Boguszewski mówi, że młodsze dzieci często tłumaczą upokarzające zabawy: "Przecież to nic takiego, ona nie płakała". Starsze powtarzają: "Ja tylko udostępniłem, tylko przerobiłem, tylko skomentowałem". W grupie łatwo uznać, że odpowiedzialność rozkłada się między wszystkich uczestników i że pojedynczy gest nie ma znaczenia.

– Co najgorszego usłyszał pan od dziecka, które padło ofiarą takiego zdjęcia? – pytam.

– Każde z nich przeżywało ogromny ból – odpowiada detektyw. – Czasem pojawiały się nawet myśli o odebraniu sobie życia. Te dzieci nie widziały dla siebie pomocy. Nie dlatego, że dorośli nie chcieliby jej udzielić, ale dlatego, że temat jest tak trudny, tak wstydliwy, że trudno o nim w ogóle zacząć mówić.

UWAGA! Podejrzewasz, że sieci pojawiły się spreparowane materiały z udziałem Twojego dziecka? Oto co możesz zrobić: