Komisja Europejska wszczęła postępowanie wobec platformy X w sprawie ryzyka związanego z chatbotem Grok i generowaniem seksualnych deepfake’ów, także z udziałem nieletnich. Chodzi o możliwe naruszenia unijnego prawa cyfrowego DSA, które wymaga oceny ryzyk i skutecznych zabezpieczeń. Bruksela sprawdzi, czy X wykonał obowiązkową analizę przed wdrożeniem narzędzia.

Dla polskich użytkowników w Holandii to ważny sygnał: deepfake’i to nie „niewinny żart”, ale realne naruszenie dóbr osobistych i potencjalnie prawo karne. Ofiary mają prawo do zgłaszania treści i żądania ich szybkiego usunięcia, a platformy muszą mieć procedury i ludzi do reakcji.

Problem nie dotyczy tylko celebrytów. Coraz częściej deepfake’i uderzają w zwykłych ludzi, np. w zemście po rozstaniu czy w pracowniczych konfliktach. Szkody są realne: reputacja, praca, zdrowie psychiczne – i kosztowne procesy o ochronę wizerunku.

Specjaliści radzą: ograniczajmy publiczną ekspozycję zdjęć, weryfikujmy ustawienia prywatności i reagujmy szybko, gdy coś się pojawi. W Holandii działają organizacje i kancelarie, które pomagają ofiarom – w tym Polkom – usuwać treści i dochodzić swoich praw. Zgłoszenia warto dokumentować zrzutami i linkami.

Jeśli postępowanie KE wykaże naruszenia, X grożą wysokie kary i obowiązek wprowadzenia zmian. Niezależnie od wyniku jedna rzecz jest pewna: era „dzikiego zachodu” w generatywnej AI w UE właśnie się kończy.