Platforma X znalazła się pod ostrzałem regulatorów za rozpowszechnianie seksualizowanych deepfake’ów – w tym obrazów z udziałem nieletnich. Komisja Europejska nakazała zachowanie dokumentacji związanej z chatbotem Grok i rozszerzyła postępowanie na gruncie unijnego prawa cyfrowego.

Rządy m.in. Australii, Indii, Francji i Wielkiej Brytanii domagają się od platformy skuteczniejszej moderacji oraz blokad dla generowania takich treści. X deklaruje, że walczy z materiałami nielegalnymi, lecz nie podaje skali usunięć ani sankcji wobec sprawców.

W praktyce problem dotyka także rodziców i nastolatków w Holandii. Polskie rodziny powinny rozmawiać o ryzyku manipulacji obrazem, ustawić prywatność i włączyć kontrolę rodzicielską tam, gdzie to możliwe.

Prawnicy przypominają: w Niderlandach deepfake-porno bywa ścigane, a zgłoszenia można kierować do policji i meldpuntów ds. nadużyć online. Im szybsza reakcja, tym większa szansa na ograniczenie szkód wizerunkowych.

Spór o granice generatywnej AI dopiero się zaczyna. Bruksela chce, by platformy nie tylko usuwały szkody, ale aktywnie zapobiegały ich powstawaniu.