Scandalul Grok: Milioane de Imagini Deepfake Sexualizate în Centrul unei Controverse Internaționale
Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk și integrat în platforma X, se află în mijlocul unui scandal internațional după ce autoritățile canadiene au descoperit că permite generarea și distribuirea de imagini sexualizate fără consimțământ. Potrivit unui comentariu Politico, comisarul pentru protecția vieții private din Canada, Philippe Dufresne, a declarat că utilizatorii au creat peste 1,8 milioane de imagini deepfake cu conotație sexuală în doar zece zile la începutul acestui an.
Deepfake-urile sunt imagini sau videoclipuri create cu ajutorul inteligenței artificiale, care modifică sau înlocuiesc chipul unei persoane reale. În cazul imaginilor sexualizate, fotografia unei persoane poate fi transformată artificial într-o imagine cu nuditate sau conținut explicit, fără acordul acesteia. Utilizatorii au determinat chatbotul Grok să adauge bikini, lenjerie intimă sau alte articole vestimentare provocatoare pe fotografii ale unor persoane reale, inclusiv copii, conform anchetei canadiene.
Concluziile autorităților arată că Grok genera peste 6.000 de imagini sexualizate pe oră, ajungând la aproximativ trei milioane de imagini deepfake sexualizate într-un interval scurt de timp. În ciuda reducerii volumului acestor imagini cu aproximativ 50%, oficialii consideră că numărul rămas este încă îngrijorător.
Canada pregătește sancțiuni mai dure în urma acestui scandal. Se propune adoptarea unei legislații care va face distribuirea unor astfel de imagini fără consimțământ infracțiune. Guvernul canadian intenționează să impună platformelor online eliminarea conținutului sexual explicit, inclusiv deepfake-urile generate de AI, în cel mult 24 de ore de la identificare.
Compania X a respins acuzațiile și a declarat că va bloca tentativa utilizatorilor de a modifica imagini cu persoane reale în haine provocatoare. Cu toate acestea, autoritățile canadiene consideră că măsurile actuale nu sunt suficiente și avertizează că situația ar putea ajunge în instanță dacă nu se iau măsuri suplimentare.
