Irlanda declanșează o investigație majoră împotriva X din cauza imaginilor sexuale generate de Grok

Irlanda a deschis investigație oficială privind protecția datelor împotriva X, după ce compania i-a permis AI-ul Grok să genereze imagini sexuale fără consimțământ ale unor persoane reale, printre care și minori. 

Investigația, coordonată de Comisia pentru Protecția Datelor (DPC), plasează X sub un control strict din partea autorităților de reglementare. Dacă platforma de social media va fi găsită vinovată, ar putea atrage amenzi masive la nivelul Uniunii Europene. 

Ce a declanșat investigația Irlandei?

 DPC a confirmat pe 17 februarie că a inițiat o anchetă împotriva X Internet Unlimited Company (XIUC), entitatea companiei stabilită în UE. Această investigație reprezintă una dintre cele mai importante acțiuni de reglementare de până acum în scandalul legat de generarea de imagini de către Grok.

DPC a lansat ancheta după ce mai multe relatări din presă au arătat că utilizatorii puteau solicita lui Grok să genereze imagini sexualizate ale unor persoane, inclusiv copii. 

„DPC a fost în contact cu XIUC încă de la apariția primelor relatări în presă, în urmă cu câteva săptămâni, privind presupusa posibilitate ca utilizatorii X să solicite contului @Grok de pe X să genereze imagini sexualizate ale unor persoane reale,inclusiv copii”, a declarat comisarul adjunct Graham Doyle. 

Autoritatea încearcă să stabilească dacă X a încălcat prevederi esențiale ale Regulamentului General privind Protecția Datelor (GDPR). 

Deoarece Irlanda acționează ca Autoritate Principală de Supraveghere pentru X în UE, concluziile DPC ar putea duce la măsuri valabile pentru toate statele membre.

Din punct de vedere tehnic, în temeiul GDPR, autoritățile pot impune amenzi de până la 4% din cifra de afaceri anuală globală.

Deși cazul are în centru conținut potențial dăunător, acesta vizează și prelucrarea datelor cu caracter personal.

Dacă Grok a generat imagini sexualizate care înfățișează persoane reale fără consimțământul acestora, autoritățile ar putea considera că este vorba despre o prelucrare ilegală a datelor în temeiul articolului 6 din GDPR.

Mai multe investigații în desfășurare

 Investigația Irlandei nu este singura. De fapt, există mai multe investigații consecutive care vizează X și, implicit, Grok. 

• Biroul Comisarului pentru Informații din Regatul Unit (ICO) a deschis o anchetă oficială la începutul lunii februarie.

• Comisia Europeană a inițiat proceduri în ianuarie în temeiul Digital Services Act.

• Procurorul General al Californiei a început să analizeze rolul Grok în generarea de conținut AI explicit sexual.

• Ofcom a inițiat o investigație privind siguranța online în Regatul Unit.

• Procurorii francezi au efectuat percheziții la birourile X din Paris, în cadrul unei anchete penale legate de presupuse deepfake-uri și suspiciuni privind materiale de abuz sexual asupra copiilor. 

Deoarece sediul european al X se află în Dublin, DPC din Irlanda acționează frecvent ca principalul organism de aplicare a GDPR.

Cum se pot proteja utilizatorii împotriva abuzului de imagini generate de AI

În timp ce autoritățile investighează platformele, utilizatorii trebuie să gestioneze în prezent riscurile asociate instrumentelor bazate pe AI deja disponibile publicului.

Utilizatorii ar trebui să:

• Limiteze fotografiile personale disponibile public

• Activeze controale stricte de confidențialitate pe platformele sociale

• Monitorizeze eventuale cazuri de suplantare de identitate sau conținut deepfake

• Raporteze imediat imaginile distribuite fără consimțământ

Cum ajută Bitdefender la protecția împotriva abuzului bazat pe AI

Deepfake-urile reprezintă doar un aspect al abuzului bazat pe AI. Atacatorii încep să combine AI generativă cu phishing, escrocherii prin impersonare și tehnici de inginerie socială.

Soluțiile de securitate Bitdefender ajută utilizatorii și organizațiile să:

• Detecteze tentativele de phishing asistate de AI

• Blocheze linkurile malițioase și campaniile de impersonare

• Protejeze datele cu caracter personal împotriva expunerii

• Monitorizeze amprenta digitală pentru identificarea abuzurilor

Întrebări frecvente (FAQ)

De ce a deschis Irlanda o investigație privind Grok?

DPC a lansat ancheta după ce au apărut relatări potrivit cărora utilizatorii puteau solicita lui Grok să genereze imagini sexualizate ale adulților și minorilor.

Ce legi sunt vizate de investigație?

Ancheta se concentrează pe conformitatea cu GDPR, inclusiv pe legalitatea prelucrării datelor, printre altele.

Ar putea X să fie amendată?

Da. GDPR permite amenzi de până la 4% din cifra de afaceri anuală globală dacă autoritățile constată încălcări grave.

Alte țări investighează Grok?

Da. Autorități din Regatul Unit, UE, SUA și Franța au lansat investigații conexe.

Irlanda a declarat platforma X vinovată?

Nu. Investigația este în desfășurare.