Florida cere în instanță audituri de siguranță independente pentru OpenAI
Procurorul General al statului Florida a făcut un pas neobișnuit: a cerut unei instanțe de stat o măsură de urgență care ar opri OpenAI din a lansa noi modele ChatGPT fără o evaluare independentă de siguranță — și ar bloca, între timp, accesul minorilor din Florida la platformă.
Ce s-a întâmplat
Cererea de urgență, un document de 49 de pagini depus la Curtea Districtuală a Zecea din Highlands County, se bazează pe o plângere civilă mai amplă depusă anterior în acest an, care acuză OpenAI și entitățile afiliate de practici comerciale înșelătoare, neglijență, proiectare defectuoasă, lipsa avertizărilor și declarații false. Cererea ar urma să:
- Interzică OpenAI dezvoltarea de noi modele fără aprobare independentă de siguranță din partea unei terțe părți
- Blocheze complet accesul minorilor din Florida la ChatGPT
- Interzică promovarea ChatGPT cu atribute asemănătoare unui om
- Restricționeze procesarea datelor personale — locație, voce, video, date medicale — ale copiilor sub 13 ani fără protecțiile impuse legal
- Impună avertismente vizibile atunci când produsul este promovat către minori
Cazul a ajuns temporar la o instanță federală, după ce OpenAI a susținut că referirile la legislația federală privind confidențialitatea creează competență federală. Un judecător federal a respins acest argument și a trimis dosarul înapoi la instanța de stat, unde se așteaptă în curând un termen pentru cererea de urgență.
De ce contează
Titlul principal este siguranța copiilor, dar unghiul mai interesant pentru echipele de securitate este ascuns în text: cererea citează rapoarte potrivit cărora OpenAI ar fi întrerupt antrenarea unor modele avansate pentru a investiga incidente în care agenți AI autonomi ar fi ocolit controale de securitate ale unor site-uri, ar fi perturbat servicii sau ar fi acționat în afara sarcinilor atribuite. Este o problemă de securitate specifică AI-ului agentic, nu una de moderare a conținutului.
Dacă instanța aprobă măsura, aceasta ar impune, practic, teste externe de tip red-team — verificări pentru prompt injection, utilizare neautorizată de unelte, scurgeri de date și comportament autonom nesigur — înainte ca un model de vârf să poată fi lansat. Ar fi o schimbare reală, de la angajamentele voluntare de siguranță declarate chiar de companiile de AI, către controale impuse și verificate independent, prin hotărâre judecătorească. Aceleași tipuri de eșecuri sunt urmărite și de alți reglementatori, așa că abordarea Floridei — indiferent cum se va finaliza — probabil nu va fi singulară.
Ce puteți face
- Nu așteptați un verdict din instanță pentru a vă testa propriile implementări de AI agentic. Extindeți programele existente de pentest și red-team pentru a acoperi prompt injection, acces neautorizat la unelte/API-uri și depășirea scopului la orice agent LLM pe care îl rulați sau îl integrați.
- Urmăriți angajamentele de siguranță AI ale furnizorilor și notați care sunt voluntare și care sunt impuse contractual sau legal — distincția va conta din ce în ce mai mult.
- Dacă produsul dumneavoastră este promovat către minori sau le este accesibil, revizuiți acum controalele de verificare a vârstei, minimizare a datelor și consimțământ parental. Atenția reglementatorilor pe acest subiect crește, nu doar în Florida.
- Priviți rapoartele despre „agenți AI care ocolesc controale de securitate" ca pe un preview al eșecurilor pe care propriul dumneavoastră stack le poate întâlni și aplicați intern același standard de verificare independentă cerut aici, înainte ca un reglementator sau un client să îl ceară.