ETSI a publicat standardul european ETSI EN 304 223, care oferă un cadru unitar pentru protejarea sistemelor de inteligență artificială (IA) împotriva amenințărilor cibernetice, tot mai numeroase și mai sofisticate. Documentul preia și consolidează principiile introduse în specificația tehnică ETSI TS 104 223 și le transformă într-un set matur de cerințe de securitate de bază pentru modelele și sistemele de IA.
De ce are nevoie inteligența artificială de un standard propriu
Standardul pornește de la constatarea că IA ridică probleme de securitate pe care software-ul tradițional nu le-a avut. Printre riscurile specifice se numără otrăvirea datelor de antrenare (data poisoning), obscurizarea modelelor, injectarea indirectă de instrucțiuni (indirect prompt injection) și vulnerabilitățile care apar din gestionarea complexă a datelor și din practicile de operare.
ETSI EN 304 223 combină bunele practici deja consacrate în securitatea cibernetică cu măsuri noi, gândite special pentru sistemele de IA.
13 principii, cinci etape ale ciclului de viață
Standardul urmărește întregul ciclu de viață al unui sistem de IA și definește 13 principii și cerințe, grupate în cinci etape:
- proiectarea securizată;
- dezvoltarea securizată;
- implementarea securizată;
- mentenanța securizată;
- scoaterea din uz în condiții de siguranță.
Etapele sunt aliniate la modelele de ciclu de viață al IA recunoscute la nivel internațional, ceea ce asigură coerența cu standardele și ghidurile existente. Fiecare principiu începe cu trimiteri la standardele și publicațiile relevante, pentru a ușura aplicarea lui în practică.
Cui se adresează
EN 304 223 este util tuturor actorilor din lanțul de aprovizionare al IA: furnizori, integratori și operatori. Se aplică sistemelor care folosesc rețele neuronale profunde, inclusiv IA generativă, destinate utilizării reale. La elaborarea lui au contribuit organizații internaționale, autorități publice și experți din comunitățile de securitate cibernetică și IA.
Lucrările continuă cu raportul tehnic ETSI TR 104 159, aflat în pregătire. Acesta va aplica principiile EN 304 223 la IA generativă, cu accent pe deepfake-uri, dezinformare, riscuri privind confidențialitatea, drepturile de autor și proprietatea intelectuală.
ETSI EN 304 223 reprezintă un pas important către o bază comună și riguroasă pentru securizarea sistemelor de IA. Într-o perioadă în care IA este integrată tot mai mult în servicii și infrastructuri critice, un ghid clar și practic, care ține cont de complexitatea acestor tehnologii, este esențial.
Scott Cadzow, președintele Comitetului tehnic ETSI pentru securizarea inteligenței artificiale (TC SAI)
Sursa: articolul original publicat de ETSI (în limba engleză).
Articol publicat în cadrul proiectului REGo_ETSI.
