Institutul European de Standardizare în domeniul Telecomunicațiilor (ETSI) a publicat recent o nouă specificație tehnică destinată securizării sistemelor bazate pe inteligență artificială: „ETSI TS 104 223 – Securing Artificial Intelligence (SAI); Baseline Cyber Security Requirements for AI Models and Systems”. Publicată în aprilie 2025, această specificație tehnică vine ca răspuns la creșterea continuă a amenințărilor cibernetice, stabilind o bază solidă pentru protecția modelelor și sistemelor IA.
Importanța securizării inteligenței artificiale
În ultimii ani, inteligența artificială a devenit omniprezentă, fiind utilizată în industrii variate, de la sănătate și finanțe la producție și administrație publică. Cu toate acestea, popularitatea și complexitatea acestor tehnologii au adus cu sine riscuri semnificative în materie de securitate cibernetică. Amenințările specifice IA, precum otrăvirea datelor („data poisoning1”), obfuscare modelelor („model obfuscation2”), injectarea indirectă a instrucțiunilor („indirect prompt injection3”) și vulnerabilitățile legate de managementul datelor complexe, necesită o abordare specializată.
Pentru a răspunde acestor provocări, ETSI, prin intermediul comitetului său tehnic SAI (Securing Artificial Intelligence), a elaborat standardul ETSI TS 104 223, care prezintă 13 principii fundamentale, dezvoltate în 72 de cerințe măsurabile, distribuite pe cele 5 faze ale ciclului de viață al unui sistem IA:
- proiectare;
- dezvoltare;
- implementare;
- operare;
- mentenanță.
Ce oferă noua specificație ETSI?
Această specificație furnizează orientări clare și transparente pentru dezvoltatori, furnizori, integratori și operatori de sisteme IA, stabilind un set robust de cerințe de bază privind securitatea cibernetică. Prin abordarea integrată pe tot ciclul de viață, standardul permite anticiparea, identificarea și gestionarea eficientă a riscurilor cibernetice specifice IA.
Un aspect unic al acestei specificații este faptul că integrează practici consacrate în domeniul securității cibernetice și IA, alături de abordări inovatoare, adaptate particularităților inteligenței artificiale.
Colaborare multidisciplinară și aplicabilitate globală
Specificatia tehnică ETSI TS 104 223 este rezultatul colaborării multidisciplinare, reunind experți internaționali, reprezentanți ai guvernelor și specialiști din organizații de securitate cibernetică. Acest demers garantează relevanța globală și aplicabilitatea practică a standardului.
Suport suplimentar pentru IMM-uri
ETSI a anunțat și publicarea unui ghid practic destinat întreprinderilor mici și mijlocii (IMM-uri), precum și altor organizații interesate. Acest ghid va include studii de caz din diverse medii de implementare, facilitând astfel aplicarea eficientă a cerințelor de securitate.
Scott Cadzow, președintele Comitetului Tehnic ETSI pentru Securizarea Inteligenței Artificiale, a subliniat importanța securității în toate etapele ciclului de viață al IA: „Într-o epocă în care amenințările cibernetice devin tot mai complexe, este esențial ca sistemele IA să fie protejate eficient pe întreaga durată de viață. Această specificație stabilește o bază solidă pentru securizarea sistemelor IA, atât în Europa cât și la nivel global.”
- Data poisoning – manipularea seturilor de date utilizate la antrenarea modelelor IA, cu scopul de a induce comportamente incorecte sau vulnerabilități exploatabile. ↩︎
- Model obfuscation – tehnici utilizate de atacatori pentru a ascunde comportamentul real al unui model IA sau pentru a împiedica auditarea și înțelegerea acestuia. ↩︎
- Indirect prompt injection – introducerea unor comenzi sau instrucțiuni malițioase într-un context indirect (ex. în datele furnizate de utilizator), care sunt ulterior interpretate de modelul IA într-un mod neintenționat. ↩︎
