Vineri, 17 mai 2024, Consiliul Europei a adoptat primul tratat internațional obligatoriu din punct de vedere juridic care vizează asigurarea respectării drepturilor omului, a statului de drept și a standardelor juridice democratice în utilizarea sistemelor de inteligență artificială (IA).
Tratatul, care este deschis și țărilor non-europene, stabilește un cadru juridic care acoperă întregul ciclu de viață al sistemelor de inteligență artificială și abordează riscurile pe care acestea le pot prezenta, promovând în același timp inovarea responsabilă.
Convenția adoptă o abordare bazată pe riscuri în ceea ce privește proiectarea, dezvoltarea, utilizarea și scoaterea din funcțiune a sistemelor de inteligență artificială, ceea ce presupune luarea în considerare cu atenție a oricăror potențiale consecințe negative ale utilizării sistemelor de inteligență artificială.
Convenția-cadru a Consiliului Europei privind inteligența artificială și drepturile omului, democrația și statul de drept a fost adoptată la Strasbourg, în cadrul reuniunii ministeriale anuale a Comitetului de Miniștri al Consiliului Europei, care reunește miniștrii afacerilor externe din cele 46 de state membre ale Consiliului Europei.
Marija Pejčinović, Secretarul general al Consiliului Europei: „Convenția-cadru privind inteligența artificială este un tratat global, primul de acest fel, care va garanta că inteligența artificială respectă drepturile oamenilor. Este un răspuns la nevoia unui standard juridic internațional susținut de state de pe diferite continente care împărtășesc aceleași valori pentru a valorifica beneficiile inteligenței artificiale, reducând în același timp riscurile. Prin acest nou tratat, ne propunem să asigurăm o utilizare responsabilă a inteligenței artificiale care să respecte drepturile omului, statul de drept și democrația.”
Convenția este rezultatul a doi ani de activitate a unui organism interguvernamental, Comitetul pentru Inteligență Artificială (CAI), care a reunit pentru elaborarea tratatului cele 46 de state membre ale Consiliului Europei, Uniunea Europeană și 11 state nemembre (Argentina, Australia, Canada, Costa Rica, Sfântul Scaun, Israel, Japonia, Mexic, Peru, Statele Unite ale Americii, Statele Unite ale Americii și Uruguay), precum și reprezentanți ai sectorului privat, ai societății civile și ai mediului academic, care au participat în calitate de observatori.
Tratatul se referă la utilizarea sistemelor de inteligență artificială în sectorul public – inclusiv în companiile care acționează în numele acestuia – și în sectorul privat. Convenția oferă părților două modalități de a se conforma principiilor și obligațiilor sale atunci când reglementează sectorul privat: părțile pot opta pentru a fi obligate în mod direct de dispozițiile relevante ale convenției sau, ca alternativă, pot lua alte măsuri pentru a se conforma dispozițiilor tratatului, respectând în același timp pe deplin obligațiile lor internaționale în ceea ce privește drepturile omului, democrația și statul de drept. Această abordare este necesară din cauza diferențelor dintre sistemele juridice din întreaga lume.
Convenția stabilește cerințe de transparență și supraveghere adaptate la contexte și riscuri specifice, inclusiv identificarea conținutului generat de sistemele de inteligență artificială. Părțile vor trebui să adopte măsuri de identificare, evaluare, prevenire și atenuare a posibilelor riscuri și să evalueze necesitatea unui moratoriu, a unei interdicții sau a altor măsuri adecvate în ceea ce privește utilizările sistemelor de inteligență artificială în cazul în care riscurile acestora pot fi incompatibile cu standardele privind drepturile omului.
De asemenea, acestea vor trebui să asigure răspunderea și responsabilitatea pentru efectele negative și să se asigure că sistemele de IA respectă egalitatea, inclusiv egalitatea de gen, interzicerea discriminării și dreptul la viață privată.
În plus, părțile la tratat vor trebui să asigure disponibilitatea căilor de atac pentru victimele încălcărilor drepturilor omului legate de utilizarea sistemelor de inteligență artificială și a garanțiilor procedurale, inclusiv notificarea tuturor persoanelor care interacționează cu sistemele de inteligență artificială cu privire la faptul că interacționează cu astfel de sisteme.
În ceea ce privește riscurile pentru democrație, tratatul impune părților să adopte măsuri pentru a se asigura că sistemele de IA nu sunt utilizate pentru a submina instituțiile și procesele democratice, inclusiv principiul separării puterilor, respectarea independenței judiciare și accesul la justiție.
Părțile la convenție nu vor fi obligate să aplice dispozițiile tratatului în cazul activităților legate de protecția intereselor de securitate națională, dar vor fi obligate să se asigure că aceste activități respectă dreptul internațional și instituțiile și procesele democratice. Convenția nu se va aplica la chestiuni legate de apărarea națională și nici la activitățile de cercetare și dezvoltare, cu excepția cazurilor în care testarea sistemelor de inteligență artificială poate avea potențialul de a interfera cu drepturile omului, democrația sau statul de drept.
Pentru a asigura punerea sa în aplicare efectivă, convenția stabilește un mecanism de monitorizare sub forma unei conferințe a părților.
În cele din urmă, convenția prevede ca fiecare parte să instituie un mecanism de supraveghere independent pentru a supraveghea respectarea convenției și să crească gradul de conștientizare, să stimuleze o dezbatere publică informată și să desfășoare consultări cu mai multe părți interesate cu privire la modul în care ar trebui să fie utilizată tehnologia IA.
Convenția-cadru va fi deschisă spre semnare la Vilnius (Lituania), la 5 septembrie, cu ocazia unei conferințe a miniștrilor justiției.
