Sigur, nu sunt europenii primii la startup-uri de tehnologie sau inovație, dar nimeni nu-i întrece la reglementat. Începând de la 1 august, normele UE privind modelele de inteligență artificială au devenit aplicabile. Este vorba despre “AI Act”, o lege care a fost adoptată în 2024 și care acum intră în acțiune.
Legea încearcă să ofere transparență cu privire la modul în care a fost construit un model, să dezvăluie dacă în antrenarea AI-ului a fost folosit conținut protejat prin drepturi de autor și în general suficiente informații pentru ca utilizatorii să își facă o idee mai bună despre modelele pe care le folosesc.
Mi s-a părut interesant subiectul, așa că am selectat pentru voi cele mai importante 10 prevederi.
1. Interacțiunea cu un chatbot trebuie semnalizată: Chatboții (precum ChatGPT, Claude etc.) și alte sisteme interactive trebuie să te avertizeze clar și încă de la începutul conversației că nu discuți cu o persoană reală. Avertismentul trebuie să fie ușor de observat și accesibil. Cu alte cuvinte, dacă un magazin online instalează un chatbot și tu ai nevoie de asistență, mai întâi vei fi avertizat că discuți cu un chatbot.
2. Deepfake-urile trebuie etichetate (vizibil): Orice imagine, fișier audio sau videoclip generat sau modificat de inteligența artificială, care prezintă în mod fals o realitate (deepfake), trebuie marcat corespunzător. Utilizatorul trebuie să poată vedea această etichetă fără să folosească instrumente tehnice speciale. Excepție fac doar operele de satiră sau artă, unde marcajul poate fi aplicat discret, fără a strica experiența de vizionare.
3. Conținutul generat trebuie să conțină marcaje (ascunse): Textele, imaginile sau videoclipurile generate de AI trebuie să conțină marcaje invizibile (digitale) care pot fi detectate automat de platforme, astfel încât autoritățile să poată stabili mai ușor originea acelui conținut.
4. Social Scoring-ul este interzis: Guvernele și companiile nu au voie să folosească AI pentru a oferi „note” oamenilor pe baza comportamentului lor, evaluare care ar putea duce la discriminare sau limitarea drepturilor.
5. Manipularea psihologică este interzisă: Sunt interzise sistemele AI care manipulează comportamentul uman la nivel subconștient, generând daune psihologice sau fizice (de exemplu, algoritmi gândiți intenționat să dea dependență sau să exploateze biasuri cognitive).
6. Cei vulnerabili trebuie protejați: AI-ul nu poate fi folosit pentru a exploata vulnerabilitatea copiilor, a bătrânilor sau a persoanelor cu dizabilități (cum ar fi jucăriile inteligente care ar putea încuraja copiii să aibă comportamente riscante).
7. Este interzisă recunoașterii emoțiilor la job sau la școală: Este ilegală folosirea inteligenței artificiale pentru a deduce starea emoțională a angajaților la locul de muncă sau a elevilor în instituțiile de învățământ (de ex. pentru a vedea dacă un elev e atent la ore). Pare o utopie că am ajuns în acest punct, nu?
8. Profilarea biometrică este interzisă: Sistemele AI nu au voie să deducă religia, rasa, opiniile politice sau orientarea sexuală a unei persoane pe baza datelor biometrice (cum ar fi scanarea feței). Din nou, ați fi crezut că ajungem aici așa repede?
9. Crearea de baze de date faciale este interzisă: Este interzis scraping-ul nedirecționată a internetului sau a imaginilor de pe camerele de supraveghere pentru a crea baze de date gigantice de recunoaștere facială fără acordul cetățenilor. Se aude, Meta?
10. Anticiparea riscurilor legate de infracțiunile individuale este interzisă: AI-ul nu poate fi folosit pentru a evalua dacă o anumită persoană urmează să comită o infracțiune doar pe baza profilului său sau a unor caracteristici generale. Vă mai aduceți aminte Minority Report?
Tot pe parcursul acestui va fi incriminată și folosirea de sisteme de AI care generează conținut sexual explicit și intim neconsensual sau materiale care conțin abuzuri sexuale asupra copiilor (CSAM), cum ar fi aplicațiile de „nudify” de AI. Până acum era interzisă doar distribuirea acestor materiale, dar aplicațiile care le puteau produce zburau sub radar. Din decembrie 2026 vor fi interzise și aplicațiile și va fi incriminată și generarea, nu doar distribuirea de astfel de materiale.
Primele 3 puncte au devenit active începând cu august 2026, celelalte erau deja interzise într-o formă sau alta.
Dacă vreți să citiți mai multe despre această lege, găsiți aici niște resurse foarte bine organizate.
Sunt de bun simț aceste prevederi, însă ca de obicei, provocarea rămâne sancționarea efectivă a celor care nu le respectă. În România vor fi mai multe organisme care vor veghea la aplicarea legii, fiecare în domeniul lor (de exemplu ASF, ANSPDCP). ANCOM a fost propusă prin memorandum de Guvern să fie autoritatea națională de supraveghere. Deocamdată însă nu este gata legea care să stabilească cine verifică fiecare aspect în parte și cum se sancționează.
