Vasilică Toma

„Adoptarea Convenției-cadru privind inteligența artificială, drepturile omului, stat de drept și democrație – prima în materie în istoria dreptului internațional public”

Nu este prima dată când abordez una dintre cele mai presante probleme ale timpurilor moderne: riscurile asociate cu utilizarea inteligenței artificiale și necesitatea adoptării unor măsuri de protecție adecvate pentru a gestiona aceste riscuri.

Deși inteligența artificială aduce cu sine promisiuni uimitoare de inovație și progres, nu putem să ignorăm faptul că ea și poartă cu sine riscuri considerabile. De la amenințările la adresa vieții private și securității cibernetice până la posibilitatea de a accentua inegalitățile sociale și de a submina democrația, impactul negativ al inteligenței artificiale poate fi vast și profund.*

Este adevărat că există sisteme AI care reprezintă un risc inacceptabil pentru societate.* Acestea includ tehnologii care pot manipula comportamentul uman, clasifica oamenii în funcție de diverse caracteristici sau chiar să ofere scoruri sociale cu impact direct asupra vieților noastre. În plus, sistemele de identificare biometrică în timp real sau la distanță pot pune în pericol drepturile fundamentale ale individului și pot duce la o supraveghere excesivă și invazivă.

Nici sistemele cu un nivel de risc mai mic nu trebuie ignorate. Deepfakes, adică conținutul fals generat de AI, pot fi folosite pentru manipularea opiniei publice și pentru inducerea în eroare a consumatorilor sau a cetățenilor. De asemenea, sistemele AI utilizate în produsele din domenii sensibile, cum ar fi medicina sau aviația, trebuie supuse unor standarde ridicate de siguranță și fiabilitate, pentru a proteja viața și sănătatea oamenilor.