Uniunea Europeană a publicat Cartea albă privind Inteligența artificială lansând astfel începutul discuției care are să devină baza unor propuneri legislative din partea țărilor membre UE în ceea ce privește o viitoare legislație în domeniul tehnologiei AI.
Țările Uniunii Europene înțeleg poziția de elită în domeniul tehnologiei și a siguranței cetățenilor în mediul online promovând dreptul la libera exprimare și a drepturilor omului. UE este motorul care a pornit protecția datelor încă din 2016 odată cu apariția GDPR care în prezent a devenit un standard de securitate cibernetică orientat pe protecția individului în mediul online. Exemplul a fost urmat de SUA în statul California prin regulamentul CCPA, similar cu GDPR, pe viitor alăturându-se și alte state SUA.
Comisia europeană merge înainte și pregătește un regulament AI care să aibă același impact ca și GDPR, înțelegând avantajele pe care noua tehnologie le prezintă în majoritatea domeniilor și aportul pe care această inovație îl poate aduce în eficientizarea managementul infrastructurii critice, educației, pieței muncii, accesul la servicii publice sau private esențiale, aplicarea legii, migrației și controlul graniței, justiției și a sistemul de sănătate. Viitorul regulament are să faciliteze tranziția spre o lume tehnologizată cu condiția siguranței cetățenilor UE.
În aprilie 2021 Comisia Europeană a publicat propunerea Regulament Al Parlamentului European Și Al Consiliului De Stabilire A Unor Norme Armonizate Privind Inteligența Artificială (Legea Privind Inteligența Artificială) Și De Modificare A Anumitor Acte Legislative Ale Uniunii prin care promovează tehnologia AI în spațiul european și uniformizarea acesteia cu legislația europeană în vigoare, precum și actualizarea unor legi europene din spațiul tehnologic, acolo unde este cazul, AI putând fi folosit de exemplu în crearea unui profil de client prin care compania beneficiară să ofere servicii personalizate, astfel eficientizarea în domeniul afacerilor și a protecției datelor ar trece la nivelul următor.
Din păcate, orice tehnologie are riscurile și vulnerabilitățile ei care pot fi exploatate de atacatori în scopuri malițioase. ChatGPT este folosit de actori malițioși în atacuri de tip phishing cu scopul de-a compromite datele bancare ale victimelor. Aceste tipuri de atacuri au fost înregistrate la nivelul României (și nu numai) încă din decembrie a anului 2022. Instituțiile bancare luând măsuri în colaborare cu Directoratul Național de Securitate Cibernetică pentru prevenirea și combatere acestor atacuri.
Comisia europeană propune, în regulamentul menționat anterior, următoarele puncte principale în domeniul legislației AI:
- ” asigurarea faptului că sistemele de IA introduse pe piața Uniunii și utilizate sunt sigure și respectă legislația existentă privind drepturile fundamentale și valorile Uniunii;
- asigurarea securității juridice pentru a facilita investițiile și inovarea în domeniul IA;
- consolidarea guvernanței și asigurarea efectivă a respectării legislației existente privind drepturile fundamentale și a cerințelor de siguranță aplicabile sistemelor de IA;
- facilitarea dezvoltării unei piețe unice pentru sisteme de IA legale, sigure și de încredere și prevenirea fragmentării pieței „
Regulament Al Parlamentului European Și Al Consiliului De Stabilire A Unor Norme Armonizate Privind Inteligența Artificială (Legea Privind Inteligența Artificială) Și De Modificare A Anumitor Acte Legislative Ale Uniunii
În momentul de față la nivelul uniunii fiecare țară își aduce aportul în vederea implementării unei astfel de legislații analizându-se riscurile pe care tehnologia AI le prezintă. Fiind o inovație, politicul tinde să o privească cu un oarecare scepticism, analizele de risc fiind modalitatea prin care UE își dorește o regularizare solidă prin care companiile pot produce, introduce sau folosi in spațiul UE tehnologia AI, astfel încât aceasta să nu aducă atingere valorilor UE.
Țările membre UE doresc o legislație coerentă și ușor de aplicat, în special când vine vorba de tehnologii care prezintă un risc ridicat, din punct de vedere a protecției datelor. OpenAI fiind compania care a dezvoltat ChatGPT recunoaște că aplicația este încă tânără și funcționează pe principiul stocării de date pe care le procesează pentru următoarea cerere. Acest comportament de procesare de date în mod neautorizat, fiind in ilegalitate cu cele 6 principii stabilite prin GDPR a legalității procesării datelor:
- Procesarea este necesară pentru interes legitim(interesele de securitate ale companiei de exemplu)
- Procesarea este necesară pentru un încheierea unui contract
- Procesarea este necesară pentru interesul public
- Procesarea este necesară pentru îndeplinirea unei obligații legale
- Procesarea este realizată cu consimțământul persoanei a căror date se procesează
- Procesarea este in interesul vital al persoanei a căror date se procesează
Companiile producătoare de AI vor fi obligate să se supună legislației în condițiile în care vor desfășura activități pe teritoriul european prin asigurarea protecției datelor pe parcursul dezvoltării de noi aplicații sau în cazul aplicațiilor deja dezvoltate. O buna guvernanță a datelor va fi monitorizată de o agenție națională care va juca un rol de supervizor AI în fiecare țară UE, după modelul GDPR, fiecare furnizor fiind obligat să prezinte o analiză de risc în care să încadreze sistemul AI furnizat. Beneficiarii de serviciile AI vor avea obligația să anunțe în prealabil care date vor fi procesate de AI, înainte ca datele sa fie procesate.
Sancțiunile pentru nerespectarea legislației AI se ridică până la 6% din produsul global al companiei vizate, față de 4% din produsul global în cazul GDPR. Acestui fapt se datorează riscul ridicat pe care AI îl poate produce(scurgeri de date sau facilitarea unui acces neautorizat la acestea). UE clasifică riscurile AI de la risc înalt la risc scăzut(minime):
- Riscuri inacceptabile: sisteme AI de control asupra comportamentului uman sau recunoaștere facială la distanță(excepție în caz de atac terorist)
- Riscuri ridicate: vor fi folosite într-unul din domeniile managementul infrastructurii critice, educație, piața muncii, acces la servicii publice sau privat esențiale, aplicarea legii, migrație și controlul graniței, justiție și prezintă un risc asupra sănătății sau siguranței sau afectează drepturile fundamentale ale cetățeanului. Vor trece printr-o evaluare pentru a le stabili statutul
- Riscuri limitate: sisteme AI care să respecte principiul transparenței, adică utilizatorul va fi anunțat că vorbește cu un AI, nu o persoană,
- Riscuri minime: sisteme AI care nu se încadrează la categoriile de mai sus
UE nu subminează beneficiile pe care tehnologia AI le aduce, dar înțelege că orice inovație vine cu un preț, iar țările din Uniune nu vor să plătească avansul tehnologic cu lipsa de securitate. Luăm exemplul ChatGPT în Italia, Autoritatea națională care supervizează protecția datelor, il Garante, a tras un semnal de alarmă legat de modul în care sistemul AI colectează datele utilizatorilor. Riscul ca aceste date sa fie colectate în neconcordanță cu standardele GDPR a împins il Garante să suspende activitatea ChatGPT în Italia până la finalizarea investigației pentru a stabili situația.
Până în momentul de față il Garante suspectează ca ChatGPT colecta date masive de la utilizatori, fără a prezenta în clar termenii și condițiile procesării acestor date, timpul în care vor fi procesate și dacă mai beneficiază cineva de aceste date, în limitele legii. Adițional acestora utilizatorilor nu li se cerea vârsta, existând riscul ca minorii să fie expuși unui conținut neadecvat. OpenAI s-a conformat suspendării impusă de Garante și a retras ChatGPT din Italia, rămâne de văzut daca compania va fi sancționată cu până la 4% din produsul global sau nu.
În Belgia un bărbat și-a pus capăt vieții după ce purtase mai multe conversații cu Eliza, un chatbot dezvoltat de EleutherAI. Bărbatul suferea de anxietate și dorea ca chatbotul să salveze lumea de schimbările climatice, fapt ce l-a convins pe să ia decizia care ia pus capăt zilelor. Se pare că Eliza este construită să aibă o interacțiune emoțională cu utilizatorul, fapt ce poate duce la discuții care par să fie purtate cu o persoană reală.
Exemplele de riscuri pe care sistemele AI le aduce sunt în creștere, motiv pentru care un regulament UE pentru a limita aceste riscuri este de bun augur. Germania este un promotor al excluderii tehnologiile AI care să folosească datele biometrice în spațiile publice, precum și limitarea accesului a forțelor de ordine publică și securitate națională la aceste tehnologii, chiar și în interesul justiției, datorită lipsei de predictibilitate pe care sistemele AI le prezintă în momentul de față. Berlinul propune care tehnologiile AI care folosesc date biometrice să fie trecute în lista de riscuri inacceptabile, iar utilizarea acestora să fie încă pe masa de negociere până la stabilirea unei strategii de gestiune. De asemenea Berlinul propune ca sistemele AI să nu fie folosite la locurile de muncă pentru măsurarea performanței, din cauza impactului psihologic pe care l-au putea avea asupra angajaților, respectiv asupra scăderii calității și a producției, facilitând crearea unui mediu sub presiune și înconjurat de stres.
România își aduce aportul cu recomandări care să vină din sectorul privat din domeniul sistemelor AI înainte ca UE să finalizeze negocierile. Bucureștiul susține că un punct de vedere al unor specialiști AI este esențial pentru UE ca legislația să nu limiteze avansul tehnologic, ci doar să traseze linii directoare sănătoase prin care această inovație să fie fructificată la potențialul maxim cu putință cu cele mai mici riscuri, pe care în cele din urma, UE să le asume în vederea obținerii beneficilor dorite de la AI. De asemenea România dorește o definiție clara a AI și separarea sistemelor AI de cele software și machine learning, cu scopul ca acestea să nu fie afectate nedorit de viitoarea legislație.
Punctul de vedere Românesc se extinde pe palierul agricol în care inovațiile tehnologice AI pot aduce un aport semnificativ, accelerând producția și odată cu ea, creșterea economică, aspirând spre o Uniune în care industria agricolă să se bazeze cât mai mult pe consumul produselor interne. Bineînțeles toate aceste propuneri trebuie analizate și negociate la fel ca toate celelalte propuneri oferite de state membre, astfel încât riscurile să fie minimalizate la cel mai mic nivel cu putință.
UE își dorește ca prin toată această inovație legislativă, care va marca lumea cu inițiativa unei reglementări AI, să nu afecteze prea multe reglementări deja în vigoare. Specialiștii în protecția datelor avertizează asupra acestui aspect, existând riscul mai multor clivaje juridice de care politicul European să țină cont. GDPR și strategiile de acțiune în diferite domenii ale UE ar trebui să rămână neschimbate în vederea evitării unei confuzii juridice pe care UE să o gestioneze cu greutate pe termen mediu.
La nivelul factorilor de decizie UE s-a ridicat întrebarea unui sistem AI care să faciliteze luarea de decizii politice. Răspunsurile mai multor țări membre fiind variate, înclinând spre clasificarea unei astfel de tehnologii pe clasamentele riscurilor mai înalte. Germania și Cehia fiind principalele state membre care privesc cu scepticism în direcția unui motor artificial de luare deciziei, motivând că riscurile unei astfel de tehnologii ar fi prea mari ca UE să le poată asuma în momentul de față.
Concluzii
Negocierile în direcția unei reglementări AI sunt la fel diversificate pe măsură ce apar tot mai des incidente și propuneri care par să pună AI într-o poziție nedorită. Atragerea de investitori și companii cu bugete atractive care să pună primele pietre de temelii în direcția AI este un alt palier pe care UE își propune să dezvolte. Potențialul inovativ al AI de a crea mii de locuri de muncă nu este de ignorat. Poate chiar înlocui câteva locuri de muncă, astfel accelerarea producției în domeniile comerțului și a sănătății să fie chiar mai mari decât putem să prevedem în acest moment.
Politicul european și-a asumat un rol de jurist mondial în ceea ce privește inovația, responsabilitatea de pe umerii Europei este echivalentă cu fiecare cetățean care este supus unui risc din partea AI. Încă de la înființarea UE, statele membre și-au asumat valorile prin care drepturile fundamentale ale omului și valorile democratice să fie principalul stâlp în jurul căreia Europa se construiește.
Toate statele la nivel mondial își pun problema cum să fructifice această resursă la potențialul ei maxim, cu riscuri cât mai scăzute. UE este într-o poziție geografică privilegiată în comerțul mondial, fiind un mediu fertil pentru inovație și afaceri, în colaborare cu SUA, iar concurența mondială măsurându-se în viteza cu care statele se adaptează noilor tendințe și tehnologii, UE se vede obligata să investească în propriul viitor cu putință.
Securitatea cibernetică va fi cel mai afectat domeniu în această nouă eră a tehnologiei. Companiile de securitate cibernetică fiind puse în poziția de consultanți și furnizori de servicii de calitate care să contracareze amenințările cibernetice venite din partea actorilor malițioși care vor folosi acest avans tehnologic în scopul de producere de venituri ilicite. Atacurile cibernetice fiind în creștere, iar atragerea de profesioniști care să le gestioneze a devenit tot mai dificilă.
Costurile pe care un atac cibernetic sever poate atinge grav atât bugetul companiei sau guvernului afectat, cât și reputația pe piață, prin producerea unui dezastru PR care să ducă în cele din urmă la faliment. Este de datoria fiecăruia să își asigure propria protecție online, însă este de datoria factorilor decizionali să ofere cai prin care securitatea să fie asigurată. UE asumându-și decizii prin care statele membre să le adopte și să traseze, daca este cazul, propriile cai juridice și de acțiune prin care aceasta inovație AI să fie ținută pe calea cea buna cu putință.
Bibliografie
- https://www.euractiv.com/section/artificial-intelligence/news/eu-lawmakers-set-to-settle-on-oecd-definition-for-artificial-intelligence/
- https://iapp.org/news/a/european-parliament-settles-on-proposed-ai-act-definitions/
- https://iapp.org/news/a/european-commission-publishes-proposal-for-ai-regulation-2/
- https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9751565
- https://thehackernews.com/2023/04/italian-watchdog-bans-openais-chatgpt.html
- Propunere De Regulament Al Parlamentului European Și Al Consiliului De Stabilire A Unor Norme Armonizate Privind Inteligența Artificială (Legea Privind Inteligența Artificială) Și De Modificare A Anumitor Acte Legislative Ale Uniunii
- Regulamentul general privind protecția datelor
- https://cms.law/en/int/expert-guides/cms-expert-guide-to-ai-strategies-in-cee/romania
