Inteligența Artificială a intrat rapid în activitatea de zi cu zi a companiilor din România. Fie că vorbim despre generarea de texte, automatizarea taskurilor, suport pentru clienți sau creare de conținut, instrumente precum ChatGPT sunt folosite tot mai des în firme de toate dimensiunile.Doar că, începând cu aplicarea noilor reguli europene privind Inteligența Artificială, utilizarea AI nu mai înseamnă doar eficiență și productivitate. Apare și partea de responsabilitate legală.Mulți antreprenori încă au impresia că legislația privind AI se aplică doar marilor companii de tehnologie sau dezvoltatorilor de software. În realitate, orice firmă care utilizează Inteligență Artificială în activitatea sa poate fi afectată de noile reguli europene.Iar problema este că foarte multe companii folosesc deja AI fără să aibă reguli interne, politici clare sau măsuri de protecție pentru datele introduse în aceste platforme.

Ce este AI Act?

AI Act este noul regulament european care stabilește reguli clare pentru dezvoltarea și utilizarea sistemelor de Inteligență Artificială în Uniunea Europeană.Denumirea oficială a legii este:Regulamentul (UE) 2024/1689 privind Inteligența Artificială (AI Act).Este primul cadru legislativ european dedicat exclusiv utilizării AI și are rolul de a reglementa modul în care aceste sisteme sunt folosite, atât de către companiile care le dezvoltă, cât și de firmele care le utilizează.Scopul principal al regulamentului este protejarea datelor, a drepturilor utilizatorilor și limitarea riscurilor generate de utilizarea necontrolată a Inteligenței Artificiale.

AI Act a intrat deja în vigoare

Un aspect important pe care multe firme încă îl ignoră este faptul că AI Act nu mai este doar „o lege care urmează”.Regulamentul european a intrat oficial în vigoare la 1 august 2024, iar aplicarea sa se face etapizat.Primele prevederi au început deja să se aplice din 2025, iar din august 2026 obligațiile pentru companii vor deveni tot mai clare și mai stricte.Cu alte cuvinte, firmele care folosesc Inteligență Artificială ar trebui să înceapă încă de acum să analizeze modul în care utilizează aceste instrumente.

De ce este important pentru firmele din România?

În ultimul an, foarte multe companii au început să utilizeze AI fără să existe reguli clare despre:

• ce informații pot fi introduse în AI;
• cine are voie să folosească aceste platforme;
• cum sunt protejate datele;
• cine răspunde în cazul unei probleme;
• cum se verifică informațiile generate de AI.

În multe firme, angajații folosesc deja ChatGPT sau alte platforme similare pentru:

• redactare de emailuri;
• creare de texte de marketing;
• generare de contracte;
• analiză de date;
• suport pentru clienți;
• traduceri;
• automatizarea unor procese interne.

Problema este că, de multe ori, în aceste platforme sunt introduse fără atenție:

• date despre clienți;
• informații financiare;
• proceduri interne;
• documente confidențiale;
• strategii de business.

Iar acest lucru poate genera probleme serioase legate de confidențialitate și conformare legală.

Riscurile reale ale folosirii AI în companie

Foarte multe persoane folosesc AI fără să realizeze că informațiile introduse în aceste platforme pot fi procesate extern sau analizate de furnizorii serviciilor respective.Practic, un simplu copy-paste făcut de un angajat poate deveni o vulnerabilitate pentru companie.De exemplu:

• un angajat introduce date despre un client în ChatGPT;
• un manager cere AI-ului să analizeze o strategie internă;
• departamentul de marketing folosește baze de date pentru generarea automată de conținut.

În lipsa unor reguli clare, compania poate pierde controlul asupra informațiilor sensibile.În plus, apar și probleme legate de GDPR, mai ales atunci când sunt introduse date personale în platformele AI.

Legătura dintre AI Act și GDPR

Mulți specialiști atrag atenția că AI Act și GDPR vor merge mână în mână în următorii ani.Dacă o companie introduce în AI:

• nume de clienți;
• adrese;
• informații financiare;
• date medicale;
• baze de date;

atunci pot apărea riscuri importante privind protecția datelor.De aceea, firmele trebuie să trateze utilizarea AI exact ca pe orice alt proces care implică date sensibile.

Ce tipuri de sisteme AI sunt considerate cu risc ridicat?

AI Act clasifică sistemele AI în funcție de nivelul de risc.Cele mai stricte reguli se aplică sistemelor considerate „high-risk”.Aici pot intra:

• aplicațiile folosite pentru recrutare;
• evaluarea angajaților;
• scoring financiar;
• infrastructuri critice;
• sisteme medicale;
• soluții utilizate în educație.

Pentru aceste categorii sunt necesare măsuri suplimentare de control, documentare și transparență.

Ce obligații apar pentru companii?

Noile reguli europene obligă firmele să trateze utilizarea AI într-un mod organizat și responsabil.Printre măsurile recomandate se numără:

• realizarea unei politici interne privind utilizarea AI;
• instruirea angajaților;
• limitarea datelor care pot fi introduse în platforme AI;
• verificarea informațiilor generate automat;
• monitorizarea modului în care sunt utilizate aceste instrumente.

Pe scurt, companiile trebuie să poată demonstra că folosesc Inteligența Artificială într-un mod controlat.

Ce amenzi pot apărea?

AI Act introduce sancțiuni foarte mari pentru încălcarea regulilor.În anumite situații, amenzile pot ajunge până la:

• 35 milioane de euro; sau
• 7% din cifra de afaceri globală anuală.

Pe lângă sancțiunile financiare, companiile se pot confrunta și cu:

• investigații;
• probleme de conformare GDPR;
• pierderea încrederii clienților;
• afectarea imaginii companiei.

Ce ar trebui să facă firmele chiar acum?

Chiar dacă multe prevederi vor intra complet în aplicare în perioada următoare, companiile ar trebui să înceapă încă de acum procesul de conformare.Primii pași recomandați sunt:

1. Identificarea tuturor platformelor AI folosite în companie;
2. Stabilirea unor reguli clare pentru angajați;
3. Interzicerea introducerii datelor sensibile în AI;
4. Crearea unei politici interne privind utilizarea Inteligenței Artificiale;
5. Consultarea unui specialist juridic sau GDPR.

În realitate, multe firme folosesc deja AI fără să știe exact ce riscuri există.Iar în perioada următoare, conformarea nu va mai fi doar o recomandare, ci o necesitate.

Inteligența Artificială schimbă modul în care funcționează companiile

AI-ul poate aduce beneficii uriașe:

• productivitate mai mare;
• automatizare;
• reducerea costurilor;
• eficiență operațională;
• marketing mai rapid;
• suport mai bun pentru clienți.

Însă utilizarea acestor tehnologii fără reguli clare poate crea probleme serioase.Exact acesta este motivul pentru care Uniunea Europeană a introdus AI Act.Nu pentru a opri dezvoltarea Inteligenței Artificiale, ci pentru a obliga companiile să folosească aceste instrumente într-un mod responsabil și sigur.AI Act marchează începutul unei noi etape pentru companiile din România și din întreaga Uniune Europeană.Inteligența Artificială nu mai este doar un instrument modern de lucru. Devine și o zonă care implică responsabilitate juridică, protecția datelor și reguli clare de utilizare.Pentru firme, întrebarea nu mai este dacă folosesc AI.Întrebarea importantă este:

• folosesc AI în mod corect?
• există reguli interne?
• sunt protejate datele companiei și ale clienților?
• poate firma demonstra conformarea?

În perioada următoare, companiile care vor trata serios aceste aspecte vor avea un avantaj important și vor putea utiliza Inteligența Artificială într-un mod sigur și eficient.