Reglementarea în domeniul IA este importantă pentru întreprinderi atunci când acestea utilizează sisteme care prelucrează date cu caracter personal sau generează conținut pentru clienți și angajați. Un model de IA este un sistem antrenat cu date și tehnici de învățare automată pentru a îndeplini sarcini specifice. Acesta învață modele, relații și reguli din datele de antrenament, apoi folosește acele cunoștințe pentru a analiza informații noi, a face predicții sau a genera conținut. Aflați mai multe despre modelele de IA.
Cuprins
Când generează un sistem de IA o obligație de reglementare?
Punctul de plecare esențial îl constituie datele și activitatea implicată. GDPR, Regulamentul general privind protecția datelor, reglementează modul în care datele cu caracter personal sunt colectate, prelucrate, stocate și protejate. Acesta se aplică organizațiilor care prelucrează datele cu caracter personal ale persoanelor aflate pe teritoriul Uniunii Europene. GDPR a intrat în vigoare la 25 mai 2018. Aflați mai multe despre GDPR și conformitatea site-urilor web.
Aceasta înseamnă că un proiect de IA necesită o atenție deosebită atunci când utilizează informații referitoare la persoane. Aceeași considerație se aplică indiferent dacă sistemul este un instrument intern sau un serviciu destinat clienților. Un chatbot, un copilot, un sistem automat de luare a deciziilor sau o funcție generativă de IA poate utiliza un model de IA pentru a analiza informații, a face previziuni sau a genera conținut. Dacă datele cu caracter personal fac parte din acest proces, compania trebuie să explice modul în care aceste date sunt colectate, prelucrate, stocate și protejate.
Cum influențează modelele de IA produsele și serviciile
Adăugarea unui model de IA la un produs modifică modul în care produsul gestionează informațiile. Modelul poate primi date ca intrare, poate identifica tipare în aceste date și poate genera o predicție, o analiză sau un răspuns. Prin urmare, echipa de produs trebuie să înțeleagă ce informații intră în sistem și ce produce sistemul.
În cazul unui chatbot, acest lucru poate implica mesaje ale clienților. În cazul unui copilot, poate implica informații furnizate de angajatul care utilizează instrumentul. Pentru deciziile automatizate, modelul poate analiza informațiile și genera o predicție sau o recomandare. În cazul IA generativă orientată către clienți, modelul poate genera text sau alt tip de conținut ca răspuns la datele introduse de utilizator. Aceste utilizări trebuie evaluate prin prisma principiilor GDPR privind colectarea, prelucrarea, stocarea și protejarea datelor cu caracter personal, atunci când sunt implicate astfel de date.
Ce ar trebui să verifice întreprinderile înainte de implementare
O analiză practică ar trebui să înceapă cu scopul sistemului și fluxul de date. Următoarele întrebări ajută la definirea activității de conformitate:
- Ce sarcină va îndeplini modelul de IA? Precizați dacă acesta va analiza informații, va face previziuni, va genera conținut sau va sprijini o altă sarcină definită.
- Ce informații va primi sistemul? Identificați dacă datele de intrare includ date cu caracter personal referitoare la persoane din Uniunea Europeană.
- Cum vor fi prelucrate informațiile? Stabiliți modul în care funcția de IA utilizează datele de intrare pentru a produce un răspuns, o previziune, o recomandare sau conținut generat.
- Unde sunt stocate informațiile? Examinați locurile în care sunt stocate datele cu caracter personal și măsurile de control utilizate pentru a le proteja.
- Ce trebuie să înțeleagă utilizatorul? Clarificați rolul funcției de IA pentru persoanele care furnizează informații sau primesc conținut generat, în special în cazul în care funcția este orientată către clienți.
De ce sunt importante transparența și supravegherea umană
Modelele de IA învață din datele de antrenare și aplică tiparele învățate la informații noi. Rezultatul lor este, prin urmare, generat prin analiza datelor, mai degrabă decât printr-o simplă regulă fixă. Companiile ar trebui să clarifice rolul modelului în cadrul produsului și să identifice modul în care oamenii interacționează cu rezultatul acestuia.
Revizuirea umană este deosebit de relevantă atunci când rezultatul generat de IA influențează un angajat, un client sau o altă persoană. O întreprindere ar trebui să definească cine revizuiește rezultatul și ce se întâmplă atunci când rezultatul necesită corectare. Nivelul de revizuire ar trebui să reflecte rolul funcției de IA în cadrul produsului și tipul de informații pe care le gestionează.
Colaborarea cu furnizorii de IA
Atunci când un furnizor extern pune la dispoziție modelul sau serviciul de IA, compania trebuie totuși să înțeleagă modul în care sunt gestionate informațiile sale. Rolul furnizorului trebuie considerat ca parte a fluxului de date al produsului. Înainte de implementare, confirmați ce informații sunt trimise serviciului, cum sunt procesate aceste informații, unde sunt stocate și cum sunt protejate.
Această analiză este importantă pentru chatboți, copiloți, decizii automatizate și funcționalități generative de IA, deoarece fiecare dintre acestea poate procesa informații furnizate de clienți sau angajați. O evaluare a furnizorului ar trebui, de asemenea, să stabilească modul în care compania poate explica utilizarea sistemului persoanelor afectate și modul în care sunt gestionate preocupările sau rezultatele incorecte.
Utilizarea IA de către angajați
Angajații pot utiliza modele de IA pentru a analiza informații, a genera conținut sau a-și sprijini activitatea. Compania ar trebui să stabilească limite clare privind informațiile pe care angajații le introduc în aceste sisteme. Aceste limite ar trebui să reflecte responsabilitatea organizației de a proteja datele cu caracter personal pe care le colectează, le prelucrează și le stochează.
Instrumentele de IA destinate angajaților ar trebui, de asemenea, să aibă un scop bine definit. Un sistem utilizat pentru a genera conținut are o funcție diferită de cea a unui sistem utilizat pentru a face previziuni sau pentru a sprijini deciziile automatizate. Precizarea scopului ajută compania să analizeze datele implicate, să explice rolul instrumentului și să decidă în ce situații este necesară verificarea umană.
Când este necesar să se solicite consultanță juridică sau de specialitate
Este indicat să se solicite consultanță juridică sau de specialitate înainte de implementare atunci când funcția de IA prelucrează date cu caracter personal, afectează clienții sau angajații, susține o decizie automatizată sau se bazează pe un furnizor extern de IA. Consilierea este utilă și atunci când întreprinderea nu poate descrie în mod clar ce date intră în sistem, cum sunt prelucrate, unde sunt stocate sau cum sunt protejate.
Ar trebui efectuată o analiză documentată înainte ca funcționalitatea de IA să devină parte integrantă a unui produs sau a unui proces la locul de muncă. Revizuirea ar trebui să facă legătura între scopul modelului, utilizarea datelor și măsurile de protecție aplicate acestor date. Acest lucru oferă întreprinderii o bază clară pentru a decide dacă utilizarea planificată este pregătită pentru implementare.