Inteligența artificială nu se poate supraveghea singură

Statele Unite au creat un nou grup federal pentru inteligența artificială la câteva zile după ce mari companii tehnologice au acceptat un acord voluntar privind dezvoltarea sistemelor lor. Alăturarea celor două momente rezumă dilema actuală a politicii tehnologice: cât poate fi lăsat în seama industriei și unde trebuie să înceapă obligația publică, verificabilă și însoțită de sancțiuni?

Răspunsul comod este că firmele cunosc cel mai bine tehnologia, iar statul se mișcă prea încet pentru a o reglementa. Prima parte este adevărată. Companiile văd direct limitele modelelor, incidentele de securitate și costurile infrastructurii. A doua parte nu justifică însă delegarea regulilor către cei care vând produsul. Viteza privată nu poate deveni scut împotriva răspunderii publice.

Associated Press arată că noua structură americană va fi condusă de directorul comunității de informații și va include reprezentanți ai autorității de concurență, Pentagonului și administrației federale. Va consulta consumatori, organizații civice, operatori de infrastructură critică și companii. Formula este largă, dar deocamdată nu are publice un calendar, un buget sau rezultate obligatorii. Un grup de coordonare poate acoperi golurile dintre agenții; poate și să le ascundă sub o denumire nouă.

Angajamentele voluntare au un rol. Ele pot fixa rapid practici minime, pot crea limbaj comun și pot face posibil schimbul de informații despre incidente. Sunt utile mai ales când legislația se scrie greu și tehnologia se schimbă la câteva luni. Problema apare când promisiunea este prezentată ca substitut pentru regulă. O companie decide singură ce dezvăluie, cum măsoară riscul și când consideră că și-a îndeplinit angajamentul. Publicul nu are acces la toate datele și nici o cale sigură de contestare.

Conflictul de interese este evident. Laboratoarele de AI sunt evaluate după creștere, venituri, capacitate de calcul și viteză de lansare. O testare mai lungă, o limită de utilizare sau retragerea unui model pot proteja societatea, dar reduc avantajul comercial pe termen scurt. Nu este nevoie să presupunem rea-credință. Este suficient să recunoaștem că managementul unei companii nu poate reprezenta simultan investitorul, clientul, angajatul înlocuit de automatizare și cetățeanul afectat de o decizie algoritmică.

Uniunea Europeană a ales o arhitectură diferită. Cadrul explicat de Comisia Europeană clasifică utilizările în funcție de risc și leagă obligațiile de efectul produsului, nu doar de tehnologia folosită. Sistemele care influențează recrutarea, creditarea sau accesul la servicii esențiale nu sunt tratate ca o aplicație de divertisment. Abordarea europeană este mai lentă și produce costuri de conformare, dar pornește de la o idee corectă: prejudiciul posibil trebuie să stabilească intensitatea controlului.

Nici modelul european nu este suficient prin simpla existență a unui regulament. O regulă fără auditori, specialiști tehnici și proceduri rapide devine documentație pentru dosar. Instituțiile trebuie să poată cere acces la teste, să compare performanța promisă cu cea reală și să oblige furnizorul să corecteze sau să retragă un sistem. Altfel, răspunderea se împarte între dezvoltator, integrator și utilizator până când nu mai aparține nimănui.

România intră în această discuție într-o poziție vulnerabilă. Administrația cumpără produse digitale de la furnizori asupra cărora are puțină putere, iar multe instituții nu au suficienți oameni capabili să evalueze un model. În mediul privat, întreprinderile mici folosesc servicii externe fără să poată audita datele de antrenare sau modificările algoritmului. Riscul este ca regulile să fie copiate în caiete de sarcini, iar controlul real să rămână la compania care oferă soluția.

Primul pas util nu este înființarea unei noi autorități cu organigramă generoasă. Este o hartă publică a utilizărilor cu impact mare. Ce instituții folosesc sisteme automatizate pentru verificări fiscale, alocarea beneficiilor, sănătate, educație sau securitate? Cine furnizează modelele? Ce date intră în ele? Ce persoană poate revizui decizia? Fără această evidență, supravegherea începe după incident și se limitează la comunicare de criză.

Al doilea pas este contractul. Statul și companiile mari trebuie să ceară drept de audit, jurnalizarea deciziilor, notificarea incidentelor și posibilitatea de a schimba furnizorul fără pierderea datelor. Un serviciu de AI nu trebuie cumpărat ca o licență de birou. El se schimbă în timp, poate depinde de infrastructură aflată în altă jurisdicție și poate modifica decizii cu efect juridic sau financiar. Contractul trebuie să urmărească această realitate pe toată durata utilizării.

Al treilea pas este competența publică. Specialiștii buni nu vor veni în administrație doar pentru un titlu de consilier. Sunt necesare echipe mici, bine plătite, care pot lucra între instituții și pot publica evaluări inteligibile. România poate folosi centre universitare, autorități sectoriale și cooperarea europeană, dar trebuie să păstreze o capacitate proprie de a pune întrebări tehnice și de a contesta răspunsuri insuficiente.

Transparența trebuie să fie practică. Nimeni nu câștigă dacă un cetățean primește sute de pagini despre arhitectura unui model. Are nevoie să știe când o decizie importantă a fost influențată de un sistem automatizat, ce factori au contat, cum poate cere revizuirea și în cât timp primește un răspuns uman. Companiile au nevoie de criterii previzibile, nu de permisiuni informale negociate după fiecare incident.

Rămâne și problema concurenței. Puterea de calcul, datele și distribuția sunt concentrate în câteva grupuri globale. Dacă standardele sunt scrise numai de cei mai mari furnizori, ele pot deveni bariere pentru firmele mici. Dacă nu există standarde, avantajul revine tot celor mari, singurii care pot absorbi costul incidentelor și al litigiilor. Regula bună trebuie să fie proporțională, dar aceeași pentru modele cu efect comparabil.

Casa Albă a publicat duminică documentul de la Kyoto prin care 17 state susțin extinderea accesului cercetătorilor la calcul, date și laboratoare. Este o direcție valoroasă. Accesul la infrastructură reduce dependența universităților de câteva companii și permite verificarea independentă. O politică a siguranței fără cercetare publică ajunge să creadă evaluările furnizorului pentru că nu are cu ce să le compare.

Administrația americană își va demonstra seriozitatea nu prin numele grupului, ci prin primele obligații pe care le formulează, datele pe care le publică și incidentele pe care le investighează. Europa își va demonstra eficiența prin aplicare, nu prin densitatea regulamentului. România va fi judecată după capacitatea de a transforma reguli importate în protecție concretă pentru cetățeni și condiții clare pentru firme.

Inteligența artificială poate accelera cercetarea, reduce costuri și îmbunătăți servicii. Tocmai amploarea beneficiului cere o răspundere pe măsură. Companiile trebuie ascultate și obligate să contribuie la standarde. Nu trebuie lăsate să fie singurul arbitru al propriilor riscuri. Un sistem care decide tot mai mult în economie nu se poate supraveghea singur, iar statul nu își poate externaliza această datorie.