O lume nouă și îndrăzneață: Suntem pregătiți să cedăm controlul inteligenței artificiale?

Algoritmii au participat de mult timp la guvernare. Ei decid ce anunțuri de angajare ajung la ce cetățeni, ce declarații fiscale sunt selectate pentru audit, ce cazuri sociale sunt prioritizate și chiar cum sunt programate rutele de patrulare ale poliției.

Multe dintre acestea s-au desfășurat discret, sub denumirea de „suport decizional”, mai degrabă decât ca decizii directe.

Ceea ce face ca dezvoltările recente din Albania și Japonia să fie distinctive este că aceste sisteme nu mai sunt infrastructură ascunsă.

Guvernul Albaniei a însărcinat oficial asistentul său digital Diella să gestioneze procesele de achiziții, iar partidul japonez minor Path to Rebirth a declarat că va numi un AI ca lider al său.

Niciunul dintre aceste cazuri nu reprezintă o predare completă a autorității către tehnologii. Diella rămâne un instrument de lucru supravegheat, iar partidul japonez nu deține mandate în legislativul național și trebuie să desemneze în continuare un reprezentant uman pentru depunerea documentelor oficiale.

Chiar și așa, aceste mișcări sunt semnificative. Ele mută luarea deciziilor algoritmice dintr-o funcție de fundal într-un rol instituțional numit și recunoscut public.

Ele transmit mesajul că guvernanța algoritmică, de mult timp un fapt discret al vieții administrative, devine explicită și trebuie abordată în termeni de design instituțional, legitimitate și responsabilitate.

Guvernanța algoritmică, în sens larg, nu este ceva nou. Decenii întregi, guvernele și firmele au folosit formule de scor, modele de risc și arbori decizionali pentru a orienta rezultate.

Ceea ce este distinctiv astăzi este discuția despre sistemele AI care învață din date, se adaptează în timp și operează la scară largă.

Aceste sisteme fac mai mult decât să execute reguli fixe. Ele generează modele, clasifică alternative și, uneori, propun acțiuni neprevăzute de proiectanții lor.

Acest lucru le conferă putere, dar le face și mai greu de analizat.

Numirile publice recente ale sistemelor AI în Albania și Japonia atrag atenția asupra acestei schimbări. Este vorba despre guvernarea cu sisteme care evoluează, a căror rațiune trebuie să rămână inteligibilă pentru a se păstra supravegherea democratică.

Guvernanța algoritmică și visul obiectivității

De la Leibniz la Condorcet, gânditorii Iluminismului și-au imaginat înlocuirea disputelor cu calculul.

Leibniz a propus chiar un „calcul universal” prin care adversarii să își rezolve neînțelegerile prin simpla afirmație calculemus („să calculăm”).

Jeremy Bentham a transpus această viziune în politica utilitaristă, susținând că scopul guvernării ar trebui să fie maximizarea fericirii colective prin calcul rațional.

Guvernanța algoritmică contemporană pare să dea viață acestui proiect. Ea promite decizii purificate de capricii și prejudecăți, livrate cu regularitatea unui apel de funcție.

Guvernanța modernă s-a confruntat îndelung cu tensiunea dintre ordine și autonomie, între promisiunea unei administrații imparțiale și teama de control sufocant.

Sociologia birocrației a lui Max Weber oferă primul reper conceptual major. Weber a descris statul modern ideal ca fiind guvernat de reguli, nu de capriciile personale, caracterizat prin proceduri formale, registre scrise și supraveghere ierarhică.

Sistemele algoritmice reprezintă o extensie logică a acestui proiect. Ele promit consistență prin eliminarea discreției la nivelurile inferioare și prin aplicarea uniformității.

Dar ele fac și „cușca de fier” a lui Weber mai strâns. Din această perspectivă, există o continuitate istorică considerabilă: guvernanța algoritmică nu este o ruptură, ci o intensificare a raționalizării.

Mai târziu, cibernetica, apărută în anii 1940, a redefinit guvernanța ca pe o problemă de control prin feedback. Concepția lui Norbert Wiener a fost că sistemele biologice, mecanice sau sociale pot fi reglate prin monitorizarea stării lor, compararea acesteia cu un obiectiv și aplicarea corecțiilor.

Modelul „Viable System” al lui Stafford Beer din anii 1970 aplica această logică la întreaga economie, imaginând statul ca un procesor viu de informații.

Guvernanța algoritmică operaționalizează această viziune. Senzorii devin fluxuri digitale de date, sistemele de control devin modele de învățare automată, iar acțiunile corective pot fi aplicate cu viteza mașinii.

În perioada postbelică, guvernele au adoptat cercetarea operațională, programarea liniară și analiza deciziilor pentru a optimiza logistica, alocările bugetare și planificarea socială.

Analiștii Războiului Rece căutau răspunsuri „optime” în condiții stricte. Gândiți-vă la jocurile de război de tip tabletop de la RAND, care le permiteau oficialilor să repete scenarii de criză, eforturile sovietice de a conduce economia cu modele computerizate bazate pe feedback și planificarea britanică postbelică care folosea tabele input-output pentru stabilirea obiectivelor de producție.

Metodele fiind lizibile, factorii de decizie puteau urmări modul în care cifrele generau recomandările.

Sistemele algoritmice moderne moștenesc etosul optimizării, dar înlocuiesc ecuațiile interpretabile cu rețele neuronale opace. Aceasta creează o discontinuitate istorică: moștenim credința în optimizare, dar fără garanția explicabilității.

Valurile de digitalizare din anii 1990 și 2000 s-au concentrat pe eficiență prin portaluri online, depuneri electronice și gestionarea automată a cazurilor. Acestea au fost în mare parte îmbunătățiri de servicii, nu redefiniri ale puterii.

Guvernanța algoritmică folosește această infrastructură ca substrat, dar trece de la păstrarea pasivă a înregistrărilor la dirijarea activă.

Sistemele prioritizează acum ce cazuri văd ofițerii umani, prezic ce politici vor atinge obiectivele de performanță și uneori aplică automat sancțiuni sau decizii privind eligibilitatea.

Statul se transformă de la un registru într-un generator de recomandări și, în anumite domenii, într-un actor.

Guvernarea prin AI

Ceea ce este nou în acest moment nu este aspirația de a raționaliza guvernanța, ci proprietățile instrumentelor folosite.

Spre deosebire de sistemele bazate pe reguli din deceniile anterioare, AI contemporan operează pe baza inferenței statistice, nu a logicii explicite. Produce rezultate nu prin aplicarea unor reguli transparente, ci prin maparea corelațiilor complexe din date.

Aceasta permite flexibilitate și adaptare, sistemele putând să se actualizeze pe măsură ce apar date noi.

Totuși, introduce și opacitate. Factorii de decizie pot avea dificultăți în a explica de ce o anumită recomandare a fost făcută sau în a reconstrui lanțul raționamentului din spatele unui rezultat.

În acest sens, guvernanța algoritmică de astăzi nu doar că strânge „cușca” lui Weber; riscă să înlocuiască barele vizibile cu unele invizibile.

O altă diferență cheie este scala și granularitatea. Sistemele administrative anterioare puteau doar generaliza.

Ele aplicau reguli uniforme unor categorii largi de cazuri. Modelele de învățare automată, în schimb, permit micro-diferențierea. Scoruri de risc, decizii de eligibilitate și ajustări ale politicilor pot fi calibrate la nivel de cartier sau chiar individ.

Aceasta aduce atât oportunități, cât și provocări. Pe de o parte, resursele pot fi direcționate cu precizie fără precedent, reducând risipa și inechitatea.

Pe de altă parte, o guvernanță atât de fină poate fragmenta însăși ideea de „public”, înlocuind tratamentul colectiv cu optimizarea individualizată și făcând justificarea politică mai dificilă: de ce cazul meu a fost tratat diferit față de cel al vecinului, dacă niciun om nu a luat decizia?

Există și o schimbare temporală. Sistemele birocratice și de planificare clasice funcționau periodic și retrospectiv. Datele recensământului erau colectate o dată la zece ani, bugetele erau întocmite anual, iar revizuirile de politici aveau loc la fiecare sesiune legislativă.

Sistemele moderne de inteligență artificială pot funcționa continuu, pot prelua date în timp real și pot ajusta deciziile instantaneu.

Aceasta introduce posibilitatea unei guvernanțe dinamice, un fel de administrație „în mișcare”, mereu ușor schimbătoare.

Însă acest lucru complică supravegherea. Atunci când deciziile sunt actualizate constant, ce anume trebuie evaluat într-un audit legislativ sau într-o revizuire judiciară? Versiunea modelului de luna trecută, cea de săptămâna trecută sau cea care rulează chiar acum?

Guvernanța condusă de AI introduce o nouă distribuție a agenției. Sistemele de astăzi pot genera opțiuni și propune strategii neprevăzute de creatorii lor.

Aceasta estompează linia dintre asistența decizională și luarea efectivă a deciziilor. De asemenea, schimbă competențele necesare funcționarilor publici. Aceștia trebuie să guverneze nu doar populații, ci și modele.

Trebuie să învețe când să aibă încredere, când să intervină și cum să traducă valorile publice în parametri tehnici.

Întrebarea esențială este dacă modelul AI continuă să învețe într-un mod consistent cu intențiile democratice.

Studii de caz timpurii

Sistemele algoritmice se diferențiază de tehnologiile administrative anterioare în trei moduri importante: sunt adaptive, se bazează pe inferință probabilistică în loc de reguli fixe și operează la o scară care poate afecta milioane de cazuri simultan.

Aceste proprietăți permit guvernelor să direcționeze resurse cu o precizie fără precedent și să anticipeze problemele înainte ca acestea să escaladeze.

Totuși, ele amplifică și impactul erorilor, pot încorpora prejudecăți greu de detectat și fac supravegherea mai complexă.

În loc să respingem aceste evoluții ca simple gesturi de imagine sau să le privim cu teamă ca pe semne ale dominației tehnologiilor, ar trebui să tratăm experimentele din Albania și Japonia ca studii de caz timpurii.

Ele oferă o oportunitate de a concepe norme, practici de audit și cadre legale care să reglementeze luarea deciziilor algoritmice înainte ca aceasta să devină profund înrădăcinată.

Albania și Japonia au făcut, intenționat sau nu, guvernanța algoritmică vizibilă.

Sarcina de acum este să decidem cum să o menținem legitimă, contestabilă și conformă principiilor democratice înainte ca următorul birou să primească o plăcuță digitală.