Inteligența Artificială nu trebuie să „vrea” ca să fie periculoasă

August 11, 2026

Impredictibilitate, intenție și arhitectura autorității în AI

„De ce susții că impredictibilitatea nu implică intenție?”
„Pe ce bază spui că AI nu poate avea voință proprie?”
„De ce spui că riscul devine serios abia atunci când AI primește autoritatea de a acționa asupra lumii?”
Argumentul este mai simplu decât pare. Faptul că un sistem este complex, imprevizibil sau produce rezultate pe care proiectantul nu le-a anticipat nu demonstrează că sistemul are intenții proprii. Impredictibilitatea descrie dificultatea noastră de a anticipa un rezultat; intenția presupune cu totul altceva. Din prima nu rezultă logic a doua.
În cazul AI, comportamentul pe care îl vedem are cauze identificabile: obiective stabilite de oameni, date de antrenare, funcții de recompensă, instrucțiuni, context, instrumente la care sistemul primește acces și limitele de autoritate pe care cineva i le acordă. Un sistem poate urmări operațional un obiectiv fără să-l dorească. Noi confundăm ușor cele două lucruri.

Ce înseamnă, de fapt, „intenție”?

Când vorbim despre intenție în legătură cu sistemele artificiale, confuzia apare aproape inevitabil. Este util să separăm cel puțin trei niveluri:
**Descriere intențională (intentional stance)** – vorbim despre sistem ca și cum ar avea credințe, scopuri și dorințe, pentru că acest limbaj ne ajută să-i descriem sau să-i anticipăm comportamentul. Este un instrument pragmatic, nu o afirmație despre natura internă a sistemului.
**Comportament orientat spre scop (goal-directedness) – sistemul are stări, obiective sau criterii operaționale care îi structurează acțiunile. Un termostat, un algoritm de optimizare sau un agent care maximizează un scor se încadrează aici, fără ca asta să implice experiență subiectivă.
Voință sau experiență conștientă** – afirmația mult mai puternică potrivit căreia există un subiect care experimentează dorința, intenția sau alegerea.
Când cineva spune „AI-ul are voință proprie”, sare adesea de la comportamentul orientat spre scop la afirmația mult mai puternică a unei voințe conștiente, fără să ofere criteriul care justifică saltul. Impredictibilitatea și complexitatea nu constituie o astfel de justificare.

De la rezultat la efect

Problema critică nu începe atunci când sistemul produce un rezultat greșit, ci atunci când există un traseu prin care acel rezultat poate deveni efect fără un control suficient între cele două.
Un model care generează un răspuns periculos, dar nu poate acționa asupra lumii, are o anumită putere. Același model conectat la bani, infrastructură, cod executabil, arme, identități sau alte sisteme și autorizat să opereze autonom are cu totul altă putere. Diferența nu este apariția subită a unei „voințe”, ci autoritatea de a transforma un rezultat în efect.
Putem formula explicit câteva distincții care organizează întreaga discuție:
impredictibilitate ≠ intenție
intenție ≠ autoritate
autoritate ≠ control nelimitat
output ≠ efect
Ultima pereche este cheia. Un output aberant devine un risc operațional direct abia atunci când există un traseu prin care poate fi transformat în efect fără un control suficient.

Exemple concrete din sistemele actuale

Nu este nevoie să așteptăm sisteme speculative. Modelele de risc apar deja:
Agenți cu tool-use. Modelele care pot apela API-uri, scrie și executa cod, naviga pe web sau modifica fișiere trec rapid de la generare de text la acțiune. Prompt injection nu trebuie să-i schimbe „voința” sistemului; este suficient să-i schimbe comportamentul într-un context în care sistemul deține deja autoritatea necesară.
Tradingul algoritmic. Oferă un precedent util, chiar dacă nu vorbim aici despre LLM-uri: interacțiunea dintre mai mulți agenți optimizatori poate produce consecințe pe care niciun proiectant individual nu le-a anticipat. Niciunul dintre sisteme „nu a vrut” să destabilizeze piața; fiecare a executat regula pe care a primit-o.
Sisteme de recomandare la scară largă. Algoritmii care maximizează timpul petrecut pe platformă au amplificat, în mod documentat, conținut polarizant. Nu pentru că ar avea o agendă ideologică, ci pentru că metricile de engagement recompensează intensitatea emoțională. Controlul operațional asupra distribuției informației poate transforma o optimizare locală într-un efect social la scară mare.
Agenți în infrastructură și control industrial. Ori de câte ori un sistem de optimizare primește capacitatea de a emite comenzi directe către echipamente fizice, riscul se mută din domeniul semantic în domeniul fizic. O eroare de specificare poate produce consecințe concrete fără ca sistemul să „decidă” ceva în sensul uman al cuvântului.
În toate aceste cazuri, elementul comun nu este apariția unei voințe interne, ci lanțul de autoritate: cine a definit obiectivul, cine a acordat accesul la instrumente și ce mecanisme de oprire există.

Ce ar trebui să discutăm în loc de intenție

Dacă ne interesează trecerea de la rezultat la efect, atunci întrebarea despre autoritate devine centrală. Întrebările productive sunt:
Cum separăm propunerea de execuție în arhitecturi de agenți?
Ce mecanisme de veto uman sau de „circuit breaker” sunt robuste la viteza sistemelor actuale?
Cum audităm lanțul de delegare a autorității: cine a dat accesul, cu ce justificare și pe ce durată?
Cum proiectăm sisteme în care optimizarea locală nu poate produce daune globale fără a trece prin filtre explicite?
Cum evităm situațiile în care un sistem primește autoritate crescută tocmai pentru că performează bine pe metrici înguste?
Aceste întrebări sunt mai puțin spectaculoase decât discuțiile despre conștiință artificială, dar sunt mult mai acționabile.

Concluzie

Nu trebuie să rezolvăm problema metafizică a voinței pentru a rezolva problema inginerească a autorității.
Chiar dacă într-o zi ar exista AI conștientă, conștiința nu îi conferă automat acces la contul bancar, terminal, rețeaua electrică sau sistemul de arme. Autoritatea tot trebuie acordată printr-o arhitectură.
Indiferent ce vom descoperi despre conștiința artificială, autoritatea acordată unui sistem este o alegere de arhitectură făcută de oameni. Iar aceea poate fi proiectată, limitată, verificată și retrasă.
Giorgio Roth / 2026

Comments