Anthropic și viziunea lui Dario Amodei asupra viitorului inteligenței artificiale
În ultimii ani, Anthropic a devenit una dintre cele mai importante companii din industria inteligenței artificiale. Deși este mai puțin cunoscută publicului larg decât OpenAI, compania se află în centrul celor mai importante dezbateri privind viitorul AI, siguranța acestor tehnologii și impactul lor asupra societății.
În centrul acestei povești se află Dario Amodei, unul dintre cei mai influenți cercetători din domeniu, omul care a contribuit decisiv la dezvoltarea modelelor moderne de inteligență artificială și care, în același timp, avertizează că tehnologia pe care o construiește ar putea reprezenta unul dintre cele mai mari riscuri existențiale pentru omenire.
Cine este Dario Amodei
Înainte de a fonda Anthropic, Dario Amodei a fost unul dintre principalii cercetători ai OpenAI. El este considerat unul dintre autorii conceptului cunoscut sub numele de „legi ale scalării” (scaling laws), teoria care a demonstrat că modelele de limbaj devin semnificativ mai performante atunci când primesc cantități mai mari de date și beneficiază de o putere de calcul tot mai mare.
La momentul formulării acestei idei, mulți specialiști au privit-o cu scepticism. Evoluția rapidă a modelelor AI din ultimii ani a confirmat însă în mare măsură această ipoteză, transformând-o într-unul dintre fundamentele actualei revoluții din inteligența artificială.
De ce a părăsit OpenAI
În 2021, Dario Amodei, sora sa Daniela Amodei și alți cinci cercetători de top au decis să plece de la OpenAI și să înființeze Anthropic.
Potrivit explicațiilor oferite de Dario Amodei, decizia nu a avut la bază motive financiare, ci diferențe privind direcția companiei și nivelul de încredere în valorile promovate intern. Cei șapte fondatori au rămas împreună și astăzi, un lucru rar întâlnit într-o industrie caracterizată de schimbări rapide de echipe și competiție intensă pentru talente.
Numele Anthropic provine din grecescul „anthropos” și reflectă intenția declarată a companiei de a păstra omul în centrul dezvoltării inteligenței artificiale.
O inteligență artificială construită pe principii etice
Cel mai cunoscut produs al companiei este Claude, asistentul AI dezvoltat în jurul conceptului de „Constitutional AI”.
În loc să fie instruit exclusiv prin exemple și feedback uman, Claude este ghidat și de un set explicit de principii etice inspirate din documente precum Declarația Universală a Drepturilor Omului și din consultări cu reprezentanți ai unor tradiții morale și religioase diverse.
Obiectivul este ca sistemul să poată lua decizii într-un mod cât mai responsabil atunci când întâlnește situații ambigue sau sensibile.
Primele versiuni ale modelului au demonstrat însă cât de dificil este acest obiectiv. Uneori, Claude devenea excesiv de protector, introducea avertismente inutile și transforma conversații obișnuite în discuții cu tentă terapeutică.
În timp, Anthropic a încercat să găsească un echilibru între utilitate și prudență. Daniela Amodei descrie acest stil drept „căldură profesională”: un asistent competent, sincer și util, fără să creeze dependență emoțională sau să manipuleze utilizatorii.
Un model de afaceri diferit
Anthropic susține că nu dorește să repete greșelile rețelelor sociale, construite în jurul captării atenției și maximizării timpului petrecut online.
Compania afirmă că își concentrează produsele în special asupra mediului de afaceri, cercetării și aplicațiilor profesionale, considerând că dezvoltarea responsabilă a AI poate reprezenta și un avantaj competitiv pe termen lung.
Impactul asupra locurilor de muncă
Dario Amodei se numără printre liderii din industrie care avertizează cel mai des asupra efectelor economice ale inteligenței artificiale.
El estimează că, în următorii unu până la cinci ani, aproximativ jumătate dintre locurile de muncă entry-level din zona administrativă ar putea fi afectate semnificativ de automatizare.
În această perspectivă, economia ar putea traversa un paradox: productivitatea și PIB-ul să crească accelerat, în timp ce numărul locurilor de muncă disponibile pentru anumite categorii de angajați să scadă.
Anthropic consideră că profesiile nu vor dispărea complet, însă rolurile umane vor trebui să se concentreze pe competențe pe care algoritmii nu le pot reproduce ușor, precum empatia, relațiile interumane, creativitatea și judecata contextuală.
Totodată, Dario Amodei afirmă că tranziția va necesita politici publice complexe, inclusiv reforme educaționale, adaptarea sistemelor fiscale și discutarea unor mecanisme precum venitul de bază universal.
Relația dificilă cu sectorul militar
Una dintre cele mai controversate decizii ale companiei privește colaborarea cu instituțiile americane din domeniul apărării.
Anthropic a încheiat contracte și parteneriate cu Departamentul Apărării al SUA și alte organizații implicate în securitate națională. Argumentul fiind că democrațiile trebuie să rămână competitive tehnologic într-un context geopolitic tot mai tensionat.
În același timp, compania afirmă că a refuzat solicitări privind eliminarea mecanismelor de siguranță integrate în modelele sale și susține că nu permite utilizarea tehnologiei pentru:
-
supraveghere facială în masă.
-
sisteme autonome de armament.
-
situații în care inteligența artificială ia singură decizii privind viața și moartea.
Aceste refuzuri au generat critici și atacuri politice. Însă Dario Amodei susține că menținerea acestor limite reprezintă o obligație morală.
Mythos – modelul AI care nu a fost lansat public
Un alt exemplu al abordării prudente promovate de Anthropic este Mythos. Un model AI specializat în identificarea vulnerabilităților informatice.
Potrivit companiei, sistemul poate detecta rapid mii de puncte slabe din infrastructuri digitale complexe, ceea ce îl transformă într-un instrument cu un potențial defensiv major pentru securitatea cibernetică.
În același timp, aceeași capacitate ar putea fi utilizată și ofensiv.
Din acest motiv, Anthropic a decis inițial să nu lanseze modelul public. A permis accesul doar unui număr restrâns de organizații verificate prin programul GlassWing.
Compania susține că această decizie a avut costuri comerciale importante. Însă criticii consideră că strategia a contribuit și la consolidarea imaginii sale de dezvoltator responsabil.
Problema guvernanței AI
Unul dintre mesajele promovate este că dezvoltarea AI avansează mult mai rapid decât capacitatea instituțiilor de a o reglementa.
Spre deosebire de tehnologii precum energia nucleară, dezvoltate sub supraveghere guvernamentală și însoțite de tratate internaționale, AI-ul modern este creat în principal de companii private.
În opinia sa, este nevoie de mecanisme internaționale de control, standarde obligatorii de testare și sisteme de verificare independente. Amodei consideră că nici companiile și nici guvernele nu ar trebui să dețină singure controlul asupra unei tehnologii atât de puternice.
Estimarea care a atras atenția întregii lumi
Poate cea mai discutată declarație făcută de Dario Amodei este evaluarea potrivit căreia există o probabilitate de aproximativ 10–25% ca inteligența artificială foarte avansată să contribuie, în anumite condiții, la colapsul civilizației umane.
Afirmația este remarcabilă deoarece provine chiar de la unul dintre oamenii care dezvoltă aceste sisteme.
Întrebat cum justifică continuarea cercetării în aceste condiții, Amodei compară situația cu industria aviatică. Obiectivul nu este eliminarea completă a riscului, ci reducerea lui la un nivel cât mai scăzut. Oprirea dezvoltării AI de către o singură companie nu ar împiedica apariția tehnologiei. Doar ar lăsa loc unor actori care ar putea fi mai puțin preocupați de siguranță.
Un paradox fără răspuns simplu
Povestea Anthropic este construită în jurul unui paradox fundamental.
Compania dezvoltă unele dintre cele mai avansate sisteme de inteligență artificială din lume. Avertizează în același timp asupra riscurilor pe care acestea le pot genera. Ea încearcă să impună limite etice. Încearcă să întârzie lansarea unor modele considerate prea puternice și să promoveze reglementarea internațională.
Rămâne însă o întrebare deschisă: poate o companie privată, indiferent de intențiile declarate, să stabilească singură limitele unei tehnologii care ar putea remodela economia, securitatea și societatea în ansamblul ei? Deocamdată, răspunsul nu este clar. Dezbaterea privind viitorul inteligenței artificiale este abia la început.