Riscurile și provocările inteligenței artificiale: Cum Claude, chatbotul de la Anthropic, își scrie propriul cod și ar putea schimba lumea tehnologică
Anthropic, compania care dezvoltă chatbotul Claude, a publicat recent o analiză amplă, citată de Il Post, în care descrie ceea ce consideră a fi unul dintre cele mai importante riscuri ale următorilor ani: apariția unui proces de „auto-îmbunătățire recursivă”, în care o inteligență artificială devine suficient de performantă încât să poată crea și optimiza singură versiunile sale viitoare.
Claude scrie deja cea mai mare parte a codului companiei. Potrivit Anthropic, aproximativ 80% din codul utilizat în prezent de companie este generat de propriul chatbot, Claude. La începutul anului 2025, doar o mică parte din cod era produsă automat, majoritatea sarcinilor fiind realizate de programatori umani.
Compania afirmă că nu doar cantitatea de cod generat a crescut spectaculos, ci și calitatea acestuia. Diferențele dintre codul produs de AI și cel scris de dezvoltatori umani sunt tot mai mici, iar Anthropic estimează că sistemul ar putea depăși performanțele umane chiar în cursul acestui an.
În paralel, Claude este folosit și în activități de cercetare. Anthropic susține că a realizat deja proiecte de cercetare conduse aproape integral de agenți AI, care au obținut rezultate mai bune decât echipele umane, chiar dacă au necesitat mai mult timp de procesare.
Conceptul care îngrijorează cel mai mult compania este cel de „auto-îmbunătățire recursivă”, în care un model AI devine suficient de avansat pentru a proiecta și antrena singur versiuni mai performante ale sale, declanșând un ciclu continuu de progres tehnologic. Anthropic descrie trei posibile direcții de evoluție pentru inteligența artificială, inclusiv scenarii care ar putea transforma radical economia și relația dintre oameni și mașini.
Deși există preocupări legate de riscurile asociate inteligenței artificiale, Anthropic recunoaște că un acord global pentru încetinirea dezvoltării este improbabil, având în vedere competiția intensă din industrie și importanța strategică a AI pentru state precum SUA și China. Compania consideră că continuarea investițiilor și dezvoltării este necesară pentru a rămâne competitivă și pentru a influența direcția tehnologică într-un mod responsabil.
