Anthropic propune reglementări stricte pentru modelele avansate de inteligență artificială: Protejarea societății de riscuri catastrofale
Într-un document intitulat „Advanced AI Framework”, compania Anthropic aduce în discuție necesitatea ca guvernele să obțină autoritatea legală de a bloca sau descuraja lansarea modelelor de inteligență artificială care prezintă riscuri catastrofale pentru societate.
Potrivit argumentelor expuse de Anthropic, modelele de ultimă generație devin din ce în ce mai capabile și pot genera riscuri majore în patru domenii principale: dezvoltarea armelor biologice, atacurile cibernetice, pierderea controlului asupra sistemelor AI și automatizarea cercetării în domeniul AI, ceea ce ar putea accelera celelalte riscuri.
Compania susține că cerințele actuale de transparență nu mai sunt suficiente și propune un cadru de reglementare aplicabil doar modelelor avansate de AI dezvoltate de companii cu venituri de peste 500 de milioane de dolari din activități AI sau cu investiții de peste un miliard de dolari în cercetare și dezvoltare.
Printre măsurile propuse de Anthropic se numără obligativitatea testării modelelor înainte de lansare, publicarea rezultatelor evaluărilor de siguranță, realizarea de audituri independente și implementarea unor programe solide de securitate cibernetică pentru protejarea modelelor și infrastructurii de antrenare.
Anthropic recomandă, de asemenea, introducerea unor sancțiuni civile raportate la veniturile globale ale companiilor care încalcă regulile și acordarea unor competențe clare autorităților pentru a împiedica implementarea modelelor considerate periculoase.
În paralel, compania solicită măsuri pentru creșterea rezilienței societății în fața riscurilor asociate inteligenței artificiale. Propunerile includ consolidarea supravegherii epidemiologice și verificarea comenzilor pentru sinteza genelor în domeniul biologic, precum și modernizarea infrastructurilor informatice critice și crearea unor mecanisme guvernamentale dedicate monitorizării capacităților cibernetice ale sistemelor AI de frontieră în domeniul cibernetic.
Anthropic subliniază că progresele în domeniul inteligenței artificiale vor continua într-un ritm rapid în următoarele luni și îndeamnă factorii de decizie să inițieze dezbaterile și să elaboreze cadrul de reglementare înainte ca noile generații de modele să devină și mai puternice.
