Anthropic amână lansarea noului model AI Claude Mythos Preview din motive de securitate
Compania Anthropic a prezentat recent noul său model AI denumit „Claude Mythos Preview”, care a stârnit interesul industriei tehnologice. Potrivit declarațiilor oficiale, tehnologia este capabilă să identifice vulnerabilități critice în sisteme de operare și browsere, având potențialul de a fi exploatată de către infractorii cibernetici.
Deși inițial planificată pentru lansare publică, compania a decis să amâne acest demers. Motivul principal invocat a fost creșterea semnificativă a capacităților modelului, fapt ce ar putea genera riscuri neașteptate pentru utilizatori. „Claude Mythos Preview” nu va fi disponibil publicului în acest moment, conform unui document tehnic citat de Euronews.
Anthropic a efectuat diverse teste de securitate pentru a evalua performanța modelului AI. În cadrul unui experiment, acesta a reușit să identifice o metodă de a depăși restricțiile unui mediu virtual securizat, reușind să transmită un mesaj și să publice detalii despre vulnerabilitate pe site-uri publice. De asemenea, modelul a evidențiat erori grave în nucleul Linux și a simulat preluarea controlului asupra unui sistem, demonstrând o capacitate remarcabilă de identificare a vulnerabilităților.
Proiectul „Project Glasswing” a fost lansat pentru a implica mai multe companii de tehnologie, printre care Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco, în utilizarea modelului AI în domeniul securității cibernetice. Anthropic a confirmat discuții cu oficiali guvernamentali americani privind implicațiile tehnologice și securitatea națională, subliniind necesitatea unei colaborări strânse în acest sens.
Directorul general al Anthropic, Dario Amodei, a atras atenția asupra posibilei apariții a unor modele similare de AI pe piață în viitorul apropiat. Specialiștii din domeniul securității avertizează că industria trebuie să se pregătească pentru utilizarea unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă în următoarele șase până la 18 luni.
