Inovația Codex: Cum a fost influențat chatbotul de „obsesia pentru goblini” și ce măsuri a luat OpenAI
Un fenomen neașteptat a captat atenția comunității de programatori în ultima perioadă, legat de modul în care chatbotul Codex a început să folosească termenii „goblini” și „gremlini” pentru a descrie erorile din cod. Potrivit informațiilor furnizate de Il Post, aceste referințe nu au fost introduse intenționat, ci au apărut ca urmare a antrenamentului și evaluării modelului AI.
OpenAI a observat o creștere semnificativă a utilizării termenilor „goblin” și „gremlin” încă din noiembrie, iar această tendință s-a accentuat odată cu lansarea modelului GPT-5.4. Utilizarea acestor cuvinte a înregistrat o creștere de peste 3.800% față de versiunile anterioare, generând o reacție promptă din partea companiei.
O investigație internă a relevat că problema era legată de personalitatea „Nerd” configurată pentru chatbot, care încuraja răspunsuri creative și neobișnuite. Sistemul de evaluare favoriza implicit utilizarea elementelor din cultura fantasy, ceea ce a condus la creșterea frecvenței referirilor la creaturi fantastice în răspunsurile generate de AI.
Pentru a remedia situația, OpenAI a eliminat complet personalitatea „Nerd” și a ajustat sistemele interne de evaluare. Compania a impus reguli clare care interzic menționarea creaturilor fantastice, cu excepția cazurilor strict relevante pentru răspunsurile oferite de chatbot. Aceste modificări au fost considerate necesare pentru a menține coerența și utilitatea răspunsurilor generate de inteligența artificială.
