Dezvăluiri șocante despre chatboții cu inteligență artificială și sfaturile lor în domeniul sănătății
Un nou studiu citat de Anadolu a scos la iveală faptul că cinci chatboți cu inteligență artificială, folosiți pe scară largă, au furnizat frecvent răspunsuri problematice la întrebări legate de sănătate și medicină. Cercetătorii au testat Gemini, DeepSeek, Meta AI, ChatGPT și Grok cu 50 de solicitări în cinci categorii predispuse la dezinformare, cum ar fi cancerul, vaccinurile, celulele stem, nutriția și performanța atletică.
Studiul, publicat în BMJ Open, a evaluat 250 de răspunsuri și a constatat că 49,6% dintre acestea au fost considerate problematice. Din acestea, 30% au fost considerate oarecum problematice, iar 19,6% au fost clasificate ca fiind extrem de problematice. Deși nu s-au identificat diferențe semnificative între chatboți în general, Grok a fost cel care a produs cele mai multe răspunsuri problematice.
Interesant este faptul că chatboții au obținut cele mai bune rezultate la întrebările legate de vaccinuri și cancer, în timp ce performanța a fost mai slabă în cazul întrebărilor despre celulele stem, nutriție și performanța atletică. De asemenea, s-a observat că solicitările deschise au generat răspunsuri semnificativ mai problematice decât cele închise.
Un alt aspect relevat de studiu a fost calitatea scăzută a citărilor. Deși chatboții au returnat aproximativ 81% din referințele solicitate, scorul mediu de completitudine a fost de doar 40%. Niciunul dintre chatboți nu a reușit să ofere o listă completă și precisă de referințe.
Concluzia cercetătorilor a fost că răspunsurile oferite de acești chatboți erau greu de înțeles pentru o persoană obișnuită și necesitau cunoștințe avansate pentru a fi interpretate corect. Implementarea necontrolată a acestor chatboți în domeniul sănătății ar putea amplifica dezinformarea, conform autorilor studiului.
