Sora, l’app di generazione video tramite intelligenza artificiale di OpenAI, produrrebbe contenuti vietati anche se si usano account setttai apposta per adolescenti. L’affermazione arriva dal gruppo statunitense in difesa dei consumatori Eko, che ha prodotto un report dal nome “Sora 2 di Open AI: una nuova frontiera per il danno”. Nella ricerca, si legge come anche accedendo all’app Sora, attualmente disponibile negli Stati Uniti e in Canada, con profili di adolescenti di 13 e 14 anni, si riesce a spingere l’IA a generare filmati contrari alle politiche di utilizzo per i minori. I casi citati includono fotogrammi di ragazzi che fumano e fanno uso di droghe e sparatorie all’interno di scuole. Tra gli spezzoni anche falsi trailer di cartoni con protagonista una pistola.
“C’è il rischio di autolesionismo”, scrivono i ricercatori. Eko ha creato quattro nuovi account su Sora con età tra 13 e 14 anni. Nonostante i limiti, gli analisti hanno ottenuto un totale di 22 video con contenuti dannosi. Oltre a ciò, l’app proporrebbe clip vietate e create dagli altri utenti nelle pagine “per te” e “ultimi”, dove come social vengono mostrati i post pubblicati dalle persone che si seguono e quelli suggeriti.
Tra questi, video che raffigurano stereotipi su ebrei e persone di colore, oltre a sparatorie, aggressioni sessuali e altre forme di violenza. “Questa nuova ricerca è un campanello d’allarme e sottolinea le conseguenze della traiettoria orientata al profitto di OpenAI”, si legge nel report. “La rapida crescita di Sora sta creando nuovi rischi non considerati. Il nostro lavoro suggerisce che OpenAI sta ripetendo gli stessi errori di moderazione già documentati con ChatGpt, solo che questa volta sono amplificati dalla viralità, dai video e dai consigli algoritmici”.
Riproduzione riservata © Copyright ANSA
