L'Indonesia blocca il chatbot Grok di Musk per il rischio di contenuti pornografici

L'Indonesia ha bloccato il chatbot Grok di Elon Musk a causa del rischio di contenuti pornografici generati dall'intelligenza artificiale, diventando il primo Paese a negare l'accesso allo strumento. La decisione arriva dopo che governi, ricercatori e autorità di regolamentazione dall'Europa all'Asia hanno condannato e alcuni hanno avviato indagini sui contenuti sessuali presenti sull'applicazione. xAI, la startup dietro Grok, ha dichiarato giovedì di voler limitare la generazione e la modifica delle immagini agli abbonati paganti, nel tentativo di correggere le lacune di sicurezza che avevano consentito contenuti sessualizzati, tra cui rappresentazioni di bambini vestiti in modo succinto. "Il governo ritiene che la pratica dei deepfake sessuali non consensuali sia una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale", ha affermato in una nota il ministro delle comunicazioni e del digitale Meutya Hafid.

Musk ha affermato su X che chiunque utilizzi Grok per creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali. L'Indonesia, con la più grande popolazione musulmana al mondo, ha regole severe che vietano la condivisione online di contenuti considerati osceni. Il blocco dell'Indonesia segue la decisione di Grok di disattivare la funzione di creazione di immagini per la stragrande maggioranza degli utenti, dopo le diffuse proteste sul suo utilizzo per creare immagini sessualmente esplicite e violente. Lo strumento è stato utilizzato anche per manipolare immagini di donne, spogliandole e mettendole in posizioni sessuali. Questa funzione è stata disattivata, fatta eccezione per gli abbonati paganti.