L’Indonésie est devenue, samedi 10 janvier, le premier pays au monde à suspendre l’accès à Grok, le chatbot d’intelligence artificielle développé par xAI, la société d’Elon Musk. En cause : la prolifération de deepfakes à caractère sexuel, souvent générés sans le consentement des personnes représentées, et parfois impliquant des femmes ou des mineurs.
La décision a été annoncée par le ministère indonésien de la Communication et du Numérique, qui évoque une « violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique ». Pour Jakarta, la suspension est un signal politique fort en faveur de la souveraineté numérique, très stratégique pour ce pays qui souhaite renvoyer une image plus moderne.
Le média Beranda Indonesia, cette décision place le pays « parmi les plus actifs et proactifs dans la défense de l’espace numérique », dans un contexte où les outils d’IA générative progressent plus vite que les garde-fous juridiques et techniques.
L’Indonésie compte protéger les plus vulnérables face à l’IA
La génération automatisée d’images sexuelles non consenties constitue un risque accru pour les femmes, les jeunes et les personnalités publiques, dont l’image peut être détournée à grande échelle et à moindre coût. C’est ainsi que les autorités indonésiennes justifient leur choix; par la nécessité de protéger les populations les plus exposées aux abus numériques.
Dans les semaines précédant la suspension, plusieurs cas de contenus explicites attribués à Grok ont circulé sur la plateforme X, ce qui cause une indignation croissante. Les mécanismes de signalement mis en avant par xAI ont été jugés insuffisants, car largement fondés sur des alertes a posteriori, ce qui veut dire que les contenus se diffusent avant toute intervention.
Une « souveraineté éthique » revendiquée
Pour l’expert en cybersécurité Alfons Tanujaya, cité par Beranda Indonesia, la décision indonésienne s’inscrit dans une logique de « souveraineté éthique ». Les grandes plateformes technologiques ne peuvent plus imposer des standards moraux uniformes à l’échelle mondiale, sans tenir compte des cadres juridiques, culturels et sociaux des États.
C’est une rupture avec la tolérance longtemps accordée aux acteurs numériques occidentaux. On se demande alors, qui fixe les limites de l’IA lorsque ses usages touchent à l’intimité, à la réputation et à la sécurité des individus ?
La Malaisie emboîte le pas
L’initiative indonésienne a rapidement fait des émules. Dimanche 12 janvier, la Malaisie a annoncé à son tour le blocage temporaire de Grok. Dans un communiqué, la Commission malaisienne des communications et du multimédia (MCMC) a dénoncé l’utilisation répétée du chatbot pour produire des images « obscènes, sexuellement explicites, offensantes et non consenties », y compris impliquant des femmes et des mineurs.
Les autorités malaisiennes affirment avoir adressé plusieurs mises en demeure à X et à xAI au cours du mois, exigeant la mise en place de garde-fous techniques et de mécanismes de modération plus robustes. Les réponses reçues auraient reposé essentiellement sur des signalements initiés par les utilisateurs, une approche jugée « insuffisante pour prévenir les préjudices ou garantir le respect de la loi ».
L’accès à Grok restera restreint tant que des dispositifs jugés efficaces n’auront pas été déployés, précise la MCMC, tout en se disant ouverte au dialogue avec les entreprises concernées.
Une réponse minimale de xAI
Contactée par Reuters, xAI a répondu par un message laconique, qui semblait automatisé : « Legacy Media Lies ». La plateforme X n’a pas réagi dans l’immédiat. Jeudi dernier, xAI avait néanmoins annoncé restreindre certaines fonctionnalités de génération et de modification d’images aux seuls abonnés payants, reconnaissant implicitement des failles dans ses systèmes.
Ces ajustements tardifs peinent toutefois à rassurer les gouvernements, qui dénoncent une logique réactive plutôt que préventive.
Pays à majorité musulmane, la Malaisie dispose d’une législation stricte sur les contenus en ligne, qui interdit la pornographie et les images obscènes. Depuis plusieurs années, les autorités renforcent leur contrôle sur les plateformes numériques, et invoque une hausse des contenus jugés nuisibles. Kuala Lumpur envisage également d’interdire l’accès aux réseaux sociaux aux moins de 16 ans.