Grok a récemment été critiqué après avoir généré des images inappropriées sans consentement. xAI a assuré rester attachée au maintien d’un environnement sûr sur le réseau social américain X et appliquer une politique de tolérance zéro à l’égard des contenus sexuels non désirés, des abus sur mineurs et de la nudité non consentie.
L’entreprise s’est engagée à supprimer les contenus explicites enfreignant les règles de la plateforme et à prendre des mesures contre les utilisateurs qui les violent, y compris en signalant aux autorités ceux qui cherchent à obtenir du matériel pédopornographique.
Des mesures techniques ont également été mises en place afin d’empêcher Grok de générer des images explicites, a précisé xAI, ajoutant que cette restriction s’appliquera à l’ensemble des utilisateurs, y compris les abonnés payants.
xAI a également indiqué que la fonctionnalité de génération d’images transformant des photos de personnes réelles en contenus explicites, comme le fait de les représenter en bikini sans leur consentement, sera désactivée dans les régions où cette pratique est illégale.
Mercredi, Elon Musk a déclaré que la "nudité du haut du corps d’êtres humains adultes imaginaires (non réels)"
, conforme à ce qui est visible dans les films américains interdits aux moins de 17 ans, resterait autorisée, ajoutant que "c’est la norme de facto aux États-Unis"
et que cela "variera selon les régions"
. Grok a suscité des critiques au Royaume-Uni et dans d’autres pays après une tendance sur X où des utilisateurs demandaient au chatbot de générer des images de célébrités, de personnalités d’internet ou de particuliers en bikini ou dans des poses suggestives.
Le 3 janvier, Musk avait affirmé que les utilisateurs sollicitant des contenus illégaux seraient traités comme s’ils avaient eux-mêmes téléchargé du matériel illégal. Malgré cela, la plateforme a continué de faire face à des réactions négatives à mesure que la tendance se propageait.
La Commission européenne a estimé le 5 janvier que cette tendance constituait un "problème très sérieux"
. La Malaisie a déclaré le 3 janvier que X avait la responsabilité d’empêcher la diffusion de contenus nuisibles et a temporairement restreint l’accès à Grok le 11 janvier, invoquant des mesures de sécurité insuffisantes. L’Inde a demandé le 2 janvier à X de mener un examen approfondi, tandis que l’Indonésie a temporairement bloqué Grok le 10 janvier en raison de la fonctionnalité de génération d’images explicites. À lire également:
Économie
France: Dassault et Harmattan AI accélèrent l’IA militaire
Technologie
Zhipu AI et MiniMax testent la tech chinoise à Hong Kong
Technologie
Mark Zuckerberg assure que Meta AI a un milliard d'utilisateurs
Les commentaires que vous publiez sur notre site constituent une ressource précieuse pour les autres utilisateurs. Veuillez faire preuve de respect envers les opinions différentes et les autres membres. Évitez tout langage grossier, offensant, dégradant ou discriminatoire.