Les conversations érotiques vont bientôt être autorisées sur ChatGPT

L’intelligence artificielle va se mettre à l’érotisme. OpenAI va assouplir les restrictions de ChatGPT, y compris en permettant les conversations érotiques à partir de décembre, a annoncé mardi son patron.

Pour se justifier, Sam Altman invoque son principe de « traiter les utilisateurs adultes comme des adultes ». Dans un message sur X, il explique que les garde-fous plus stricts mis en place pour répondre aux préoccupations sur la santé avaient rendu son assistant IA « moins utile/agréable pour de nombreux utilisateurs sans problème de santé mentale ».

L’IA au cœur des critiques après un suicide

Ces mesures de précautions renforcées avaient été instaurées après les poursuites lancées fin août par les parents d’Adam Raine, un adolescent californien qui s’est suicidé après avoir reçu des conseils précis de ChatGPT, selon la plainte. D’autres affaires et d’autres plaintes aux Etats-Unis ont suscité un vif débat sur les risques d’effets nocifs des compagnons IA sur les jeunes. L’autorité américaine de protection des consommateurs (FTC) a ouvert une enquête visant plusieurs entreprises d’IA, dont OpenAI.

« Vu la gravité du problème, nous voulions bien faire les choses », a justifié mardi Sam Altman, dont l’entreprise s’est vue accusée de « censure » par nombre d’utilisateurs réclamant parfois un usage débridé de l’IA pour tester toutes les possibilités offertes par cette révolution. Le patron d’OpenAI estime que les nouveaux outils sont désormais au point pour assouplir ces restrictions tout en assurant la protection de la santé mentale.

Des restrictions pour les moins de 18 ans

Une mise à jour permettra d’abord dans quelques semaines de personnaliser l’assistant : « si tu veux que ton ChatGPT réponde de manière très humaine, utilise plein d’émojis ou se comporte comme un ami, il devrait le faire (mais seulement si c’est ce que tu veux, pas parce qu’on cherche à gonfler au max l’utilisation) », écrit Sam Altman. Le changement le plus notable interviendra en décembre, une fois déployé un système de vérification d’âge plus complet, qui permettra d’autoriser « encore plus de choses, notamment les contenus érotiques pour les adultes vérifiés », explique le patron d’OpenAI, sans précision sur la méthode.

Notre dossier sur l’Intelligence artificielle

En septembre, l’entreprise avait lancé une version de ChatGPT pour les moins de 18 ans bloquant les contenus choquants ou sexuels. OpenAI avait annoncé travailler sur une technologie de prédiction de l’âge capable d’estimer si un utilisateur a moins de 18 ans selon sa manière d’interagir avec ChatGPT.