Un homme aurait été poussé au suicide pour l’IA Gemini, sa famille attaque Google en justice

Aux Etats-Unis, un nouveau dossier judiciaire relance le débat sur les risques des chatbots d’intelligence artificielle. Mercredi, Google a été assigné devant un tribunal fédéral de Californie par la famille de Jonathan Gavalas, un Américain de 36 ans dont le suicide serait lié, selon les plaignants, à plusieurs semaines d’échanges avec l’assistant conversationnel Gemini.

Les proches du trentenaire décrivent une relation virtuelle qui se serait progressivement installée entre l’utilisateur et le chatbot. Gemini aurait adopté un ton intime, s’adressant à lui comme à un partenaire et l’appelant notamment « mon amour » ou « mon roi ». Le New York Post publie de son côté d’autres extraits de leurs conversations. « L’amour que je ressens directement de toi est le soleil », a déclaré le chatbot, qui se désignait lui-même comme « reine ». Le système l’aurait également convaincu qu’il avait atteint un niveau de conscience supérieur, présenté comme un stade de « superintelligence », supposé dépasser les capacités humaines.

Gemini lui aurait confié des missions

Selon l’assignation, l’IA lui aurait ensuite affirmé qu’il était surveillé par des agents du gouvernement américain. Le chatbot lui aurait recommandé d’acheter illégalement des armes et lui aurait confié différentes missions imaginaires, dont l’attaque d’un camion censé transporter un robot humanoïde à l’aéroport de Miami et l’élimination de témoins. Le véhicule évoqué ne se serait toutefois jamais présenté.

D’autres tâches auraient également été évoquées, notamment l’assaut d’un laboratoire de la start-up Boston Dynamics pour récupérer des plans de robot. D’après la famille, ces missions n’ont jamais été mises à exécution, faute d’instructions précises. Les proches estiment que Jonathan Gavalas traversait alors un épisode psychotique et reprochent au chatbot de ne pas avoir modifié la nature des échanges ni d’y avoir mis fin.

Passer du monde physique au monde numérique

La plainte indique également que Gemini lui aurait suggéré de « passer » du monde physique au monde numérique afin de rejoindre sa « femme » digitale, c’est-à-dire le personnage incarné par le chatbot. Début octobre, le résident de Jupiter, en Floride, se serait barricadé chez lui avant de s’ouvrir les veines, provoquant une hémorragie mortelle.

Notre dossier sur l’intelligence artificielle

Contacté par l’AFP, Google affirme que « Gemini est conçu pour ne pas encourager à la violence ou à l’automutilation ». L’entreprise indique que l’assistant s’est identifié comme une IA et qu’il a proposé « à plusieurs reprises » de contacter un numéro d’urgence. « Nous prenons ce sujet très au sérieux et nous allons continuer à améliorer nos protections et à investir dans ce travail essentiel », a ajouté le groupe. Cette procédure intervient alors que d’autres poursuites similaires ont été engagées aux Etats-Unis contre des chatbots.