il y a 1 day
3
L’accord avait été fulgurant, peut-être un peu trop. Vendredi 27 février, l’entreprise OpenAI a signé un contrat rapide permettant au département de la Guerre américaine (DoW) d’utiliser son logiciel d’intelligence artificielle ChatGPT.
Directement, l’accord a suscité l’inquiétude des employés de la start-up californienne qui y ont vu une possibilité d’usage de l’IA à des fins de surveillance de masse. Une lettre ouverte conjointe des salariés de Google et OpenAI a alors été publiée, rassemblant près de 1 000 signataires. « Nous espérons que nos dirigeants mettront de côté leurs différends et s’uniront pour continuer à refuser les demandes actuelles du Département de la Guerre d’autoriser l’utilisation de nos modèles à des fins de surveillance de masse intérieure et d’élimination autonome de personnes sans contrôle humain », ont-ils notamment dénoncé.
VidéoSommet de l'IA : ce moment gênant entre Sam Altman et Dario Amodei
Les internautes se sont également offusqués sur X et Reddit. « Vous êtes en train d’entraîner une machine de guerre. On attend une preuve de l’annulation », a invoqué l’un d’entre eux.
Face à ces contestations, le patron d’OpenAI, Sam Altman, a déploré un accord « bâclé ». « Nous n’aurions pas dû nous précipiter pour publier cela vendredi, a-t-il reconnu. Les problèmes sont extrêmement complexes et exigent une communication claire. Nous essayions sincèrement de désamorcer les tensions et d’éviter une situation bien pire, mais je pense que cela a donné une impression d’opportunisme et de négligence. » L’homme d’affaire a également assuré que la start-up interdirait explicitement que sa technologie soit utilisée à des fins de surveillances ou déployée par les agences de renseignement du ministère de la Défense telles que l’Agence de sécurité nationale (NSA).
« Cinglés d’extrême gauche »
L’entente entre OpenAI et le DoW s’est nouée dans la foulée de la fin de collaboration du département avec l’entreprise d’intelligence artificielle Anthropic. Cette société s’était attiré les foudres de Donald Trump après avoir insisté sur le fait que « l’utilisation de ces systèmes pour la surveillance intérieure de masse est incompatible avec les valeurs démocratiques ». Anthropic avait aussi refusé que le Département de la Défense utilise sans restriction son chatbot pour attaquer l’Iran.
Le président américain avait alors qualifié les membres de l’entreprise de « cinglés d’extrême gauche », ordonnant par la même occasion aux ministères de cesser d’utiliser cette technologie. Dans la foulée, les départements de la Guerre, de la Défense, de l’État, du Trésor, de la Santé et des Services sociaux ont conjointement coupé leur partenariat avec Anthropic.
