Ils y demandent que les entreprises qui développent ce type de programme « mettre immédiatement en pause, pendant au moins 6 mois, la formation des systèmes d’intelligence artificielle plus puissants que GPT-4. »
GPT-4 et ChatGPT sont tous deux un type d’intelligence artificielle générative, c’est-à-dire qu’ils utilisent des algorithmes et du texte prédictif pour créer un nouveau contenu basé sur des instructions.
« Cette pause doit être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en œuvre rapidement, les gouvernements devraient intervenir et instituer une suspension« , ajouter le texte.
Publié par l’organisation à but non lucratif Future of Life Institute, qui compte Elon Musk parmi ses conseillers externes, le communiqué prévient que ces systèmes peuvent poser des problèmes « Des risques profonds pour la société et l’humanité. »
Le groupe de réflexion soutient que de puissants systèmes d’IA peuvent générer de la désinformation et remplacer les emplois par l’automatisation.
La controverse
Cependant, The Guardian a rapporté que la lettre n’avait aucun protocole d’authentification et que de nombreuses signatures n’étaient pas authentiques. En outre, de nombreux signataires ont retiré leur soutien.
Parmi les recherches citées figure « Sur les dangers des perroquets stochastiques », un article populaire co-écrit par Margaret Mitchell, qui supervisait auparavant la recherche sur l’éthique de l’IA chez Google. Mitchell, maintenant responsable de l’éthique scientifique de la société d’intelligence artificielle Hugging Face, a critiqué la lettre, racontant Reuter qu’il n’était pas clair ce qui était considéré comme « plus puissant que GPT4 ». « En prenant pour acquises de nombreuses idées douteuses, la lettre affirme un ensemble de priorités et un récit sur l’IA qui profite aux partisans du FLI », a-t-il déclaré.
Ses co-auteurs Timnit Gebru et Emily M. Bender ont critiqué la lettre sur Twitter, cette dernière qualifiant certaines de ses affirmations de « déséquilibrées ».
Le président du FLI, Max Tegmark, a répondu que la campagne n’était pas une tentative d’entraver l’avantage commercial d’OpenAI. « C’est assez drôle. J’ai vu des gens dire : « Elon Musk essaie de ralentir la concurrence » », a-t-il déclaré. Reuter.
Devrions-nous développer des esprits non humains ?
La lettre signée par les experts pose la question suivante : « Devrions-nous développer des esprits non humains qui pourraient éventuellement nous dépasser en nombre, être plus intelligents, nous rendre obsolètes et nous remplacer ?
Dans un article récent cité dans la lettre, OpenAI, la société derrière GPT-4, a également mis en garde contre les risques potentiels de la technologie.
« Une superintelligence mal alignée pourrait causer un préjudice grave au monde ; un régime autocratique doté d’une superintelligence décisive pourrait le faire aussi« , a écrit la société dans un blog.
OpenAI n’a pas commenté publiquement la lettre.
Elon Musk était co-fondateur d’OpenAIbien qu’il ait démissionné du conseil d’administration de l’organisation il y a quelques années et qu’il ait publié des messages critiques sur Twitter concernant la direction de l’entreprise.
Les fonctionnalités de conduite autonome développées par son constructeur automobile Tesla, comme la plupart des autres systèmes similaires, utilisent la technologie de l’intelligence artificielle.