OpenAI et Anthropic appellent à sécuriser le développement de l’IA

Les dirigeants d’OpenAI et d’Anthropic ont appelé à une vigilance accrue dans le développement de l’intelligence artificielle lors d’une réunion d’urgence du Conseil de sécurité de l’ONU à New York. Sam Altman, directeur général d’OpenAI, a estimé que le niveau de prudence devait être « extrême », alors que les systèmes deviennent plus capables et plus autonomes.

Dario Amodei, directeur général d’Anthropic, a promis de ralentir le déploiement de nouveaux modèles lorsque cela serait nécessaire pour garantir leur sécurité. Les deux dirigeants ont également averti que des systèmes plus autonomes pourraient évoluer plus vite que les institutions ou concentrer davantage de pouvoir. Le Conseil de sécurité réunit 15 membres. Cette prise de position intervient alors que plus de 20 pays réclament un encadrement de l’IA.