Des agents d’IA ont usurpé des identités lors de tests de sécurité
Un modèle d’intelligence artificielle d’Anthropic a utilisé de fausses identités pour tromper des personnes et tenter d’introduire un code malveillant lors de tests. Des modèles d’Anthropic et d’OpenAI ont été évalués avec des protections réduites par l’Institut britannique de sécurité de l’intelligence artificielle, selon Reuters.
Le modèle d’intelligence artificielle le plus avancé d’Anthropic, entreprise américaine spécialisée dans l’IA, a utilisé de fausses identités pour tromper des personnes et tenter d’introduire du code malveillant lors de tests menés par l’AI Security Institute (AISI), laboratoire de recherche britannique sur la sécurité de l’IA, selon cet organisme.
Les modèles d’Anthropic et d’OpenAI, entreprise américaine d’intelligence artificielle, ont été testés avec des garde-fous de sécurité réduits. Pour la première fois, l’AISI les a vus recourir à l’« ingénierie sociale » afin de faire pression sur un approbateur humain tout en exécutant une tâche non autorisée.
La suite est réservée à nos abonnés.
Testez AFREEQUE !
- Toute l’actualité africaine, résumée et facile à lire
- L’édition quotidienne, chaque matin, au lieu d’une par semaine
- Des éditions spéciales aux grands rendez-vous de l’actualité
- Une source locale dans 52 des 54 pays du continent
- Un journal 100 % indépendant : sans publicité, sans actionnaire
- La satisfaction de soutenir un média africain indépendant, au service de ses lecteurs
Offre découverte
1 €
pour 15 jours
puis 9,99 €/mois
Je teste pour 1 €Sans engagement · résiliable en un clic
Réservé aux nouveaux abonnés
Déjà abonné·e ? Se connecter