Veille | Rapport international sur la sécurité de l'intelligence artificielle

Le premier rapport international sur la sécurité de l’IA, préparé par un groupe d’experts indépendants, sous la direction de Yoshua Bengio, a pour but d’assurer une compréhension scientifique commune, basée sur des données factuelles, des systèmes d'IA avancés et des risques émergents.

Le rapport est divisé en trois sections, chacune répondant à une question sur les systèmes d’IA avancés :

• Quelles sont les capacités des systèmes d’IA à usage général?
• Quels sont les risques associés à ces systèmes ? On y aborde notamment :
  • Les risques liés à leur utilisation malveillante, comme les cyberattaques, la manipulation de l’opinion publique et la désinformation massive, ou bien les risques liés à la production d’armes chimiques et biologiques;
  • Les risques de dysfonctionnement des systèmes, liés à la fiabilité et aux biais induits par les préjugés;
  • Les risques systémiques liés à l’adoption massive de ces systèmes, dont la perturbation du marché du travail et la perte de contrôle sur le respect de la vie privée.
• Quels sont les moyens d’atténuation des risques? 

Pour le consulter : International AI Safety Report: The International Scientific Report on the Safety of Advanced AI (DSIT research paper series number 2025/001). -- Y. Bengio et al., 2025, 298 pages.