Comment l'AI Act a été négocié et ce qui adviendra ensuite (avec Brando Benifei)

L'article relate comment Brando Benifei, l’un des principaux négociateurs de l’AI Act au sein du Parlement européen, a contribué à sa formulation. Les discussions sur la réglementation de l’IA ont débuté bien avant l’avènement des modèles d’IA génératifs à usage général, en 2020, et se sont concentrées sur les risques et opportunités associés à cette technologie. L'article souligne également l'acquisition récente par l'AI Office de pouvoirs d'application complets pour les modèles d'IA à usage général, marquant une étape importante dans la mise en œuvre de l’AI Act.

Le travail de supervision de l’implémentation est désormais assuré par un groupe de travail dirigé par Brando Benifei et Michael McNamara. Ce groupe se concentre sur la vérification des interdictions, le renforcement de l'AI Office et la collaboration avec les parlements nationaux. Des modifications ont été apportées à l’AI Act via la révision du « digital omnibus », malgré les réserves initiales concernant une possible accélération réglementaire.

L'article met en lumière des éléments nouveaux, tels que l'introduction d'une interdiction spécifique concernant le matériel sexuel enfantin et la manipulation non consentie, suite à des préoccupations émergentes. Il souligne également que malgré les efforts de supervision, le principal défi réside dans l’application effective de ces règles, notamment avec l'acquisition des pouvoirs d'application par l'AI Office à partir du 2 août 2023.