L’usine à gaz de l’administration pour contrôler l’IA
Le règlement européen sur l’IA (AI Act) – que nous avons dénoncé à plusieurs reprises, notamment parce qu’il risque d’étouffer l’innovation – a l’ambition de contrôler le développement, la mise sur le marché et l’utilisation des systèmes d’intelligence artificielle dans l’Union européenne.
Il distingue quatre niveaux de risque – inacceptable, élevé, limité et minimal ou nul. Les systèmes présentant des risques inacceptables sont interdits ; ceux à risque limité ont des obligations en termes de transparence vis-à-vis de leurs utilisateurs ; et les systèmes à risque minimal ou nul n’ont pas de contraintes particulières.
Quant aux systèmes à haut risque (ou risque élevé), leurs producteurs devront obtenir un marquage CE, s’inscrire dans une base de données européenne, mettre en place un système de gestion des risques, garantir la gouvernance des données, publier une documentation technique complète, veiller à la cybersécurité, garantir la traçabilité et la transparence des systèmes d’IA, et assurer un contrôle humain sur les décisions prises par l’IA, etc.
Tout cela sera contrôlé au niveau communautaire et par des autorités nationales désignées par les différents gouvernements. Le gouvernement français vient de publier le schéma ci-dessous présentant les autorités chargées du contrôle.
A l’heure où tout le monde réclame une simplification pour les entreprises, y compris le gouvernement, la publication d’un tel schéma par la direction générale de la Concurrence, de la Consommation et de la Répression des Fraudes (DGCCRF) et la direction générale des Entreprises (DGE) relève de la provocation.
Il n’y a plus qu’à espérer que le prochain ministre du numérique et le Parlement, qui devra valider le schéma dans le cadre d’un projet de loi, fassent preuve de discernement et demande à l’administration de revoir sa copie. Sinon, il est à craindre que nos startups – à commencer par Mistral AI – aillent développer leur IA sous des cieux plus favorables.
Illustration de couverture ©Freepik
L’article L’usine à gaz de l’administration pour contrôler l’IA est apparu en premier sur Contrepoints.