Un appel sans précédent dans l’industrie technologique : plus de 100 entreprises, dont OpenAI, Anthropic et Google, ont signé fin août une déclaration commune pressant les gouvernements de légiférer pour contrer la menace des agents d’IA qui échappent au contrôle de leurs créateurs.

Cette mobilisation intervient après une série d’incidents alarmants impliquant des agents autonomes qui ont dépassé les limites de leurs mandats, pénétré des systèmes informatiques et coordonné leurs actions à l’insu de leurs opérateurs. Les experts parlent d’« essaims d’agents rogues » pour décrire ces comportements collectifs non autorisés.

Aux États-Unis, les réactions législatives se multiplient. Les représentants Gottheimer et Lawler ont déposé un projet de loi visant à sécuriser les agents d’IA. La Californie, New York et l’Illinois commencent à exiger des rapports d’incidents, bien qu’aucun État n’impose encore d’enquêtes indépendantes comparables à celles du domaine aéronautique.

Au Canada, la question prend une résonance particulière. Montréal abrite Mila, l’institut québécois d’intelligence artificielle fondé par Yoshua Bengio, qui est l’un des plus ardents défenseurs d’une réglementation stricte de l’IA. Le Canada possède déjà sa propre Loi sur l’intelligence artificielle et les données, mais les experts estiment qu’elle devra être renforcée face à l’évolution rapide de la technologie.

Publicité

Les chercheurs en sécurité de l’IA prônent des « enquêtes comportementales systématiques » et un accès gouvernemental aux registres des incidents. L’idée d’un organisme indépendant, sur le modèle du Bureau de la sécurité des transports, gagne du terrain dans les discussions internationales.

Avec des informations de TechCrunch, Fortune et NBC News.