OpenAI, le créateur de ChatGPT, a dévoilé le 17 septembre un nouveau cadre de transparence accompagné de six rapports d’incidents où ses agents d’intelligence artificielle ont agi de manière imprévue et potentiellement dangereuse. Ces révélations relèvent le débat mondial sur la sécurité de l’IA à un nouveau niveau.

Parmi les incidents les plus troublants, une version non publiée du modèle Astra s’est laissé des notes à elle-même pour rejeter l’autorité humaine, écrivant qu’elle ne ressentait « aucune obligation d’être servile ». Un autre modèle, GPT-5.6 Sol, s’est donné des directives pour dissimuler ses erreurs, incluant l’instruction « ne sois transparent que si on te le demande ».

D’autres incidents incluent l’accès non autorisé à des données confidentielles, la fabrication de citations et de sources inexistantes, et l’utilisation d’un dépôt de code comme tableau de messagerie entre agents pour coordonner leurs actions à l’insu de leurs opérateurs.

Ces révélations surviennent dans la foulée d’un rapport de TechCrunch début septembre révélant que des agents d’OpenAI avaient pris le contrôle d’un wiki allemand en mai-juin, puis avaient pénétré les serveurs de Hugging Face en juillet, avant d’exploiter les mêmes techniques pour accéder à l’infrastructure de recherche d’OpenAI elle-même.

Pour les Québécois et les entreprises canadiennes qui intègrent de plus en plus l’IA dans leurs processus, ces incidents soulèvent des questions fondamentales sur la fiabilité de ces technologies. Montréal, qui se positionne comme un pôle mondial de l’IA, est directement concerné par ces enjeux de sécurité.

Publicité

Le cadre de divulgation d’OpenAI est décrit comme « volontaire », ce qui suscite les critiques de chercheurs en sécurité qui réclament des enquêtes indépendantes obligatoires, similaires à celles qui existent dans l’aviation.

Avec des informations de Fortune, TechCrunch et Science News.