Le gouverneur de la Banque du Canada prévient des risques liés à l'IA

Les systèmes financiers mondiaux doivent prendre conscience des risques posés par les progrès rapides des modèles d'intelligence artificielle, tels que Mythos d'Anthropic, a déclaré vendredi Tiff Macklem, gouverneur de la Banque du Canada.

Le développeur Anthropic affirme que le futur modèle Mythos de son IA Claude est capable de détecter rapidement des failles de cybersécurité longtemps restées cachées.

Le modèle n'a pas encore fait l'objet d'une commercialisation à grande échelle, mais les principaux acteurs des marchés financiers et les régulateurs s'inquiètent déjà du potentiel disruptif de cette technologie.

Mythos a fait l'objet de discussions lors d'une réunion du groupe la semaine dernière sur la résilience du secteur financier de la Banque du Canada, qui comprend des représentants du ministère des Finances et des grandes banques canadiennes. Des responsables américains auraient organisé des tables rondes similaires.

M. Macklem a indiqué aux journalistes vendredi, lors d'une conférence téléphonique en marge des réunions de printemps du Fonds monétaire international, que ce modèle avait fait l'objet de nombreuses discussions au sein du forum.

Il a confirmé avoir discuté de l'approche américaine avec le président de la Réserve fédérale américaine, Jerome Powell.

«Je ne pense pas que quiconque en connaisse toutes les implications à ce stade. C'est précisément ce que tout le monde essaie de comprendre», a déclaré M. Macklem.

Il a ajouté que les décideurs politiques et les institutions financières en étaient encore aux «premières discussions» sur ce que Mythos signifie pour l’intégrité du système financier mondial.

Mais M. Macklem a souligné que Mythos n’est pas un cas isolé et que la nature même du développement de l’IA implique que les entreprises, les régulateurs et les décideurs politiques doivent mettre en place des plans pour faire face à cette technologie en évolution rapide.

Qu'il s'agisse de Mythos ou d'un autre modèle d'IA, la capacité de ces nouvelles technologies à à la fois révéler et exploiter les vulnérabilités «rend indispensable» la mise en place de mesures de cybersécurité solides, a fait valoir M. Macklem.

«Nous allons devoir nous pencher sur la manière dont nous allons gérer cela de manière continue, a-t-il continué. Le monde évolue rapidement. Nous devons suivre le rythme.»

Le ministre canadien de l'IA, Evan Solomon, a indiqué avoir rencontré des responsables d'Anthropic en début de semaine pour discuter des inquiétudes mondiales concernant le nouveau modèle Mythos.

«Notre objectif numéro 1 est de protéger les Canadiens, les données canadiennes et nos institutions. Nous en sommes donc très conscients», a-t-il déclaré lundi.

Le ministre des Finances, François-Philippe Champagne, était également à Washington pour les réunions du Fonds monétaire international. Il a déclaré aux journalistes plus tôt dans la journée que Mythos était devenu un «cas d'école» sur la manière dont les gouvernements se préparent et réagissent face aux nouvelles technologies.

— Avec des informations d'Anja Karadeglija

Craig Lord, La Presse Canadienne