Ottawa attendra les informations d'OpenAI sur Tumbler Ridge avant de réglementer

OTTAWA — Le gouvernement fédéral examinera les informations fournies par OpenAI sur la tuerie de Tumbler Ridge, en Colombie-Britannique, avant d'agir, a déclaré jeudi le ministre de l'Intelligence artificielle, Evan Solomon.

M. Solomon a indiqué que le gouvernement devait «d'abord voir ce que contiennent les informations avant de pouvoir réglementer».

«Les cas difficiles donnent lieu à de mauvaises lois, il faut donc être très prudent quant à la rapidité de notre réaction», a-t-il mentionné lors d'un événement à Ottawa.

Jesse Van Rootselaar a abattu huit personnes à Tumbler Ridge le 10 février, dont six enfants, avant de se suicider.

OpenAI avait interdit à la tireuse d'utiliser son agent conversationnel ChatGPT en raison d'interactions inquiétantes, mais n'avait pas alerté les forces de l'ordre. La tireuse a contourné l'interdiction de ChatGPT en utilisant un deuxième compte.

M. Solomon a expliqué que l'Institut canadien de la sécurité de l'IA collabore avec OpenAI afin d'obtenir l'accès aux protocoles de sécurité de l'entreprise. Bien qu'il ait affirmé plus tôt ce mois-ci que l'institut avait obtenu l'accès à l'ensemble des protocoles d'OpenAI, M. Solomon a indiqué jeudi que le processus n'était pas encore terminé.

Il a dit aux journalistes après l'événement que l'institut de sécurité «travaille actuellement à définir précisément les informations qu'il obtiendra d'OpenAI».

Ce travail comprend des négociations sur des renseignements sensibles concernant les algorithmes, a-t-il précisé.

«Mais ils sont en train d'évaluer l'ampleur et la portée de la chose», a-t-il ajouté.

Interrogé sur l'état d'avancement du centre dans ce processus, M. Solomon a répondu qu'ils étaient «probablement un peu plus avancés que la simple négociation des informations, les discussions sont bien engagées».

Evan Solomon s'est exprimé jeudi lors d'une table ronde avec le ministre de la Culture, Marc Miller, à l'occasion d'un événement portant sur les perspectives des jeunes concernant l'IA et la réglementation technologique.

M. Solomon a souligné lors de cet événement que l'intelligence artificielle avait permis de déceler le cas de la tireuse de Tumbler Ridge, mais que les évaluateurs humains avaient choisi de ne pas le transmettre à la police.

«Sans minimiser la tragédie et la responsabilité qui incombe à OpenAI, on a tendance à croire qu'il s'agissait d'une erreur imputable uniquement à l'IA, alors qu'en fin de compte, c'était fondamentalement une erreur humaine», a commenté M. Miller.

M. Solomon a rencontré le PDG d'OpenAI en mars. «Je les ai convoqués, car ils ont, de leur propre aveu, omis de signaler une menace (…), ils l'ont admis et se sont excusés. Mais nous ne comprenons pas le fonctionnement de leur système d'alerte», a-t-il dit.

À la suite de cette réunion, M. Solomon a annoncé que l'entreprise avait promis de prendre plusieurs mesures, notamment la remise d'un rapport décrivant les nouveaux systèmes qu'elle développe pour identifier les délinquants à haut risque et les contrevenants aux politiques, l'établissement d'un point de contact direct avec la Gendarmerie royale du Canada (GRC) et la mise en œuvre de protocoles de sécurité afin d'orienter les personnes en détresse vers les services locaux appropriés.

M. Solomon a précisé jeudi que M. Miller était également présent à cette réunion, ainsi que le ministre de la Justice, Sean Fraser, et le ministre de la Sécurité publique, Gary Anandasangaree.

«Ce que nous avons constaté lors de cette réunion était décevant et insuffisant», a-t-il conclu.

M. Miller pilote un projet de loi sur les préjudices en ligne, mais le gouvernement n'a pas encore décidé si les agents conversationnels seront concernés par cette législation.

Anja Karadeglija, La Presse Canadienne