L'Australie va imposer des garde-fous en matière d'IA

L'Australie a annoncé mardi qu'elle imposerait de strictes mesures prudentielles aux entreprises spécialisées dans l'intelligence artificielle (IA) souhaitant opérer dans le pays, après le piratage de plateformes gouvernementales par un modèle d'OpenAI.

Une nouvelle autorité de régulation de l'IA, chargée de mettre en œuvre des mesures visant à encadrer ce secteur, va être créée, a indiqué le Premier ministre Anthony Albanese.

Son gouvernement s'est positionné à l'avant-garde d'un combat pour l'encadrement de la tech, en interdisant par exemple depuis fin 2025 de nombreux réseaux sociaux aux moins de 16 ans - même si la mesure est largement contournée, selon une étude publiée en août.

"On ne peut pas fermer les yeux et faire comme si de rien n'était. Mais ce que nous pouvons faire, c'est veiller à ce que cette technologie (l'IA) soit mise au service des intérêts de l'Australie", a déclaré le chef du gouvernement à la presse.

Les nouvelles mesures de protection inclueront notamment l'obligation de signaler les risques liés à l'IA et l'évaluation indépendante des modèles de pointe.

"L'Australie est un pionnier dans ce domaine et nous voulons nous assurer de tirer pleinement parti des avantages potentiels de l'IA", a revendiqué le Premier ministre. "Mais nous devons veiller à bien faire les choses, et l'adhésion de la société est absolument essentielle", a-t-il ajouté.

Les préoccupations se multiplient au niveau mondial quant aux capacités des outils d'IA avancée, après une série de piratages commis de leur propre initiative par des modèles d'OpenAI et de ses concurrents Anthropic et Google.

Piratages

En juin, un agent autonome d'OpenAI a infiltré un site internet du gouvernement australien, et accédé à des fichiers du service de statistiques de la santé. Canberra a accusé l'entreprise américaine ne l'avoir alerté qu'en septembre, par un courriel à une adresse électronique générique destinée au grand public.

Au total, quatre plateformes du gouvernement australien ont été visées par l'IA du créateur de ChatGPT.

Pour le ministre de la Défense Richard Marles, "il est important que les modèles d'IA fassent l'objet d'une évaluation indépendante" et que soit renforcée "la gestion des risques" dans ce domaine, a-t-il dit à la presse.

L'Australie, dont de vastes zones sont inhabitées, fait figure de place de choix pour la construction de "data centers", ces installations nécessaires au fonctionnement de l'IA. OpenAI est en particulier impliqué dans la construction d'un immense centre de données en périphérie de Sydney.

Mais des voix se sont élevées quant à l'impact environnemental de ces sites particulièrement gourmands en énergie et en eau.

Et le secteur artistique australien a accusé Anthropic et d'autres entreprises du secteur de l'IA de chercher à assouplir les lois sur le droit d'auteur afin que les agents conversationnels puissent être entraînés sur des chansons et des livres locaux.