Les autorités chinoises serrent la vis aux entreprises d’intelligence artificielle (IA) dans le pays, et la dernière d’une longue série de développements est l’exigence d’évaluations de sécurité avant un lancement commercial.
Selon le projet de règlement publié par le Comité national chinois de normalisation de la sécurité de l’information, les développeurs d’IA seront chargés d’évaluer les sources de données utilisées pour l’entraînement de leurs modèles. Les nouvelles règles dressent une liste de certaines sources de données pour l’entraînement des modèles génératifs d’IA, les entreprises risquant de se voir infliger de lourdes amendes en cas de violation de ces règles.
Les sources de données figurant sur la liste noire sont notamment celles qui contiennent des informations sur la violence et le terrorisme à l’échelle de l’État et qui vont à l’encontre des valeurs socialistes de l’État chinois. Les développeurs d’IA ne pourront pas entraîner leurs modèles avec des données contenant « plus de 5 % d’informations illégales et nuisibles », mais les critères de mesure de ces données restent flous.
Les règles interdisent également aux développeurs d’IA d’utiliser des documents censurés sur l’internet chinois pour entraîner leurs modèles. À l’avenir, les développeurs chinois d’IA devront soumettre aux autorités un rapport de sécurité détaillé sur leurs systèmes d’IA générative avant de les lancer sur le marché.
En ce qui concerne l’obtention de données d’entraînement, les règles ordonnent aux entreprises de respecter les droits de propriété intellectuelle des créateurs de contenu et de demander leur consentement avant la collecte. Si des données biométriques doivent être utilisées dans des modèles de formation, les développeurs d’IA sont tenus d’obtenir l’autorisation de la personne concernée de manière claire et concise.
Ces nouvelles lignes directrices interviennent après qu’un déluge de produits d’IA générative a inondé le marché chinois au cours des 60 derniers jours. Selon un rapport, le nombre de produits d’IA s’élèverait à plus de 70, plusieurs entreprises technologiques locales telles que Baidu et Alibaba se disputant la domination du marché.
Les entreprises chinoises ont commencé à déployer leurs services d’IA à la suite du lancement, à la mi-août, de mesures provisoires visant à réglementer les développeurs. Ces règles, saluées pour leur caractère novateur, imposent plusieurs garde-fous, notamment l’exigence d’un étiquetage clair des contenus générés par l’IA et l’interdiction des contenus discriminatoires, tout en imposant une responsabilité supplémentaire aux développeurs d’IA.
« Les fournisseurs doivent assumer légalement la responsabilité des producteurs de contenu d’information de réseau et remplir les obligations de sécurité de l’information de réseau », peut-on lire dans les règles du mois d’août.
La position de la Chine sur les technologies émergentes
La Chine a toujours considéré les technologies émergentes avec beaucoup de méfiance, s’efforçant de faire jouer ses muscles réglementaires sur les industries naissantes. En 2021, le marteau réglementaire est tombé sur son industrie Web3 en pleine croissance, interdisant de fait toutes les activités liées aux monnaies virtuelles dans le pays.
En ce qui concerne l’IA, le Bureau chinois de la sécurité des réseaux a dévoilé un projet visant à aider le gouvernement à réprimer l’utilisation abusive de cette technologie. Un cadre du bureau de la sécurité nationale a confirmé une hausse des crimes facilités par l’IA et les monnaies numériques, promettant d’intensifier les mesures d’application de la loi dans ce secteur.
« Nous avons surveillé l’utilisation de ChatGPT, de l’informatique en nuage, de la blockchain, de la fausse IA profonde et d’autres nouvelles technologies émergentes, de nouvelles applications et de nouvelles organisations dans ces incidents », a déclaré le cadre. « Nous frapperons durement ces méthodes au fur et à mesure de nos recherches sur leur utilisation ».
