Ce que nous pouvons apprendre de la réglementation chinoise sur l'IA proposée


Les Les sommets Transform Technology commencent le 13 octobre avec Low-Code/No Code : Enabling Enterprise Agility. S'inscrire maintenant!


Fin août, l'organisme de surveillance Internet chinois, la Cyberspace Administration of China (CAC), a publié un projet de directives visant à réglementer l'utilisation de systèmes de recommandation algorithmiques par les services d'information Internet. Les directives sont jusqu'à présent l'effort le plus complet de tout pays pour réglementer les systèmes de recommandation, et peuvent servir de modèle pour d'autres pays envisageant une législation similaire. L'approche de la Chine comprend certaines meilleures pratiques mondiales en matière de réglementation des systèmes algorithmiques, telles que des dispositions qui favorisent la transparence et le contrôle de la confidentialité des utilisateurs. Malheureusement, la proposition vise également à étendre le contrôle du gouvernement chinois sur la façon dont ces systèmes sont conçus et utilisés pour organiser le contenu. S'il est adopté, le projet augmenterait le contrôle du gouvernement chinois sur les flux d'informations et la parole en ligne.

L'introduction du projet de règlement intervient à un moment charnière pour l'écosystème de la politique technologique en Chine. Au cours des derniers mois, le gouvernement chinois a introduit une série de mesures de répression réglementaires contre les entreprises technologiques qui empêcheraient les plateformes de violer la vie privée des utilisateurs, d'encourager les utilisateurs à dépenser de l'argent et de promouvoir des comportements addictifs, en particulier chez les jeunes. Les directives sur les systèmes de recommandation sont le dernier élément de cette répression réglementaire et semblent cibler les grandes sociétés Internet – telles que ByteDance, Alibaba Group, Tencent et Didi – qui s'appuient sur des algorithmes propriétaires pour alimenter leurs services. Cependant, dans sa forme actuelle, le règlement proposé s'applique plus largement aux services d'information sur Internet. S'il est adopté, cela pourrait avoir un impact sur la façon dont un éventail d'entreprises exploitent leurs systèmes de recommandation, y compris les sociétés de médias sociaux, les plateformes de commerce électronique, les sites d'actualités et les services de covoiturage.

La proposition du CAC contient de nombreuses dispositions qui reflètent des principes largement soutenus dans l'espace de responsabilité algorithmique, dont beaucoup mon organisation, l'Open Technology Institute, a promu. Par exemple, les lignes directrices obligeraient les entreprises à fournir aux utilisateurs plus de transparence sur le fonctionnement de leurs algorithmes de recommandation, y compris des informations sur le moment où les systèmes de recommandation d'une entreprise sont utilisés et les «principes, intentions et mécanismes de fonctionnement» de base du système. Les entreprises devraient également auditer régulièrement leurs algorithmes, y compris les modèles, les données de formation et les résultats, dans le cadre de la proposition. En termes de droits d'utilisation, les entreprises doivent permettre aux utilisateurs de déterminer si et comment l'entreprise utilise leurs données pour développer et exploiter des systèmes de recommandation. De plus, les entreprises doivent donner aux utilisateurs la possibilité de désactiver les recommandations algorithmiques ou de refuser de recevoir des recommandations basées sur les profils. De plus, si un utilisateur chinois pense que l'algorithme de recommandation d'une plate-forme a eu un impact profond sur ses droits, il peut demander à une plate-forme de fournir une explication de sa décision à l'utilisateur. L'utilisateur peut également exiger que l'entreprise apporte des améliorations à l'algorithme. Cependant, on ne sait pas comment ces dispositions seront appliquées dans la pratique.

À certains égards, le règlement proposé par la Chine s'apparente à un projet de loi dans d'autres régions. Par exemple, le projet actuel de la Commission européenne sur sa loi sur les services numériques et sa proposition de règlement sur l'IA visent tous deux à promouvoir la transparence et la responsabilité autour des systèmes algorithmiques, y compris les systèmes de recommandation. Certains experts soutiennent que le règlement général sur la protection des données (RGPD) de l'UE offre également aux utilisateurs un droit d'explication lorsqu'ils interagissent avec des systèmes algorithmiques. Les législateurs aux États-Unis ont également présenté de nombreux projets de loi qui s'attaquent aux algorithmes de plate-forme par le biais d'une série d'interventions, notamment l'augmentation de la transparence, l'interdiction d'utiliser des algorithmes qui violent les lois sur les droits civils et la suppression des protections en matière de responsabilité si les entreprises amplifient de manière algorithmique un contenu préjudiciable.

Bien que la proposition du CAC contienne des dispositions positives, elle comprend également des éléments qui étendraient le contrôle du gouvernement chinois sur la façon dont les plateformes conçoivent leurs algorithmes, ce qui est extrêmement problématique. Le projet de lignes directrices stipule que les entreprises qui déploient des algorithmes de recommandation doivent se conformer à un code d'éthique des affaires, qui obligerait les entreprises à se conformer aux « valeurs dominantes » et à utiliser leurs systèmes de recommandation pour « cultiver une énergie positive ». Au cours des derniers mois, le gouvernement chinois a lancé une guerre culturelle contre la culture de fan club en ligne « chaotique » du pays, notant que le pays devait créer une culture « saine », « masculine » et « axée sur les gens ». Le code commercial éthique auquel les entreprises doivent se conformer pourrait donc être utilisé pour influencer, et peut-être restreindre, les valeurs et les systèmes de recommandation de plate-forme de métriques qui peuvent prioriser et aider le gouvernement à remodeler la culture en ligne à travers leur prisme de censure.

Les chercheurs ont noté que les systèmes de recommandation peuvent être optimisés pour promouvoir une gamme de valeurs différentes et générer des expériences en ligne particulières. Le projet de règlement de la Chine est le premier effort du gouvernement qui pourrait définir et imposer les valeurs appropriées pour l'optimisation du système de recommandation. De plus, les directives autorisent les autorités chinoises à inspecter les algorithmes de la plate-forme et à exiger des modifications.

La proposition du CAC étendrait également le contrôle du gouvernement chinois sur la manière dont les plateformes organisent et amplifient les informations en ligne. Les plateformes qui déploient des algorithmes pouvant influencer l'opinion publique ou mobiliser les citoyens seraient tenues d'obtenir l'approbation préalable au déploiement du CAC. De plus, lorsqu'une plate-forme identifie un contenu illégal et « indésirable », elle doit immédiatement le supprimer, arrêter l'amplification algorithmique du contenu et signaler le contenu au CAC. Si une plateforme recommande un contenu illégal ou indésirable aux utilisateurs, sa responsabilité peut être engagée.

Si elle est adoptée, la proposition du CAC pourrait avoir de graves conséquences pour la liberté d'expression en ligne en Chine. Au cours de la dernière décennie, le gouvernement chinois a radicalement augmenté son contrôle sur l'écosystème en ligne dans le but d'établir sa propre version isolée d'Internet. Sous la direction du président Xi Jinping, les autorités chinoises ont étendu l'utilisation du célèbre « Grand pare-feu » pour promouvoir la surveillance et la censure et restreindre l'accès au contenu et aux sites Web qu'elles jugent contraires à l'État et à ses valeurs. La proposition du CAC fait donc partie intégrante des efforts du gouvernement pour affirmer davantage de contrôle sur la parole et la pensée en ligne dans le pays, cette fois par le biais de systèmes de recommandation. La proposition pourrait également avoir un impact radical sur les flux d'informations mondiaux. De nombreux pays à travers le monde ont adopté des modèles de gouvernance d'Internet inspirés de la Chine alors qu'ils s'orientent vers des modèles de gouvernance plus autoritaires. La proposition du CAC pourrait inspirer des modèles de gouvernance algorithmique tout aussi préoccupants et irresponsables dans d'autres pays.

La réglementation proposée par le gouvernement chinois pour les systèmes de recommandation est l'ensemble de règles le plus complet créé pour régir les algorithmes de recommandation à ce jour. Le projet contient des dispositions notables qui pourraient accroître la transparence autour des systèmes de recommandation algorithmiques et promouvoir les contrôles et le choix des utilisateurs. Cependant, si le projet est adopté sous sa forme actuelle, il pourrait également avoir une influence démesurée sur la manière dont l'information en ligne est modérée et organisée dans le pays, soulevant d'importantes préoccupations en matière de liberté d'expression.

Spandana Singh est analyste politique au New America’s Open Technology Institute. Elle est également membre du réseau d'experts du Forum économique mondial et boursière non-résidente au Centre Esya en Inde, menant des recherches sur les politiques et du plaidoyer autour des questions de surveillance gouvernementale, de protection des données et de responsabilité des plateformes.

VentureBeat

La mission de VentureBeat est d'être une place publique numérique pour les décideurs techniques afin d'acquérir des connaissances sur la technologie transformatrice et d'effectuer des transactions.

Notre site fournit des informations essentielles sur les technologies et les stratégies de données pour vous guider dans la gestion de vos organisations. Nous vous invitons à devenir membre de notre communauté, pour accéder à :

  • des informations à jour sur les sujets qui vous intéressent
  • nos newsletters
  • contenu de leader d'opinion fermé et accès à prix réduit à nos événements prisés, tels que Transformer 2021: Apprendre encore plus
  • fonctionnalités de mise en réseau, et plus

Devenir membre



Source link

Un condition e-commerce donne l’occasion de se lancer à moindres frais chez rapport aux entreprises classiques. De plus, vous pouvez vous lancer autrement rapidement. La gérance d’un localisation commerce électronique ne demande pas de présence physique à un endroit précis, sauf peut-être pour le stockage et la préparation des commandes que vous pouvez tout à fait externaliser, ou bien mieux si vous ne possédez pas de bienséance (on en parlera plus tard dans l’article).