Depuis la proposition du projet de loi sur la sécurité en ligne, des débats ont eu lieu à Westminster et hors de Westminster sur ses différents contenus. Dan Raywood examine son état actuel.
Cela fait environ deux ans que premier essai d'un projet de loi a été présenté, proposé par le Premier ministre britannique de l'époque, Boris Johnson, pour mieux réglementer le contenu en ligne.
Avec pour objectif principal de contrôler les contenus préjudiciables et offensants, le projet de loi sur la sécurité en ligne fait suite au Livre blanc sur les méfaits en ligne de 2019 pour lutter contre les contenus préjudiciables et les contenus qui nuisent aux utilisateurs individuels. Cette affaire a été particulièrement répandue au Royaume-Uni à la suite de l'affaire très médiatisée de Molly Russel, une jeune de 14 ans qui s'est suicidée en 2017 après avoir visionné en ligne des contenus sur le suicide et l'automutilation.
L'intention du projet de loi est de créer une obligation de diligence pour les sites Web et les plateformes en ligne et de les obliger à prendre des mesures contre les contenus illégaux et légaux mais préjudiciables, avec des amendes pouvant aller jusqu'à 18 millions de livres sterling ou 10 % du chiffre d'affaires annuel, selon le montant le plus élevé. , à ceux qui ne s’y conforment pas.
Pourquoi la controverse
Dans l’ensemble, cela semble raisonnablement acceptable. Son objectif est de nettoyer Internet et de mieux protéger les personnes vulnérables contre les contenus potentiellement dangereux et offensants. Alors pourquoi a-t-il suscité une telle controverse ?
Eh bien, d'un côté, il s'agit d'une proposition d'outil permettant aux adultes d'avoir un plus grand contrôle sur les types de contenu qu'ils voient et avec qui ils interagissent en ligne, et de contribuer à réduire la probabilité qu'ils rencontrent certains types de contenu qui seront définis. dans le projet de loi. Le projet de loi protégera déjà les enfants contre la visualisation de ce contenu.
D'un autre côté, cela a été appelé un tenter de maîtriser les contenus sont généralement acceptés comme étant nuisibles, même s'ils ne sont pas contraires à la loi.
Même si le Royaume-Uni dispose de lois interdisant les discours de haine et les menaces, le projet de loi confiera à l'Ofcom le soin de déterminer si les grandes plateformes technologiques remplissent correctement leur devoir de diligence en procédant à des évaluations des risques et en expliquant comment elles atténuent les risques.
L'article 19 de l'Organisation des droits de l'homme dit dans son blog sur le projet de loi selon lequel « l'externalisation » des décisions sur l'illégalité obligera les entreprises à évaluer et à décider si le discours de leurs utilisateurs est légal ou non.
« Cela est profondément problématique dans la mesure où seules des autorités judiciaires indépendantes devraient avoir le pouvoir de prendre une telle décision », indique-t-il. "Au-delà des inquiétudes légitimes liées à l'externalisation des décisions sur la légalité de la parole des utilisateurs à des acteurs privés, nous constatons que dans la plupart des cas, ces évaluations sont extrêmement complexes et dépendantes du contexte et doivent donc être réalisées par des personnes formées."
En fin de compte, cela soulève la question de savoir qui détermine ce qui est illégal ou non, car les plateformes en ligne déploient des systèmes de modération algorithmiques, tels que des outils de correspondance de hachage automatisée et d'apprentissage automatique prédictif, pour effectuer la modération du contenu. En raison du manque de sophistication dans la distinction fiable entre les contenus légaux et illégaux, « ils identifient régulièrement les contenus comme illégaux et suppriment de grandes quantités de contenus légitimes ».
Briser le cryptage de bout en bout – L’énigme de la confidentialité des données
L'autre point de friction du projet de loi sur la sécurité en ligne a été les déclarations sur la rupture du cryptage de bout en bout (E2E) ou au moins sur l'accès aux conversations qui ont lieu via ces applications sécurisées.
Le débat sur les « portes dérobées » vers des applications comme WhatsApp et Signal n’est pas nouveau. Les prédécesseurs de Boris Johnson, comme David Cameron, discutaient ce concept au milieu de la dernière décennie. Cependant, cela pourrait désormais figurer dans un projet de loi du gouvernement et, pour certaines organisations, cela s'est avéré être le principal sujet de discussion.
Selon l'article 19, l'article 103(2)(b) donnera à l'Ofcom le pouvoir d'ordonner à un fournisseur d'un service d'utilisateur à utilisateur d'utiliser une « technologie accréditée » pour identifier le contenu d'exploitation et d'abus sexuels sur enfants (CESA) – que ce contenu soit est communiquée publiquement ou en privé.
L’article 19 affirme : « L’incapacité totale du projet de loi à faire une distinction significative entre les exigences des plateformes publiques et celles des services de messagerie privés signifie qu’il existe un risque réel que l’offre d’un cryptage de bout en bout constitue une violation du projet de loi. »
Communications sécurisées menacées
L'utilisation de communications sécurisées a été largement citée, avec des groupes de défense des droits de l'homme, des journalistes, des lanceurs d'alerte, des victimes de violence domestique et des individus issus de groupes minoritaires, tous des utilisateurs réguliers de WhatsApp, Signal et Telegram, s'exprimant sur le projet de loi. dire ils préféreraient être bloqués au Royaume-Uni plutôt que de saper sa technologie. Ils pourraient même cesser de fournir des services au Royaume-Uni si le projet de loi les obligeait à scanner les messages.
Une note d'orientation de l'Open Rights Group affirme que l'Ofcom pourrait forcer les plateformes de discussion à utiliser une technologie de modération de contenu accréditée par le gouvernement. Bien que le projet de loi ne précise pas la mise en œuvre précise, il s'agit généralement d'une forme d'analyse côté client, où le logiciel résiderait sur les smartphones des utilisateurs.
Dr Monica Horten, responsable politique pour la liberté d'expression au Groupe des droits ouverts, a déclaré : « Nous envisageons donc des mesures qui entraîneront une surveillance massive des services de communication utilisés par plus des deux tiers de la population britannique pour la messagerie privée, y compris les appels vidéo et vocaux. Ils porteront atteinte à la vie privée et à la liberté d'expression des citoyens britanniques.»
Horten affirme : « Il est demandé au Parlement de légiférer pour des mesures intrusives disproportionnées, affectant notre vie privée et notre liberté d'expression, sans aucune information spécifique sur l'impact sur les utilisateurs ou les fournisseurs. » Les particuliers et les entreprises ont le droit de savoir quelles sont les mesures et comment ils peuvent prendre des mesures pour éviter les pénalités avant que le projet de loi n'aille de l'avant.
Garantir la confidentialité des données et la sécurité en ligne : qui a les réponses
Il ne fait aucun doute que la mise en œuvre du projet de loi sur la sécurité en ligne a été délicate – nombreux sont ceux qui affirment qu’un Internet de meilleure qualité, exempt de contenus offensants, est une bonne chose. C'est la manière dont ces facteurs sont déployés qui suscite tant d'inquiétude, car d'une part, la NSPCC appelle à une « action efficace » contre les contenus abusifs et a appelé (la société mère WhatsApp et Facebook) Meta à suspendre son projet de suspendre le cryptage E2E des services de messagerie Facebook et Instagram, mais a également déclaré que « le projet de loi sur la sécurité en ligne devrait être considéré comme une opportunité » pour encourager les entreprises à investir dans des solutions technologiques de cryptage de bout en bout qui protègent la vie privée des adultes et assurent la sécurité des enfants. Alors, un terrain d'entente qui n'affecte pas la vie privée des utilisateurs et n'insiste pas pour briser la technologie de cryptage, mais qui fonctionne néanmoins pour la sécurité en ligne ?
Bien entendu, le débat sur la vie privée est le plus bruyant, et les organisations de défense des droits de l’homme ont mené l’opposition à la rupture du cryptage E2E. Pourtant, les partisans du projet de loi affirmeront que ces plateformes sont les plus utilisées pour échanger ces contenus abusifs.
Déterminer la fin et qui est assis du côté droit est problématique. Depuis sa première présentation, le projet de loi a suscité de nouvelles discussions et poursuivi d’autres débats, et il sera intéressant de voir comment cela sera résolu et conclu.
