Face à la haine en ligne, « l’État a confié la gestion de la liberté d’expression aux plateformes capitalistes »
Publié le , Mis à jour le
Catégorie : Global
Thèmes : Contrôle socialIndymediaMédias
Lieux : France
Les dispositifs qui existent déjà en France pour signaler et tenter de supprimer les contenus problématiques en ligne, comme Pharos, la plateforme de signalement hébergée par la police, fonctionnent-ils selon vous ?
C’est Pharos qui avait demandé la censure d’Indymedia, donc pour la censure politique, a priori, ça marche. Mais pour les signalements des messages haineux, ils ne servent pas à grand-chose. Actuellement, sur la modération des contenus en France, l’État a tout délégué aux plateformes étatsuniennes. Des juges sont parfois saisis, mais Pharos, ce n’est pas la justice. Le droit est construit pour que Twitter, Facebook et les autres modèrent pour le compte de l’État. Ces plateformes privées font donc à la fois office de police et de juge…
L’État pourrait décider d’arrêter de confier la gestion de la modération des contenus haineux à des acteurs privés. Dans ce cas, Pharos saisirait systématiquement la justice au nom des victimes des contenus haineux pour les défendre. Cela n’a jamais été envisagé. Pharos est une simple courroie de transmission avec des grandes entreprises capitalistes, tout en se comportant parfois comme un bureau de censure politique. Tant qu’il en est ainsi, nous, à la Quadrature du net, n’allons pas demander que Pharos ait plus de moyen.
Aujourd’hui, l’État délègue-t-il littéralement la censure des contenus aux plateformes privées comme Twitter et Facebook ?
Oui, et c’est tout à fait explicite. Quand Marlène Schiappa [ministre déléguée chargée de la Citoyenneté] invite tous les réseaux sociaux [le 20 octobre], c’est pour leur demander de faire mieux leur travail de modération, d’en faire d’avantage sur la censure des contenus, pas pour leur demander de rendre les clés de la gestion de la liberté d’expression. Quand la seule petite mesure que le gouvernement annonce, c’est d’augmenter les moyens de Pharos, ce n’est pas pour donner davantage de moyens à la justice publique, c’est pour augmenter la collaboration avec les plateformes privées.
En 2015, avant que cette coopération ne commence, Facebook avait donné les chiffres des demandes faites par la police nationale pour supprimer des pages. On en était à 38 000 demandes. La France était ainsi le pays qui avait fait le plus de demandes de suppression, plus que l’Inde. En 2016, le chiffre est retombé à quelques centaines de demandes seulement. Entre les deux, Facebook a intégré les critères de la police française et a dit à l’État “ne vous embêtez plus à signaler, on s’en occupe”. Il s’agit vraiment d’une privatisation.
Au-delà de la modération, vous jugez que la racine du problème des contenus haineux en ligne, c’est le modèle économique même des multinationales du web ?
Quand on dit cela, c’est au sujet de la haine sur Internet, des gens qui s’insultent en ligne, voire du harcèlement, pas sur les questions de terrorisme. Le meurtre de Conflans, cela n’a clairement rien à voir avec des questions de modèles économiques sur Internet.
Les grandes plateformes comme Facebook et Twitter, structurellement, ne peuvent pas empêcher les conflits en ligne. Parfois, elles les renforcent, ne serait-ce que par leur taille, du fait du nombre d’utilisateurs qui parlent en même temps, et de leur diversité. Les gens qui viennent sur Instagram n’ont aucune culture commune, aucune raison d’être ensemble. Ils y viennent parce que c’est populaire. Si on compare cela avec un forum de fans d’équitation par exemple, les gens qui y sont ne vont pas s’engueuler immédiatement, parce qu’ils ont quelque chose en commun, ils aiment les chevaux.
L’exemple peut avoir l’air naïf de prime abord, mais c’est comme cela que s’est construit Internet, sur des communautés d’intérêts, des personnes qui avaient des choses en commun à partager. C’est aussi pour cela qu’on a vu des choses intéressantes sur Internet. Le but des plateformes géantes est tout autre, il est d’attirer le maximum de personnes possibles, le tout-venant, pour faire de la publicité. Cet objectif est naturellement contraire à celui d’apaiser les échanges. Si on prend toute la population française, qu’on l’enferme dans un stade et qu’on oblige les gens à se parler entre eux, il est normal que ça dérape.
L’autre point, c’est la culture du buzz, du clash parfois. Soit c’est la structure elle-même qui favorise le buzz, comme sur Twitter avec des messages courts, un système de retweet et de citation fait pour favoriser les petites phrases ; soit c’est la mise en avant de certains contenus qui y contribue, comme sur Youtube où les vidéos de clash, ou celles qui provoquent la sidération, sont davantage recommandées. Ces différentes structures, dont le but est de vendre de la publicité, ont souvent pour conséquence de favoriser le clash, voire de censurer par enterrement les discours subtils, d’apaisement, de conciliation.
Est-ce possible de légiférer contre cela ?
Nous avons deux stratégies contre cela. La principale, c’est de détruire les Gafam [abréviation qui désigne les géants du web, Google, Apple, Facebook, Amazon, Microsoft et les autres, ndlr] ou, au minimum, de les éloigner le plus possible d’Europe, en s’en prenant au cœur de leur modèle économique qui est le ciblage publicitaire. C’est dans cette optique que nous avons déposé des plaintes collectives au niveau européen sur le traitement des données personnelles par les Gafam [4].
L’autre point, c’est de permettre aux personnes qui veulent partir de ces plateformes de le faire. Depuis cinq ans, il y a un mouvement de détestation grandissante des Gafam. Je pense qu’il n’existe plus grand monde aujourd’hui pour dire « j’aime Facebook » ou « j’aime Google ». Pourtant, ces plateformes ont perdu peu d’utilisateurs. Pendant le mouvement des Gilets jaunes, nous recevions à la Quadrature de nombreux appels de gilets jaunes qui demandaient comment aller ailleurs que sur Facebook. Mais s’ils quittaient Facebook, ils perdaient la base militante du mouvement. Donc, ils ne pouvaient pas le faire, même s’ils le souhaitaient.
Disposer d’alternatives au Gafam, comme Diaspora (une alternative à Facebook), Mastodon (une alternative à twitter), ne suffit donc pas, car en étant seulement sur ces plateformes, on se coupe de tous ceux qui sont encore sur ces réseaux de masse. Comment faire ?
Il faut développer les alternatives et l’interopérabilité. Les alternatives aux géants du web existent, comme Mastodon en effet pour le microblogging. Les gens savent que cela existe mais n’y vont pas. Parce qu’en y allant, on se coupe de la majorité restée sur les Gafam. L’interopérabilité, c’est permettre aux gens de partir des plateformes géantes sans perdre le contact avec leurs amis restés sur les Gafam. Cette logique marche déjà sur le mail. Si vous avez un compte gmail, que vous voulez quittez gmail pour ouvrir un compte mail à laposte.fr par exemple, vous pourrez le faire tout en continuant à envoyer des mails aux amis restés sur gmail. Cela fonctionne car la messagerie mail est une technologie interopérable.
L’idée, c’est de partir sur Mastodon tout en continuant à pouvoir interagir avec quelqu’un resté sur Twitter ?
Oui. Twitter aurait l’obligation d’afficher les personnes que vous suivez et qui sont passées sur Mastodon, et de transmettre la réponse de quelqu’un resté sur Twitter au service de Mastodon. Tout internet est interopérable à la base. Avec le système des réseaux sociaux centralisés, les plateformes géantes ont réussi à créer des barrières alors qu’Internet était un espace de liberté.
Autre chose que nous préconisons, c’est de s’inspirer de ce qui se fait dans les toutes petites plateformes, ou même sur Wikipédia, qui est pourtant très gros. Sur ce type de plateformes, les gens se chargent de la modération bénévolement. Ils font partie de la communauté, ils en connaissent les membres, les comprennent. Or, c’est beaucoup plus facile de gérer un conflit quand on connaît les gens. Sur Facebook, ce sont des personnes sous-payées parfois basées aux Philippines qui modèrent les conflits entre des habitants d’Amérique du Nord. Évidemment que cela ne marche pas bien. Plutôt que d’avoir quelques dizaines de juge français débordés ou des gens sous-payés à l’autre bout de la planète, nous proposons une armée de personnes volontaires, bénévoles, qui modèrent gratuitement. Il faut une multiplicité de forums différents, il faut sortir du modèle que les Gafam nous ont mis dans la tête selon lequel il n’existe que cinq ou six sites sur internet.
Vous pensez aussi qu’une même loi ne peut pas répondre à la fois au problème des contenus haineux en ligne et à la question de la propagande terroriste sur internet, qu’il faut séparer les deux ?
On ne prétend pas éradiquer la haine dans le monde avec la modération bénévole. Sur la question des personnes qui passent à l’action meurtrière, un rapport de l’Unesco de 2017, au sujet de la radicalisation des jeunes sur Internet, a fait la synthèse des études réalisées sur le sujet à travers le monde. Il conclut que rien ne permet d’affirmer que c’est sur Internet que les jeunes se radicalisent. La radicalisation a lieu ailleurs.
Propos recueillis par Rachel Knaebel
________
Notes
[1] Arthur Messaud est juriste à La Quadrature du Net, association de défense des libertés numériques et qui s’était opposée à la loi Avia.
[2] En septembre et octobre 2017, la police avait ordonné aux sites Indymedia Grenoble et Indymedia Nantes de supprimer quatre publications, des messages revendiquant des incendies de voitures de police et de gendarmerie.
[3] Voir ici l’analyse de la Quadrature du net à ce sujet.
[4] Voir à ce sujet l’annonce du dépôt de plaintes collective, en 2018.
________
source : https://www.bastamag.net/Haine-en-ligne-plateforme-Pharos-loi-Avia-attentat-Conflans-moderation-Gafam-alternative-Diaspora-Mastodon-Quadrature-du-Net
Sauf mention contraire, le contenu de ce site est sous contrat Creative Commons
« La proposition de loi portée par Laetitia Avia prétend vouloir faire du CSA « l’accompagnateur des plateformes » dans la lutte « contre la haine en ligne ». En réalité, la loi va beaucoup plus loin. Comme cela est redouté depuis plusieurs années, elle amorce la transformation de l’autorité en un grand régulateur de l’Internet, dans la droite lignée du « Comité Supérieur de la Télématique » fantasmé par François Fillon dès 1996. Entretenant la dangereuse confusion entre Internet et la télévision, la loi Avia participe à la centralisation et à l’extra-judiciarisation de l’Internet. Quitte à risquer de le transformer en une sorte de sombre ORTF 2.0.
La proposition de loi portée par Lætitia Avia doit être débattue à l’Assemblée Nationale le 3 juillet prochain. À côté des dangers que nous avons déjà soulignés (voir notre analyse juridique), la loi délègue un grand nombre de pouvoirs au CSA :
– celui d’émettre des « recommandations, des bonnes pratiques et des lignes directrices pour la bonne application » de certaines obligations qui y sont prévues, notamment celles du retrait des contenus dits haineux et définis en son article 1er (contenus terroristes, atteinte à la dignité humaine, incitation à la haine, discriminations…) ;
– celui de mettre en demeure puis de sanctionner (à hauteur de 4% du chiffre d’affaires mondial, comme pour le RGPD [1]) les plateformes qui ne respecteraient pas l’obligation de retrait en 24h de ces contenus une fois qu’ils leur sont notifiés. À ce titre, c’est au CSA qu’il reviendra d’apprécier « le caractère insuffisant ou excessif du comportement de l’opérateur en matière de retrait sur les contenus portés à sa connaissance » ;
– enfin, il récupère le rôle de la CNIL dans le cadre du contrôle des demandes que peut faire l’OCLTCIC (Office central de lutte contre la criminalité liée aux technlogies de l’information et de la communication)
(et non un juge) pour obtenir le blocage par les FAI d’un site considéré comme pédopornographique ou à caractère terroriste.
Il faut ranger ces pouvoirs à côté de ceux aussi acquis par le CSA dans la récente loi sur les fake news, (dite loi « relative à la lutte contre la manipulation de l’information »). Le CSA y avait en effet déjà récupéré des pouvoirs assez semblables, comme celui d’émettre des recommandations pour « améliorer » la lutte contre ces fausses informations. » […]
https://www.acrimed.org/La-loi-haine-va-transformer-internet-en