Facebook ne gagne qu’environ 34 \u00a3 par an sur le client moyen au Royaume-Uni – un peu moins de 3 \u00a3 par mois (et ce, avant les frais) ; il est donc clair qu’il n’y a pas de marge de man\u0153uvre ou de motivation pour un niveau humain de service \u00e0 la client\u00e8le ou d’attention. L’utilisateur n’est pas le client ; il est plut\u00f4t le produit dont les donn\u00e9es sont vendues aux annonceurs.<\/p>\n\n\n\n
Les utilisateurs n’ont donc pas de relation client directe avec la plateforme. Le r\u00e9seau n’est pas directement incit\u00e9 \u00e0 \u00ab se soucier \u00bb de l’utilisateur avant l’annonceur. Et quelle que soit votre position sur l’\u00e9chiquier entre \u00ab l’absolutisme de la libert\u00e9 d’expression \u00bb et \u00ab les entit\u00e9s priv\u00e9es ont le droit de censurer n’importe quel utilisateur \u00bb, avec des marges aussi faibles, il est in\u00e9vitable que le traitement automatique soit utilis\u00e9 pour mod\u00e9rer les messages et g\u00e9rer l’interface client.<\/p>\n\n\n\n
Mais il est un fait que les capacit\u00e9s de traitement et de gestion des clients que les r\u00e9seaux sociaux sont en train de d\u00e9velopper sont utilis\u00e9es de diverses mani\u00e8res, au-del\u00e0 de la simple mod\u00e9ration. Il est \u00e9galement vrai que ce traitement automatis\u00e9 est effectu\u00e9 \u00e0 grande \u00e9chelle et s’applique d\u00e9sormais \u00e0 chaque message post\u00e9 par chaque membre. 68 % des \u00e9lecteurs am\u00e9ricains sont sur Facebook. Au Royaume-Uni, ils sont 66 % et en France 73,2 %. Les chiffres sont similaires pour toutes les nations d\u00e9mocratiques de l’Occident. Il est donc essentiel que les r\u00e8gles appliqu\u00e9es soient politiquement neutres.<\/p>\n\n\n\n
Le pouvoir qui existe dans la capacit\u00e9 de traiter m\u00e9caniquement les messages de chaque utilisateur est bien plus profond que beaucoup ne le r\u00e9alisent. Et bien qu’il ne puisse pas dicter directement ce que les utilisateurs \u00e9crivent dans leurs messages, il a la capacit\u00e9 de fa\u00e7onner fondamentalement les messages qui gagnent du terrain.<\/p>\n\n\n\n
Les services de m\u00e9dias sociaux sont devenus de facto des places publiques et la plupart des gens s’accordent \u00e0 dire que leurs propri\u00e9taires devraient \u00e9viter de mettre la main sur la balance et d’influencer la politique.<\/p>\n\n\n\n
En outre, comme le savent tous les utilisateurs de Facebook, en particulier lorsqu’il s’agit de sujets politiquement sensibles, le syst\u00e8me limitera la port\u00e9e d’un individu, parfois \u00e0 un degr\u00e9 extr\u00eame. Ou bien l’utilisateur sera tout simplement banni pendant un certain temps, ou banni du r\u00e9seau dans son int\u00e9gralit\u00e9.<\/p>\n\n\n\n
On peut donc se poser la question suivante : puisque les entreprises de m\u00e9dias sociaux disposent d’un tel pouvoir de censure, comment savoir si elles ne se livrent pas \u00e0 une ing\u00e9rence politique contraire \u00e0 l’\u00e9thique ? Peut-on leur confier cette responsabilit\u00e9 ?<\/p>\n\n\n\n
Je reviendrai sur cette question, mais il est clair que la confiance dans ces entreprises est profond\u00e9ment d\u00e9plac\u00e9e.<\/p>\n\n\n\n
La pand\u00e9mie a fait prendre conscience \u00e0 de nombreuses personnes des niveaux de contr\u00f4le impos\u00e9s par les responsables de nos r\u00e9seaux de m\u00e9dias sociaux. Ils r\u00e9digent les r\u00e8gles afin de stimuler l’engagement pour les messages qu’ils pr\u00e9f\u00e8rent, ce qui donne plus de valeur au nombre de followers de certaines personnes. \u00c0 l’inverse, les utilisateurs qui vont \u00e0 contre-courant (ou \u00e0 l’encontre du discours de l’establishment) voient leur engagement subtilement r\u00e9duit, voire supprim\u00e9, ou peuvent \u00eatre totalement bannis du service. La preuve en est que, contrairement aux principes de la d\u00e9mocratie, Facebook, Twitter et YouTube ont mis la main \u00e0 la poche.<\/p>\n\n\n\n
Lorsque Elon Musk a rachet\u00e9 Twitter, il a invit\u00e9 les journalistes ind\u00e9pendants Matt Taibbi, Bari Weiss et Michael Schellenburger \u00e0 p\u00e9n\u00e9trer dans les bureaux de Twitter pour \u00e9tudier les communications internes de l’entreprise et voir dans quelle mesure les anciens propri\u00e9taires avaient censur\u00e9 les tweets des utilisateurs.<\/p>\n\n\n\n
Les Twitter Files sont le r\u00e9sultat de ces recherches et d\u00e9montrent clairement qu’il y a eu des interf\u00e9rences \u00e0 grande \u00e9chelle et que, dans de nombreux cas, ces interf\u00e9rences ont \u00e9t\u00e9 motiv\u00e9es par des raisons politiques. L’\u00e9quipe des Twitter Files a \u00e9tabli que des agences gouvernementales \u00e9taient fermement implant\u00e9es dans l’entreprise pour surveiller et censurer les citoyens am\u00e9ricains et les citoyens d’autres pays, et que des agences gouvernementales demandaient r\u00e9guli\u00e8rement (avec insistance) des actions de censure. Mais plus encore, ils ont \u00e9galement r\u00e9v\u00e9l\u00e9 que des niveaux d’interf\u00e9rence similaires avaient lieu sur d’autres r\u00e9seaux de m\u00e9dias sociaux tels que Facebook.<\/p>\n\n\n\n
Mais depuis que les fichiers Twitter ont apport\u00e9 la preuve de l’interf\u00e9rence, une nouvelle menace d’interf\u00e9rence, potentiellement encore plus grande, est apparue. L’IA.<\/p>\n\n\n\n
Il fut un temps o\u00f9 les algorithmes semblaient \u00eatre le seul sujet de conversation dont les sp\u00e9cialistes du marketing num\u00e9rique pouvaient discuter. Et comme il n’y a pas de marge pour une intervention humaine au niveau des messages individuels, ce sont les algorithmes qui \u00e9taient utilis\u00e9s.<\/p>\n\n\n\n
Au d\u00e9part, ils \u00e9taient assez simples, comme les \u00e9quations que nous pratiquions en cours de math\u00e9matiques \u00e0 l’\u00e9cole, et ils \u00e9taient donc relativement faciles \u00e0 mettre au point. L’essor de Google a \u00e9t\u00e9 favoris\u00e9 par une id\u00e9e simple mais brillante : compter les liens externes vers une page web comme indicateur de sa pertinence.<\/p>\n\n\n\n
Depuis, les algorithmes ont c\u00e9d\u00e9 la place \u00e0 des mod\u00e8les d’apprentissage automatique plus complexes qui, \u00e0 la base, reposent toujours sur des algorithmes, mais ceux-ci sont d\u00e9sormais g\u00e9n\u00e9r\u00e9s automatiquement et si vastes que toute tentative humaine de les d\u00e9m\u00ealer est vou\u00e9e \u00e0 l’\u00e9chec. Nous limitons donc notre r\u00e9flexion sur ces mod\u00e8les \u00e0 ce qu’ils peuvent accomplir, aux \u00e9l\u00e9ments significatifs qu’ils peuvent distinguer, plut\u00f4t qu’\u00e0 la mani\u00e8re exacte dont le code fonctionne.<\/p>\n\n\n\n
Aujourd’hui, nous sommes entr\u00e9s dans une troisi\u00e8me g\u00e9n\u00e9ration de technologies. L’apprentissage automatique s’est transform\u00e9 en d\u00e9veloppement de grands mod\u00e8les de langage (LLM) ou, plus populairement, en IA. Avec cette derni\u00e8re \u00e9volution, les corporatistes ont trouv\u00e9 d’immenses et effrayantes nouvelles opportunit\u00e9s de pouvoir et de contr\u00f4le.<\/p>\n\n\n\n
La cr\u00e9ation de LLM implique une formation. Cette formation leur conf\u00e8re des comp\u00e9tences et des pr\u00e9jug\u00e9s sp\u00e9cifiques. L’objectif de la formation est de combler les lacunes, de sorte qu’il n’y ait pas de trous \u00e9vidents dans la capacit\u00e9 du LLM \u00e0 traiter les \u00e9l\u00e9ments constitutifs de la conceptualisation et du discours humains. Et c’est l\u00e0 la caract\u00e9ristique distinctive des LLM : nous pouvons converser avec eux et la conversation est fluide, la grammaire et le contenu semblent normaux, fluides et complets. Id\u00e9alement, un LLM se comporte comme un majordome anglais raffin\u00e9, poli, informatif et correct sans \u00eatre impoli. Mais la formation conf\u00e8re \u00e9galement des sp\u00e9cialisations au LLM.<\/p>\n\n\n\n
Dans le contexte des m\u00e9dias sociaux – et c’est l\u00e0 que les niveaux effrayants de pouvoir commencent \u00e0 devenir \u00e9vidents – les LLM sont utilis\u00e9s pour jouer le r\u00f4le de surveillant de salle, en appliquant la \u00ab mod\u00e9ration du contenu \u00bb.<\/p>\n\n\n\n
Le Llama Guard de Meta en est un excellent exemple, form\u00e9 non seulement \u00e0 la mod\u00e9ration, mais aussi au signalement des utilisateurs. Cette fonction de signalement incarne non seulement la possibilit\u00e9 de signaler, mais aussi, par le biais de ces donn\u00e9es de signalement, l’exploitation des possibilit\u00e9s d’influencer et de faire des suggestions \u00e0 propos de l’utilisateur et pour l’utilisateur. Et lorsque je parle de suggestions, un LLM est capable non seulement de faire des suggestions \u00e9videntes que l’utilisateur peut appr\u00e9cier et qu’il est heureux de recevoir, mais aussi des suggestions inconscientes plus sournoises qui peuvent \u00eatre manipulatrices et con\u00e7ues pour contr\u00f4ler l’utilisateur.<\/p>\n\n\n\n
Il n’y a pas encore de preuve (\u00e0 ma connaissance) que les LLM en particulier sont utilis\u00e9s de cette mani\u00e8re, pour l’instant. Mais la capacit\u00e9 est tr\u00e8s certainement l\u00e0 et, si les comportements pass\u00e9s indiquent des d\u00e9veloppements futurs, il est probable qu’ils soient utilis\u00e9s de la sorte.<\/p>\n\n\n\n
Il suffit de regarder l’\u00e9pisode de 2006 de l’\u00e9mission t\u00e9l\u00e9vis\u00e9e de Derren Brown \u00ab Derren Brown : The Heist \u00bb, dans lequel il convainc un groupe d’\u00e9trangers qu’ils doivent commettre un braquage de banque, pour se rendre compte de la profondeur et de la puissance de l’utilisation de la suggestion. Pour ceux qui ne connaissent pas Derren Brown, il s’agit d’un hypnotiseur de sc\u00e8ne et d’un mentaliste qui a tendance \u00e0 mettre l’accent sur le pouvoir de la suggestion plut\u00f4t que sur l’hypnose (la plupart de ses spectacles ne contiennent pas d’hypnose du tout). Par le simple pouvoir de la suggestion, il am\u00e8ne les gens \u00e0 faire les choses les plus extraordinaires.<\/p>\n\n\n\n
Les suggestions \u00ab \u00e0 la Derren-Brown \u00bb fonctionnent parce que le cerveau humain est en r\u00e9alit\u00e9 beaucoup moins agile et beaucoup plus lin\u00e9aire que nous ne le pensons. La conscience est une ressource pr\u00e9cieuse et de nombreuses actions que nous faisons fr\u00e9quemment sont transf\u00e9r\u00e9es \u00e0 l’habitude, de sorte que nous pouvons les faire sans r\u00e9fl\u00e9chir, ce qui nous permet de pr\u00e9server la conscience l\u00e0 o\u00f9 elle est le plus n\u00e9cessaire.<\/p>\n\n\n\n
C’est par habitude que nous changeons de vitesse dans une voiture \u00e0 bo\u00eete de vitesses sans avoir \u00e0 y penser. Et nous avons tous fait l’exp\u00e9rience de ce jeu o\u00f9 l’on dispose d’un temps donn\u00e9 pour penser \u00e0 une liste de choses, comme des pays, se terminant par la lettre A. Si l’on est mis au pied du mur devant une foule, il peut parfois \u00eatre difficile d’en trouver une. Le cerveau n’est souvent pas tr\u00e8s dou\u00e9 pour penser de mani\u00e8re cr\u00e9ative ou pour se souvenir rapidement et consciemment de ce qui se passe.<\/p>\n\n\n\n
Mais si quelqu’un \u00e0 qui vous avez parl\u00e9 quelques minutes avant le match vous a parl\u00e9 de ses vacances au Kenya, vous pouvez \u00eatre s\u00fbr que le Kenya sera la premi\u00e8re r\u00e9ponse qui vous viendra \u00e0 l’esprit. De plus, l’association se fera automatiquement, que nous le voulions ou non !<\/p>\n\n\n\n
C’est tout simplement la fa\u00e7on dont le cerveau fonctionne. Si l’information est transmise au bon moment et de la bonne mani\u00e8re, il est presque certain qu’une suggestion donn\u00e9e sera suivie. Derren Brown l’a bien compris et est pass\u00e9 ma\u00eetre dans l’art de l’exploiter.<\/p>\n\n\n\n
Les moteurs de recherche et les plateformes de m\u00e9dias sociaux disposent d’un immense pouvoir pour modifier les comportements par le biais de suggestions subtiles. Il existe d’ailleurs des preuves que Facebook et Google ont agi de la sorte.<\/p>\n\n\n\n
Robert Epstein, professeur et chercheur, a en quelque sorte \u00ab surpris Google \u00bb en manipulant la bo\u00eete de suggestions de recherche qui appara\u00eet sous la zone de texte o\u00f9 les utilisateurs saisissent une requ\u00eate de recherche. L’\u00e9pisode est devenu d’autant plus sordide qu’il est apparu clairement qu’ils \u00e9taient trompeurs et qu’ils avaient conscience que leur exp\u00e9rience \u00e9tait contraire \u00e0 l’\u00e9thique. Je ne raconterai pas tous les d\u00e9tails, mais je vous invite \u00e0 consulter les liens qui s’y rapportent – c’est une histoire int\u00e9ressante en soi.<\/p>\n\n\n\n
Les utilisateurs sont dans un \u00e9tat mental particuli\u00e8rement confiant et r\u00e9ceptif lorsqu’ils utilisent la fonction de liens sugg\u00e9r\u00e9s de Google et ne remarquent pas que les r\u00e9sultats contiennent des suggestions d’actions et d’imp\u00e9ratifs qui, loin d’\u00eatre la meilleure r\u00e9ponse \u00e0 leur recherche, sont l\u00e0 pour manipuler les actions ult\u00e9rieures de l’utilisateur.<\/p>\n\n\n\n
En ce qui concerne les messages sur les m\u00e9dias sociaux, l’utilisation de suggestions est souvent beaucoup plus subtile, ce qui la rend plus difficile \u00e0 d\u00e9tecter et \u00e0 contrer. L’analyse LLM de la base de donn\u00e9es des messages des utilisateurs peut r\u00e9v\u00e9ler des messages connexes qui sugg\u00e8rent des actions. Dans ce cas, le r\u00e9seau peut utiliser le fait qu’il dispose de plusieurs millions de messages d’utilisateurs, y compris des messages sugg\u00e9rant des r\u00e9sultats pr\u00e9f\u00e9r\u00e9s. Ces messages peuvent \u00eatre s\u00e9lectionn\u00e9s et faire l’objet d’une promotion pr\u00e9f\u00e9rentielle dans les flux d’utilisateurs.<\/p>\n\n\n\n
La mod\u00e9ration du contenu est bien s\u00fbr n\u00e9cessaire pour g\u00e9rer les propos inacceptables et les comportements antisociaux. Toutefois, il existe une vaste zone grise o\u00f9 les opinions d\u00e9sagr\u00e9ables peuvent \u00eatre qualifi\u00e9es de \u00ab discours de haine \u00bb et, parce qu’il s’agit d’une zone grise, le r\u00e9seau social dispose d’une grande marge de man\u0153uvre pour s’immiscer dans l’espace de la politique personnelle et de la libert\u00e9 d’expression.<\/p>\n\n\n\n
Le terme \u00ab discours de haine \u00bb a \u00e9t\u00e9 un moyen tr\u00e8s efficace pour justifier l’utilisation du marteau d’interdiction, mais la principale pr\u00e9occupation aujourd’hui est que, avec le d\u00e9ploiement des LLM, une \u00e9tape historique majeure a \u00e9t\u00e9 franchie avec \u00e0 peine un murmure qui implique un tout nouveau niveau de contraintes et de menaces pour la libert\u00e9 de communication des utilisateurs.<\/p>\n\n\n\n
Ce jalon, c’est que les LLM sont d\u00e9sormais utilis\u00e9s pour r\u00e9gir le comportement humain, et non l’inverse. Le franchissement de cette \u00e9tape a \u00e9t\u00e9 \u00e0 peine remarqu\u00e9 parce que des algorithmes plus simples jouaient d\u00e9j\u00e0 ce r\u00f4le auparavant et que cela se fait de toute fa\u00e7on dans l’obscurit\u00e9.<\/p>\n\n\n\n
Les utilisateurs ne s’en rendent compte que lorsqu’ils en sont affect\u00e9s de mani\u00e8re \u00e9vidente. Cependant, il y a de nombreuses raisons de penser qu’\u00e0 l’avenir, nous regarderons en arri\u00e8re et reconna\u00eetrons que cette \u00e9tape \u00e9tait une sorte de jonction critique apr\u00e8s laquelle une certaine version d’un avenir semblable \u00e0 celui de \u00ab Sky-Net \u00bb est devenue in\u00e9vitable.<\/p>\n\n\n\n
La semaine derni\u00e8re, le Premier ministre britannique Keir Starmer a annonc\u00e9 une initiative de la police visant \u00e0 utiliser les m\u00e9dias sociaux pour identifier les personnes impliqu\u00e9es dans la r\u00e9pression des troubles de l’ordre public, illustrant ainsi la mani\u00e8re dont les rapports automatis\u00e9s du LLM sont pr\u00eats \u00e0 \u00eatre utilis\u00e9s au-del\u00e0 des m\u00e9dias sociaux et dans le contexte de l’application de la loi.<\/p>\n\n\n\n
Il n’y a pas encore de d\u00e9tails sur la mani\u00e8re dont ce contr\u00f4le sera effectu\u00e9, mais, ayant l’exp\u00e9rience de Tech Project pitching, vous pouvez \u00eatre s\u00fbr que le gouvernement aura une liste d’entreprises technologiques sugg\u00e9rant des solutions. Et vous pouvez \u00eatre s\u00fbrs que les LLM seront pr\u00e9sent\u00e9s comme faisant partie int\u00e9grante de presque toutes ces solutions !<\/p>\n\n\n\n
Nous avons donc \u00e9tabli que les m\u00e9dias sociaux sont ferm\u00e9s et propri\u00e9taires et qu’ils ont permis la mise en place de nouvelles structures de pouvoir dans le domaine des m\u00e9dias. Nous avons vu que les propri\u00e9taires de m\u00e9dias sociaux ont le pouvoir de supprimer ou de stimuler la viralit\u00e9 d’un message et qu’ils ont maintenant mis en place un syst\u00e8me de surveillance et de signalement par LLM (IA) qui semble pr\u00eat \u00e0 s’\u00e9tendre au maintien de l’ordre dans le monde r\u00e9el. Nous avons vu, \u00e0 travers les \u00ab Twitter Files \u00bb, que les entreprises de m\u00e9dias sociaux ont enfreint la loi pendant la pand\u00e9mie et se sont montr\u00e9es dispos\u00e9es \u00e0 collaborer avec les agences gouvernementales pour censurer et supprimer les opinions d\u00e9favorables.<\/p>\n\n\n\n
Paul Lancefield<\/strong> est l’auteur de Desilo<\/a>, une application qui permet de contrer la censure de l’IA et la d\u00e9formation des opinions politiques. Si vous partagez l’avis de Paul sur le danger que repr\u00e9sente l’IA pour la libert\u00e9 d’expression, vous pouvez l’aider en le suivant sur X.<\/a><\/em><\/p>\n\n\n\n Source :\u00a0Off-guardian.org<\/a><\/strong><\/p>\n\n\n\n Traduite par RV7 NEWS<\/a><\/strong><\/p>\n\n\n
![\"7c5e5078f8861520ef3df1ccf8400814a2675ee2e617efab58921c4972166788?s=48&d=mm&r=g](https:\/\/secure.gravatar.com\/avatar\/7c5e5078f8861520ef3df1ccf8400814a2675ee2e617efab58921c4972166788?s=48&d=mm&r=g "\\"\\""){kind=avatar}
<\/div>![\"VideoTV-television-1024x293](\"http:\/\/radiovolume7.com\/wp-content\/uploads\/2024\/01\/VideoTV-television-1024x293.jpg\" "\\"\\"")
<\/a><\/figure>\n<\/div>\n\n\n