Notre foi mal placée dans l’IA transforme Internet en un cloaque de désinformation et de spam

L’imprimerie est certainement en tête de liste des plus grandes inventions de tous les temps. Avant l’imprimerie, les livres étaient transcrits à la main et les innovations étaient propagées par des explorateurs et des aventuriers comme Marco Polo qui a parcouru la route de la soie vers l’Asie et est revenu en Europe avec des nouvelles sur le papier, le papier-monnaie, les boussoles, le charbon, la porcelaine, etc. Les personnes isolées qui vivaient sur des îles lointaines, dans des forêts denses ou du mauvais côté des déserts pourraient être privées de grandes inventions pendant des siècles.

Les théories du complot et la paranoïa sont aussi vieilles que la race humaine, mais Internet a rendu leur circulation rapide et frénétique.

L’imprimerie a rendu les livres moins chers et plus accessibles et a permis aux idées et aux inventions d’être largement diffusées et améliorées. Des innovations de communication encore plus puissantes sont apparues aux XIXe et XXe siècles avec le développement du télégraphe, du téléphone, de la radio et de la télévision. On s’inquiétait également de plus en plus de leur utilisation excessive. Bien qu’il soit difficile de démêler la corrélation et la causalité, les études sur l’éducation ont trouvé à plusieurs reprises des résultats aux tests inférieurs pour les Américains qui regardaient plus la télévision que les autres. De même, on s’inquiétait des adolescents qui passaient des heures par jour au téléphone.

Néanmoins, la perception que les technologies de la communication avaient un impact positif sur nos vies et, en particulier, sur l’innovation, était profondément enracinée. De nombreux économistes pensent que la communication est le lubrifiant qui a stimulé la diffusion des avancées scientifiques, des inventions utiles et des améliorations technologiques.

Ces croyances étaient l’une des raisons de l’optimisme entourant Internet dans les années 1990. Initialement destiné à permettre aux réseaux militaires et universitaires de partager des informations et des ressources informatiques, il est rapidement devenu accessible à tous. Beaucoup s’attendaient à un âge d’or alors que le développement et la diffusion de nouvelles innovations s’accéléraient.

Il existe certainement une mine d’informations sur Internet, allant d’articles de recherche spécialisés à des instructions détaillées sur la façon de régler la hauteur d’une tondeuse à gazon à rouleau. (Oui, l’un de nous l’a fait le week-end dernier.) L’un de nous est également heureux que son fils de 10 ans puisse trouver autant de vidéos de haute qualité sur YouTube, l’aidant à en apprendre davantage sur la science, la technologie et l’histoire.

L’utilisation de grands modèles de langage par des acteurs peu scrupuleux signifie que ces outils déclenchent un tsunami de spam, de phishing, de clickbait et de virus qui va noyer Internet.

Cependant, l’optimisme concernant Internet inaugurant un nouvel âge d’or a été battu et écrasé. Une évolution inattendue est le nombre d’heures que les gens passent sur Internet. Dans le monde entier, les internautes passent près de 7 heures par jour sur Internet, et très peu de ce temps est consacré à la lecture d’articles de recherche, à la préparation d’un projet de bricolage ou à la visualisation de vidéos historiques. Une moyenne de 2 1/2 heures par jour est passée sur les réseaux sociaux ; les adolescents passent en moyenne plus de 6 heures par jour. Sans surprise, certains experts pensent qu’Internet nous a rendus moins productifs.

Ces nombreuses heures passées en ligne pourraient être rationalisées en tant que divertissement ou lien social, mais la réalité n’est guère bénigne. La promesse de Facebook, Twitter, Instagram et d’autres plateformes de médias sociaux était qu’ils rapprocheraient les gens en permettant aux amis et à la famille de maintenir et de nourrir les liens sociaux en partageant des événements de leur vie – un nouveau chien, une fête d’anniversaire et même ce qui a été mangé pour le déjeuner. Lorsque Facebook est devenu public, Mark Zuckerberg a publié une déclaration d’intention qui soulignait à plusieurs reprises le pouvoir communautaire du partage :

Chez Facebook, nous créons des outils pour aider les gens à se connecter avec les personnes qu’ils veulent et à partager ce qu’ils veulent, et ce faisant, nous étendons la capacité des gens à établir et à entretenir des relations.

C’était sûrement une entreprise BS, et certainement incroyablement naïve. L’un des résultats des médias sociaux qui aurait dû être prévu est l’attrait de poser – en exagérant ou en diminuant au besoin afin de paraître plus heureux et plus performant que nous ne le sommes réellement, ce qui incite les autres à faire de même. Je m’amuse plus que toi. J’ai plus de succès que toi. Je suis plus heureux que toi.

Ce concours de vantardise a été amplifié lorsque Facebook a introduit les boutons J’aime et, plus tard, Partager ; et quand Twitter à son tour a introduit un bouton Retweet. L’objectif des médias sociaux est passé du partage et de la vantardise entre famille et amis à devenir une célébrité des médias sociaux – amasser des abonnés en publiant du contenu qui persuade les étrangers de regarder et de cliquer. L’hyperbole, les cascades et la malhonnêteté sont récompensées.

Internet est un vecteur extrêmement efficace de désinformation diffusée par les particuliers, les entreprises et les gouvernements. De nombreuses personnes, en particulier des adolescents et des enfants, sont devenues dépendantes des vidéos faisant la promotion du blanchiment de la peau, de la perte de poids, de la drogue, des armes à feu, du racisme, de la misogynie et de l’automutilation. La Russie a une armée de cyberguerriers crachant un « tuyau d’incendie de mensonges » toute la journée.

Les théories du complot et la paranoïa sont aussi vieilles que la race humaine, mais Internet a rendu leur circulation rapide et frénétique. Un sondage YouGov de 2019 auprès d’adultes britanniques a révélé que 20% pensent que les alunissages ont probablement ou certainement été truqués. Des sondages similaires aux États-Unis et en Russie ont donné des résultats similaires. Une enquête sur les politiques publiques de 2016 a révélé que 4 % des Américains (12,5 millions de personnes) pensent que le gouvernement américain est contrôlé par des lézards extraterrestres. Des millions de personnes croient que la Terre est plate ; les fusillades dans les écoles sont des opérations sous fausse bannière ; et Bill Gates a orchestré la crise du COVID-19 afin qu’il puisse utiliser des vaccins pour insérer des micropuces dans notre corps. Au lieu de diffuser des informations utiles et de débattre d’idées importantes, Internet est trop souvent utilisé pour promouvoir des théories loufoques et titiller les utilisateurs avec des commérages ineptes. Au lieu de nourrir des sentiments communautaires, les médias sociaux se tribalisent en ce sens que le monde se divise de plus en plus en groupes convaincus qu’ils ont raison et que les autres ont tort.

Ça va empirer, bien pire. Les chatbots comme ChatGPT et d’autres grands modèles de langage (LLM) sont, dans une veine techno-utopique similaire, censés révolutionner la façon dont nous écrivons, recherchons et cherchons sur Internet. Mais ces amalgames d’algorithmes ne sont pas « intelligents » au sens réel du terme, comme nous l’avons soutenu précédemment ; en conséquence, ils ont souvent tendance à cracher de la désinformation et des mensonges. Et leur utilisation par des acteurs peu scrupuleux signifie que ces outils déclenchent un tsunami de spam, de phishing, de clickbait et de virus qui va noyer Internet. La semaine dernière, ChatGPT a déclaré aux électeurs d’une ville australienne que leur maire avait été envoyé en prison pour pots-de-vin et corruption, et qu’un article du Washington Post rapportait qu’un professeur de droit de l’Université de Georgetown avait harcelé sexuellement un étudiant lors d’un voyage scolaire en Alaska. Le maire n’était pas en prison et avait, en fait, contribué à révéler un scandale de corruption impliquant l’Australian National Reserve Bank. Le professeur de droit n’avait jamais enseigné à Georgetown, n’avait jamais emmené d’étudiants en voyage, n’avait jamais été accusé de harcèlement sexuel et il n’y avait aucun Poste de Washington histoire. Notre foi et notre enthousiasme dans la promesse de chatbots comme ceux-ci de révolutionner l’accès à l’information sont déplacés.

Même si les grandes entreprises technologiques limitent la capacité de leurs LLM à générer de la désinformation, les mauvais acteurs ne le feront pas – et il est étonnamment facile de construire des LLM. Il y a quelques semaines, une équipe de recherche de Stanford a construit un LLM de niveau ChatGPT pour 600 $. Peu de temps après, un autre groupe en a construit un pour 300 $.

Dans un avenir très proche, la plupart des choses (peut-être presque tout) sur Internet seront des ordures. Une conclusion tentante est que nous vivons maintenant dans une ère de trop grande communication. Au lieu de diffuser de bonnes idées et de stimuler l’innovation, Internet a stimulé la distraction, la dissidence et la désinformation.

Comment cela va-t-il se dérouler ? Nous ne savons pas, mais certains scénarios semblent probables. À moins que les plateformes de médias sociaux ne ferment les bots, les personnes sensées fuiront. Quelle autre réponse rationnelle existe-t-il lorsque vos comptes Facebook, Twitter, WhatsApp, Instagram et TikTok reçoivent des centaines, des milliers, des millions de messages quotidiens ? Pour d’autres parties d’Internet, une solution viable est peut-être un mur payant à l’intérieur duquel les humains examinent le contenu pour en vérifier l’exactitude et l’utilité. Ce sera cher, mais pas aussi cher que d’essayer de naviguer sur un vaste Internet non surveillé dans lequel presque tout est BS.

Leave a Comment