Publication de La Dictature des Algorithmes, livre de Lê Nguyên Hoang et Jean-Lou Fourquet.

Ancien ingénieur et entrepreneur social, Jean-Lou Fourquet est vidéaste, enseignant et journaliste indépendant. Polytechnicien, docteur en mathématiques, Lê Nguyên Hoang a été chercheur au MIT et à l’EPFL.

Tous deux sont les auteurs d'un livre publié jeudi, La dictature des algorithmes : Une transition numérique démocratique est possible. Ouvrage d'environ 365 pages, vendu autour de 21 euros.

Les éditions Tallandier présentent ainsi le livre :

"C’est l’enjeu civilisationnel du siècle. Depuis une décennie, notre attention est sous le contrôle d’algorithmes dangereux pour l’humanité et nous regardons ailleurs.

À chaque seconde, des intelligences artificielles ultra sophistiquées choisissent quels messages, images ou vidéos nous allons regarder. Mais leur unique objectif est de capter le maximum de notre temps de cerveau disponible pour en tirer le plus grand profit au mépris de conséquences individuelles et sociétales désormais bien identifiées : isolement, utilisation compulsive des réseaux sociaux, dégradation de la santé mentale, cyberharcèlement de masse, polarisation politique, guerre de l’information, appels à la haine...

Cet ouvrage passionnant allie expertise scientifique, rigueur intellectuelle et pédagogie. À l’aide d’exemples concrets, les auteurs montrent en quoi ces IA de recommandations, aujourd’hui contrôlées par des multinationales ou des État autoritaires, ont gravement fragilisé nos démocraties et les droits humains. Dans notre monde envahi par les écrans, la conception d’algorithmes plus démocratiques est devenue une urgence. Ce livre montre qu’il existe un chemin pour transformer cette dystopie numérique en société résiliente. Il est encore temps de reprendre la main.

Le début de l'introduction :

"Entre août 2017 et août 2018, des dizaines de milliers de Rohingyas, groupe ethnique majoritairement musulman apatride vivant à l’ouest de la Birmanie, ont été massacrés par les militaires birmans et par des nationalistes bouddhistes locaux. Dans une étude publiée par Amnesty International, Facebook est directement mis en cause dans la prolifération de la haine anti-Rohingya qui engendra ce génocide. En effet, selon Amnesty, les intelligences artificielles (IA) de recommandation de Facebook, chargées de déterminer quels contenus de la plateforme montrer aux utilisateurs, ont participé activement à l’aggravation de la haine à l’encontre de ce peuple. Depuis 2014, des appels à la violence contre la minorité musulmane sont algorithmiquement dopés par la plateforme du réseau social et peuvent chacun engendrer des dizaines de milliers de réactions. Par exemple, un météorologue birman très suivi sur les réseaux sociaux, Tun Lwin, a appelé la population à sécuriser la « porte de l’Ouest », c’est-à-dire l’État de Rakhine peuplé de Rohingyas à la frontière du Bangladesh, et à être vigilant à cet ennemi commun. Il a ajouté que le Myanmar ne tolérerait pas les envahisseurs. En août 2018, le message avait suscité 47 000 réactions, plus de 830 commentaires et près de 10 000 partages. Plusieurs commentaires ont appelé au « déracinement » et à l’« éradication » immédiats des Rohingyas, qualifiant la situation dans l’État de Rakhine d’« invasion musulmane ».

En amplifiant la haine et la gravité du génocide, Facebook a quelque part reproduit une version 2.0 de la macabre partition jouée par la tristement célèbre radio des Mille Collines lors du génocide des Tutsi au Rwanda.

Cet exemple montre particulièrement bien le danger civilisationnel que posent les IA de recommandation développées par toutes les grandes plateformes du Web. Il contraste avec les perspectives très individualistes com- munément diffusées, souvent par des industriels et des académiques, où l’attention est centrée sur l’utilisateur. Cet angle se retrouve dans la quasi-totalité de la vaste lit- térature scientifique sur les IA, qui part du postulat que les recommandations doivent être optimisées en prenant uniquement en compte les préférences de ce dernier".