Notes De Lecture - Algocratie - Arthur Grimonpont

• 14/06/2024
• 12 minutes de lecture

Trouver le livre Algocratie - Arthur Grimonpont

Mes commentaires

Les Sapiens que nous sommes ont besoin de récits pour diffuser l’information, comme l’a montré le livre éponyme de Harari. La montée de l’accumulation du savoir, illustrée par exemple par Wikipédia, a atteint ses limites et bloque désormais sur sa diffusion.

Sa diffusion a comme obstacle la tendance de notre espèce à subir des biais:

• moindre effort: notre cerveau adore une nouvelle information acquise en un minimum de temps.
• confirmation: choisir parmi des milliers de choix le confort de l’information qui confirme ce qu’on pense déjà.
• négativité: le succès des rubriques faits divers n’est plus à démontrer.
• …

Ces biais sur l’information sont exploités par les réseaux sociaux en ligne de la même manière que nous avons du mal à arrêter de manger après la première chips ou bonbon acidulé. Ces réseaux sont capables de toucher des milliards d’individus et leurs bénéfices dépendent du temps que nous passons dessus.

Ceci pousse ces entreprises à privilégier l’extraction de notre temps de façon industrielle - en témoigne nos statistiques d’utilisation disponibles sur nos téléphones - plutôt que vers la diffusion de savoir utile pour nos démocraties et notre santé.

Cette extraction de notre temps est poussée à son paroxysme avec la compétition entre les différents réseaux sociaux, qui descendent jusqu’au plus bas de ce que l’Humanité est capable pour pousser ses utilisateurs à rester sur la plateforme, comme le partage d’adolescent.es à moitié dénudé.es.

A l’heure où l’extrême-droite gagne du terrain par la diffusion de fake news, l’utilisation du biais de négativité, et sa mainmise sur de nombreux médias traditionnels comme Cnews, et où le consensus scientifique est formel sur le lien entre catastrophes naturelles (megafeux, canicules, famine) et l’utilisation d’énergies fossiles, nous ne pouvons pas compter sur des éco-gestes numériques, comme la limitation du temps sur les réseaux sociaux, mais nous devons, à travers l’application de lois comme le Digital Service Act, réguler ces plateformes. Non pas pour créer une censure ou une atteinte à la liberté d’expression - faussement défendue par le milliardaire d’extrême droite Elon Musk - mais pour créer un espace de liberté où l’information peut circuler - de la même manière que le code de la route permet un meilleur transport des passagers plutôt que de laisser certaines personnes en tuer d’autres en roulant à une extrême vitesse non régulée.

Quelques extraits choisis du livre

Si une fraction de la population mondiale peut, grâce à YouTube et autres Facebook, avoir accès à une information encyclopédique qui lui permet de gagner en hauteur de vue et en autonomie de jugement, pour l’essentiel de nos concitoyens c’est l’inverse qui se produit: ces réseaux rétrécissent le champ de vision, en ne proposant que des informations qui confortent des opinions préexistantes, et l’expérience montre que cet effet est d’autant plus prononcé que l’opinion est en contradiction avec les faits.

Nous disposons tous de vingt-quatre heures quotidiennes, dont un moindre nombre d’heures de cerveau disponible que nous pouvons allouer à différentes activités, parmi lesquelles les réseaux sociaux. Cette quête impitoyable de notre temps de cerveau disponible - et des revenus associés porte le nom d’économie de l’attention.

Le patron de TF1 déclarait: “Ce que nous vendons à Coca-Cola, c’est du temps de cerveau humain disponible!”

Les conditions à remplir pour accéder à cette promotion algorithmique sont antagonistes avec toute préoccupation de qualité ou d’honnêteté intellectuelle. Comme souligne le sociologue Gérald Bronner, la pression concurrentielle pour accéder à notre attention sur un marché dérégulé constitue la pire des censures, car celle-ci contraint les médias à traiter le sujet plutôt que tel autre pour espérer être lu.

En se prétendant garantes de la liberté d’expression, les plateformes sociales se font les porte-paroles les plus puissants ayant jamais existé des informations fausses, des idées clivantes, des déclarations mensongères et des théories complotistes. En prétendant nous connecter, elles isolent les individus et diminuent le temps passé en famille et entre amis. En prétendant favoriser l’échange et le débat, elles attisent notre attrait pour le conflit, nous enferment dans des bulles informationnelles, nous incitent au retranchement idéologique, atomisent la société et érodent notre socle de valeurs communes

Elles sont tout d’abord dangereuses par essence : maximiser par tous les moyens possibles le temps passé par leurs utilisateurs représente une menace directe pour notre développement cognitif et notre santé mentale. On l’a vu, l’absence de normes nutritionnelles contraignantes a laissé le marché agroalimentaire se muer en une cause majeure de dégradation de la santé publique. Les campagnes de sensibilisation individuelle, pas plus que les soins curatifs, ne suffisent à endiguer la progression du surpoids et des maladies associées. De façon semblable, la quête dérégulée de notre temps d’attention a pour conséquence directe une atteinte à notre santé psychologique

Les profits réalisés par plateformes sociales sont presque exclusivement fondés (…) sur la rétention de leurs utilisateurs. Toute volonté de réorienter significativement leurs IA de recommandation ou le design de leurs applications se heurtera donc directement à leur sem d’être : des machines à convertir notre attention en revenus publicitaires. Les initiatives d’auto-limitation des plateformes sont donc ures à n’avoir qu’un effet à la marge et ne remettent pas en cause modèle économique : l’extraction de notre temps d’attention.

Le budget R&D de Meta atteint 18 milliards de dollars et celui du groupe Alphabet (société mère de Google), 28 milliards de dollars. Ces montants dépassent d’un facteur dix celui de n’importe quelle grande université américaine.

Il n’est pas exagéré d’affirmer que les géants du numérique contrôlent la majorité des efforts de recherche dans chaque discipline susceptible de trouver une application rentable dans l’économie de l’attention :IA, science des données,…

Quand les études ne vont pas dans leur sens, Google n’hésite pas à licencier. Timnit Gebru, co-dirigeait “éthique des IA”, a été licencié en 2020 suite à une étude pointant des failles chez Google. Cela n’empêche pas le CEO de Google Sundar Pichaï d’appeler publiquement à davantage de recherche et de régulation d’un autre côté.

Frances Haugen, ex employée de FB et diplômée de Harvard, accuse Facebook de “faire primer sa croissance sur la sécurité” en mentant délibérément au public et aux autorités sur l’efficacité des actions qu’elle mène pour lutter contre la haine en ligne et la désinformation. Les documents dévoilés non seulement corroborent les dangers identifiés par de nombreuses recherches externes, mais en plus démontrent que la direction de Facebook dispose d’une connaissance aiguë de ces problèmes et n’agit pas pour les résoudre

Pourtant, la guerre de l’attention qui fait rage sous nos yeux donne lieu à une censure d’un autre type, celle de la soumission aux intérêts commerciaux et de la pression débridée pour l’audience. Ce marché dérégulé s’avère si toxique pour santé mentale, si néfaste pour nos sociétés et si dangereux pour démocraties, que certaines politiques chinoises semblent paradoxalement enviables, y compris selon nos standards culturels

Cette stratégie postule que l’expansion économique permanente est compatible avec la préservation des grands équilibres garants de l’habitabilité de la planète, puisque les progrès technologiques permettent de dissocier la croissance du PIB de la consommation de ressources. Toutes les études existantes concluent cependant dans le sens contraire : il n’existe à ce jour aucune preuve de la possibilité d’un découplage entre la production économique et la consommation matérielle à l’échelle mondiale

Pour produire des effets significatifs, les changements de comportements individuels doivent être coordonnés à grande échelle. faute de quoi ils sont condamnés à se fondre dans le bruit statistique de nos préférences interpersonnelles. C’est tout le sens d’un projet politique que d’actionner le changement à une échelle dépassant l’individu. Pour créer des services publics, nous ne nous contentons pas d’incanter la charité et le partage: nous levons un impôt. Pour faire progresser l’alphabétisation, nous ne plaçons pas nos espoirs dans un éveil spontané des consciences: nous interdisons le travail des mineurs et finançons l’école obligatoire. Pour combattre le crime, nous n’en appelons pas seulement à plus d’empathie et de bienveillance envers notre prochain: nous finançons des programmes de réinsertion et criminalisons la vente de drogues et d’armes à feu. De même, il est tout à fait vain de nous en remettre aux éco-gestes individuels pour combattre le changement climatique ou l’effondrement de la biodiversité. Nos comportements doivent changer à grande échelle et cela n’aura pas lieu sans un changement culturel et politique de grande envergure, seule hypothèse permettant d’imaginer soumettre nos intérêts individuels de court terme à l’intérêt collectif de long terme.

Notre socle de valeurs communes n’est donc pas plus universel ni intemporel que celui de nos connaissances. Qui plus est, les changements culturels et politiques semblent connaître une forte accélération, puisque ceux-ci prennent appui sur un volume d’échanges et une vitesse de communications absolument inégalés avant l’ère d’internet et des réseaux sociaux.

John Stuart Mill et son postulat de base (sur la défense de la liberté d’expression) - lorsque mises en concurrence, les idées vraies l’emportent - se voit contredit par les connaissances les plus basiques de psychologie sociale.

Depuis des siècles les philosophes débattent du concept de vérité et des meilleurs moyens de l’approcher. Si aucune réponse définitive n’a été apportée à cette vaste question d’épistémologie, une chose est certaine : les méthodes conçues pour mieux cerner la réalité, telles que la science, s’éloignent en tout point d’un marché où chaque prêcheur ferait commerce de ses idées à qui veut bien les écouter. Dès l’Antiquité, les penseurs grecs faisaient une distinction claire entre la philosophie, dont le but était d’approcher la vérité, et la rhétorique, dont l’objectif était de persuader. Là où la raison et la logique (le logos) devaient commander le philosophe, c’est avant tout l’art de véhiculer des émotions (le pathos) et de renvoyer la meilleure image de soi (l’ethos) qui donnait au rhétoricien sa force de persuasion.

Marx écrit dès 1845: “À toute époque, les idées de la classe dominante sont les idées dominantes; autrement dit, la classe qui est la puissance matérielle dominante de la société est en même temps la puissance spirituelle dominante. La classe qui dispose des moyens de la production matérielle dispose en même temps, de ce fait, des moyens de la production intellectuelle, si bien qu’en général, elle exerce son pouvoir sur les idées de ceux à qui ces moyens font défaut”.En 2016 a été publiée une vaste enquête analysant la propriété des médias à travers le monde. L’ouvrage, intitulé Who Owns the World’s Media? (“Qui détient les médias sur terre ?”) couvre trente pays et treize types d’industries médiatiques incluant la télévision, la presse, l’édition de livres, la production de films, les moteurs de recherche ou encore les fournisseurs d’accès à internet. Les auteurs estiment qu’à l’échelle mondiale, les gouvernements contrôlent environ un tiers des grandes structures médiatiques, les grandes sociétés privées un autre tiers, les individus et familles fortunées le dernier tiers. Dans la plupart des pays occidentaux étudiés, un petit nombre de milliardaires et de groupes tentaculaires contrôlent la majorité des médias. La France n’est pas exception (…)

Donner libre cours à nos pulsions dans un environnement que nous ne contrôlons pas n’a rien à voir avec l’exercice de la liberté d’opinion. Une liberté pleine et entière requiert que nous nous informions consciemment et suivant notre volonté profonde. Pour Rousseau, “seule [la liberté morale] rend l’homme vraiment maître de lui; car l’impulsion du seul appétit est esclavage, et lobeisance à la loi qu’on s’est prescrite est liberté”.

Les megafeux de 2019 en Australie ont causé la mort d’environ 3 milliards d’animaux sauvages" et provoqué, d’après une équipe internationale de scientifiques, “la perte d’habitat d’espèces menacées et la dévastation d’écosystèmes les plus spectaculaires de l’histoire postcoloniale”.

Quelle histoire l’Australie en a-t-elle retenu? Une étude rétrospective détaillée a analysé les types de récit les plus communément déployés par les médias australiens pour couvrir le Black Summer : le récit intitulé “Triomphe de l’humanité” arrive en tête du classement avec 18% des articles. Ce type de récit mettait en avant les efforts héroïques des pompiers ainsi que l’esprit d’entraide spon- tané ayant émergé dans la population. Sur la totalité des articles de presse traitant des mégafeux, seuls 16% établissaient un lien direct avec le changement climatique et moins de 2% appelaient à agir politiquement. Une partie de l’explication tient à ce que le paysage médiatique australien est l’un des plus concentrés au monde. Un seul homme, Rupert Murdoch, y est à la tête d’un empire contrôlant plus de la moitié du marché de la presse papier et plus du quart du marché de l’information en ligne. Ses journaux constituent le premier relais du déni climatique et sont entre autres connus pour avoir fait pression pour abroger la taxe carbone*7, Vient ensuite le filtre des réseaux sociaux, qui n’ont pas dérogé à leur rôle habituel : “Au mieux, ils ont massivement amplifié les informations fausses ou trompeuses. Au pire, ils ont activement contribué à des campagnes de désinformation”

Quelles conséquences ont produit ces récits sur les idées et modes de vie des Australiens? Du côté des idées, l’Australie est l’un des pays où le déni climatique est le plus élevé au monde et aucun changement significatif en la matière n’est à relever à la suite du Black Summer. Du côté des comportements, les véhicules de type SUV y ont atteint leur record de vente en 2020, c’est-à-dire l’année suivant celle du désastre". La consommation de viande y est la plus élevée au monde et ne cesse de croître. Les émissions de carbone par habitant y sont les plus élevées au monde

Le cas de l’Australie est paroxystique mais pas isolé: il illustre la cécité dans laquelle se trouve plongée la majeure partie de l’humanité contemporaine face au gouffre écologique. Éloignés dans le temps, dans l’espace mais surtout par la pensée des conséquences de nos actes, nous sommes mus par des histoires qui impriment sur nos comportements l’intérêt de ceux qui les propagent.

Cette machine trouve les ressorts de son efficacité dans sa propension à susciter notre addiction en stimulant nos pulsions instantanées. Les pulsions déchaînent les passions; les passions éclipsent la raison; les croyances et la superstition remettent en cause les connaissances scientifiques les mieux établies. Notre socle de valeurs communes s’effrite et la distraction divertit notre attention des priorités collectives. Les histoires sont en compétition dans une arène où les coups bas sont non seulement permis mais encouragés: plus elles nous divisent, plus elles nous mentent et plus elles sont propulsées.

Pourtant, nul déterminisme technologique ne nous condamne au pire. Nous sommes confrontés à des défis que seule une coopération d’envergure planétaire nous permettra de relever. Résoudre ces défis impose de mettre les médias, les plateformes sociales et leurs IA de recommandation au service du bien commun. Réguler et encadrer les réseaux sociaux n’est plus une option.

Articles dans cette série

• Notes De Lecture - Algocratie - Arthur Grimonpont
• Notes De Lecture : L'hypothèse K - Aurélien Barrau