Une réfutation du manifeste “techno-optimiste” de Marc Andreessen

De quoi s’agit-il ?

Le 16 octobre 2023, Marc Andreessen a publié un document intitulé “The techno-optimist manifesto” (le manifeste des techno-optimistes) où il proclame que “toute la technique est bonne, la technique va nous sauver, il suffit d’y croire” (en résumé !).

Presque trop facile !

La première fois que j’ai lu ce manifeste, je me suis dit immédiatement que c’était pile pour moi : Marc y exprimait, de manière presque caricaturale, le point de vue des solutionnistes et il apparaissait évident que cela se prêtait (exigeait même !) à une réfutation en bonne et due forme. C’était même presque trop facile !

Bien entendu, je n’ai pas détaillé et répondu à ce texte paragraphe par paragraphe car le document en question est assez long. Mais l’argument principal est clair et bien identifié. C’est sur celui-ci que j’ai fait porter ma réponse.

Ignorants la nature de la technique !

En plus d’être un florilège d’affirmations gratuites et de contre-vérité criantes (voire risibles), tout le contenu de ce manifeste est une preuve criante que Marc et ses “adeptes” sont fondamentalement ignorants de la nature réelle et profonde de la technique. Leur mantra préféré peut se résumer à “il n’y a pas de problème posé par la technique -comme la pollution par exemple” qui ne puisse se résoudre par plus de technique !”… Hum, on voit d’ici l’absurdité de cette affirmation où la cause du problème deviendrait, comme par magie, la clé de la solution… D’ailleurs, cette croyance magique dans la technique est à la base de l’aveuglement de ce groupe d’exaltés. Quand ils clament “plus de technique, toujours plus de technique”, ce n’est pas suite à un raisonnement rationnel basé sur des expérimentations (l’approche empirique essais/erreurs est à la base de bien des découvertes, tant sur le plan technique que scientifique) ou à une démarche scientifique rigoureuse, rien de tout cela. C’est simplement une foi aveugle dans l’équation “technique = bien” qui débouche sur le raisonnement biaisé “encore plus de technique = encore plus de bénéfices pour tous !”. Or, il suffit de se pencher un peu sérieusement sur l’histoire de l’évolution technique pour comprendre que la nature même de la technique n’est certainement pas “gratuite et toujours bénéfique”…

La vraie nature de la technique

La vraie nature de la technique peut se résumer en trois points : la technique est ambivalente (elle n’est pas neutre), elle n’est pas omnipotente et elle n’est pas soumise.. Ambivalente car La technique n’est pas neutre. Un progrès technique n’est pas forcément un progrès pour l’humanité !

Il y a toujours un prix à payer et, en ce sens, on peut dire qu’elle est ambivalente. Toute évolution technique présente des avantages ET des inconvénients. On pourrait croire que remplacer une technique obsolète par une nouvelle plus performante est toujours un gain, mais ce n’est pas aussi simple : la nouvelle technique n’est utilisable qu’avec son contexte (par exemple, les ressources dont elle a besoin pour fonctionner). Le progrès technique n’est pas gratuit, il se paye toujours même si on ne s’en rend pas compte tout de suite.

La technique n’est pas omnipotente (toute puissante) : elle n’a pas réponse à tout, il restera toujours des problèmes insolubles. C’est important de le dire et de le redire pour barrer la route au solutionnisme. Si vous gardez cela en tête, il vous sera facile de reconnaître quand on essaye de vous vendre l’impossible. Si on vous dit que tout est possible, que c’est gratuit et sans conséquence, méfiance…

Et enfin, la technique n’est pas soumise, elle ne l’a jamais été. Depuis le feu qui n’a jamais été « maîtrisé » (si cela avait été le cas, pourquoi avons-nous besoin des pompiers pour éteindre les incendies ?) jusqu’à l’atome qui l’est encore moins. La cruelle vérité est que nous ne maîtrisons pas vraiment ce que nous utilisons et que, de temps en temps, cet usage dérape, nous échappe et provoque quelques conséquences (le plus souvent jamais imaginées !). 

Un manifeste mal rédigé

En plus d’être basé sur des axiomes erronés, ce manifeste est très mal rédigé : il déborde d’une emphase et d’une prétention qui le rendent pénible à lire, en particulier dans les paragraphes sur “l’ennemi” et “l’avenir” situés à la fin de ce pensum, si vous arrivez jusque-là… Et pour ajouter l’insulte à la blessure, Marc a beaucoup recours au “name dropping” : il cite des personnalités pour montrer l’étendue de sa culture… C’est vite lassant et ça donne l’impression inverse. Marc, nous ne sommes pas vraiment sûrs que Richard Feynman (entre autres) serait ravi de voir tes emprunts.

Exagérons, exagérons, il en restera toujours quelque chose !

Plusieurs fois, Marc emploi des formules qui illustrent parfaitement sa tendance à exagérer sans vergogne : “pour toujours”, “sans limite supérieure”… Pour ceux qui croient encore que “les arbres peuvent monter jusqu’au ciel”, ce discours pourra passer. Les autres sauront que le détecteur de conneries s’est allumé en rouge vif !

Un autre exemple significatif avec cet extrait : 

Ray Kurzweil définit sa loi des retours accélérés : Les progrès technologiques ont tendance à se nourrir d’eux-mêmes, augmentant ainsi le rythme des progrès ultérieurs.

Nous croyons en l’accélérationnisme – la propulsion consciente et délibérée du développement technologique – pour garantir le respect de la loi des rendements accélérés. Pour garantir que la spirale ascendante du techno-capital se poursuive pour toujours.

Ray Kurzweil peut bien avancer ce qu’il veut, ça n’est pas pour autant que c’est valide !

Dans le cas présent, c’est même plutôt le contraire : ce qu’on peut constater depuis plus de 150 ans, c’est la loi des retours décroissants

Les retours décroissants

On sait bien que toute nouvelle application produit ses plus grands résultats au début de sa mise en œuvre. Et ensuite, il faut de plus en plus d’efforts et de moyens pour récolter de moins en moins de résultats (du moins en proportion des efforts investis). C’est ça le principe des “retours décroissants” qui est le mieux et le plus facilement illustré par l’exemple de la mine. Au début, l’extraction du minerai, quand on tombe sur le filon, pas très loin de la surface, est relativement facile : en gros, il n’y a qu’à se baisser pour ramasser les pépites. Donc, résumons : peu d’efforts, des résultats spectaculaires, une très grosse rentabilité. Encouragés par ces débuts formidables, vous allez être prompts à investir pour augmenter les volumes : on commence à creuser plus loin, plus profond, à étayer les galeries, à poser des rails pour les wagonnets et à installer des pompes pour garder tout cela au sec. De plus en plus d’efforts pour une extraction qui, certes, croît en volume, mais à un prix évidemment plus élevé (y compris sur le plan proportionnel) qu’au début… On retrouve la même analogie partout : la percée est spectaculairement rentable, la suite beaucoup moins.

Source https://www.penserchanger.com/la-loi-des-rendements-decroissants/ 

Partout et tout le temps

Ce phénomène des retours décroissants, il est à l’œuvre partout et tout le temps sans qu’on en soit conscient. Si on prend les smartphones comme exemple, le gros du progrès a été réalisé avec la première génération d‘iPhone. Dès la troisième, nous sommes passés à un rythme d’innovation beaucoup moins fort, chaque nouvelle itération ne propose que des avancées marginales (retours décroissants ET ralentissement progressif), on est passé en mode “plateau” sans même s’en apercevoir, car, entretemps, une autre mode a pris le dessus sur la précédente et qui fait qu’on a toujours l’impression d’être dans le même courant d’innovations submergeantes, qui sature les possibilités de perception d’un public non-spécialisé qui, du coup, en déduit fort logiquement que “tout va toujours plus vite” même si, incontestablement, ce n’est pas le cas. 

Beaucoup d’argent, toujours plus d’argent mais peu de résultats

Les retours décroissants affectent tous les domaines et tous les secteurs. Dans le domaine militaire, il est de plus en plus coûteux de concevoir des nouveaux systèmes (comme des avions de combat ou les blindés) pour des gains de performances de plus en plus réduits. Pareil dans le domaine des médicaments : beaucoup d’argent et de moyens sont disponibles et pourtant, les résultats se font de plus en plus rares, comme si la technique ralentissait (tiens, tiens…). Dans le cadre des médicaments, le phénomène est tellement évident qu’il a même donné lieu à une « loi », la loi Eroom. Voir à https://en.wikipedia.org/wiki/Eroom%27s_law

La loi d’Eroom fait observer que la découverte et la mise en production de nouveaux médicaments devient plus lente et plus coûteuse avec le temps, malgré les améliorations techniques (criblage à haut débit, biotech, chimie combinatoire et conception de médicaments), une tendance observée dans les années 1980. Le coût de développement d’un nouveau médicament double à peu près tous les neuf ans (ajusté en fonction de l’inflation).

Le fait que la découverte de nouveaux médicaments ralentit progressivement depuis des décennies est une bonne illustration supplémentaire de la loi des retours dégressifs.

Source https://www.crossfit.com/health/erooms-law 

Ni techno-pessimiste, ni techno-sceptique

Je peux parfois donner l’impression que je nie le progrès technique… Mais rien n’est plus faux !

Le problème essentiel vient de la façon dont les nouveautés techniques sont présentées au grand public. À chaque fois, la nouvelle technique à la mode est accompagnée de promesses faramineuses à grands coups d’adjectifs ronflants (« révolutionnaire » est le terme le plus souvent utilisé). Mais ça ne veut pas dire que c’est forcément un pétard mouillé pour autant. L’Internet, par exemple, n’a pas tenu toutes les promesses du temps de la bulle des dotcoms, mais il n’en a pas moins changé beaucoup de choses (depuis le commerce en ligne qui a redéfini nos pratiques de consommation jusqu’au cloud qui a redéfini notre façon de gérer l’informatique). Finalement, l’Internet peut être vu comme une déception seulement si vous avez cru à toutes les fables proclamées dans les années quatre-vingt-dix. 

Nous savons tous que la technique finit toujours par progresser, presque inexorablement, et ce dans quasiment tous les domaines. Mais cette progression prend simplement plus de temps (toujours plus de temps !) que ce qui en est dit (un exemple : les « autoroutes de l’information » de Bill Gates sont bien là avec les CDN, mais quarante ans après avoir été annoncées… une paille !).

Une arrogance qui appelle à une correction

Allez, un dernier exemple pour situer le niveau d’exagération et d’arrogance de l’auteur de ce document :

Nous croyons en la nature, mais nous croyons aussi en surmonter la nature. Nous ne sommes pas des primitifs craignant la foudre. Nous sommes le prédateur suprême ; la foudre travaille pour nous.

S’il en était besoin, voici une preuve de plus de l’hubris du personnage : “la foudre travaille pour nous”… Voici qui appelle un “et la foudre le frappa” !

Rien de bon, vraiment ?

N’y a t-il rien de bon dans ce (long) document ?

Eh bien en étant ultra-indulgent, on peut approuver son rejet du dogmatisme et du communisme. Mais c’est un peu comme être très poli (ou très hypocrite) quand on approuve une personne qui vous dirait “le bien, c’est mieux que le mal”…

En fait, c’est comme si Marc en était resté coincé à sa période Netscape où l’Internet était censé “sauver la démocratie et la faim dans le monde” (ce n’est même pas exagéré : ce mantra ridicule était répété à l’envie par des gens comme Marc Andreessen… Aujourd’hui, on peut constater que ces promesses ont été, disons, survendues !). Mais ce serait oublier les faces sombres de ce personnage : cette “baleine de la crypto” n’oublie jamais de prendre son bénéfice d’abord et surtout au détriment des gogos qui veulent bien le croire (demandez à tous ceux qui se sont fait “rincer” par la vague récente des cryptos bidons…).

Les accélérationistes existent et ils ont même un mouvement

Le pire, c’est que Marc n’est pas seul à proclamer cette “foi”, il a des adeptes (les e/acc) et même une place de marché pour afficher leurs convictions (https://accelerate.shop/en-eur/ les goodies pour les e/acc !) et ils ont trouvé un nom pour leur “mouvement” : accélérationnisme efficace

https://en.wikipedia.org/wiki/Effective_accelerationism

https://effectiveacceleration.tech/

Bon, on pourrait croire à une pochade de la Silicon Valley mais il est à craindre que cela soit très sérieux (Marc et ses adeptes ont l’air d’y croire) tout en étant totalement loufoque (aucun de leurs arguments ne résiste à une analyse rationnelle). Mais, à notre époque, le bon sens se perd (combien de fois, ces derniers mois, avez-vous lu que ChatGPT était une “révolution et allait tout changer ?” alors qu’il est désormais clair que les “réponses” de ce logiciel sont souvent sujettes à caution…).

Conclusion : ne pas croire au solutionnisme

Le solutionnisme est une impasse. C’est une idéologie fallacieuse qui nous pousse à ne pas corriger les erreurs déjà commises dans le passé. Si nous voulons vraiment progresser et aller de l’avant, il ne faut pas se laisser aller à des solutions de facilité du genre “plus de technique, toujours plus de technique” alors que c’est précisément l’excès de technique mal pensée et mal implémentée qui est la cause des problèmes que nous affrontons désormais.

Les solutionnistes sont des illusionnistes qui veulent nous leurrer pour que leurs petites affaires puissent se poursuivre sans entrave.

Addendum par Laurent Poulain (un ami de longue date avec lequel j’ai rédigé notre “Histoire de l’informatique moderne”):

Il est indéniable que l’humanité a énormément bénéficié des progrès techniques au cours des siècles, et il est à parier que cette tendance va continuer.

Mais les techno-solutionnistes nous présentent une fausse dichotomie. Ils sous-entendent que n’importe quelle startup tech est dans la lignée d’Henri Ford, Robert Noyce ou Steve Jobs. Marc Andreessen affirme que la technologie est la solution à TOUS les problèmes, et que toute tentative de réguler une nouvelle technologie qui pourrait sauver des vies dans le futur est similaire à un meurtre. Certains techno-solutionnistes semblent également avoir une vision fort simpliste de la technologie. La Loi de Moore double magiquement la vitesse de nos ordinateurs tous les deux ans, et continuera à la faire éternellement. Bien entendu, toute critique de cette vision est vue comme anti-progrès. Soit vous êtes à 100% dans notre camp soit vous êtes contre nous.

En d’autres termes: nous autres élites de la tech savons mieux que quiconque comment résoudre tous les problèmes du monde, laissez nous en paix. Ce n’est pas comme si nous n’avions jamais abusé de notre pouvoir ou parfois promis du vent.

La guerre est sans doute le plus grand contre-exemple où plus de technologie ne résout pas le problème. Richard Gatling, inventeur de la mitrailleuse du même nom, pensait que son invention allait mettre un terme aux guerres. Qui allait être assez fou pour démarrer un conflit lorsqu’une arme tellement destructrice que la mitrailleuse est utilisée ?
La Grande Guerre a prouvé le contraire.

« Donnez-nous un problème réel et nous pourrons inventer une technologie qui le résoudra » clame Marc Andreessen. Il peut commencer par San Francisco qui a son lot de problèmes (prix du logement, sans-abris, vols à l’étalage croissants). Et s’il veut un problème dont la résolution lui attirera l’admiration du monde entier (dont votre serviteur), suggérons-lui de s’attaquer à la corruption.

Mais en quoi l’exagération des techno-solutionnistes peut-elle être une mauvaise chose ? Après tout, ils génèrent du buzz qui alimente l’industrie. Sauf qu’à trop promettre, on court le risque d’un retour de bâton pour l’industrie tech tout entière. Dans les années 90 c’est toute l’industrie de l’IA qui a pâti des trop grandes promesses des années 80.

Au final, M. Andreessen résume la situation mieux que quiconque, probablement sans ironie aucune : « Notre ennemi est la tour d’ivoire, la vision du monde des experts je-sais-tout, se livrant à des théories abstraites, des croyances de luxe, de l’ingénierie sociale, déconnectées du monde réel, délirantes, non élues et irresponsables – jouant à Dieu avec la vie de tous les autres, avec une isolation totale contre les conséquences. »

Ce contenu a été publié dans Anecdotes IT, divers, Informatique, La terrible vérité, Le fait technique. Vous pouvez le mettre en favoris avec ce permalien.

Laisser un commentaire