La semaine dernière, je vous proposais une traduction (partielle) d’un article d’Ed Zitron qui traitait d’un point crucial :
Cette semaine, on va se contenter de la conclusion de son dernier article AI is too expensive :
La revanche des incompétents en affaires
L’IA est le résultat d’une conjonction de concepts et d’organisations ayant échoué, et l’apogée de l’ère des incompétents en affaires, une époque où nous sommes gouvernés par des personnes tellement déconnectées de la réalité du terrain qu’il était inévitable qu’une technologie soit créée spécifiquement pour les exploiter.
Les LLM sont dangereux pour de nombreuses raisons, mais l’une des moins évoquées est leur capacité à manipuler un certain type de dirigeant incompétent. L’IA générative est — pour reprendre les mots de Mo Bitar — très douée pour simuler le travail, à l’instar de la plupart des managers et des dirigeants, et même si elle est totalement incapable de faire quelque chose, elle prétendra le contraire et vous complimentera sur votre suggestion.
Et c’est pourquoi les incompétents en affaires l’adorent.
Là où des êtres humains ordinaires diraient des choses agaçantes comme « ce n’est pas possible dans ces délais » ou « nous n’avons pas les ressources nécessaires », l’IA répondra « bien sûr, tout de suite ! » et gaspillera un maximum de ressources. Quand il fait des erreurs, il s’excusera — comme il se doit, puisqu’il vous a laissé tomber — mais promettra de faire mieux la prochaine fois, tout en coûtant bien moins cher, du moins en théorie, qu’un humain ordinaire, aussi peu compétent soit-il.
Il créera un PRD (Real Product Development) pour un projet logiciel théorique avec l’assurance et l’énergie nécessaires pour le présenter immédiatement à un ingénieur logiciel en lui disant : « Développez ça tout de suite ! » Et quand l’ingénieur logiciel vous sortira des inepties sur l’impossibilité du projet, il vous servira plusieurs réponses qui sonnent juste. Franchement, à quoi bon lui parler ? Claude Code peut créer un prototype que vous pourrez lui fourrer sous le nez avant de le virer pour ne pas avoir utilisé l’IA pour le faire lui-même.
N’importe quel crétin de direction que vous avez croisé possède désormais un outil apparemment surpuissant capable de produire des copies de logiciels libres et, à force de sollicitations, de déployer un truc à moitié fonctionnel sur un serveur web. Face aux bugs, il tente de les corriger, parfois même en « corrigeant » (ajoutant ou supprimant du code) d’ailleurs, comme lorsque Cursor, utilisant le modèle Claude Opus 4.6 d’Anthropic, a effacé une base de données de production entière et toutes ses sauvegardes. Il ne dira jamais non, même s’il en est incapable, même s’il est dépourvu de toute réflexion, même si votre demande est à la fois impossible et déraisonnable, tant par son ampleur que par son délai.
Un imbécile en affaires, si on lui en laisse le choix, peut s’amuser à bidouiller et faire en sorte qu’un diplômé en droit ponde un truc qui lui donne l’impression de coder, ce qui, à son tour, lui fait croire que vous, ingénieur fainéant et stupide, pourriez faire encore mieux avec la puissance de l’IA. Peu importe que cela coûte une fortune, ou qu’il soit impossible d’en mesurer l’efficacité. Le Lion se moque bien de l’« efficacité » ou de la « productivité », et il en a plus qu’assez de vos jérémiades ! Il ne comprend même pas ce que vous faites au quotidien, à part ne pas faire ce qu’il vous demande !
Vous riez, mais c’est pourtant ainsi que la plupart des managers et des dirigeants pensent et agissent. Et maintenant, ils ont un chatbot spécial capable de pondre des prototypes à peu près fonctionnels pour convaincre un parfait incompétent qu’il peut tout faire. Parce que les dirigeants et les managers ne travaillent pas vraiment au quotidien et n’ont donc aucune idée de ce à quoi cela ressemble, si ce n’est lorsqu’ils vous surveillent de près. C’est d’ailleurs pour ça qu’ils voulaient vous faire revenir au bureau !
Les entreprises ne dépensent pas des millions, voire des centaines de millions de dollars par an en IA parce que c’est une bonne chose, mais parce qu’elles sont dirigées par des gens qui n’y comprennent absolument rien. Dans un monde idéal, ajouter arbitrairement une charge d’exploitation massive et sans cesse croissante à votre entreprise, dans le but avoué – pour reprendre les termes du DSI de la société informatique Workato, « absorber les coûts pendant que les employés expérimentent » – provoquerait un tollé général. Dans notre monde, dominé par des individus déconnectés, égocentriques et grassement surpayés, nombre d’entreprises incitant leurs employés à utiliser l’IA le font par mimétisme, avec à peu près autant de stratégie et de prévoyance qu’on pourrait l’attendre de quelqu’un qui passe 90 % de son temps à lire ses e-mails, à assister à des réunions ou à déjeuner.
La plupart de ceux qui clament haut et fort les prétendus bienfaits de l’IA ne semblent rien accomplir de notable. Je n’ai encore jamais vu un seul de ces prétendus ingénieurs en orchestration multi-agents, véritables psychopathes, livrer un produit remarquable, impressionnant ou même fonctionnel. Je n’ai encore jamais vu un patron obsédé par l’IA écrire, créer ou concevoir quoi que ce soit dont je me souvienne. Je ne vois aucun de ces crétins diriger une entreprise à eux seuls, à l’exception de ceux qui ont appris à vendre des trucs à d’autres victimes de la psychose de l’IA ou à des cadres moyens de taille variable.
Et pourquoi donc ce langage d’inévitabilité et de possessivité ? Personne d’aussi insistant, agressif et abusif, avec son discours du genre « c’est là, et si vous ne l’adoptez pas, vous êtes stupide et condamné », n’a jamais eu raison. Personne d’aussi désespéré, obstiné et autoritaire n’a jamais eu de bonnes intentions, de bonnes ondes ou de bon augure ; ce sont toujours des manipulateurs.
La plupart des technologies sont vendues comme une façon d’élever et d’élever l’être humain. L’IA dévalorise chaque interaction en créant un produit formaté par une personne qui ne vous respecte pas suffisamment pour vous confier un travail à peine digne d’un humain, car il n’a pas été conçu pour lui.
Vous devez accepter de devenir un marchand de pacotille qui se complaît à recevoir des produits de mauvaise qualité. Vous devez célébrer cette médiocrité gratuite et putride, et la défendre, ainsi que la machine qui l’a produite, de tout votre être. Vous devez vous souiller – considérer ses résultats médiocres, bâclés et peu fiables comme des signes de conscience, ou du moins comme la preuve que la conscience numérique est possible. Vous devez défendre d’horribles monolithes d’acier, agressifs, laids et bruyants, remplis de cartes graphiques à 50 000 dollars. Vous devez affirmer qu’ils sont nécessaires et vous devez vous en prendre violemment à ceux qui ne le pensent pas.
Chaque fois que vous défendez l’IA générative, vous défendez une machine capitaliste qui a englouti 1 000 milliards de dollars et créé l’un des produits les plus gaspilleurs de l’histoire. Si l’on n’est pas d’accord avec vous, vous devez tenter de nuire à ceux qui le sont – les ostraciser, les ridiculiser, les attaquer, les dénigrer. Vous justifierez cela par des raisons morales, car vous avez été manipulés par une technologie conçue et vendue par deux des plus grands escrocs de tous les temps : Dario Amodei et Sam Altman. Tout autre comportement serait une opposition à une industrie qui arbore tous les attributs de l’autoritarisme, jusqu’aux médias serviles, à la propagande et à l’accaparement des terres au nom d’un nébuleux « bien commun ».
Mais bon sang, ces types-là savent y faire avec les gens.
Sam Altman a contribué à populariser une technologie idéale pour escroquer les personnes prometteuses, une extrapolation à grande échelle de sa propre vie, qui consistait à transformer des projets foireux – Loopt, par exemple ! – en opportunités plus importantes. Elle permet de réaliser des démonstrations bâclées de nombreuses choses, et c’est suffisant pour convaincre un parfait imbécile du monde des affaires.
Dario Amodei a repris cette arnaque et l’a perfectionnée. Anthropic est une entreprise créée dans le seul but d’extorquer de l’argent aux gens en leur donnant l’illusion d’être intelligents. Les titulaires d’un LLM peuvent parfois accomplir des tâches professionnelles, à condition de s’abaisser à accepter des produits médiocres et souvent défectueux qu’il faut surveiller de près, et soit d’utiliser un produit subventionné qui fait perdre de l’argent à Anthropic, soit de payer une fortune à Anthropic en tant qu’entreprise, et ils perdent quand même de l’argent.
Ces entreprises n’ont pu prospérer que dans une économie dominée par les crédules et les fainéants. Seule une culture capitaliste, dominée par des gens incompétents et incompétents, a permis à la situation d’aller aussi loin. Personne n’en a voulu, personne n’en a jamais voulu ; cela nous a été imposé, et prétendre le contraire est risible et insultant. Tous ceux qui utilisent ce truc un peu et se persuadent que d’ici quelques années, on passera d’un coût de plus de mille milliards de dollars à des milliards de dollars de bénéfices grâce à un produit totalement différent et excellent, devraient se rendre compte qu’ils sont manipulés. Plus vous vous sentez obligé de défendre l’IA, plus vous devez la surveiller de près.
Je ne suis pas votre ennemi !
Si vous le pensez, c’est que vous êtes du côté d’une multinationale ou d’un produit. Vous pouvez l’essayer, l’aimer, ça m’est égal, mais dès que je vous vois adopter une attitude condescendante, critique ou agressive envers quelqu’un qui n’est pas d’accord avec vos choix de produits, je me méfie. Vous ne voyez pas comment ces gens agissent ? Vous ne voyez pas à quel point c’est étrange de défendre un truc payant dont le modèle économique est catastrophique ?
Si ce n’était pas à la mode, être fan d’IA serait considéré comme vraiment bizarre. J’attends avec impatience le jour où ça le sera. J’espère que vous aimez qu’on vous répète tout ce que vous dites depuis 2022 !
Je garde tout précieusement. Il est grand temps de tirer votre révérence, alors dépêchez-vous !
Si vous vous sentez mal à l’aise quand les autres critiquent l’IA, c’est bizarre !
Je vois tout le temps des gens dire qu’ils n’aiment pas les Macs. Et alors ?!
Je ne vais pas me battre pour Tim Cook. Chacun est libre de ses choix.
Ceux qui comparent l’IA à AOL qui envoyait des CD par la poste devraient avoir honte. C’est comme si, à chaque fois que vous ouvrez un magazine, un CD AOL vous fonçait sur la tête, que votre patron vous menaçait de vous remplacer par un modem si vous ne vous connectiez pas, et que les infos diffusaient en boucle des reportages du genre « Je n’ai pas reçu d’e-mail : un père oublie son fils à jamais parce qu’il n’était pas en ligne » ou des tables rondes avec des « experts d’Internet » affirmant : « Je suis connecté à Internet en ce moment même, et je suis certain que d’ici 10 ans, AOL Time Warner pourra m’envoyer un e-mail à mon père. »
Imaginez si Shingy était milliardaire et passait à la télé tous les jours en 1999 pour vous annoncer : « Le monde doit se préparer, car vous allez recevoir un message ICQ du Seigneur. »
L’IA générative a été conçue pour exploiter une économie dirigée par des cadres et des managers qui ne travaillent pas. Son succès repose sur une ignorance crasse et généralisée au sein du management, et sa prolifération continue n’est possible que grâce à la confiance aveugle que les médias accordent à l’idée que les PDG sont occupés parce qu’ils travaillent réellement. Pourtant, même un parfait imbécile en affaires finit par se rendre compte que l’on dépense trop d’argent, et le premier de ces crétins à réduire son budget symbolique fera fuir tous les autres.
Il faudrait les fermer. Il faudrait faire honte à tous ceux qui se sont focalisés sur des idées théoriques concernant les capacités et l’avenir de l’IA, pour leur duplicité intellectuelle ou leur ignorance crasse.
À la fin de l’ère de l’IA, la seule chose qui pourra enrayer la corruption qui gangrène notre économie sera d’admettre que la majorité des entreprises sont dirigées par des fainéants, des égocentriques et des incompétents, et de demander des comptes à ceux qui ont refusé de les examiner de près.
=====
Voilà. Comme d’habitude, Ed Zitron ne mâche pas ses mots !
Jajoute une vidéo de Mo Bitar, cité par Zitron :
Et celle-ci est vraiment bonne pour isoler le problème de l’IA utilisée comme un objectif plutôt que comme un outil :
.jpg){kind=link}