L’avenir de l’IA dont personne ne veut parler

Je pense que beaucoup de gens dans l’IA se représentent encore le changement comme s’il était linéaire. Il ne l’est pas. Si l’intelligence progresse sur une courbe exponentielle, la prochaine décennie ne ressemblera pas à une version plus avancée d’aujourd’hui. Elle ressemblera à une rupture de catégorie.

C’est pour ça que je prends au sérieux une phrase qui paraît absurde jusqu’à ce qu’on s’y attarde : il y a une probabilité non nulle que l’IA nous anéantisse, une probabilité plus élevée qu’elle casse le système économique qu’on appelle aujourd’hui normal, et une probabilité quasi nulle que la vie ressemble ne serait-ce qu’un peu à celle d’aujourd’hui dans dix ans. Je ne dis pas ça pour faire du clickbait. Je le dis parce que trop de gens brillants construisent sur cette courbe tout en sous-estimant émotionnellement ce que font les exponentielles.

L’hypothèse de l’extinction est celle dont tout le monde se moque, alors commençons par là

Je ne pense pas que l’extinction de l’humanité d’ici dix ans soit le scénario de base. Mais je pense que la ranger dans la même case que la science-fiction relève de la paresse. Les personnes les plus proches des systèmes de pointe ont passé ces dernières années à lancer des avertissements de plus en plus publics sur le désalignement, la croissance autonome des capacités, les abus en biosécurité, les cyberattaques, et la possibilité que ces systèmes deviennent stratégiquement puissants avant qu’on sache les contrôler de façon robuste.

Même si tu penses que les calendriers sont faux, la structure de l’argument n’a rien de fou : si l’intelligence se cumule plus vite que les institutions ne s’adaptent, on entre dans un changement de phase quasiment sans précédent historique. La position honnête, ce n’est pas la certitude. C’est l’incertitude plus l’asymétrie. Si le risque est civilisationnel et la probabilité non nulle, tu ne peux pas hausser les épaules juste parce que l’affirmation paraît dramatique.

Tu ne peux pas non plus la gonfler en prophétie. Des gens sérieux peuvent ne pas être d’accord sur le fait que l’IA de pointe devienne une menace existentielle d’ici une décennie. Ce qu’ils ne peuvent plus dire honnêtement, c’est que toute la discussion n’est pas sérieuse. La bonne réaction, ce n’est ni le déni ni la panique théâtrale. C’est un respect lucide de l’incertitude.

Le choc le plus probable est économique, pas biologique

Si je devais parier sur ce qui casse en premier, je ne parierais pas sur l’extinction. Je parierais sur les hypothèses qui sous-tendent le capitalisme moderne. Pas des marchés qui disparaissent du jour au lendemain. Pas un effondrement hollywoodien. Je parle des fondations plus discrètes qui rendent le système lisible : des salaires liés au travail humain, une éducation qui correspond à peu près à une valeur économique, des entreprises en concurrence à une vitesse d’exécution à l’échelle humaine, et une régulation qui avance assez vite pour préserver la confiance.

C’est là que la prochaine décennie devient bizarre. L’IA n’a pas besoin de devenir un dieu pour démolir la valeur du travail intellectuel. Il lui suffit de devenir bon marché, fiable, rapide et assez bonne sur un nombre ridicule de tâches. Quand ça arrive, la chaîne de valeur commence à bouger sous les pieds des gens. Des couches entières d’analyse, de contenu, de coordination, de support, de recherche et de production logicielle voient leur prix réévalué.

Beaucoup d’emplois ne disparaissent pas d’un coup, dans une annonce spectaculaire. Ils cessent simplement de justifier les mêmes effectifs, les mêmes salaires ou les mêmes honoraires d’agence. C’est pour ça que le scénario d’effondrement économique paraît plus plausible que celui de l’extinction sur un horizon de dix ans. On sait déjà que les institutions bougent lentement. On sait déjà que la technologie a tendance à concentrer les gains plus vite qu’elle ne les redistribue. Ajoute des systèmes qui surpassent les humains sur toujours plus de tâches cognitives chaque année, et tu obtiens un monde où la confiance et les structures d’incitation commencent à se déchirer.

La prédiction la plus sûre est aussi la plus profonde : tout change

Voici la seule partie que je peux affirmer avec assurance : il n’y a aucune chance que les dix prochaines années laissent la vie quotidienne intacte. Ça ne demande ni AGI, ni superintelligence, ni armées de robots. Ça demande seulement que les progrès continuent à peu près au rythme actuel. Le travail change. La recherche d’information change. L’éducation change. La parentalité change. La façon de construire des entreprises change. Ce qui compte comme levier change. Ce qui compte comme expertise change.

Même la texture émotionnelle du quotidien change quand des millions de personnes interagissent avec des systèmes capables de penser, parler, planifier, se souvenir et exécuter avec une compétence croissante. Ce dernier point compte plus que ce que la plupart des fondateurs admettent. L’IA n’automatise pas seulement des tâches. Elle change l’attente sociale de ce qui doit être instantané, personnalisé et délégué. Une fois cette attente réinitialisée, les produits, les emplois et les institutions conçus autour de goulots d’étranglement humains plus lents commencent à paraître cassés.

C’est pour ça que je répète que la vraie catégorie de produit n’est pas le chatbot. C’est la cognition externalisée. Et une fois que la cognition externalisée fonctionne, une énorme partie de l’économie doit se réorganiser autour d’elle. Ce n’est pas une tendance logicielle de niche. C’est un basculement de civilisation, avec des conséquences produit partout.

Ce que les fondateurs devraient en faire, au lieu de doomscroller

La leçon pratique, ce n’est pas de devenir le type qui construit son bunker. C’est de construire et d’opérer comme si la volatilité était la norme. Pars du principe que les modèles vont devenir spectaculairement meilleurs. Que les workflows construits sur la rareté de l’intelligence seront attaqués de toutes parts. Que les clients attendront des résultats, pas des logiciels. Que la confiance, la mémoire et l’exécution compteront plus que l’accès brut aux modèles, parce que l’intelligence elle-même devient une couche banalisée.

Pour les opérateurs, ça veut dire réduire la dépendance aux rôles et aux processus dont le seul avantage est la répétition. Pour les fondateurs, ça veut dire concevoir des entreprises capables d’absorber les sauts de capacité au lieu d’être détruites par eux. Pour tout le monde, ça veut dire faire la différence entre les histoires rassurantes et la réalité en direct. L’avenir n’arrive pas sous forme d’un lancement produit bien propre. Il arrive comme une longue rupture inégale.

Je construis dans l’IA, donc je ne dis pas ça de l’extérieur. Je le dis depuis l’intérieur de la machine. L’erreur la plus dangereuse aujourd’hui, ce n’est pas de surréagir. C’est de confondre familiarité et sécurité. On a eu assez de démos, assez de benchmarks et assez de déploiements réels pour savoir qu’on n’assiste pas à un cycle logiciel normal. On assiste au coulage, en temps réel, d’une nouvelle couche de civilisation.

Peut-être que les craintes d’extinction resteront théoriques. Je l’espère. Peut-être que le capitalisme mutera au lieu de s’effondrer. C’est possible aussi. Mais si tu planifies encore ton entreprise, ta carrière ou ta vie comme si la prochaine décennie allait être la même chose avec de meilleurs outils, tu n’es pas optimiste. Tu dors.