J'ai lu récemment ce livre au titre provocateur :
Le postulat de départ du livre est que l'intelligence est déjà (ou sera très bientôt) gratuite et indéfiniment disponible. Les études deviennent donc inutiles et contre-productives. Chacun devrait se faire coacher et éduquer toute sa vie par une IA.Il me semble que ce postulat de départ occulte complètement l'infrastructure physique que nécessite l'IA.
"Gratuite" est une première illusion. Les entreprises et les états qui investissent des sommes colossales dans les serveurs et data centers veulent et voudront monétiser cet investissement. La masse de données personnelles collectées leur permettent de téléguider les humains en jouant sur leurs émotions, les désirs et les peurs, pour leur faire dépenser leurs temps et leur argent dans des futilités. Le petit groupe fermé qui contrôle les modèles d'IA pourrait aussi avantager une pensée non-scientifique et biaiser le débat démocratique. Le contrôle de l'IA donne un pouvoir immese.
Les créatifs naïfs et pressés qui confient leurs idées à l'IA acceptent de se faire piller par les maîtres de l'IA qui les mettront à leur profit. Trop se reposer sur l'IA est un abandon de notre souveraineté. Les découvertes (y compris médicales) promises par l'IA ne seront pas distribuées gratuitement : des groupes privés en tireront le maximum de profit possible ou des Etats les utiliseront comme moyen de pression sur les Etats plus faibles.
"Infiniment disponible" est une seconde illusion. Le déploiement de l'IA à grande échelle nécessiterait une consommation importante pour la construction des infrastructures (béton, métaux classiques et plus rares) et pour leur fonctionnement (énergie électrique et eau). Ces consommations font que l'IA pourrait n'être "pas assez illimitée" pour que chacun ait sa part, et certaines entreprises et Etats pourraient s'en réserver l'usage au détriment des usages éducatifs. Conflits de priorité sur l'utilisation des matériaux et croissance exponentielle des besoins énergétiques, à une époque où l'enjeu crucial est de réduire notre empreinte écologique pour rester dans les limites planétaires. Pour le respect des limites planétaires donc le bien de l'humanité, il serait sans doute mieux de choisir de ne pas déployer l'IA à grande échelle. Je serais curieux de voir des études sérieuses s'intéresser à l'efficacité énergétique et empreinte environnementales comparées de l'intelligence humaine et de l'IA.
