Résumé sur l’IA

Depuis deux ans, je main­tiens une base de résu­més d’ar­ticles, de vidéos, et de cours sur l’IA. J’y mets des conte­nus dont j’ai envie de gar­der une trace, pour les réuti­li­ser plus tard. Aujourd’hui, cette base dépasse les 170 résu­més, et moi-même je m’y perds. Je tente un résu­mé de tout ces résu­més. Après ava­lé autant d’in­for­ma­tions, qu’est-ce que je retiens ?

L’IA n’est pas une technologie

Penser l’IA comme une tech­no­lo­gie est une erreur. C’est une constel­la­tion de tech­no­lo­gies dis­pa­rates (recon­nais­sance faciale, pré­dic­tions, chat­bot…), dont l’u­ni­té n’est pas stric­te­ment tech­no­lo­gique. Pour preuve, cer­taines choses qui étaient consi­dé­rées comme “de l’IA” dans le pas­sé ne sont plus “de l’IA” aujourd’­hui, et inversement.

Ce qui fait l’u­ni­té de l’IA est d’a­bord un pro­jet poli­tique et éco­no­mique. Toute tech­no­lo­gie est pro­duite par des gens socia­le­ment et poli­ti­que­ment situés, avec des inté­rêts et des objec­tifs. Il faut donc regar­der qui sont les pro­mo­teurs de l’IA, et prendre ça au sérieux. La tech­no­lo­gie est le pro­duit d’une orga­ni­sa­tion sociale, elle marche parce qu’elle répond aux besoins d’une socié­té donnée.

Ceux qui imposent l’IA par­tout sont des hommes extrê­me­ment riches, qui ont des pro­blèmes de capi­ta­listes. Politiquement, ils vont de la sou­mis­sion au fas­cisme, au mas­cu­li­nisme sin­cère, avec des visions poli­tiques allant du liber­ta­ria­nisme, au fas­cisme et au néo­na­zisme. Dans les entre­prises, l’IA est sou­vent impo­sée d’en haut, par les per­sonnes en posi­tion de pou­voir, même si les usages enthou­siastes “par le bas” existent aussi.

À quoi sert l’IA ?

Dans ce contexte, l’IA sert à plu­sieurs objec­tifs. Pour Ali Alkhatib, elle per­met de sup­pri­mer l’au­to­no­mie des indi­vi­dus, et de redis­tri­buer le pou­voir vers des struc­tures cen­tra­li­sées. Quand plus per­sonne ne sait faire les choses sans ChatGPT, l’a­bon­ne­ment à ChatGPT devient obli­ga­toire, et ceux qui contrôlent ChatGPT concentrent le pouvoir.

Selon Romaric Godin, l’IA vise à relan­cer le taux de pro­fit à la hausse, en auto­ma­ti­sant des tâches ancien­ne­ment confiées à des humains. C’est une réponse à la crise des taux de pro­fits dans le capi­ta­lisme contem­po­rain. À ce stade, seule la des­truc­tion (guerre, éco­cide) et le men­songe (dés­in­for­ma­tion) peuvent relan­cer la crois­sance. En fai­sant croire qu’il y a une demande sociale d’IA, les capi­ta­listes poussent les indi­vi­dus à récla­mer de l’IA, alors qu’elle ne béné­fi­cie en réa­li­té qu’au capi­tal.

Hubert Guillaud note que la médio­cri­té et l’im­pré­vi­si­bi­li­té de l’IA ont une fonc­tion éco­no­mique et poli­tique. Faute d’être bons, les résul­tats IA ne sont pas tota­le­ment inutiles : ils concur­rencent l’exis­tant, font pres­sion sur le coût du tra­vail humain et pré­ca­risent tout le monde. Aux États-Unis d’Amérique, les erreurs impré­vi­sibles de l’IA ali­mentent la ter­reur poli­tique. Quand la police de l’im­mi­gra­tion déporte sur la base de résul­tats IA erro­nés, tout le monde risque d’être dépor­té. Tout le monde a peur, et c’est le but.

D’autres voient dans l’IA une façon de se déres­pon­sa­bi­li­ser. En délé­guant à l’IA l’exécution ou la déci­sion de tâches socia­le­ment dif­fi­ciles (licen­cie­ment, guerre, etc) on pré­tend être objec­tif, neutre, et ne pas être comp­table des résul­tats. Au final, “ce à quoi sert un sys­tème est ce qu’il fait réel­le­ment”, et il y a un abysse entre le mar­ke­ting de l’IA et ce qu’on constate.

Un logiciel fait avec des données

Les logi­ciels tra­di­tion­nels s’ap­puient sur des règles (des ins­truc­tions), l’IA s’appuie sur des don­nées et sur un appren­tis­sage machine. La ques­tion de com­ment sont obte­nues, construites, et net­toyées les don­nées est donc cru­ciale. Or on sait que ces don­nées ont été pillées depuis presque toutes les sources exploi­tables de savoir humain, sans rétri­buer per­sonne. Leur éti­que­tage est sous-trai­té à des pays pauvres, par­fois à des mineur⋅es, dans un cadre néo­co­lo­nial. L’IA pro­longe la logique extrac­ti­viste, mais dans le monde numé­rique et informationnel.

Quantitativement, la rare­té des don­nées pour­rait deve­nir un pro­blème. Les modèles d’IA s’ef­fondrent lors­qu’ils apprennent sur des don­nées syn­thé­tiques. Or à mesure que tout le monde uti­lise l’IA par­tout, les don­nées d’o­ri­gine humaine se raré­fient. Sauf à créer des chaînes d’ap­pro­vi­sion­ne­ment en don­nées via un appro­fon­dis­se­ment de la socié­té de sur­veillance et l’o­bli­ga­tion d’u­ti­li­ser des IA pour les humains – Oh, wait.

Qualitativement, en dépit de l’am­pleur du pillage, les don­nées uti­li­sées par les IA sont limi­tées. L’IA n’a pas eu accès à “l’in­té­gral du savoir humain”. La science contem­po­raine exclut les savoirs oraux, locaux, issus de per­sonnes non-blanches, qui ne sont pas en anglais, ou qui pro­posent des approches épis­té­miques différentes.

L’espace infor­ma­tion­nel est défor­mé. Or le web reflète et accen­tue cette défor­ma­tion. L’IA s’ap­puie donc sur une ver­sion défor­mée d’un espace déjà pro­fon­dé­ment défor­mé. Et ce avant même que la confi­gu­ra­tion des modèles par des humains ajoutent des valeurs et des objec­tifs sus­cep­tibles d’ag­gra­ver la situa­tion (Grok, Elon Musk, etc.). L’IA pro­duit une ver­sion résu­mée, orien­tée et cari­ca­tu­rale de sources de don­nées qui sont déjà par­tielles et partiales.

Il n’y a pas de bonne IA

À sup­po­ser que l’IA ne soit pas impo­sée par la force, que ces résul­tats ne soient pas sexistes, racistes, faux, et que ses consé­quences ne soient pas désas­treuses pour les tra­vailleurs, le web et l’é­co­lo­gie, peut-il y a avoir une bonne IA ? Plusieurs per­sonnes répondent que non.

Une IA bio, locale, éthique, etc. ne sera jamais la plus uti­li­sée : elle ser­vi­ra sur­tout à nor­ma­li­ser les autres IA. La bonne IA est un mythe qui espère faire oublier les condi­tions de pro­duc­tion de l’IA et son ins­crip­tion dans une socié­té pro­fon­dé­ment injuste ; socié­té sans laquelle l’IA ne peut pas exis­ter, et que l’IA veut prolonger.

En fait, plus les gens com­prennent com­ment fonc­tionne l’IA, moins iels sont enclins à l’u­ti­li­ser. Pas seule­ment pour des rai­sons éthiques, mais aus­si parce que le carac­tère pro­ba­bi­liste des IA les rend inutiles pour des tâches infor­ma­tion­nelles… Alors même que ce sont ces tâches qui sont mises en avant par l’in­dus­trie numé­rique et plé­bis­ci­tées.

L’IA malgré tout

Les rai­sons de cri­ti­quer l’IA sont tel­le­ment nom­breuses qu’il est dif­fi­cile de les résu­mer (voir ici, là ou encore là). Elles portent aus­si bien sur les condi­tions de pro­duc­tion de l’IA, que sur les consé­quences de son usage. Beaucoup de gens sont hos­tiles à l’IA et ce mal­gré le bat­tage média­tique non-stop. Pourtant l’IA semble là pour res­ter.

Pour les jeunes, l’IA est la nor­ma­li­té – selon les lois de Douglas Adams sur la tech­no­lo­gie. Pour celles et ceux qui subissent des injus­tices struc­tu­relles (racisme, sexisme, vali­disme, pau­vre­té, etc.), l’IA per­met de pas­ser des bar­rières sociales (rédi­ger sans faute, faire un CV, etc.). Et pour des professionnel⋅les poussé⋅es à la pro­duc­ti­vi­té, ou contraint⋅es à des tâches admi­nis­tra­tives bas de gamme, l’IA est une libé­ra­tion. Le capi­ta­lisme finis­sant crée les condi­tions du suc­cès de l’IA chez les indi­vi­dus, qui l’u­ti­lisent pour résis­ter à un cadre glo­bal hostile. 

Ce suc­cès est aus­si ali­men­té par le déses­poir : ne croyant plus en rien, per­sua­dés de n’a­voir aucune valeur et qu’ils sont inca­pables d’a­gir et de tis­ser des liens, les indi­vi­dus voient dans l’IA une solu­tion. L’IA rend pos­sible ce qu’ils pensent être par nature hors de leur por­tée. On génère des images IA parce qu’on n’i­ma­gine même plus apprendre à des­si­ner (on n’est pas “natu­rel­le­ment” créa­tif), et qu’on ne croit pas que ce qu’on des­si­ne­rait mal soi-même aurait la moindre valeur.

La pos­si­bi­li­té de se pas­ser com­plè­te­ment d’IA est un pri­vi­lège. C’est parce qu’on est déjà bien insé­ré dans le monde du tra­vail, qu’on a un capi­tal cultu­rel et édu­ca­tif solide, qu’on peut refu­ser tout usage de l’IA. Un refus qui est de toute façon limi­té. Certaines tâches comme la trans­crip­tion audio ou la détec­tion de vul­né­ra­bi­li­tés montrent que cer­taines IA ont un apport posi­tif, et on ima­gine mal s’en pas­ser com­plè­te­ment.

Les oppo­sants et oppo­santes à l’IA qui viennent de la recherche et du numé­rique sous-estiment leurs propres com­pé­tences. Yels minorent la dif­fi­cul­té à évo­luer dans un cadre infor­ma­tion­nel com­plexe, que l’IA peut aider à appri­voi­ser. Les chat­bots peuvent alors faire bais­ser le coût d’ac­cès à l’in­for­ma­tion.

L’avenir de l’IA

Actuellement, l’IA relève d’une arnaque. Les com­pa­gnies qui la pro­duisent sont impli­quées dans plu­sieurs bulles, et leur capa­ci­té à se main­te­nir à flot mal­gré leurs dépenses s’ex­plique par des sys­tèmes de finan­ce­ments cir­cu­laires et frau­du­leux. L’IA coûte cher et ne peut pas être ren­table, pour des rai­sons struc­tu­relles. Au point où la banque Goldman Sachs, trouve que c’est un mau­vais inves­tis­se­ment et a créé un indice bour­sier à part pour tout ce qui n’est pas de l’IA.

Mais la péné­tra­tion de l’IA par­tout fait qu’une explo­sion de la bulle finan­cière risque de détruire tout sur son pas­sage, bien au-delà du sec­teur de l’IA. Peu de gens ont désor­mais inté­rêt à un écrou­le­ment du sec­teur de l’IA, qui pour­rait deve­nir too big to fail (trop gros pour échouer). On retrouve l’i­dée de Romaric Godin : créer un besoin d’IA per­met à l’IA de sur­vivre, et au capi­ta­lisme de conti­nuer. Alors que toustes les obser­va­teu­rices attendent l’é­cla­te­ment de la bulle, celle-ci semble tou­jours retardée.

À titre per­son­nel, je ne cesse de m’interroger sur la sou­te­na­bi­li­té éco­lo­gique de l’IA. Si l’IA n’est pas com­pa­tible avec une pla­nète vivable, a‑t-elle vrai­ment un ave­nir ? Les incen­dies, le manque d’eau, les guerres et les révoltes ne fini­ront-elles pas par mettre fin à l’IA telle qu’on la connaît ? Ou bien des IA plus légères, vien­dront-elles prendre le relai ?

Pour conclure, et après avoir par­lé d’IA tout l’ar­ticle, il faut recon­naître que le mot “IA” a per­du son sens. Il désigne une réa­li­té tel­le­ment large et floue qu’on peine à savoir ce qu’on dit. Mais pré­ci­ser de quel type d’IA on parle (LLM, SRAS, etc.) demande une exper­tise, qui coûte à acqué­rir et que tout le monde ne peut pas avoir.

Retrouvez plus de 170 résu­més et les articles qui ont ins­pi­ré ce billet sur ma base de résu­més sur l’IA. En bonus : ma deuxième base, qui contient une cen­taine d’a­nec­dotes navrantes et de blagues sur l’IA.

---

Vous avez aimé cet article ? N’hésitez pas à le par­ta­ger pour faire chaud à mon petit cœur quand je lirai les stats d’au­dience micro­sco­piques du site 🔬.