Cherchons où se trouve la lumière - La réponse déprimante au dépôt mathématique d’OpenAI

Hannah Arendt a écrit dans La condition de l’homme moderne :1

[L]es gens qui se rencontrent au marché ne sont pas d’abord des personnes : ce sont des producteurs de produits ; ils ne viennent pas pour se faire voir, ni même pour montrer leurs talents [...] mais pour montrer leurs produits. C’est ce manque de relations avec autrui, ce souci primordial de marchandises échangeables que Marx a flétris en y dénonçant la déshumanisation, l’aliénation de soi de la société commerciale, qui en effet exclut les hommes en tant qu’hommes et [...] exige que les hommes ne se fassent voir que dans le privé de leurs familles ou l’intimité de leurs amis.

À mon expérience dans le STEM (Science, Technologie, Ingénierie, Mathématiques), on ne considère pas cet effet comme négatif. Par contre, on le considère comme désirable et en fait juste. La formulation n’est pas la même ; plutôt, on parle d’un système « axé sur les résultats » (result-oriented). Mais le propos est le même.

Le problème ? Que se passera-t-il quand l’IA pourra produire ces résultats mieux et plus vite que les humains ? Dans cet article, je vais réfléchir sur ce sujet parce qu’il est encore plus important après le dépôt mathématique d’OpenAI, et surtout, après la réponse des communautés mathématique et logicielle. Alors, qu’est-ce que cette réponse ? Pour résumer, la réponse était : « bah ouais, l’IA peut maintenant faire des preuves et écrire des programmes, mais il y a d’autres choses, d’autres activités qui ont besoin d’un humain. Par exemple, vérifier les preuves et le code que l’IA produit. Où par exemple, développer de compréhension et diffuser cette compréhension. Donc, tout va bien ». Mais cette réponse est profondément problématique.

Tout d’abord, c’est que l’IA peut déjà bien faire ces choses. Il y a beaucoup – peut-être trop – d’étudiants à travers le monde qui apprennent des mathématiques ou qui étudient des papiers à l’aide d’IA. Donc, comme j’ai écrit à mon article précédent, je ne crois pas que ces « solutions » soient viables et à long terme. Mais bon, supposons qu’elles soient…

Donc ? Pourquoi est-ce qu’on déclare que c’est suffisant ? Pourquoi ces mathématiciens célèbres qui tentent de nous calmer, est-ce qu’ils disent que tout va bien ? Voici leur logique : les humains ont encore un rôle dans le système. Mais comment diable cela peut-il suffire ? La plupart d’entre nous, programmeurs, le sommes devenus parce que nous accordons une grande valeur à l’activité de programmation elle-même – à cet art, à ce processus qui consiste à créer – en grande partie par nos propres moyens – un artefact. Comment diable est-ce qu’on dit calmement « c’est pas si mal parce qu’il y a encore des choses que les humains peuvent faire ; par exemple, contrôler et promouvoir » ? Je ne me suis pas lancé dans cette activité pour « contrôler » ni pour « faire du marketing ». Je m’y suis lancé pour créer. Imaginons qu’on dit à quelqu’un qui fabrique des meubles en bois « bon, il y a un machine qui fabrique les choses que tu fabriques environ trois fois mieux et plus vite que toi, mais pas de soucis, parce qu’on a encore besoin de quelqu’un pour vérifier le produit final, et après le promouvoir ». Est-ce qu’on est sérieux ?

Dans la même esprit, je suis assez sûr que la plupart des mathématicien(ne)s ne se sont pas lancés aux math pour contrôler le merde que l’IA sortit. Ils s’y sont lancés parce qu’ils veulent créer. Ils ne s’y sont pas lancé pour qu’ils voient simplement les mathématiques progresser. Ils se sont lancés là-dedans parce qu’ils voulaient les faire progresser. Autrement dit, ils voulaient que les humains les fassent avancer.

Je suis désolé de dire ça, mais nous sommes foutus. C’est une chose que l’IA prenne notre travail, et c’est une tout autre de croire que tout va bien parce qu’il nous reste un travail à faire, quel que soit fondamentalement subalterne. Vous savez quelle autre chose l’IA ne pourra pas la faire de sitôt ? Être attirant. Je veux dire dans un corps physique, parce que quand il s’agit du monde digital, l’IA a surpassé les humains et les humains ne dérangent pas : Subjective Responses of Gynephilic Men and Women to Real versus Artificial Female Nudes. Mais bon, dans le monde réel, on est encore loin devant. Génial ! Bientôt des laboratoires utiliseront l’IA pour publier des papiers et ils embaucheront des mannequins pour aller aux conférences et donner des interventions. Super, hein ? Après tout, il y aura encore une activité à faire pour les gens, donc quel est le problème ? En fait, cela va introduire plus de femmes dans le STEM, donc cela semble être une excellente solution. Merci IA ! C’est quoi ce bordel ?

* * *

Le philosophe Cornelius Castoriadis a donné une analogie parfaite pour décrire comment le STEM progresse. L’histoire se présente à peu près comme suit. Il y a une personne au milieu de la rue sous un lampadaire. Il cherche évidemment quelque chose. Une autre personne passe et le dialogue suivant a lieu.

— Tout va bien ?
— Malheureusement non. J’ai perdu mes clés.
— Merde. Et bon, vous savez que vous les avez perdus par ici ?
— Non. En fait, je sais que mes clés sont pas par ici.
— Alors, pourquoi les cherchez-vous ici ?
— Car il y a de la lumière ici.

C’est précis. D’abord, dans le STEM, on adore la recherche ; on l’aime peut-être plus que les solutions, et maintenant, cela nous est retiré. Deuxièmement, on aime les solutions et on hâte l’incertitude, donc on essaie quelquefois d’oublier ce qu’il compte vraiment parce qu’on ne sait pas comment l’aborder.2 Ce qui s’est passé avec le dépôt d’OpenAI, c’est qu’OpenAI nous a tyrannisé et nous a éloignés de la lampadaire. Et quelle était notre réponse ? « Tout va bien. Je crois qu’il y a une autre source de lumière quelque part ».