ChatGPT, une menace ?

Les enjeux d'une IA incroyable sont-ils ceux qu'on voit, ou ceux qu'on ne voit pas ?

Tsunami

Un “économiste” s’affichant libéral écrit récemment ceci en réaction à l’émergence fort médiatisée de ChatGPT, cette nouvelle manifestation des progrès de ce qu’il est convenu de qualifier de “Intelligence Artificielle” :

“On est sur la plage. Soudain la mer se retire très rapidement. C’est rigolo. On court sur le sable qui offre au regard des fonds marins d’ordinaire invisibles. Joie. Il faudrait [pourtant] courir. Vite. Au loin, une montagne se dresse, mais on n’y prend pas garde. C’est nous face à ChatGPT.” - Olivier Babeau, Twitter, 27/01/23

Autrement dit, l’auteur fait l’analogie avec un tsunami, ChatGPT étant la vague dont on ne saurait pas voir la menace dévastatrice pointant pourtant à l’horizon du marché du travail, des compétences - et probablement plus dans son esprit.

J’entends ici contester la pertinence de cette analogie, remettre cette - brillante - technologie à sa juste place et surtout mettre le doigt sur l’erreur manifestement profonde qu’elle semble exprimer quant à sa manière de concevoir la société de Liberté.

Miracle ?

Depuis quelques semaines, ChatGPT fait couler beaucoup d’encre et le nombre de ceux qui s’extasient de sa pertinence et de sa richesse créative n’en finit pas de grimper. Je me garderai bien de ne pas saluer moi-même l’exploit indéniable, le concentré impressionnant de complexité et d’études qui se cache derrière cette interface de dialogue en langage naturel.

Mais les nombreux tests qui ont été faits et publiés montrent - comme on pouvait s’y attendre - que cette technologie souffre de limitations très significatives. On constate ainsi que ses propos sont le reflet parfait de notre monde occidental actuel. Ils sont farcis de biais politiques (certains noms et personnalités actuelles ou historiques, tel Ad01f H., sont purement et simplement bannis) et de biais d’apprentissage (les opinions de gauche et boboïsantes y sont préférées aux opinions d’autres bords, comme c’est le cas dans ses sources de référence, par exemple Wikipedia).

Cela s’explique probablement par la manière dont ses concepteurs ont instruit leur bébé. Le bébé était sans doute un surdoué de naissance, mais ses parents lui ont appris non pas la vérité - surtout dans le domaine des sciences humaines - mais ce qui fait consensus, ce qui leur permettait et leur permettra de financer leurs recherches.

Les propos tenus par ce logiciel ne peuvent ainsi en aucune manière être pris pour argent comptant. Il y a certainement tout un tas de domaines où ces biais n’ont pas d’incidence. Par exemple, il paraît qu’il est capable de programmation en langage Python, même si j’ai des doutes, il est clair que dans un tel domaine les biais évoqués seront un moindre obstacle à son développement.

MidJourney, cet autre miracle de l’intelligence artificielle…