Perseverare diabolicum

La chronique garantie 0% ChatGPT de Pierre Haski

« Errare humanum est »… « l’erreur est humaine », disait Saint Augustin. Il faudrait vraiment inventer une nouvelle maxime à l’heure de l’intelligence artificielle : « errare AI est »… L’erreur est aussi dans l’IA.

Nous avons tous fait l’expérience, à l’apparition de Chat GPT, d’erreurs glissées dans nos recherches, par exemple sur notre nom (le narcissisme est le péché mignon des moteurs de recherche depuis l’apparition de Google) : des livres dont nous ne sommes (hélas) pas les auteurs, des diplômes de grandes écoles dont nous aurions rêvé, des exploits dont nous n’aurions même pas rêvé…

Google en fait à son tour l’expérience dans sa tentative de rattraper son concurrent Open AI. Selon le « New York Times », le nouveau moteur de recherche de Google basé sur l’IA, Google Overview, a généré de nombreuses erreurs : ajouter de la colle à une recette de pizza, ou avaler des pierres pour un traitement médical. Ça la fout mal, évidemment. Surtout quand on se souvient que Bard, la « réponse » de Google à Chat GPT bricolée en urgence l’an dernier, avait coûté 100 milliards de dollars de capitalisation boursière à Google en raison de ses erreurs répétées.

C’est évidemment gênant quand on a la taille et l’importance de Google dans le search à l’échelle mondiale. Mais est-ce grave ? Toute personne ayant eu à traiter avec l’informatique depuis trois décennies sait que ça ne se passe pas comme dans le monde réel : on ne met pas sur le marché un paquet de yaourts qui ne serait pas parfait, mais on met en ligne une version beta d’un programme qui sera amélioré en fonction des retours des premiers utilisateurs, parfois dans une direction qui n’était pas celle que l’on avait imaginé. Je me souviens que lorsque nous avons lancé notre première appli de Rue89, il y a quelques années-lumière, les iPshones ne permettaient pas de bloquer l’écran en vertical ou horizontal, rendant la lecture au lit pénible (les ingénieurs d’Apple n’avaient pas imaginé qu’on lirait au lit !). Des utilisateurs nous en avaient parlé, et nous avions introduit une fonctionnalité de blocage avant qu’Apple ne le fasse sur ses appareils. Cette réactivité, cette adaptation, fait partie du jeu.

Je vois monter l’objection : les erreurs, c’est pas pareil. Certes… Mais l’amélioration d’un produit en cours de route reste fondamentalement une des caractéristiques de ce secteur. C’est moins pardonnable quand on a la taille de Google, évidemment, et notre capacité à pardonner est inversement proportionnelle à la capitalisation boursière de la société, et à son arrogance ! Et c’est encore moins excusable quand l’entreprise n’assume pas les erreurs de ses « collaborateurs » numériques.

Je pense à la mésaventure d’Air Canada qui,