L’IA ou l’art de se déresponsabiliser avec élégance

IA et responsabilité : un glissement silencieux dans nos usages

Une des raisons fondamentales pour lesquelles l’homme a pris le pas de l’ensemble des autres espèces animales est sans nul doute sa capacité à utiliser et à avoir créé incessamment, depuis la nuit des temps, de nouveaux outils.

Pour autant la relation entre l'homme et l'outil est souvent d’une ambiguïté subtile : « un mauvais ouvrier a toujours de mauvais outils » dit le proverbe. Nous avons en effet régulièrement le travers de repousser nos propres déficiences ou limites sur les objets : cette hache est déséquilibrée, ce stylo écrit mal… L’omniprésence de l’informatique dans nos vies et l’arrivée plus récente de l'Intelligence Artificielle nous offrent désormais un nouvel alibi face à nos limites :  l’alibi algorithmique.

La délégation, c'est si agréable !

L’IA générative est désormais utilisée au quotidien par des millions de professionnels (gestionnaires, avocats, médecins, consultants…), mais aussi étudiants ou artistes… Pour eux, l’IA écrit, résume, analyse, compose, débat et même réfléchit en secret.

Pour des anthropologistes, il doit être fascinant d’analyser comment ces outils, qui se sont démocratisés il y a seulement 2 ou 3 ans et qui « pensent » à notre place, nous conduiront peut-être à échapper à nos propres responsabilités et à oblitérer notre capacité créative.

Pourquoi serait-ce un problème que de confier une partie de notre travail à des outils ? C'est bien ce que l'homme a toujours fait ! Les ordinateurs n’ont pas remplacé les mathématiciens et la photographie n’a pas condamné les peintres à disparaître… 

Avec l’IA la menace possible est que cette délégation transforme le rôle de celui qui l'utilise, d’auteur à simple relecteur. Et parfois même, l'utilisateur abandonne complètement la relecture pour devenir une pure machine d'estampage : un robot humain qui va tamponner une décision machinique !

C'est loin d'être anodin. C’est peut-être même une forme de capitulation intellectuelle, sous le couvert de l'argument d' optimisation.

Sous-traiter la responsabilité, est-ce un progrès ?

L'esprit critique, une plus-value de l'humain

Je le reconnais honnêtement, je suis chaque jour bIuffé par les capacités des modèles de langage, qui ont un côté " magique ". Ils sont rapides, souvent pertinents, de plus en plus cohérents, et possèdent une qualité rare : ne jamais être à court d’idées. Ils produisent, sans se lasser, avec la régularité d'un métronome. Avec eux, le syndrome de la page blanche n'existe pas et ils ne connaissent pas l’hésitation du professionnel qui doute de sa légitimité.

Ce que l’IA ne fait pas encore vraiment, et c’est capital, c’est de douter de ce qu'elle produit ou même de ce qu'on lui demande. Elle ne sait pas que ce qu’elle affirme pourrait être faux, ou inapproprié, ou même dangereux dans un contexte particulier. Elle est largement étanche aux silences qui comptent, aux non-dits qui structurent une négociation, aux subtilités des situations humaines…

La véritable pensée critique est celle qui nous fait dire “ hé ho, il y a quelque chose d'anormal ! ”. C'est une compétence qu'on développe en capitalisant sur nos expériences et notre intuition. Mais a contrario, on prend le risque de l’atrophier, à force de la sous-traiter, et de perdre progressivement la mécanique qui nous permet de forger nos propres arguments, de perdre aussi notre capacité à reconnaître ceux qui tiennent.

C’est comme lorsqu'on entretient ses muscles : un exosquelette va nous aider à porter des charges, mais il ne nous rendra pas pour autant intrinsèquement plus fort.
 

Devenir un utilisateur critique de l'IA

Il y a ceux qui utilisent l’IA et ceux qui ne l’utilisent pas. Parmi ces derniers, j'observe deux grandes familles : ceux qui l’utilisent comme amplificateur de leur pensée, et ceux qui l’utilisent pour sous-traiter leur capacité à penser.

Les premiers se servent de l'IA pour aller plus vite sur l’exécution. Ils défrichent un sujet avec l'IA, structurent une première ébauche de leur discours, mais ils s'assurent attentivement de la véritable paternité intellectuelle de ce qu’ils produisent en reformulant, rejetant ou challengeant certains contenus. L’IA est alors comparable au stagiaire brillant mais inexpérimenté du maître de thèse, dont ce dernier exploite l’énergie sans pour autant lui confier les clés du laboratoire.

Les seconds ont au contraire abandonné progressivement leurs capacités créatrices et critiques. Ils ne se posent plus la question de savoir “ est-ce exact ? ” mais “ est-ce que ça sonne bien ? ”. Ce ne sont pas les mêmes questions.

À lire :  Claude Code : Révolutionnez votre workflow de développement avec l'IA en ligne de commande

En guise de conclusion (ou d'avertissement)

L’intelligence artificielle ne nous rend pas moins intelligent. Mais elle nous expose, insidieusement, à la tentation de le devenir si on n’y prend pas garde.

La vraie question n’est pas de savoir si l’IA est fiable. Elle l’est, dans certains contextes, dans certaines limites, avec certaines précautions. La vraie question est de savoir si nous le sommes encore, c’est-à-dire si nous sommes encore capables de former un jugement autonome, de défendre une position que nous avons construite, d’assumer une décision que nous avons prise.

Parce que le jour où l’on ne pourra plus distinguer notre pensée de celle de notre nouvel outil, ce n’est pas l’IA qui aura gagné.

C’est nous qui aurons démissionné... 

Mais pourquoi nous parle-t-il de cela ?

Je dirige une ESN spécialisée dans le développement informatique, et je vois passer tous ces articles qui fleurissent en ce moment et qui annoncent, avec l'enthousiasme propre aux prophètes de la disruption, que les agences web et les ESN sont en voie d'obsolescence programmée. Que désormais, "n'importe qui" peut développer seul son application, son site, son système d'information : il suffit de le demander à l'IA. 

C'est exactement le sujet de cet article.

Car ce que ces analyses omettent soigneusement, c'est que l'IA génère du code comme elle génère du texte ou une image : vite, proprement (du moins on l'espère), et sans la moindre idée de ce qu'elle fait vraiment. Elle ne comprend pas votre métier. Elle ne questionne pas vos hypothèses. Elle ne vous dit pas que votre cahier des charges est contradictoire, que votre architecture ne tiendra pas la charge, ou que la fonctionnalité que vous demandez existe déjà ailleurs.

Ce que nous faisons chez Webnet, ce n'est pas simplement écrire des lignes de code. C'est également exercer un jugement et apporter une expertise. Traduire un besoin métier en décisions techniques. Arbitrer entre performance, maintenabilité, coût et délai. Essayer d'anticiper ce que le client n'exprime pas encore qu'il voudra dans six mois. Et enfin, tester et approuver ce que nous développons.

Car c'est bien là le cœur du sujet : quand un client fait appel à une ESN, il ne lui confie pas seulement un projet. Il lui délègue une responsabilité, et l'ESN l'accepte. Contractuellement, professionnellement, moralement. Ce n'est pas un modèle de langage qui signera un bon de commande, assumera une réunion de crise à 23h, ou portera les conséquences d'un choix d'architecture dans trois ans.

Oui, c'est vrai, l'IA, utilisée intelligemment rend nos équipes plus rapides sur l'exécution. Elle ne nous remplace pas sur l'essentiel, elle nous libère du temps pour mieux l'exercer.

Ceux qui se passeront de cette expertise au motif qu'un outil génère du code qui fait ce qu'ils ont demandé découvriront peut-être, à leurs frais, la différence entre un livrable qui fonctionne en démo et un système qui tient en production. Sans parler des questions de propriété intellectuelle sur le code généré (sujet que peu de personnes anticipent et que beaucoup découvriront possiblement devant un juge).

La déresponsabilisation a un coût. Et ce coût-là, personne ne l'hallucine...

Stéphane Hudyma