Intelligence artificielle : ai-je raison d'être inquiet ? À nous de choisir.

Intelligence artificielle : ai-je raison d'être inquiet ? À nous de choisir.

Publié sur Linkedin le 23 août 2023(ici)

J'ai beau être un adepte des nouvelles technologies, enthousiaste pour les développements que permet la blockchain et la tokenisation notamment pour les domaines juridiques (@sabinevanhaekelepic, @logion), je suis beaucoup plus réservé en ce qui concerne la frénésie qui s'est emparée du monde avec la mise à disposition du public de logiciels non finalisés, promus comme de l'intelligence artificielle (terminologie certes bien plus attractive que programme informatique) et dont la finalité semble bien être la technologie pour la technologie, et non son utilité ou son apport véritable par rapport à, l'existant.

L'IA doit-elle devenir ce que l'on prétend qu'elle peut et doit être, omniprésente et indispensable pour tout ce qui nous concerne ? Pourquoi poser le débat en termes de remplacement et non d'ajout ou d'amélioration ?

Après l'effervescence journalistique qui a suivi la mise à disposition du public d'intelligences artificielles génératives (texte, images, vidéos, son), la multiplication des nouveaux " experts " en quelques semaines seulement qui inondent LinkedIn de conseils pour le meilleur " prompt " pour utiliser Chat GPT et autres, il ne se passe pas un jour sans que l'on ait droit à la promotion d'un nouvel " outil " (pardon @Arnaud Billon, je sais que ce n'est pas le terme approprié) pour exécuter telle ou telle tâche, voire pour remplacer des professions entières. Et même des cabinets d'avocats laissent filtrer qu'ils s'investissent dans l'IA (promotion ? FOMO ?).

L'utilisation d'IA génératives peut être une source d'amusement, c'est incontestable. En revanche, un usage professionnel laisse circonspect. Les erreurs, inventions (" hallucinations ") des résultats laissent perplexe quant à leur utilité, sans aborder ici les questions de consommation énergétique, d'usage accru de ressources en eau, de droits de propriété intellectuelle, droits d'auteur et de harcèlement que leur usage non maitrisé soulève.

Je pense que les IA (les génératives, car l'intelligence artificielle générale n'existe pas - et n'existera probablement pas) sont une sérieuse source d'inquiétude sur un autre plan, celui de notre propre rôle dans la conduite de notre vie d'humains, notre choix d'être libre, car la multiplication des IA entraîne le renoncement.

Renoncement à l'autonomie.

Pourquoi faire ou continuer à faire ce qui est barbant, ou complexe, et qui peut être fait plus vite, et peut-être mieux, par un calculateur ?

On fait faire à la machine ce que l'on ne veut pas faire et que l'on ne saura bientôt plus faire. On se retrouve dépendant (eh oui on peut aussi suivre aveuglément son GPS et se retrouver dans le lac !) et désarmé si la machine est indisponible.

Renoncement à la responsabilité.

On préfère s'en remettre à la machine, par paresse ou prétendue recherche d'efficacité. Mais on risque bien de ne plus savoir détecter les erreurs, ni les corriger, ni les assumer.

Mais la dépendance de la machine est commode. Elle permet de ne pas prendre d'initiative, donc de ne pas se tromper, et donc de ne pas être tenu pour responsable.

Renoncement à notre capacité de jugement.

Si la machine décide mieux, nous n'avons plus rien à faire, ni à dire, ni même à penser.

Et si malgré tout on estime qu'il y a une erreur ou un dysfonctionnement, la recherche d'un responsable devient une affaire technique, une affaire d'experts ou prétendus tels, où l'on en sera réduit à traquer une erreur de code, que l'on risque bien de ne pas savoir déceler sans recours à une IA et donc sans capacité de jugement humain propre.

Choix de ne plus choisir.

Choisir est difficile, on risque de se tromper, et d'ailleurs avons-nous fait le meilleur choix ?

Le plus grave danger n'est pas de considérer que l'IA serait capable de prendre de meilleures décisions qu'un être humain, au motif qu'elle ne se trompe pas ou qu'elle est dénuée de biais.

Le choix qu'il s'agisse de médecine, de finance, de droit ou de justice a des conséquences directes sur la vie des humains, et il est irresponsable d'envisager de passer d'une aide à la décision (l'humain assisté ou " augmenté " par la machine) à une décision déléguée.

Renoncement à la liberté.

Avec cette promotion effrénée et irraisonnée de l'intelligence artificielle il s'agit ni plus ni moins du risque de mise en place d'une dictature de la technologie, qui est la réelle menace de l'IA.

Ce n'est pas l'IA en elle-même qui est en cause, mais bien le choix de ne plus choisir. Il me semble que ce choix est un choix non informé, un choix qui résulte de la volonté de ne pas choisir, induit ou téléguidé par les sociétés qui font leur profit de la mise en place massive des intelligences artificielles génératives (Chat GPT et autres et technologies de traitement de masses d'informations).

Il n'y a pas à craindre ici d'intelligence artificielle qui soit supérieure, pas de suprématie technologique, ni d'ordinateurs en passe de dominer de façon autonome les humains.

La domination par des algorithmes est un mythe, mais la soumission aux algorithmes peut devenir une réalité par notre propre renoncement.

Nous avons encore le choix.