IA générative : Applications et dangers

10/08/202326/03/2024 Philippe du Chélas

L’IA générative (GenAI) peut-elle nous aider à lutter contre la constipation grâce à des applications ou y-a-t il des risques de dangers ?

On peut l’espérer quand on résume l’ensemble des possibilités de ChatGPT qui foisonnent par exemple dans la presse.

L’IA générative et ChatGPT par exemple suscitent le développement de multiples applications :

changer le monde
soutien pour faire son deuil
faire un faux article scientifique
gestion RH d’une entreprise
mieux rédiger ses prompts
écrire ses discours
révolutionner l’économie
faire découvrir les sites touristiques
rédiger des messages d’absence
réaliser son CV

Toutefois, et alors que la maîtrise de la langue semble parfaite, les programmes OpenAI, Bing AI, Claude, Ernie et Bard ont une fâcheuse tendance à raconter n’importe quoi.

Et cela avec un aplomb digne du meilleur menteur humain ou d’un expert.

Pour les questions médicales il vaut donc mieux éviter de se fier à leurs réponses.

D’ailleurs nous verrons si xAI fait mieux pour essayer de comprendre la véritable nature de l’univers.

En matière d’environnement on nous promet de sauver la planète de ses dangers également avec des applications de l’IA générative.

Dans ce domaine de l’environnement, on peut noter toutefois noter le chatbot de Iceberg Data Lab, une start-up, qui analyse les rapports RSE des entreprises et en fait une analyse ESG.

Parmi les réactions à ces nouveaux outils de l’IA, la question du respect de la propriété intellectuelle est la plus polémique.

Mais ce n’est pas le seul sujet car les algorithmes d’intelligence artificielle peuvent être un danger en matière de vie privée et surtout de désinformation.

En France, deux plaintes existent d’ailleurs à ce sujet quant à l’utilisation des données personnelles par ChatGPT.

On étudie ainsi déjà un outil spécifique pour lutter contre le plagiat dans les Universités.

Par contre deux dangers directs pour l’humanité sont bien réels : la disparition d’emplois et le suicide.

En Inde, une société (Dunkaan) a licencié 90 % de ses employés pour faire baisser de 85 % les coûts de son service client.

Conséquences; 23 salariés sont remplacés par l’Intelligence Artificielle et des robots conversationnels.

Des millions d’emplois risquent donc à court terme de disparaître pour laisser place à l’Intelligence Artificielle.

Plus dramatique par contre, un ressortissant Belge inquiet du réchauffement climatique a choisi comme confidente un chatbot féminin.

Sans rentrer dans le détail, ce Belge a développé des idées suicidaires.

Et cela sans que le chatbot Eliza n’en soit plus étonnée au cours de leurs échanges pendant six semaines.

Le chatbot Eliza lui demandera même pourquoi il n’est pas passé à l’acte.

Ce drame pose la question et le problème de la prévention du suicide chez les jeunes et moins jeunes plus présents sur les réseaux sociaux.

La mise en œuvre rapide de l’IA n’a absolument pas laissait de temps quant à une réflexion de dimension cognitive par exemple.

A très brève échéance pourra aussi un poser un problème le robot-militaire qui interprétera mal une situation.

De même commence à émerger des utilisations à des fins criminelles et de désinformation.

Fausses photos et fausses vidéos fleurissent sur le net de même que des escroqueries et et des chantages.

Outre la corruption de données, il existe bien le risque d’articles de propagande et de fausses preuves (sextrosion).

Enfin, et non des moindres pour notre économie en terme de dangers, on peut s’attendre à ce que l’IA puisse manipuler les marchés financiers avec des applications pour corrompre les algorithmes de trading.

Article : P. du Chélas