L’IA est entrée de plain-pied dans notre vie économique et nul ne songerait à contester l’aide qu’elle peut apporter, notamment en termes de gains de productivité.
Cependant, comme la langue d’Ésope, l’IA peut être la meilleure comme le pire des choses. Et très vite, d’aucuns ont alerté sur ces dangers, notamment face à l’e-réputation des personnes ou des entreprises.
Les dangers classiquement identifiés
Les dangers généralement listés tournent autour de deux risques :
- Génération volontaire grâce à l’IA de faux contenus qui donnent toutes les apparences de vérité. C’est ainsi qu’il est possible, dans une séquence audio ou vidéo, de faire tenir des propos qu’une personne n’a jamais tenus.
- Failles et biais des agents d’IA générative qui se basent sur les contenus qu’ils trouvent, notamment sur internet sans aucune validation de leur véracité. C’est ainsi qu’un assistant IA peut en toute ingéniosité restituer et présenter sur un pied d’égalité des informations avérées et des rumeurs ou contenus diffamants et mensongers, ajoutant ainsi foi à l’ensemble, sans nuance, failles dénommées « hallucinations », qui pourraient parfois cacher des intentions délibérées des utilisateurs pilotant les d’outils d’IA, auquel cas on peut parler d’intention de nuire.
Effet pour les entreprises et les professionnels
Pour une entreprise, le risque n’est donc plus seulement ce qui est publié sur les sites web, les réseaux sociaux ou les moteurs de recherche, mais aussi ce que les assistants IA répondent à partir de ces sources.
Pour une personne physique, cela peut se traduire par une altération durable de la réputation professionnelle, par exemple via des résumés erronés, des rumeurs recopiées, ou des contenus défavorables réinterprétés aveuglément par l’IA.
Un nouveau défi de veille et de nettoyage
Face à ces nouveaux risques, de nouveaux défis se posent aux professionnels de l’e-réputation.
En matière de veille-image, il est devenu indispensable de faire porter la surveillance de ce qui est disponible sur internet, autant par les sites web, les réseaux sociaux et les moteurs de recherche, que par les outils de recherche IA.
En matière de nettoyage, c’est plus complexe car il faut pouvoir repérer où les contenus fallacieux se sont trouvés « digérés » par les outils d’IA et de pouvoir faire rectifier ces erreurs.
De nouveaux défis jurisprudentiels
Dans le même temps, la justice a commencé à être saisie de ce qu’on pourrait appeler pudiquement des biais cognitifs et qui peuvent engager la responsabilité des outils d’IA, voire de leurs utilisateurs, maîtres des prompts.
Ainsi l’IA se dote-t-elle peu à peu de garde-fous juridiques et juridictionnels.
Au service de votre réputation
Voir notre site spécialisé sur l’e-réputation : www.votre-reputation.com
Et spécialement la rubrique Professionnels, Entreprises et Dirigeants.
Voir aussi nos offres de veille-image.
