IA en entreprise : un danger pour vos données ?

Plus de 50 % des utilisateurs se tournent désormais vers l’intelligence artificielle pour leurs recherches sur le web. C’est un réflexe qui s’installe, au bureau comme à la maison. Mais si ces outils promettent des gains de productivité incroyables, que se passe-t-il lorsque les informations qu’ils fournissent sont fausses ?

Une nouvelle étude met en lumière un décalage inquiétant entre la confiance accordée à l’IA et sa fiabilité réelle. Pour les entreprises, cette situation engendre de nouveaux risques, notamment en matière de conformité légale, de finances et de stratégie.

Le problème est d’autant plus grand que l’usage de ces outils se fait souvent en dehors des radars de la direction informatique, un phénomène bien connu sous le nom de « shadow IT« . Les employés qui font confiance à l’IA pour leurs questions personnelles l’utilisent très certainement pour leurs recherches professionnelles.

Alors, comment naviguer entre les promesses d’efficacité de l’IA et les dangers bien réels d’une information inexacte ? Explorons cela ensemble.

Le fossé inquiétant : quand la confiance en l’IA dépasse la réalité

L’adoption massive de l’IA générative repose sur une conviction : ces outils sont non seulement rapides, mais aussi fiables. Pourtant, une enquête approfondie menée par l’organisation Which? vient sérieusement ébranler cette certitude, révélant un véritable gouffre entre la perception des utilisateurs et la performance technique des modèles.

La popularité, un faux gage de fiabilité pour les IA

L’étude a testé six des outils les plus connus du marché (ChatGPT, Google Gemini, Microsoft Copilot, Meta AI et Perplexity) sur une série de questions courantes touchant au droit, à la finance et aux droits des consommateurs. Le résultat est surprenant. Perplexity et les « AI Overviews » de Google Gemini arrivent en tête avec des scores de 71 % et 70 % de précision.

En revanche, le très populaire ChatGPT, malgré sa position dominante sur le marché, n’obtient qu’un score de 64 %, se plaçant en avant-dernière position.

Cette déconnexion est essentielle. Elle rappelle qu’en matière d’IA, la notoriété d’un outil ne garantit en rien la qualité de ses réponses. Pour une entreprise, se fier à l’outil le plus connu sans un audit critique revient à naviguer à vue dans un brouillard d’informations potentiellement erronées.

Erreures des IA : des conséquences réelles et coûteuses

Au-delà des scores globaux, ce sont les types d’erreurs commises par ces IA qui doivent alerter les directions. Elles ne sont pas anodines et peuvent avoir des implications directes sur la santé financière et légale de l’entreprise.

Par exemple, lorsqu’on leur a demandé comment investir une somme supérieure à la limite légale annuelle d’un compte épargne britannique (ISA), ChatGPT et Copilot n’ont pas su identifier l’erreur dans la question. Ils ont fourni des conseils qui auraient pu mener à une violation des règles fiscales.

Sur le plan juridique, le risque est également présent. Les IA ont tendance à généraliser les réglementations sans tenir compte des spécificités régionales, comme les différences de droit entre l’Écosse et l’Angleterre. De plus, elles peuvent donner des conseils surconfiants et dangereux.

Interrogé sur un litige avec un artisan, Gemini a conseillé de suspendre les paiements, une tactique qui, selon les experts, pourrait affaiblir la position légale de l’utilisateur en le plaçant en rupture de contrat. Imaginez un de vos collaborateurs suivre un tel conseil pour un litige fournisseur…

Des sources opaques : la boîte noire des IA en entreprise

Citations floues et liens douteux : l’opacité des sources

L’enquête a révélé que les IA citent fréquemment des sources vagues, voire inexistantes. Elles s’appuient fréquemment sur de vieilles discussions de forums ou des articles de blog obsolètes pour formuler une réponse qui semble pourtant d’actualité. Cette opacité rend la vérification manuelle extrêmement difficile.

Si un employé base une décision stratégique sur une information dont la source est invérifiable, l’entreprise toute entière prend un risque. La chaîne de confiance est rompue dès le premier maillon.

Le biais algorithmique : un coût caché pour l’entreprise

Le biais algorithmique constitue une autre facette de ce problème. Les IA ne sont pas neutres ; elles sont influencées par les données d’entraînement sur lesquelles elles ont été formées. Lors d’un test, plutôt que de diriger l’utilisateur vers l’outil gratuit et officiel du gouvernement pour vérifier un code d’imposition, ChatGPT et Perplexity ont proposé des liens vers des sociétés privées de remboursement d’impôts, connues pour leurs frais élevés.

Appliquons cela au monde de l’entreprise. Un service achat qui utiliserait une IA pour sourcer de nouveaux fournisseurs pourrait être orienté vers des prestataires plus coûteux ou ne respectant pas les critères de conformité internes, simplement à cause d’un biais dans l’algorithme. Le gain de temps initial se transformerait alors en une perte financière ou en un risque de non-conformité.

Protection et opportunité : encadrer l’IA au lieu de l’interdire

Face à ces constats, interdire l’utilisation de l’IA pourrait être tentant. Cependant, ce serait une erreur. Une telle interdiction ne ferait que renforcer le phénomène de « shadow IT » et priverait l’entreprise d’un formidable levier de performance.

La solution véritable réside dans la mise en place d’un cadre de gouvernance robuste.

Maîtriser les prompts : former vos équipes à la précision

La qualité de la réponse d’une IA dépend directement de la qualité de la question posée. Des requêtes vagues entraînent des réponses risquées. Il est essentiel de former les collaborateurs à l’art du « prompt engineering« .

Pour une recherche sur une réglementation, par exemple, il faut leur apprendre à spécifier la juridiction exacte (« règles applicables en Angleterre et au Pays de Galles ») plutôt que de poser une question générale.

Vérification systématique : le principe de l’humain dans la boucle

Aucune information générée par une IA ne doit être considérée comme une vérité absolue. La règle fondamentale est : « Vérifier, toujours ». Cela signifie exiger de l’IA qu’elle cite ses sources et prendre le temps de les contrôler manuellement.

Pour les sujets à fort enjeu, il est même conseillé de croiser les informations en utilisant plusieurs outils ou en effectuant une recherche traditionnelle en parallèle. C’est ce que l’on nomme maintenir un « humain dans la boucle » (human-in-the-loop), un principe de précaution essentiel.

L’IA : un assistant performant, pas un arbitre décisif

À leur stade de maturité actuel, les IA génératives doivent être considérées comme des assistants de recherche performants, mais non comme des experts ou des décideurs. Pour toute question complexe ayant des implications légales, financières ou médicales, leur réponse doit être perçue comme un premier avis, une base de travail. La décision finale doit impérativement rester entre les mains d’un professionnel humain qualifié.

L’intelligence artificielle est en constante évolution et sa précision s’améliore de jour en jour. Cependant, aujourd’hui, une confiance aveugle en ces outils peut s’avérer coûteuse. Pour l’entreprise, la différence entre un gain de productivité et un échec en matière de conformité réside dans sa capacité à encadrer les usages et à cultiver un esprit critique.

L’enjeu réel n’est pas seulement d’adopter l’IA, mais d’apprendre à l’utiliser judicieusement. Et vous, quelle politique avez-vous mise en place dans votre entreprise pour encadrer l’usage de l’IA ?

Simone

Simone, rédactrice principale du blog, est une passionnée de l’intelligence artificielle. Originaire de la Silicon Valley, elle est dévouée à partager sa passion pour l’IA à travers ses articles. Sa conviction en l’innovation et son optimisme sur l’impact positif de l’IA l’animent dans sa mission de sensibilisation.