Si le feu est dangereux et qu'on interdit la cuisine, personne n'osera rien tenter
Utiliser l'IA générative en entreprise comporte des risques, c'est vrai.
Fuite d'informations confidentielles. Données personnelles saisies par erreur. Informations erronées qui s'infiltrent. Copier-coller tel quel de ce que produit l'IA. Baisse de la capacité à réfléchir. Dépendance excessive à l'IA.
Jusque-là, ce sont des inquiétudes tout à fait sérieuses.
Mais quand on saute directement de là à
L'IA générative est interdite.
l'histoire change.
Ce n'est pas de la gestion des risques, c'est simplement renoncer à construire des règles.
C'est un peu comme si on disait :
Le feu est dangereux, donc interdit d'entrer dans la cuisine. Les couteaux aussi sont dangereux, donc interdit de cuisiner. Mais satisfaites les demandes du client. Faites-le bon. Servez-le à l'heure. Et au fait, rester comme ça ne va pas. Il faut oser.
Du grand n'importe quoi.
Si le feu est dangereux, on apprend à s'en servir. Si les couteaux sont dangereux, on apprend à les tenir et à les ranger. Si on craint l'intoxication alimentaire, on fixe des règles : se laver les mains, contrôler la température, séparer les planches à découper. Si on craint l'incendie, on aère, on vérifie les feux et on installe un extincteur.
C'est ce qu'on fait normalement.
Avec « c'est dangereux, donc cuisine interdite », personne ne progresse en cuisine. Pire : on ne forme même pas de gens capables de cuisiner.
L'IA générative, c'est pareil.
Le risque est réel. Mais tout interdire, c'est trop grossier
Le risque de l'IA générative est bien réel.
L'IPA (l'agence japonaise de promotion des technologies de l'information) recense des problèmes comme le vol et la fuite de données, la falsification des données d'entraînement, la fuite de données personnelles et de secrets d'affaires, ainsi que les fausses informations et les erreurs. Elle ajoute que, pour utiliser une IA digne de confiance, il faut aussi examiner ses performances, sa capacité à s'expliquer, la conformité aux règles et l'éthique.[^ipa-ai-security]
L'Agence du numérique du Japon a aussi publié des documents allant dans le même sens : « identifier les risques et les mesures nécessaires, puis avancer vers une utilisation adaptée ».[^digital-ai-guidebook]
Donc, le risque existe. Cela ne veut pas dire qu'il n'y a rien à faire.
Mais voici le point important :
Il y a un risque et tout interdire est la bonne réponse sont deux choses différentes.
Les voitures présentent un risque d'accident. Pour autant, on ne les interdit pas totalement.
On met en place le permis de conduire, le code de la route, les feux, les limitations de vitesse, le contrôle technique, l'assurance, la ceinture de sécurité et l'interdiction de conduire en état d'ivresse.
La cuisine présente des risques de brûlure, d'incendie et d'intoxication alimentaire. Pour autant, on n'interdit pas totalement la cuisine.
On vérifie que les feux sont éteints, on soigne l'hygiène, on aère, on suit un ordre de préparation et on forme les débutants.
L'IA générative, c'est pareil.
Ce qu'il faut, ce n'est pas interdire, mais classer.
Ce qu'il faudrait vraiment faire : des règles selon l'usage et le niveau de confidentialité
On n'interdit pas l'IA générative d'un seul bloc. Il faut plutôt distinguer selon le danger de l'information saisie et le danger de l'usage.
Par exemple, comme ceci :
| Catégorie | Exemples | Traitement |
|---|---|---|
| Saisie interdite | Données personnelles, données clients, informations RH non publiques, informations contractuelles, plans, secrets de produit, secrets d'affaires | Saisie interdite |
| Risque élevé | Documents envoyés à l'extérieur, contrats, réponses aux clients, décisions juridiques ou RH | Validation requise, relecture humaine obligatoire |
| Autorisé sous conditions | Brouillons de procédures standard, mise en forme de comptes rendus, brouillons de supports de formation, reformulation de textes internes | Données anonymisées, avec un relecteur |
| Risque faible | Correction de textes courants, reformulation polie d'e-mails, logique des formules Excel, création de listes de contrôle | Autorisé en principe |
| Environnement recommandé | IA sous contrat d'entreprise, LLM local (un modèle d'IA qui tourne sur vos propres machines), utilisation des données pour l'entraînement désactivée, gestion des droits, journalisation | Mis en place par l'entreprise |
Voilà ce qu'est la gouvernance, c'est-à-dire gérer avec des règles claires.
Les « Lignes directrices pour les entreprises de l'IA » du ministère japonais de l'Économie, du Commerce et de l'Industrie (METI) publient, dans leur dernière version, non seulement le texte principal mais aussi des listes de contrôle et des fiches de travail. C'est un document qui fait passer l'IA de « on a peur donc on interdit » à la manière de la gérer concrètement au travail.[^meti-ai-guideline]
Autrement dit, la direction du monde est
non pas d'interdire, mais de poser des règles, de former, de faire des listes de contrôle et de concevoir l'exploitation.
L'argument de la « perte de compétences » mérite aussi d'être décortiqué
L'inquiétude que l'IA générative fasse perdre des compétences, on peut la comprendre.
Mais là aussi, il faut faire le tri, sinon cela devient absurde.
Il y a des compétences qui peuvent baisser et d'autres qu'il faut conserver.
Celles dont la baisse gêne peu, par exemple :
- Savoir rédiger de zéro, à chaque fois, un e-mail très formel
- Apprendre par cœur les formules Excel
- Monter à la force du poignet le premier brouillon d'une procédure standard
- Passer 30 minutes à chercher une reformulation
- Produire un beau texte à partir d'une page blanche
À l'inverse, celles qui vont devenir importantes :
- Savoir juger ce qu'on peut saisir
- Savoir repérer les informations qu'on ne doit pas saisir
- Savoir vérifier que la production de l'IA n'a rien de bizarre
- Savoir corriger selon les règles du terrain
- Savoir formuler l'objectif, les conditions et les contraintes
- Savoir ne pas renvoyer la responsabilité finale à l'IA
- Savoir standardiser, former et faire des listes de contrôle avec l'IA
Donc, ne pas développer les compétences nécessaires à l'ère de l'IA pour protéger celles que l'IA risque d'éroder, c'est mettre la charrue avant les bœufs.
C'est proche de dire :
Interdire la calculatrice parce qu'on perd la capacité de calculer. Interdire la photo parce qu'elle volerait l'âme. Interdire la voiture parce que c'est mauvais pour la santé. Interdire la cuisine parce que le feu est dangereux.
Il y a des compétences qu'un outil rend inutiles. Mais en échange, d'autres deviennent importantes.
À l'époque de la calculatrice, il ne suffisait pas de savoir calculer de tête. Il fallait aussi savoir poser l'opération, vérifier le résultat et comprendre ce que les chiffres signifient.
À l'ère de l'IA générative, c'est pareil.
Plus que quelqu'un qui écrit tout à la main sans IA, c'est celui qui sait utiliser l'IA en sécurité, douter de ce qu'elle produit et corriger selon la réalité du terrain qui compte.
Si les questions sur Excel et l'ordinateur fusent sur le terrain, interdire l'IA est encore pire
Si, sur le terrain, on entend sans cesse des questions comme
Comment on fait ça dans Excel ? Comment on fait ça sur l'ordinateur ? Comment on écrit cet e-mail ? Comment on met en forme la procédure standard ? Comment on corrige cette phrase ?
l'IA générative est de très bonnes petites roues.
L'IA ne prend pas la décision finale à la place du supérieur. Mais elle convient plutôt bien pour produire un premier brouillon, reformuler, découper une procédure, en faire une liste de contrôle ou expliquer la logique d'une formule Excel.
Surtout quand les compétences informatiques et rédactionnelles varient beaucoup d'une personne à l'autre dans l'entreprise, l'IA générative aide à ne plus faire reposer la formation sur quelques personnes.
Par exemple,
- Réécrire une procédure standard en termes simples pour les nouveaux
- Transformer les étapes d'un travail en liste de contrôle
- Rendre la rédaction d'un e-mail plus polie
- Proposer des formules Excel possibles
- Remettre des notes de réunion en forme de compte rendu
- Transformer le déroulé des activités de contrôle qualité (QC) en fiche à compléter
Tout cela peut se faire sans saisir d'informations confidentielles.
Si l'on interdit même cela, le terrain continuera à poser les mêmes questions aux collègues. La charge de ceux qui enseignent ne diminue pas. La standardisation n'avance pas. Et les savoirs détenus par quelques personnes seulement restent tels quels.
Et ensuite, l'entreprise dit :
Il faut oser. Rester comme ça ne va pas.
Mais enfin, n'est-ce pas elle qui verrouille les outils nécessaires pour oser ?
L'interdiction totale n'est pas la « sécurité » : elle engendre une IA clandestine
Il y a un autre problème.
L'interdiction totale paraît sûre à première vue. Mais en réalité, elle peut être encore plus dangereuse.
Car ceux qui connaissent la commodité peuvent l'utiliser en cachette avec un compte personnel.
Le Work Trend Index 2024 de Microsoft et LinkedIn indique que 75 % des travailleurs du savoir utilisent l'IA au travail et que 78 % de ces utilisateurs apportent leurs propres outils d'IA sur leur lieu de travail. Par ailleurs, 79 % des dirigeants estiment que l'adoption de l'IA est indispensable pour rester compétitifs, mais 60 % craignent que leur entreprise n'ait ni vision ni plan pour l'adopter.[^ms-wti-2024]
C'est assez important.
Si l'entreprise ne fixe pas de règles, le terrain ne s'arrête pas. Il utilise l'IA de façon non officielle.
Autrement dit, voici ce qui se passe :
Officiellement, c'est interdit Le terrain est en difficulté Comme c'est pratique, on l'utilise avec un compte personnel L'entreprise ne sait pas ce qui se passe vraiment Pas de règles de saisie, pas de formation, pas de journaux Au final, le risque de fuite augmente vraiment
Ce n'est pas la sécurité. C'est de l'« IA de l'ombre » (shadow AI), une IA utilisée en cachette.
L'interdiction ne garantit pas qu'on n'utilise pas l'IA. Elle la rend seulement invisible.
Le monde va vers une « conception du travail qui part de l'IA », pas vers l'interdiction
À l'extérieur, on a déjà commencé à refaire le travail en partant de l'IA.
Dans l'enquête McKinsey de 2025, 78 % des répondants disent que leur organisation utilise l'IA dans au moins une fonction de l'entreprise, et 71 % déclarent utiliser régulièrement l'IA générative dans au moins une fonction.[^mckinsey-2025-ai]
Dans le Work Trend Index 2025 de Microsoft, 82 % des dirigeants dans le monde estiment que c'est un tournant pour repenser des pans importants de la stratégie et des opérations, et 81 % s'attendent à intégrer des agents d'IA (des IA qui exécutent des tâches de façon autonome) de façon modérée ou importante dans la stratégie d'IA de leur entreprise d'ici 12 à 18 mois.[^ms-wti-2025]
Autrement dit, le monde ne se demande plus
s'il faut utiliser l'IA ou non,
mais
comment l'utiliser en sécurité, comment l'intégrer au travail, quelles tâches standardiser avec l'IA, à quel moment l'humain porte la responsabilité de décider.
Dans ce contexte, une entreprise qui en reste à « IA générative totalement interdite » se fait distancer.
Et qu'une entreprise qui brandit le mot « oser » interdise totalement l'IA, c'est assez contradictoire.
Oser, ce n'est pas vénérer sans condition un nouvel outil. Mais ce n'est pas non plus le mettre sous scellés sans même le regarder.
Si l'on parle d'oser, il faudrait au moins dire quelque chose comme :
Saisie interdite des informations confidentielles et des données personnelles. Mais on commence à essayer en sécurité par des usages à faible risque. Correction de textes, mise en forme d'e-mails, questions générales sur Excel, plans de procédures standard et listes de contrôle sont autorisés dans l'environnement désigné et selon les règles de vérification. Les résultats doivent toujours être relus par un humain, et tout ce qui sort de l'entreprise ou relève de la décision nécessite une validation.
Là, je comprends.
C'est cela, concilier sécurité et audace.
La conclusion de Mendoi-chan : n'interdisez pas le feu, apprenez à régler la flamme
Il ne faut pas prendre les risques de l'IA générative à la légère.
Les fuites d'informations confidentielles, les informations erronées, la dépendance : tout cela est vraiment dangereux. C'est pourquoi il faut des règles.
Mais tout interdire n'est pas une règle.
C'est cette contradiction :
Le feu est dangereux, n'entrez pas dans la cuisine. Mais satisfaites les demandes du client. Faites-le bon. Servez-le à l'heure. Il faut oser. Rester comme ça ne va pas.
Si c'est dangereux, on apprend à régler la flamme. On apprend à se servir du couteau. On commence par un menu pour débutants. On sépare les planches à découper pour la viande crue et les légumes. On standardise la vérification des feux. On installe un extincteur. On fait une liste de contrôle.
L'IA générative, c'est pareil.
On interdit les usages dangereux. On autorise les usages sûrs. On désigne qui est responsable de la vérification. On prépare un environnement où l'on peut l'utiliser. On commence par des tâches à faible risque. On forme. On fait des listes de contrôle.
Voilà la vraie gestion des risques.
Tout interdire, ce n'est pas de la gouvernance. C'est cesser de réfléchir : on ne sait pas gérer, alors on met sous scellés.
À la manière de Mendoi-chan, c'est
de la magie noire qui brandit l'audace tout en scellant les outils nécessaires pour oser.
Et la défense est simple :
La question n'est pas d'utiliser ou non l'IA, mais de réfléchir jusqu'à ce niveau de détail : ce qu'on ne doit pas saisir, à quoi on peut l'utiliser, qui vérifie, dans quel environnement.
N'interdisez pas le feu. Apprenez à régler la flamme.
Références
[^ipa-ai-security]: IPA (Agence japonaise de promotion des technologies de l'information), « Sécurité de l'IA » https://www.ipa.go.jp/digital/ai/security/index.html
[^digital-ai-guidebook]: Agence du numérique du Japon, « Guide des mesures face aux risques de l'utilisation de l'IA générative de texte (version alpha) » https://www.digital.go.jp/resources/generalitve-ai-guidebook
[^meti-ai-guideline]: Ministère japonais de l'Économie, du Commerce et de l'Industrie (METI), « Lignes directrices pour les entreprises de l'IA » https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
[^ms-wti-2024]: Microsoft Japon / LinkedIn, « Work Trend Index 2024 sur l'état de l'IA au travail » https://news.microsoft.com/ja-jp/2024/05/09/240509-microsoft-and-linkedin-release-the-2024-work-trend-index-on-the-state-of-ai-at-work/
[^mckinsey-2025-ai]: McKinsey & Company “The State of AI: Global Survey” https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-how-organizations-are-rewiring-to-capture-value
[^ms-wti-2025]: Microsoft “2025 Work Trend Index: The year the Frontier Firm is born” https://www.microsoft.com/en-us/worklab/work-trend-index/2025-the-year-the-frontier-firm-is-born
