불이 위험하니 주방에 서지 말라고 하면 도전은 못 한다
회사에서 생성형 AI를 쓰는 데는 분명 위험이 있다.
기밀 정보 유출. 개인정보 입력. 잘못된 정보 유입. AI가 쓴 글 그대로 베끼기. 생각하는 힘의 저하. AI에 대한 지나친 의존.
여기까지는 꽤 타당한 걱정이라고 생각한다.
그런데 거기서 갑자기
생성형 AI는 금지입니다.
로 건너뛰면 이야기가 달라진다.
그건 리스크 관리가 아니라 규칙 설계를 포기한 것일 뿐 아닐까.
비유하자면 이런 이야기다.
불은 위험하니까 주방에 서면 안 됩니다. 칼도 위험하니까 요리하면 안 됩니다. 하지만 거래처의 요구에는 응해 주세요. 맛있게 만들어 주세요. 시간 맞춰 내 주세요. 그리고 지금 이대로는 안 됩니다. 도전이 필요합니다.
말이 안 된다.
불이 위험하면 불 다루는 법을 가르친다. 칼이 위험하면 쥐는 법과 두는 법을 가르친다. 식중독이 걱정되면 손 씻기, 온도 관리, 도마 구분 사용을 정한다. 화재가 걱정되면 환기, 불 끄기 확인, 소화기 비치를 한다.
보통은 그렇게 한다.
"위험하니까 주방 출입 금지"로는 요리 실력이 늘지 않는다. 그뿐 아니라 요리할 줄 아는 사람도 자라지 않는다.
생성형 AI도 마찬가지다.
위험은 진짜다. 그래도 전면 금지는 너무 성의가 없다
생성형 AI의 위험 자체는 진짜다.
일본의 정보처리추진기구(IPA)는 AI에 데이터 도난·유출, 학습 데이터 조작, 개인정보·영업 비밀 유출, 허위·오류 정보 같은 과제가 있다고 정리했다. 또 믿을 수 있는 AI 활용을 위해서는 성능, 설명 가능성, 법규 준수, 윤리성도 따져 봐야 한다고 한다.[^ipa-ai-security]
일본 디지털청도 생성형 AI에 대해 "위험과 필요한 대응책을 먼저 파악한 뒤 적절한 활용을 검토한다"는 방향으로 자료를 공개했다.[^digital-ai-guidebook]
그러니까 위험은 있다. 그렇다고 아무것도 하지 않아도 된다는 얘기는 아니다.
하지만 중요한 건 이 부분이다.
위험이 있다는 것 과 전면 금지가 옳다는 것 은 별개의 이야기다.
자동차에는 사고 위험이 있다. 그렇다고 자동차를 전면 금지하지는 않는다.
대신 면허, 교통 규칙, 신호, 속도 제한, 정기 검사, 보험, 안전벨트, 음주운전 금지를 만든다.
요리에는 화상, 화재, 식중독 위험이 있다. 그렇다고 요리를 전면 금지하지는 않는다.
대신 불 끄기 확인, 위생 관리, 환기, 조리 순서, 초보자 교육을 한다.
생성형 AI도 같다.
필요한 건 금지가 아니라 분류다.
정말 해야 할 일은 "용도별·기밀 수준별" 규칙 설계
생성형 AI 사용을 한꺼번에 금지할 필요는 없다. 원래는 입력하는 정보의 위험도와 쓰는 용도의 위험도로 나눠야 한다.
예를 들면 이런 식이다.
| 구분 | 예 | 취급 |
|---|---|---|
| 입력 금지 | 개인정보, 고객 정보, 미공개 인사 정보, 계약 정보, 도면, 제품 기밀, 영업 비밀 | 입력 금지 |
| 고위험 | 사외 제출 문서, 계약 문서, 고객 회신, 법무·인사 판단 | 승인제·사람의 확인 필수 |
| 조건부 허용 | 표준서 초안, 회의록 정리, 교육 자료 초안, 사내 문장 다듬기 | 익명화·확인자 지정 |
| 저위험 | 일반적인 문장 교정, 메일 문장 정중하게 바꾸기, Excel 함수 사용 원리, 체크리스트 만들기 | 원칙적으로 허용 |
| 권장 환경 | 기업용 계약 AI, 로컬 LLM(자사 PC·서버에서 돌리는 AI), 학습 이용 끄기, 권한 관리, 로그 관리 | 회사 차원에서 정비 |
이것이 거버넌스(조직의 관리 체계)다.
일본 경제산업성의 「AI 사업자 가이드라인」도 최신판에서는 본문뿐 아니라 체크리스트와 워크시트까지 공개했다. AI를 "무서우니까 금지"가 아니라 실무에서 어떻게 다룰지로 풀어내는 방향의 자료다.[^meti-ai-guideline]
즉 세상의 방향은
금지 가 아니라 규칙화·교육·체크리스트화·운영 설계
다.
"능력 저하" 논리도 쪼개 보지 않으면 엉성해진다
생성형 AI를 쓰면 능력이 떨어진다는 걱정도 이해는 간다.
다만 이것도 나눠서 생각하지 않으면 이상해진다.
떨어져도 되는 능력이 있고, 남겨야 하는 능력이 있다.
떨어져도 크게 곤란하지 않은 능력은 예를 들어 이런 것들이다.
- 매번 처음부터 격식 갖춘 메일을 쓰는 힘
- Excel 함수를 통째로 외우는 힘
- 표준서 초안을 오기로 써내는 힘
- 문장 하나 바꿔 쓰는 데 30분 고민하는 힘
- 깔끔한 문장을 백지에서 만들어 내는 힘
반대로 앞으로 중요해질 능력은 이쪽이다.
- 무엇을 입력해도 되는지 판단하는 힘
- 입력하면 안 되는 정보를 가려내는 힘
- AI의 출력이 이상하지 않은지 확인하는 힘
- 현장 규칙에 맞게 고치는 힘
- 목적·조건·제약을 말로 정리하는 힘
- 최종 책임을 AI에게 떠넘기지 않는 힘
- AI를 활용해 표준화·교육·체크리스트화하는 힘
결국 AI 때문에 떨어질지 모르는 능력을 지키겠다고 AI 시대에 필요한 능력을 키우지 않는다면 본말전도다.
이건
계산기를 쓰면 계산 능력이 떨어지니까 금지 사진을 찍으면 영혼이 빠져나갈 것 같으니까 금지 자동차를 타면 건강에 나쁘니까 금지 불이 위험하니까 요리 금지
와 비슷하다.
도구 때문에 필요 없어지는 능력은 있다. 하지만 그 대신 다른 능력이 중요해진다.
계산기 시대에 필요한 건 암산 실력만이 아니다. 식을 세우는 힘, 결과를 검산하는 힘, 숫자의 의미를 읽는 힘이다.
생성형 AI 시대에 필요한 것도 같다.
AI 없이 전부 손으로 쓸 수 있는 사람보다 AI를 안전하게 쓰고, 출력을 의심하고, 현장에 맞게 고칠 수 있는 사람이 더 중요해진다.
현장에서 Excel이나 PC 질문이 쏟아지고 있다면 AI 금지는 더욱 나쁜 수
만약 현장에서
Excel은 어떻게 하는 거예요? PC는 어떻게 하죠? 메일은 어떻게 쓰죠? 표준서는 어떻게 정리하죠? 이 문장은 어떻게 고치죠?
같은 질문이 계속 오가고 있다면, 생성형 AI는 아주 든든한 보조 바퀴가 된다.
AI는 상사 대신 최종 판단을 내리는 게 아니다. 하지만 초안 만들기, 다르게 말해 보기, 절차 쪼개기, 체크리스트로 만들기, Excel 함수의 원리 설명하기 같은 용도에는 꽤 잘 맞는다.
특히 사내에서 사람마다 PC 실력이나 글쓰기 실력 차이가 크다면, 생성형 AI는 교육이 특정인에게 쏠리는 문제를 줄여 주는 도구가 된다.
예를 들면
- 신입을 위해 표준서를 쉬운 말로 바꾸기
- 작업 순서를 체크리스트로 만들기
- 메일 문장을 정중하게 다듬기
- Excel 함수 후보 뽑기
- 회의 메모를 회의록 형태로 정리하기
- 품질 관리 활동(QC)의 흐름을 빈칸 채우기 시트로 만들기
이런 건 기밀 정보를 넣지 않아도 쓸 수 있다.
이것마저 금지하면 현장은 계속 같은 질문을 사람에게 던진다. 가르치는 쪽의 부담도 줄지 않는다. 표준화도 안 된다. 특정인만 아는 일도 그대로 남는다.
그러면서 회사는 말한다.
도전이 필요합니다. 지금 이대로는 안 됩니다.
아니, 도전에 필요한 도구를 봉인한 건 아닌가.
전면 금지는 "안전"이 아니라 "몰래 쓰는 AI"를 낳는다
문제가 하나 더 있다.
전면 금지는 얼핏 안전해 보인다. 하지만 실제로는 오히려 더 위험할 때가 있다.
편리함을 아는 사람은 몰래 개인 계정으로 쓸 수 있기 때문이다.
Microsoft와 LinkedIn의 2024년 Work Trend Index(업무 동향 조사)에 따르면 지식 노동자의 75%가 업무에 AI를 쓰고 있고, AI 사용자의 78%가 자기 AI 도구를 직장에 들여온다고 한다. 또 리더의 79%는 경쟁력을 유지하려면 AI 도입이 필수라고 보면서도, 60%는 자사에 AI 도입의 비전과 계획이 없다고 우려했다.[^ms-wti-2024]
이건 꽤 중요하다.
회사가 규칙을 만들지 않으면 현장은 멈추지 않는다. 비공식적으로 쓴다.
즉
공식적으로는 금지 현장은 곤란 편리하니까 개인 계정으로 사용 회사는 실태를 파악하지 못함 입력 규칙도 교육도 로그도 없음 결과적으로 정말로 유출 위험이 올라감
이런 흐름이 된다.
이건 안전이 아니다. "몰래 쓰는 AI"가 늘어나는 것이다. (여기서는 이를 "그림자 AI"라고 부르자.)
금지는 쓰이지 않는다는 보장이 아니다. 그저 눈에 보이지 않게 만들 뿐이다.
세상은 "금지"가 아니라 "AI를 전제로 한 업무 설계"로 가고 있다
바깥 세상은 이미 AI를 전제로 일하는 방식을 바꾸기 시작했다.
McKinsey의 2025년 조사에서는 응답자의 78%가 조직에서 최소 한 개 업무 기능에 AI를 쓰고 있다고 답했고, 71%는 최소 한 개 업무 기능에서 생성형 AI를 정기적으로 쓴다고 보고했다.[^mckinsey-2025-ai]
Microsoft의 2025년 Work Trend Index에서도 전 세계 리더의 82%가 지금이 "전략과 업무 운영의 중요한 부분을 다시 생각해야 할 전환점"이라고 답했고, 81%는 앞으로 12~18개월 안에 AI 에이전트(스스로 일을 처리하는 AI)를 자사의 AI 전략에 어느 정도 또는 대폭 통합할 것으로 내다봤다.[^ms-wti-2025]
즉 세상은
AI를 쓸까 말까
가 아니라
AI를 어떻게 안전하게 쓸까 AI를 어떻게 업무에 녹여 낼까 AI로 어떤 업무를 표준화할까 사람은 어디서 판단 책임을 질까
로 옮겨 가고 있다.
그 와중에 회사가 "생성형 AI 전면 금지"에서 멈춰 있으면 뒤처진다.
특히 "도전"을 내세우는 회사가 AI를 전면 금지하는 건 꽤 모순이다.
도전이란 새로운 도구를 무조건 숭배하는 게 아니다. 하지만 새로운 도구를 보지도 않고 봉인하는 것도 아니다.
도전이라고 하려면 최소한 이렇게 말해야 한다.
기밀 정보·개인정보 입력은 금지. 다만 저위험 용도부터 안전하게 시도한다. 문장 교정, 메일 문장 정리, Excel 일반 상담, 표준서 구성안, 체크리스트 작성은 지정된 환경과 확인 규칙 안에서 사용 가능. 출력은 반드시 사람이 확인하고, 사외 제출·판단 업무에는 승인을 받는다.
이러면 이해가 된다.
이것이 안전과 도전의 양립이다.
멘도이짱의 결론: 불을 금지하지 말고, 불 조절을 가르쳐라
생성형 AI의 위험을 가볍게 봐서는 안 된다.
기밀 유출도, 잘못된 정보도, 의존도 정말 위험하다. 그래서 규칙이 필요하다.
하지만 전면 금지는 규칙이 아니다.
그건
불이 위험하니까 주방에 서지 마라. 하지만 거래처의 요구에는 응해라. 맛있게 만들어라. 시간 맞춰 내라. 도전이 필요하다. 지금 이대로는 안 된다.
라는 모순이다.
위험하면 불 조절을 가르친다. 칼 쓰는 법을 가르친다. 초보자용 메뉴부터 시작한다. 날고기용 도마와 채소용 도마를 나눈다. 불 끄기 확인을 표준화한다. 소화기를 둔다. 체크리스트를 만든다.
생성형 AI도 같다.
위험한 사용법은 금지한다. 안전한 사용법은 허용한다. 확인 책임을 정한다. 쓸 수 있는 환경을 갖춘다. 저위험 업무부터 시도한다. 교육한다. 체크리스트로 만든다.
이것이 진짜 리스크 관리다.
전면 금지는 거버넌스가 아니다. 관리할 수 없으니 봉인했을 뿐인, 사고 정지다.
멘도이짱 식으로 말하면 이건
도전을 내걸고서 도전에 필요한 도구를 봉인하는 어둠의 마법
이다.
그리고 거기에 맞서는 방어술은 간단하다.
AI를 쓸지 말지가 아니라, 무엇을 넣으면 안 되는지, 무엇에 써도 되는지, 누가 확인하는지, 어떤 환경에서 쓰는지, 거기까지 나눠서 생각한다.
불을 금지하지 마라. 불 조절을 가르쳐라.
[^ipa-ai-security]: 일본 IPA(정보처리추진기구) "AI 보안" https://www.ipa.go.jp/digital/ai/security/index.html
[^digital-ai-guidebook]: 일본 디지털청 "텍스트 생성형 AI 활용에 따른 위험 대책 가이드북(알파판)" https://www.digital.go.jp/resources/generalitve-ai-guidebook
[^meti-ai-guideline]: 일본 경제산업성 "AI 사업자 가이드라인" https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
[^ms-wti-2024]: Microsoft Japan / LinkedIn "업무 속 AI의 현황에 관한 2024 Work Trend Index" https://news.microsoft.com/ja-jp/2024/05/09/240509-microsoft-and-linkedin-release-the-2024-work-trend-index-on-the-state-of-ai-at-work/
[^mckinsey-2025-ai]: McKinsey & Company “The State of AI: Global Survey” https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-how-organizations-are-rewiring-to-capture-value
[^ms-wti-2025]: Microsoft “2025 Work Trend Index: The year the Frontier Firm is born” https://www.microsoft.com/en-us/worklab/work-trend-index/2025-the-year-the-frontier-firm-is-born
