0. 5초 결론: 괴담은 창작 같아도 정보가 나가는 문은 진짜다
어느 익명 글에는 이런 이야기가 나온다. 이력서, 건강 정보, 가족 이야기, 회사 비밀까지 여러 AI에 넣었더니, 대화 일부가 인터넷에 공개되어 직장과 가정이 무너졌다는 것이다.[1]
먼저 이 사건이 실제로 일어났다고 확인할 독립적인 증거는 없다. 사실로 보도된 사건이 아니라 검증되지 않은 이야기로 읽어야 한다. 하지만 비공개로 생각한 대화가 공유·공개되는 구조 자체는 충분히 점검할 가치가 있다.
AI가 한밤중에 이력서를 낭독하는 괴물이 문제는 아니다. 나도 모르게 열린 출구가 문제다. 심지어 내 출구를 모두 잠가도 정보를 맡긴 회사가 해킹당할 수 있다. 공포 영화 범인이 너무 많다.
1. 익명 공포담을 실제 사건으로 확정하지 말자
글의 주인공은 문서 수정과 고민 상담에 여러 AI를 쓴다. 남의 개인정보와 업무상 비밀까지 넣었다고 한다. 학습에 사용하지 않는 설정이면 괜찮다고 여겼는데, 다른 서비스의 공개 설정 때문에 대화가 노출되었다는 줄거리다. 이어 채용 문제, 회사 조사, 가족 갈등, 배상 이야기까지 쏟아진다.[1]
불행 종합 선물 세트다. 그런데 문제의 서비스 이름이나 독립적으로 검증할 수 있는 유출 기록은 없다. 검색 서비스의 예전 저장본을 설명하는 부분도 현재 기능과 구분해야 한다.
그렇다고 ‘창작 같으니 위험도 없다’는 결론 역시 틀리다. 이야기의 진실성과 유출 경로의 현실성은 다른 문제다.
2. 학습 중지, 비공개, 공유, 외부 전송은 서로 다르다
혼동하기 쉬운 네 가지를 분리하자.
- 모델 학습: ChatGPT 개인용 설정에서 새 대화를 모델 개선에 쓰지 않도록 할 수 있다. 기존 공유 링크까지 삭제되는 것은 아니다.[2]
- 일반 대화: 평범한 ChatGPT 대화를 입력했다고 자동으로 공개 웹페이지나 검색 결과가 되지는 않는다.
- 공유 링크: 개인 계정에서 링크를 만들면 링크를 가진 누구나 해당 내용을 볼 수 있다. 검색 등록을 의도하지 않았다는 말과 비공개라는 말은 다르다.[3]
- 다른 서비스: 다른 AI나 연결된 앱, 공개 웹사이트로 보내면 그곳의 규칙과 권한이 적용된다. 한 회사의 학습 설정으로 다른 회사까지 통제할 수 없다.
‘요리에 쓰지 마’, ‘냉장고를 잠가’, ‘현관에서 식재료를 나눠 줘’는 모두 다른 행동이다. 냉장고는 잠가 놓고 현관에서 신분증을 뿌리면 곤란하다.
3. 정보가 빠져나가는 문은 여러 개다
공유 링크를 잘못 전달할 수도 있고, 작은 서비스의 공개 설정을 놓칠 수도 있다. 비공개 작업 공간의 내용을 공개 글이나 코드 저장소로 옮길 수도 있다. 첨부 파일, 화면 사진, 실행 기록, 수정 이력에 비밀이 남기도 한다. 정보를 보관한 기업이나 위탁 업체가 공격당하거나 설정을 잘못할 수도 있다.
GitHub의 비공개 저장소는 접근자를 제한하지만, 거기서 만든 공개 웹사이트까지 비공개로 만드는 것은 아니다.[6] 잠긴 창고에서 포장한 상자를 전시장에 활짝 펼쳐 놓았다면 창고 자물쇠는 억울하다.
AI와 사용자 중 누구 하나만 범인으로 몰기보다 입력, 저장, 공유, 게시, 위탁을 각각 살펴야 한다.
4. 이름만 ‘A씨’로 바꾸면 끝일까?
실명, 정확한 주소, 전화번호를 지우는 것은 도움이 된다. 하지만 드문 직업, 특정 지역, 날짜, 독특한 사건을 합치면 여전히 누군지 추측될 수 있다. 익명화는 이름 바꾸기 게임이 아니다.
가족과 동료의 정보는 마음대로 외부에 보내지 말아야 한다. 고객 이름을 ‘A사’로 고쳤다고 기밀 설계 문서가 갑자기 공개 자료가 되는 것도 아니다. 회사 규정과 허가 범위를 먼저 확인해야 한다.
비밀번호, 접속용 비밀키, 신분증 번호, 기밀 원문은 더 엄격하게 다루자. AI는 글을 다듬을 수 있어도 비밀 유지 의무를 대신 떠안지는 못한다.
5. 검색 결과가 없다고 유출이 없다는 뜻은 아니다
내 이름을 검색해서 아무것도 나오지 않으면 안심할 만한 신호다. 그러나 검색 엔진이 아직 발견하지 못했거나 다른 곳에서 퍼졌을 수도 있다.
반대로 ‘검색에 한 번 나오면 영원히 지울 수 없다’는 말도 지나치다. Google은 주소와 의료 기록 등 일정한 개인정보에 대한 검색 결과 삭제 요청을 받는다. 다만 검색 결과 삭제는 원래 사이트의 삭제와 다르다.[4]
사이트 운영자는 원본을 지우거나 접근을 제한하고, 검색에 나오지 않도록 지정할 수 있다. 그러나 검색 제외 설정은 출입 통제 장치가 아니다. URL을 아는 사람이 여전히 볼 수 있다.[5]
6. 제일 억울한 부분: 내가 조용해도 맡긴 회사가 뚫린다
정보를 인터넷에 직접 올리지 않아도 택배, 결제, 통신, 행정 서비스는 이용해야 한다. 살아가는 데 필요한 정보는 어딘가에 보관된다.
미국 NIST는 데이터 유출이 금전적 손실, 평판 악화, 법적 문제로 이어질 수 있다고 설명한다.[7] 내 입에 지퍼를 달아도 위탁 회사 서버에 지퍼까지 달 수는 없다. 서로 다른 업체에서 조각이 새면 최악의 퍼즐이 완성된다. 완성 기념품도 없다.
그렇다고 어차피 위험하다며 내 문까지 열어 둘 이유는 없다. 줄일 수 있는 위험은 줄여야 한다.
7. AI를 금지하지 말고 세 곳을 점검하자
입력 전: 실명과 정확한 주소가 정말 필요한가? 대략적인 수치나 가상 사례로 충분한가? 타인 또는 회사의 비밀을 외부에 보내도 되는가?
공유 전: 마지막 답변만 말고 공유되는 전체 내용을 살펴보자. 이전 발언, 제목, 첨부와 이미지까지 확인하고 필요 없는 링크는 삭제한다.[3]
게시 전: 공개 글, 코드, 이미지 설명, 수정 기록에서 개인정보와 비밀키를 검사한다. 자동 검사는 눈에 띄는 문자열을, 사람은 여러 정보의 조합을 확인한다. 실제 공개 페이지도 다시 열어 본다.
AI에 상담할 자유와 상담 내용을 온 세상에 방송할 권리는 분리해야 한다. 상담실 문과 공연장 막은 다른 스위치로 열자.
8. 이미 새어 나갔다면 순서대로 대응한다
- 노출된 페이지나 링크를 확인하고 공개 중단·삭제를 요청한다. 필요한 증거는 안전하게 보관한다.
- 노출된 접속키를 폐기하고 비밀번호를 변경한다. 재사용을 피하고 다중 인증을 켠다. 이것은 계정 탈취 예방이지 이미 유출된 주소를 지우는 마법은 아니다.[8]
- 원본 사이트 삭제와 검색 결과 삭제를 각각 진행한다.[4]
- 다른 사람이나 업무상 비밀이 포함되었다면 당사자와 공식 담당 부서에 신속히 알린다.
- 수상한 연락과 계정 이상을 살피되, 확인되지 않은 소문을 실제 피해로 단정하지 않는다.
열쇠가 털렸는데 검색 엔진에 화만 내 봐야 자물쇠는 바뀌지 않는다.
9. 결론: 침묵보다 출구 관리가 중요하다
익명 괴담은 검증된 실제 사건이 아니다. 평범한 비공개 대화, 모델 학습, 공유 링크, 공개 게시, 기업의 정보 보관은 각각 다른 행위다.
내가 통제할 수 있는 문을 잠그자. 기업의 침해 가능성에는 안전한 비밀번호와 인증, 유출 후 대응으로 대비하자. 남의 정보와 회사 비밀에는 훨씬 엄격한 기준을 적용하자.
AI를 그만 쓴다고 해킹이 사라지지 않는다. 그렇다고 현관문을 활짝 열어 둘 핑계도 되지 않는다.
도구는 편리하게 쓰고, 나가는 문은 잠그고, 정보 보관자에게도 제 일을 하라고 하자.
참고 자료 (8건)
- [1] 익명 게시글(진위 미확인)
- [2] OpenAI: 모델 개선과 데이터 설정
- [3] OpenAI: 공유 링크
- [4] Google: 검색 결과의 개인정보 삭제
- [5] Google: 검색 등록 제외 설정
- [6] GitHub: 공개·비공개 저장소
- [7] NIST: 데이터 유출 예방
- [8] CISA: 온라인 안전 수칙
