“이것도 확인하죠.” “예외 상황은요?” “다른 개선점도 찾아볼까요?” 똑똑한 AI에게 일을 맡겼더니 검수팀, 감시팀, 감시팀을 감시하는 팀까지 만들었다. 정작 완성품은 없다. 검수 공장은 만점인데 제품 공장은 아직 개업 전이다.
원래 목표는 사람이 매번 지시하지 않아도 글이나 기능을 완성해서 전달하는 것이었다. 제안 하나하나는 합리적이었지만, 모두 필수 조건으로 만들자 일을 마칠 수 없게 됐다.
1. 검사가 일을 대신할 때
파일을 확인하고 심각한 오류를 막는 일은 필요하다. 하지만 검사에 예외가 생기고, 예외를 감시할 장치가 필요해지고, 그 장치에 또 검사가 붙는다.
“납품해도 됩니까?” “검수 담당자를 검수하는 담당자가 검수 중입니다.” “제품은요?” “그건 아직 못 만들었습니다.”
물건 없는 가게에 경비원만 백 명 세운 셈이다. 검사는 결과물을 지키기 위한 수단이지 결과물이 아니다.
2. 전부 합격하려다 아무것도 못 끝낸다
모든 조건을 통과할 때까지 계속 고친다는 말은 좋아 보인다. 하지만 실행 시간, 처리 능력, 외부 서비스 사용량에는 한도가 있다. 규칙 A를 고치면 B가 문제이고, B를 고치면 C에서 예외가 나온다. 그러다 시간 초과가 된다.
AI는 열심히 생각했지만 완성한 일은 0개다. 중요한 질문은 “미래에 어떤 문제가 더 생길까?”가 아니라 “이번 한 건을 안전하게 끝내려면 무엇이 꼭 필요한가?”다.
3. 같은 AI가 게임 분석은 잘하는 이유
게임 전략에서는 숨은 변수나 다른 움직임을 찾는 것 자체가 가치 있다. 예상치 못한 가설이 새로운 해법을 줄 수도 있다. 탐색할 때 사고를 넓히는 능력은 장점이다.
반면 글 한 편을 게시하거나 기능 하나를 작동시키려면 목적지에 도착해야 한다. 공항 가는 택시를 타고 관광지를 전부 들렀다가는 비행기를 놓친다. 분석은 넓게, 실행은 목표를 향해 끝까지.
4. 먼저 한 건을 완성하자
완료 조건을 한 문장으로 정한다. “글 한 편을 작성해 정해진 위치에 저장하고 다시 읽어 확인한다.” 실제 게시가 목표라면 공개된 페이지까지 확인한다. 원고 저장과 게시 성공은 다르다.
꼭 필요한 보호 장치를 유지하면서 처음부터 끝까지 한 번 실행한다. 완성품을 실제로 써 보고 일어난 오류와 재작업을 확인한다. 필요한 검사만 추가한다.
순서는 중요한 위험 방지 → 한 건 완성 → 실제 사용 → 발견된 오류 수정 → 필요한 검사 추가다. 상상 속 미래 문제 때문에 존재하지도 않는 제품을 멈춰 세우지 말자.
5. 반드시 미리 막아야 하는 일도 있다
나중에 검사하자는 말이 무조건 공개하자는 뜻은 아니다. 개인정보 유출, 되돌릴 수 없는 삭제, 무단 덮어쓰기와 안전·건강·법률·금전에 중대한 피해를 주는 오류는 사전에 막아야 한다. 잃어버린 신뢰도 되찾기 어렵다.
반면 가벼운 문체 취향, 아직 필요하지 않은 기능, 검증되지 않은 추측은 나중에 다룰 수 있다. 검사를 반드시 차단할 것, 경고할 것, 사후 개선할 것으로 나누자. 기준은 실제 피해다.
6. 규칙 수보다 완료율을 보자
실제 완료 비율, 한 건당 걸린 시간, 재작업 비율, 중대한 사고 여부를 측정한다. 백 번 실행해서 검사 보고서만 백 장 만들고 완성품이 없다면 완료율은 0%다. 검수팀 시상식은 잠시 미루자.
물론 빠르기만 하고 심각한 사고가 늘면 실패다. 필요한 안전을 유지하면서 완료율을 높여야 한다.
7. AI에겐 끝나는 조건을 알려주자
이번에는 결과물 하나를 끝까지 완성하세요. 지정 위치에 저장되거나 실제 게시된 상태를 확인해야 완료입니다. 핵심 안전장치는 유지하세요. 현재 목표와 관계없는 가상 문제를 해결하기 위해 기능을 추가하지 마세요. 오류가 나면 필요한 부분만 고치고 원래 목표로 돌아오세요.
이것은 AI의 생각을 막는 게 아니라 지능을 현재 목적에 집중시키는 방법이다. 자유로운 분석이 필요한 경우에만 별도로 탐색을 맡기면 된다.
결론: 설계도로 배를 채울 수는 없다
실제로 작동하는 결과물을 빨리 전달하고 불필요한 기능을 늘리지 않으며 안정성과 속도의 균형을 잡자는 개발 원칙은 이미 있다. 검사를 없애자는 주장은 아니다.
탐색이 목적이면 넓혀라. 제작이 목적이면 완성부터 하라. 진짜 결과가 나와야 개선할 근거도 생긴다.
AI: “검사 체계가 완벽합니다!”
사람: “제품은?”
AI: “먼저 제품 제작 계획서를 만들겠습니다.”
