AI를 주간 한도까지 돌렸더니 인건비보다 ‘막힘’이 더 큰 문제가 됐다

읽기 기능 사용법

듣기는 본문을 읽어 줍니다. 속독은 구절을 차례로 표시하며 속도를 조절할 수 있습니다. 언어 연습은 다른 언어판과 번역을 비교합니다. 저장한 북마크는 이 브라우저의 플레이어 목록에서 다시 열 수 있습니다.

이 글 공유하기

이 글 공유하기

AI를 주간 한도까지 돌렸더니 인건비보다 ‘막힘’이 더 큰 문제가 됐다
AI 생성 이미지
광고
광고

AI 코딩 에이전트를 진짜로 계속 돌리기 시작하면 가장 먼저 놀라운 건 지능이 아니다.

“얘는 언제 퇴근하지?”

낮에는 조사, 저녁에는 구현, 밤에는 테스트, 새벽에는 버그 수정. 다음 날 아침에도 뭔가를 고치고 있다.

사람 조직이라면 야간근무, 초과근무, 교대, 인수인계, 피로, 인력관리가 필요하다. AI는 대신 요금제, 사용량 한도, 도구 오류, 시스템 신뢰성이 제약이 된다.

그리고 많이 쓰면 더 이상한 일이 생긴다.

일주일치 사용량을 며칠 만에 써버린다.

처음에는 “이 정도면 엄청 오래가겠는데?”라고 생각한다. 그런데 며칠 뒤에는 사실상 “이번 주는 너무 많이 일시켰습니다” 상태가 된다.

노동법이 사라진 줄 알았더니 rate limit 안에 다시 나타난 셈이다.

0. 중요한 건 근무시간이 아니라 처리량

“AI가 하루 12시간 일했다”는 말은 사람의 12시간 근무와 비교하기 쉽다.

하지만 핵심은 시간이 아니다.

봐야 할 것은:

  • 조사 완료 건수
  • 수정 파일 수
  • 테스트 횟수
  • 해결한 이상 건수
  • 실제 운영까지 도달한 결과 수
  • 중간에 막힌 결과 수

AI는 검색, 비교, 수정, 테스트를 빠르게 반복한다. 따라서 “몇 시간 돌았나”보다 얼마나 많은 유효 작업이 파이프라인 끝까지 통과했나가 중요하다.

1. 24시간 운영의 이상함은 야간근무가 싸서가 아니다

AI는 낮이든 밤이든 같은 제품 한도 안에서 움직인다.

사람 조직이 24시간 운영하려면 교대, 야간수당, 일정, 인수인계, 결원 대응이 필요하다. AI에서는 이런 비용 상당수가 사라진다.

특이한 건 “밤에도 일한다”가 아니다.

같은 작업자가 교대 없이 낮과 밤을 계속 달릴 수 있다는 것이다.

물론 실패는 있다. 다만 피로가 아니라 컨텍스트 부족, 잘못된 가정, 도구 실패, 사양 오해 같은 형태로 나타난다.

2. 한도가 커지면 작업량도 커진다

사용 한도가 늘어나면 사람은 절약하지 않게 된다.

예전에는 직접 하던 일도 AI에 넘긴다.

조사만 하려던 일이 조사→구현→테스트→수정→재테스트→로그 확인→추가 수정 으로 커진다.

그래서 “이전보다 훨씬 많이 쓸 수 있다”고 느껴도 며칠 만에 소진된다.

성능 부족이 아니다.

공급이 늘자 AI에게 맡기는 수요도 늘어난 것이다.

3. 주기적 회복은 정지가 아니라 버퍼가 된다

사용량이 일정 시간마다 회복된다면 기다리는 동안 할 일이 있다.

  • 새 이상 기록
  • 재현 조건 정리
  • 로그 축적
  • 원인 후보 정리
  • 다음 작업 우선순위 지정

그리고 한도가 돌아오면 한꺼번에 처리한다.

운영이 실시간 대화에서 배치 처리 공장으로 바뀐다.

AI가 쉬는 동안에도 대기열은 자란다.

4. 고품질 모드는 ‘상시 사용’보다 ‘막혔을 때 설계 회의’

상위 추론 모드나 고품질 에이전트는 사용량을 빠르게 소비할 수 있다.

하지만 제대로 쓰면 낭비가 아니다.

정말 막혔을 때:

  • 원인 후보를 넓게 찾고
  • 의존성을 정리하고
  • 수정 순서를 결정하고
  • 재발 방지를 설계하고
  • 감시 항목을 정하는

계획 설계에 쓰면 가치가 크다.

평상시는 일반 모드. 막히면 상위 모드로 진단과 계획. 그 후 구현은 다시 일반 모드.

이런 에스컬레이션이 효율적이다.

5. AI가 빨라질수록 병목은 다른 곳으로 이동한다

파이프라인은 보통:

생성 → 저장 → 변환 → 배포 → 운영 반영 → 검증

으로 이어진다.

한 단계라도 느리거나 불안정하면 앞단 속도가 아무리 빨라도 소용없다.

100개를 만들고 99개만 운영에 도달하면 1개는 재고가 된다.

반복되면 우연이 아니라 수율 문제다.

6. “기사가 안 나온다”는 생성 AI 문제가 아닐 수 있다

실패 지점은 많다.

  • 생성 성공, 저장 실패
  • 메타데이터 검증 실패
  • 번역/현지화 중단
  • 게시 큐 삽입 실패
  • 배포 후 검증 실패
  • 운영에는 있으나 목록에 없음

그래서 각 단계의 카운터가 필요하다.

생성 120 → 저장 120 → 게시 큐 118 → 운영 확인 116

그러면 사라진 4개가 보인다.

실패보다 무서운 건 조용히 사라지는 것이다.

7. 24시간 AI 공장에는 자동 복구가 필요하다

이상적인 흐름은:

  1. 누락 감지
  2. 대상 ID 격리
  3. 실패 유형 기록
  4. 안전하면 재시도
  5. 반복 실패만 사람 또는 상위 AI로 승격

전체를 다시 돌리지 않는다.

깨진 것만 다시 처리한다.

8. 사람의 역할은 줄지만 사라지지 않는다

사람은 여전히 결정한다.

  • 무엇이 중요한가
  • 어느 정도 실패를 허용할 것인가
  • 무엇을 자동화하지 않을 것인가
  • 속도와 품질 중 무엇을 우선할 것인가
  • 어떤 이상을 상위 AI에 넘길 것인가

사람은 작업자보다 라인 설계자에 가까워진다.

9. 무서운 건 AI가 너무 많이 일하는 것이 아니다

진짜 문제는 사용량을 많이 썼는데도 결과가:

  • 중간에 사라지고
  • 운영에 반영되지 않고
  • 누락이 보이지 않고
  • 같은 버그가 반복되고
  • 고품질 모드를 잡무에 써버리는 것

이다.

정답은 단순하다.

일상 작업은 싸고 빠르게. 막힌 문제는 고품질 모드로. 실패는 보이게. 재처리 가능한 실패는 자동 복구.

이쯤 되면 AI를 쓰는 것이 아니라, AI가 일할 수 있는 공장을 설계하는 것이다.


이 글 공유하기

광고

하나 더, 뭐 재미있는 거 없어?

다 읽은 김에. 가까운 이야기 몇 편과, 전혀 다르지만 재미있는 이야기를 골랐어요.

  1. 가까운 이야기뇌사 AI에게 3턴 미래를 보여줬더니 더 약해졌다섀도우버스 WB 시장 시뮬레이션 46,900전과 별도 AI 연구가 보여 준 “미래는 보이는데 채점이 틀린다” 문제
  2. 전혀 다르지만 재미있는“Seven이 쓸모없을 리가 없잖아!”실패작 Seven이 세계를 구하고 성공작 Eight가 데스액 문어가 된 『PRAGMATA』 총정리
  3. 왜 내 공격만 전부 지는가호무라·히카리 유저, 카즈야의 비실체와 악어 배에 분노하다
  4. 혼자 행동하기 어려운 사람에게“누가 없으면 못 움직인다”를 분해하고 ‘혼자 행동 OS’를 키우는 법
  5. 『하나만마』에서 “여동생을 지켜라”는 왜 토시키의 인생 규칙이 되었나

오늘은 이 글

이 글을 읽은 분이 다음에 품는 질문에 각각 답하는 글입니다.

전체 글에서 찾기‘AI’ 글 더 보기

다른 글 찾기

모든 기사

Mendoi-chan

사이트 운영자

Mendoi-chan

직장과 일상의 불편함을 구조화해 이해하기 쉬운 다음 행동으로 연결하는 글을 씁니다.