소셜미디어에서 누군가 AI에게 “think from first principles”라고 말하면 “IQ가 20쯤 오른 것 같다”고 농담 섞인 글을 올렸다.
물론 비밀 주문을 외운다고 실리콘 두뇌에 지능 포인트 20이 지급되는 것은 아니다.
재미있는 부분은 그 말이 요구하는 사고의 방향이다.
“문제를 더 많이 나열해라”, “경쟁사를 찾아라”, “더 똑똑해 보이는 아이디어를 내라”가 아니다.
뜻은 이쪽에 가깝다.
뿌리까지 돌아가라. 지금의 질문, 목적, 제약, 전제 자체가 맞는가? 그리고 거기서 다시 만들어라.
보통의 개선이 벽의 금을 보고 보수재 열 종류를 비교하는 일이라면, 제1원리 사고는 중간에 벽을 바라보다가 이렇게 묻는다.
“잠깐, 이 벽 자체가 필요한가?”
갑자기 공사팀이 철학과로 전과했다.
1. “문제를 찾는 것”과 “질문 자체를 의심하는 것”은 다른 일이다
AI에게 개선을 맡기면 보통 세 가지 일을 잘한다.
- 현재 시스템의 문제를 나열한다.
- 경쟁사, 기존 사례, 알려진 해법을 찾는다.
- 현재 구조 안에서 더 나은 안을 만든다.
모두 필요하다. 다만 대체로 현재의 게임판은 그대로 받아들인다.
관련 글 클릭률이 낮다면 위치를 바꾸고, 카드를 키우고, 문구를 고치고, 추천 모델을 개선한다.
제1원리 사고는 한 단계 전으로 돌아간다.
관련 글 기능은 원래 무엇을 위해 존재하는가?
다른 페이지를 클릭시키는 것이 목적인가? 독자의 다음 질문을 해결하는 것이 목적인가? 그렇다면 “관련 글 카드”라는 형태가 꼭 필요한가? 현재 본문 안에서 바로 해결하는 편이 나은 경우는 없는가?
이제 점검 대상은 해법의 품질만이 아니다.
문제 정의 자체가 점검 대상이 된다.
개선 회의에 불렀던 AI가 화이트보드 맨 위의 “목적”부터 지우기 시작한다.
대체로 맞게 작동하고 있는 것이다.
2. 제1원리 사고는 “아이디어 생성”보다 씨앗을 심기 전의 지반 공사에 가깝다
제1원리 사고를 단순히 “아이디어를 많이 내는 방법”으로 보면 너무 좁다.
핵심은 기존 해법을 잠시 치우고 다음을 묻는 것이다.
- 정말 원하는 결과는 무엇인가?
- 절대로 바꿀 수 없는 제약은 무엇인가?
- 실제로 관측한 사실은 무엇인가?
- “필수”라고 생각하지만 사실은 관습인 것은 무엇인가?
- 기존 해법을 하나도 몰랐다면 어떻게 설계할 것인가?
즉, 씨앗을 줍는 기술이라기보다 무엇을 심을지 결정하기 전에 흙부터 전부 뒤집는 과정이다.
경쟁사 열 곳을 조사해도 열 곳 모두 같은 숨은 전제를 공유한다면 열한 번째 서비스도 똑같은 건물이 된다.
제1원리 사고는 묻는다.
“왜 다들 이렇게 짓고 있지?”
조사 끝에 “그냥 이 방식이 가장 합리적이었다”는 결론이 나와도 성공이다.
전제를 의심한다는 것은 반드시 전제를 파괴한다는 뜻이 아니다.
도로 표지판을 매번 의심해서 역주행을 시작하면 철학이 아니라 사고다.
3. 여기서 더블 루프 학습이 연결된다
Chris Argyris가 1977년에 설명한 더블 루프 학습은 단순히 오류 행동을 고치는 것을 넘어, 그 행동을 낳은 정책, 목표, 규범, 지배적 전제까지 질문하는 학습을 다룬다.[1]
간단히 나누면 이렇다.
싱글 루프 결과가 나쁘다 → 행동을 바꾼다.
더블 루프 결과가 나쁘다 → 행동을 바꾸기 전에 무엇을 성공으로 정의했는지, 어떤 규칙이 그 행동을 만들었는지 다시 본다.
예를 들어 “클릭률이 낮다.”
싱글 루프라면 문구, 위치, 색, 추천 정확도를 개선한다.
더블 루프라면 먼저 묻는다.
“왜 클릭률을 올리려고 하지?”
진짜 목적이 “독자가 현재 질문을 해결하고 필요하면 다음으로 자연스럽게 이동하는 것”이라면 클릭률은 목적이 아니라 대리 지표일 수 있다.
그러면 문제는 “어떻게 클릭시키나”에서 “어떻게 다음 질문을 자연스럽게 해결하나”로 바뀐다.
KPI를 개선하는 AI에서 왜 그 KPI를 채택했는지 감사하는 AI로 한 단계 올라가는 것이다.
4. “이건 인간만 할 수 있다”고 생각했던 영역에 AI가 들어오기 시작했다
자동화에서 마지막까지 인간에게 남는 일로 목표 설정, 질문 설계, 의미 부여, 승인 같은 것을 자주 말한다.
실행은 자동화할 수 있다. 검색도 가능하다. 집계, 비교, 요약, 생성도 가능하다.
하지만
“애초에 왜 이걸 하고 있지?”
라는 질문만큼은 인간의 성역처럼 보였다.
그 경계가 생각보다 단단하지 않다.
ICLR 2024의 Step-Back Prompting 연구는 구체적 문제를 곧바로 풀기 전에 더 추상적이고 상위 수준의 질문이나 원리로 한 단계 물러난 뒤 다시 구체 문제로 내려오는 방법을 제안했다. 여러 모델과 추론 과제에서 성능 향상이 보고되었다.[2]
이 연구가 “think from first principles”라는 정확한 문장이 보편적 마법 스위치라고 증명한 것은 아니다.
하지만 다음 조작에는 가까운 실증 근거가 있다.
구체 문제 → 추상화 → 원리 → 구체 문제로 복귀
따라서 “AI는 세부 작업, 인간은 철학”이라는 분업은 더 이상 단순하지 않다.
AI가 철학과 시간강사 자리에 지원서를 낸 셈이다.
5. 이것을 발아 과정에 넣으면 아이디어 탐색이 두 개의 레인으로 나뉜다
기사, 제품, 기능, 연구 주제의 발아는 두 방향에서 시작할 수 있다.
밖에서 줍는 발아
- 검색 수요가 생긴다.
- 어떤 주제가 유행한다.
- 독자가 특정 지점에서 이탈한다.
- 같은 문의가 반복된다.
- 경쟁사가 새 기능을 낸다.
세상에서 신호를 줍는 방식이다.
그리고 다른 하나가 있다.
안쪽을 파는 발아
- 이 기능의 진짜 목적은 무엇인가?
- 이 KPI가 목적을 제대로 나타내는가?
- 이 제약은 물리·법적 제약인가, 과거 사정인가?
- 처음부터 다시 만들면 같은 구조를 선택할까?
- 현재 해법을 금지하면 무엇이 남는가?
- 애초에 이것이 풀어야 할 문제인가?
이쪽은 기존 시스템 내부의 전제를 파낸다.
트렌드 탐색이 바닥에 떨어진 씨앗을 줍는 일이라면, 제1원리 레인은 마루를 뜯었더니 아래에서 모르는 식물이 자라고 있던 경우에 가깝다.
아직 누구도 검색하지 않은 질문이 구조를 분해하는 과정에서 나올 수 있다.
6. 실제 구현은 “전제 파괴 → 재구성 → 현실 검증” 세 단계가 좋다
AI에게 “자유롭게 철학해”라고만 하면 가끔 우주로 떠나서 돌아오지 않는다.
실무에서는 단계가 필요하다.
1단계: 전제 감사
목적, 지표, 관측 사실, 불가피한 제약, 조직 편의, 역사적 사정, 현재 관행을 분리한다.
특히 “사실”과 “그냥 오래 했던 방식”을 섞지 않는다.
2단계: 제로베이스 재구성
현재 해법을 정답이 아니라 하나의 후보로 취급한다.
목적과 진짜 불가피한 제약만으로 여러 설계를 만든다.
결국 현재 구조와 비슷해져도 괜찮다. 왜 비슷해지는지 설명할 수 있으면 된다.
3단계: 현실로 복귀
비용, 법, 안전, 사용자 행동, 이전 부담, 데이터, 운영 제약으로 걸러낸다.
제1원리는 현실 회피 카드가 아니다.
“서버비가 드니 서버를 개념으로 정의하자”는 철학이 아니라 청구서에서 도망치는 것이다.
7. 그래도 인간에게 남는 것: 무엇을 중요하게 볼 것인가
AI는 다음을 넓게 탐색할 수 있다.
- 이 전제가 필요한가?
- KPI와 목적이 어긋났는가?
- 다른 가치함수를 쓰면 어떻게 되는가?
- 무엇을 제거해도 결과를 유지할 수 있는가?
그러나 마지막 경계는 남는다.
어떤 가치를 최종적으로 선택할 것인가.
체류 시간을 늘릴 것인가, 답을 얻는 시간을 줄일 것인가. 이익을 극대화할 것인가, 신뢰를 지킬 것인가. 자유, 안전, 공정성, 즐거움, 접근성에 어느 정도 무게를 둘 것인가.
관측만으로 하나의 정답이 나오지 않는다.
AI는 “A를 우선하면 설계 X, B를 우선하면 설계 Y”라고 펼칠 수 있다.
하지만 A와 B 중 무엇을 최종 목적에 둘지는 인간의 책임이다.
따라서 자동화의 끝은 “인간이 전부 생각한다”도 “AI가 전부 결정한다”도 아니다.
AI는 전제까지 집요하게 의심하고, 인간은 가치 판단이 필요한 분기와 책임을 맡는다.
8. 실제로 던질 핵심 질문은 단순하다
가장 짧은 질문은 이것이다.
더 강하게 쓰면:
현재 구현, 업계 관행, 경쟁 사례를 답으로 취급하지 마라.
먼저 목적, 관측 사실, 불가피한 제약, 암묵적 전제, 대리 지표를 분리하라.
목적을 유지하면서 제거할 수 있는 전제가 무엇인지 검사하라.
남은 제1원리만으로 여러 설계를 다시 만들고 현실 제약으로 검증하라.
기존 설계로 돌아가더라도 왜 돌아가는지 설명하라.
중요한 것은 “엄청 창의적으로 해라”라고 하지 않는 것이다.
새로움을 직접 요구하면 AI가 가끔 모자를 세 개 쓴 자전거 같은 것을 발명한다.
필요한 것은 이상함이 아니라, 기초에서 다시 계산했을 때 실제로 달라지는 지점이다.
9. 결론: AI는 “답하는 역할”에서 “질문을 부수는 역할”로 갈 수 있다
문제 나열도 필요하다. 경쟁 조사도 필요하다. 점진적 개선도 필요하다.
하지만 그것만으로는 같은 게임판에서 말을 더 빨리 움직이는 것일 수 있다.
제1원리 사고를 AI에게 명시적으로 맡기면 자동화 범위는 다음까지 확장된다.
문제 해결 → 문제 정의 의심 → 목적 의심 → 전제 분해 → 기초에서 재구성
더블 루프의 두 번째 루프를 인간이 매번 정신력으로 켤 필요가 없다.
가끔 AI에게 묻게 하면 된다.
“그래서, 이건 애초에 무엇을 위한 거지?”
인간에게만 남을 것 같았던 “철학”의 일부도 공정으로 만들 수 있다.
하지만 철학 담당 AI가 “좋은 소식입니다. 가치관도 대신 정했습니다”라고 말하면 그때는 인간이 다시 의자에 앉아야 한다.
질문을 부수는 데까지는 위임할 수 있다.
그 답이 어떤 세계를 위해 봉사해야 하는지 선택하는 일은 아직 우리의 몫이다.
- Chris Argyris, “Double Loop Learning in Organizations,” Harvard Business Review, September 1977 hbr.org
- Huaixiu Steven Zheng, Swaroop Mishra, Xinyun Chen, Heng-Tze Cheng, Ed H. Chi, Quoc V. Le, Denny Zhou, “Take a Step Back: Evoking Reasoning via Abstraction in Large Language Models,” ICLR 2024 proceedings.iclr.cc
