한동안 ChatGPT 프롬프트를 잘 쓰는 요령이라며 돌아다닌 문장이 있습니다. "단계별로 생각해 봐(Let's think step by step)", "이유를 먼저 설명하고 답해 줘" 같은 것들이죠. 실제로 예전 모델에서는 이 한 줄을 붙이는 것만으로 답이 눈에 띄게 정돈됐습니다. 그런데 요즘 같은 문장을 붙였는데 답이 딱히 나아지지 않거나, 오히려 서론만 길어지고 결론은 흐릿해지는 경험을 하신 분들이 있을 겁니다.
프롬프트 실력이 퇴보한 게 아닙니다. 상대하는 모델의 종류가 바뀐 겁니다. 이 글에서는 왜 예전 요령이 힘을 잃었는지, 그리고 지금의 ChatGPT 프롬프트를 어떻게 다시 써야 하는지를 정리합니다.
지금 ChatGPT 프롬프트가 겉도는 진짜 이유
가장 큰 변화는 모델이 한 종류가 아니게 됐다는 점입니다. 본 글 작성 시점(2026년 8월) 기준으로 ChatGPT의 모델 선택기는 크게 Instant 계열과 Thinking 계열로 나뉘고, 상위 요금제에는 Pro 계열이 따로 있습니다. OpenAI 헬프센터 안내에 따르면 Instant는 일상적인 질문에 빠르게 답하는 쪽, Thinking은 복잡한 작업을 위해 더 깊게 추론하는 쪽입니다. Plus·Pro·Business 같은 유료 요금제에서는 이 선택기로 직접 고를 수 있습니다.
같은 지시가 모델에 따라 정반대로 작동한다
여기서 문제가 생깁니다. "단계별로 생각해"라는 지시는 스스로 추론하지 않는 모델에게 추론 과정을 밟게 만드는 장치였습니다. 그런데 추론(Thinking) 계열 모델은 답을 내놓기 전에 내부적으로 이미 그 과정을 밟습니다. 이미 하고 있는 일을 다시 시키는 셈이니 효과가 없거나, 답변 앞부분에 불필요한 설명만 늘어놓게 만듭니다.
이건 개인적인 감상이 아니라 공식 문서에 적힌 내용입니다. OpenAI의 추론 모델 모범 사례(Reasoning best practices) 문서는 추론 모델이 내부적으로 추론을 수행하기 때문에 "단계별로 생각해라"거나 "네 추론 과정을 설명해라" 같은 프롬프트가 불필요하다고 안내합니다. 예전 요령이 틀렸다기보다, 그 요령이 필요했던 조건이 사라진 것입니다.
추론 모델에 맞게 바꿔야 할 3가지
1. 사고 과정을 유도하는 문장은 걷어낸다
"천천히 단계별로", "먼저 논리를 세운 다음", "깊이 생각해서" 같은 유도 문구부터 지웁니다. 그 자리에 넣어야 할 것은 사고 방식이 아니라 판단 기준입니다. 예를 들어 "꼼꼼하게 검토해 줘" 대신 "빠진 항목, 숫자가 맞지 않는 부분, 근거가 없는 주장 이렇게 세 가지만 짚어 줘"라고 쓰는 식입니다. 어떻게 생각할지는 모델에게 맡기고, 무엇을 판단 대상으로 삼을지만 지정하는 겁니다.
2. 예시부터 잔뜩 붙이지 않는다
출력 형식을 잡으려고 예시를 두세 개씩 붙이는 방식은 여전히 유효한 기법이지만, 추론 모델에서는 우선순위가 달라집니다. 같은 OpenAI 문서는 추론 모델이 좋은 결과를 내는 데 예시(few-shot)가 필요하지 않은 경우가 많으니 먼저 예시 없이 써보라고 권합니다. 결과가 기대에 못 미칠 때 예시를 추가하는 순서가 낫다는 뜻입니다.
순서를 뒤집으면 실익이 큽니다. 예시를 만드는 데 드는 시간이 줄고, 무엇보다 예시가 답변의 폭을 좁혀버리는 부작용을 피할 수 있습니다. 예시를 세 개 주면 모델은 그 세 개와 비슷한 답을 안전하게 고르는 경향이 있으니까요.
3. 프롬프트를 짧고 직접적으로 줄인다
"~하지 마", "반드시 ~해야 해" 같은 제약을 겹겹이 쌓은 긴 프롬프트는 추론 모델에서 오히려 방해가 되기 쉽습니다. 같은 제약을 표현만 바꿔 세 번 반복하면 모델은 그 제약을 지키는 데 자원을 쓰느라 정작 문제 자체는 얕게 다룹니다. 요구사항을 한 번씩만, 명확한 문장으로 적는 편이 낫습니다.
오늘 바로 적용하는 4단계
이론보다 순서가 중요합니다. 다음 네 단계로 정리해 보세요.
- 작업을 분류한다 — 지금 시키려는 일이 "빠른 처리"인지 "정확한 판단"인지 먼저 구분합니다.
- 모델을 고른다 — 선택기를 열어 직접 지정합니다. 자동에 맡기면 어떤 성격의 모델이 답했는지 모른 채 프롬프트만 탓하게 됩니다.
- 추론 모델이면 프롬프트를 깎는다 — 사고 유도 문장과 예시를 빼고, 목표·제약·판단 기준만 남깁니다.
- 부족한 부분만 되붙인다 — 형식이 안 맞으면 그때 예시 하나, 톤이 안 맞으면 그때 톤 지시 한 줄을 추가합니다.
작업 유형별로 어느 쪽을 쓸까
| 작업 | 적합한 쪽 | 프롬프트 요령 |
|---|---|---|
| 번역·요약·문장 다듬기 | Instant 계열 | 예시로 형식 고정이 여전히 유효 |
| 이메일 초안·아이디어 나열 | Instant 계열 | 톤과 분량을 구체적으로 지정 |
| 계약서·자료 검토, 오류 찾기 | Thinking 계열 | 사고 유도 문장 제거, 판단 기준 제시 |
| 복잡한 계획 수립, 코드 설계 | Thinking 계열 | 예시 없이 목표·제약만 먼저 |
실제로 이렇게 깎입니다
말로만 보면 감이 잘 안 오니, 흔히 쓰는 자료 검토 프롬프트를 예로 들어보겠습니다. 예전 방식은 대개 이런 모양입니다.
너는 20년 경력의 전문 컨설턴트야. 아래 기획안을 아주 깊이, 단계별로 차근차근 생각해서 검토해 줘. 먼저 전체 구조를 파악하고, 그다음 논리를 하나씩 따져보고, 마지막에 결론을 내려 줘. 절대 대충 답하지 마. 반드시 꼼꼼하게 봐야 해.
여기서 실제 정보를 담고 있는 문장은 "기획안을 검토해 줘" 하나뿐입니다. 나머지는 모두 사고 과정을 유도하거나 같은 요구를 표현만 바꿔 반복하는 문장이죠. 추론 모델 기준으로 다시 쓰면 이렇게 짧아집니다.
아래 기획안을 검토해 줘. 세 가지만 짚어 줘. (1) 근거 없이 단정한 주장, (2) 앞뒤 숫자가 맞지 않는 부분, (3) 실행 단계가 빠진 항목. 각 항목은 원문 인용 한 줄과 수정 제안 한 줄로.
길이는 절반 이하로 줄었는데 돌아오는 답은 더 쓸 만해지는 경우가 많습니다. 역할 부여와 사고 유도를 걷어낸 자리에 무엇을 볼지와 어떤 형태로 돌려줄지가 들어갔기 때문입니다. 프롬프트를 줄인다는 건 대충 쓰라는 뜻이 아니라, 모델이 이미 알아서 하는 일을 지시에서 빼고 그 자리에 판단 기준을 넣는다는 뜻입니다.
되묻기를 다루는 방법
추론 모델을 쓰다 보면 답 대신 질문이 돌아오는 경우가 있습니다. "절대 되묻지 마"라고 못 박기보다, 되물을 조건을 정해 주는 편이 낫습니다. "답이 크게 달라질 정보가 빠졌을 때만 한 번 물어보고, 그렇지 않으면 합리적인 가정을 적고 진행해 줘"처럼요. 금지 대신 기준을 주는 것이 이 글 전체를 관통하는 원칙이기도 합니다.
결론: 프롬프트를 늘리기 전에 모델부터 확인하기
ChatGPT 프롬프트가 안 먹힌다고 느낄 때 우리는 보통 문장을 더 붙입니다. 조건을 추가하고, 예시를 넣고, 강조 표시를 씁니다. 하지만 상대가 추론 모델이라면 그 방향은 대체로 역효과입니다. 지금 필요한 건 더 긴 프롬프트가 아니라, 어떤 모델과 대화하고 있는지 아는 것과 덜어낼 용기입니다.
오늘 자주 쓰는 프롬프트 하나를 열어서, "단계별로 생각해" 같은 문장을 지우고 Thinking 계열 모델에 한 번만 다시 넣어보세요. 무엇을 빼도 되는지가 그 한 번으로 꽤 분명해집니다.
※ 본 글의 모델 구성·요금제 정보는 작성 시점(2026년 8월) 기준이며, 서비스 정책은 수시로 바뀔 수 있습니다.
