ChatGPT Thinking Mode - 모델 체급에 따른 특성과 한계
사고의 깊이와 지식의 양은 별개다. Thinking 모드를 쓴다고 해서 모델 크기의 한계가 사라지는 것은 아니다.
핵심 개념
Thinking Mode = 모델이 최종 답변하기 전에 스스로 추론 과정을 거침
- 추론 능력 ≠ 지식의 양
- 두 영역은 서로 다름
모델 체급별 특성
| 모델 | 특성 | 장점 | 한계 |
|---|---|---|---|
| Large Thinking | 방대한 지식 기반 | 복잡한 맥락 파악, 풍부한 표현 | 비용, 속도 |
| Mini Thinking | 추론 로직 우수 | 빠름, 저렴 | 학습 데이터 작음, 창의적 어휘 선택 약함, 지엽적 정보 검색 부족 |
Mini/Nano 모델의 표현력 한계
- 창의적인 어휘 선택에서 단조로움
- 지엽적인 정보 검색에서 대형 모델보다 약함
- 표현력의 깊이가 얕을 수 있음
글쓰기 과제에서의 고려사항
어떤 글쓰기를 하느냐에 따라 전략이 달라져야 함:
| 글쓰기 유형 | 추천 모델 |
|---|---|
| 복잡한 맥락 필요 | Large |
| 단순 요약, 빠른 작업 | Mini/Nano |
| 창의적 표현 중요 | Large |
| 구조적 추론 중요 | Mini (thinking) |
ChatGPT 무료 버전 특성
- (1) 요약 본능 — 적절히 요약해서 끝내려는 경향
- (2) 적절한 마무리 — 너무 깊게 파고들지 않음
→ 더 상세하고 성의 있는 설명을 원하면 프롬프트를 수정해야 함
프롬프트 전략
Mini/Nano 모델을 사용할 때:
- 더 상세하게 설명하도록 명시
- 성의 있게 풀어쓰도록 요청
- 마무리하지 말고 더 깊이 파고들도록 유도
인사이트
“사고의 깊이와 지식의 양은 별개입니다.”
Thinking 모드가 추론 능력을 높여주지만, 모델이 학습한 데이터의 양은 여전히 중요하다. 글쓰기 과제에서는 이 둘을 모두 고려해야 한다.