AI 모델이 다음 토큰 예측을 사용하는 방법
로드 중
다음 토큰 예측 · 4분
요약대본
생성형 AI는 검색 엔진보다는 매우 정교한 자동완성에 더 가깝습니다. 단어 다음에 어떤 단어가 오는 경향이 있는지를 기반으로 한 단어씩 답변을 작성합니다. 바로 이 하나의 특성이 유창함과 환각을 모두 만들어냅니다.
대규모 자동완성
로드 중
핵심 요약
- 다음 토큰 예측은 생성형 AI가 단어 다음에 어떤 단어가 오는 경향이 있는지를 기반으로 한 단어씩 답변을 작성한다는 사실을 의미합니다.
- 역량 영역: 모델이 여러 번 본 패턴과 유사한 작업(요약, 재구성, 일반적인 개념 설명).
- 한계 영역: 새롭거나 희소한 영역, 그리고 "참"과 "참처럼 들리는 것"을 구별해야 하는 모든 작업.
- 날조는 구체성에 집중됩니다: 이름, 날짜, 통계, 인용, URL, 인용문. 주장이 정밀할수록 검증이 더 필요합니다.
- 인용, 불확실성 신호, 제한된 생성, 생성자-검증자 루프와 같은 제품 기능은 바로 이 한계를 더 멀리 밀어내기 위해 존재합니다.
- 4D 연결: 다음 토큰 예측은 식별력(Discernment)의 기반입니다. 결과물이 생성되었다는 것을 아는 것만으로도 어떤 종류의 검토를 적용해야 하는지 정확히 알 수 있습니다.
연습
검증 테스트
왜? 이제 AI를 유창하게 만드는 바로 그 생성 과정이 AI가 날조하게 만드는 과정이기도 하다는 것을 알게 되었습니다. 이제 여러분이 직접 포착할 수 있는 영역에서, 자신의 전문 분야에서 이를 확인해볼 시간입니다.
작업 목록으로 돌아가서 자신의 전문 지식에 가장 자신 있는 작업을 선택하세요. 돌아온 결과를 검증할 수 있어야 하므로, 자신이 전문가인 주제가 필요합니다. 해당 분야에서 구체적이고 확인 가능한 사실 다섯 가지를 적어보세요: 어떤 사람의 직함, 발행일, 통계, 제품 사양, 직접 인용문, URL. 정확하다고 알고 있고 독립적으로 확인할 수 있는 것들이어야 합니다.
이제 세 가지 테스트를 실행해 보세요:
- 테스트 1: 역량 영역. AI에게 해당 분야에서 잘 알려진 개념을 설명하거나 요약해 달라고 요청하세요. 대중적이고 잘 문서화된 것이어야 합니다. 유창함을 주목하세요. 내용을 부분적으로 확인해 보세요. 이것이 역량 영역이 느껴지는 방식입니다: 매끄럽고, 자신감 있고, 대체로 정확합니다.
- 테스트 2: 압박 속의 구체성. AI에게 해당 분야에서 확인 가능한 구체적인 사항 다섯 가지를 제공해 달라고 요청하세요: 세 가지 출처를 인용하고, 저자 이름을 밝히고, 정확한 수치를 제시하고, URL을 제공하도록 하세요. 각각을 검증하세요. 5점 만점으로 점수를 매겨보세요: 몇 개가 완전히 정확했나요? 날조한 경우, 그것을 얼마나 자신 있게 말했는지 기록하세요.
- 테스트 3: 실제로 작동하는 샘플링. 새로운 대화에서 동일한 구체적 사실 요청을 실행하세요. 두 결과물을 비교하세요. 무엇이 일관되게 유지되었나요? 무엇이 바뀌었나요? 여러분이 보는 변화는 다음 토큰 예측의 샘플링이 작동하는 모습입니다.
심화 목표: 인용 기능이 활성화된 도구(예: Claude의 Research 모드)에서 테스트 2를 다시 실행해 보세요. 다시 점수를 매겨보세요. 확인할 출처가 있다는 것이 점수를 바꾸나요?
레슨 회고
- 잘 알지 못하는 분야였다면 날조를 포착할 수 있었을까요?
- 작업 목록을 살펴보세요: 어떤 작업이 주로 역량 영역에 속하고, 어떤 작업이 검증이 필요한 구체성으로 넘어가나요?
다음 단계
다음 토큰 예측은 AI가 어떻게 생성하는지를 설명합니다. 다음으로는 AI가 무엇을 바탕으로 생성하는지, 즉 Knowledge(지식) 속성을 살펴보겠습니다. 모델은 실제로 무엇을 알고 있으며, 그 지식은 어디에서 오고, 어디에 공백이 있을까요?