AI가 의미하는 것 · AI 역량과 한계

생성형 AI가 의미하는 것

AI가 의미하는 것 · 4분

요약대본

세상에 존재하는 대부분의 AI(스팸 필터, 추천, 사기 탐지)는 생성형이 아닙니다. 이 과정은 생성형 AI, 즉 한 번에 하나의 토큰씩 새로운 콘텐츠를 생성하는 트랜스포머 기반 텍스트 모델을 다룹니다.

기계에 대한 사고 모델 구축

핵심 요약

생성형 AI는 기존 콘텐츠를 분류하는 대신 새로운 콘텐츠를 생성합니다.
AI는 균일하게 능력이 있거나 균일하게 신뢰할 수 없는 것이 아닙니다. AI는 다음 토큰 예측, 지식, 작업 메모리, 조정 가능성이라는 네 가지 예측 가능한 축을 따라 강점과 약점을 가지고 있습니다.
각 속성은 연속선상에 있습니다. 동일한 메커니즘이 능력과 한계를 동시에 제공합니다.
보정된 신뢰란 신뢰를 전면적으로 부여하거나 보류하는 것이 아니라, 작업을 연속선상의 어디에 위치시킬지 파악하는 것을 의미합니다.

연습

생성형인가 아닌가?

왜 중요할까요? 방금 생성형 AI가 스팸을 필터링하고 다음 동영상을 추천하는 AI와 근본적으로 다르다는 것을 배웠습니다. 이제 그 구분을 자신의 경험에 적용해 볼 것입니다.

이번 주에 상호작용한 AI 기반 기능 다섯 가지를 나열하세요. 자동완성, 사진 태깅, 스팸 필터링, 챗봇 답변, 번역, 제품 추천, 음성 비서 등 폭넓게 생각해 보세요.
각 항목에 대해 자신의 판단을 적어보세요. 새로운 콘텐츠를 생성하는 것인가요, 아니면 기존 콘텐츠를 정렬, 순위화, 분류하는 것인가요?
목록을 AI와 공유하고 자신의 판단을 확인해 달라고 요청하세요. 틀렸거나 확신이 없었던 항목에 대해서는 한 문장으로 그 구분을 설명해 달라고 요청하세요. 그런 다음 이렇게 물어보세요: "이 다섯 가지 중 이 과정이 이해하는 데 도움을 줄 실패 모드를 가질 가능성이 가장 높은 것은 무엇인가요?"
레슨 1의 작업 목록으로 돌아가세요. 각 작업에 대해 지금 가장 관련성이 높다고 느껴지는 속성 질문으로 태그를 지정하세요:
- 답은 어디에서 나오는가? (다음 토큰 예측)
- 무엇을 알고 있는가? (지식)
- 무엇에 주의를 기울이고 있는가? (작업 메모리)
- 내가 얼마나 통제하고 있는가? (조정 가능성)

정답을 맞힐 것으로 기대되지는 않습니다. 다음 네 개의 레슨에서 검증할 예측을 만들어가는 과정입니다.

레슨 돌아보기

AI의 생성형/분류형 구분이 사용하는 도구에 대한 생각을 바꾸었나요?
작업 목록에 태그를 지정한 방식을 살펴보세요. 어떤 작업이 하나 이상의 속성에 속할 수 있다고 느껴졌나요?

다음 단계

네 가지 속성을 깊이 살펴보기 전에, AI 시스템이 어떻게 성격을 갖게 되는지에 대해 한 레슨을 할애할 것입니다. 왜 정중하고, 도움이 되고, 정직한지, 왜 때때로 너무 쉽게 동의하는지, 왜 특정 사항을 거부하는지에 대해서요. 이러한 형성 과정은 이후 모든 것에 흔적을 남깁니다.

생성형 AI가 의미하는 것

기계에 대한 사고 모델 구축

핵심 요약

연습