같은 질문인데 왜 답이 조금씩 다를까요?
ChatGPT에게 같은 질문을 여러 번 해 보면 답이 조금씩 달라지는 경우가 있습니다.
어떤 때는 예시가 하나 더 들어가기도 하고, 어떤 때는 표현만 조금 달라지기도 합니다. 하지만 전체적인 의미는 거의 같습니다.
생성형 AI가 등장하기 전에는 대부분의 챗봇이 미리 준비된 답변을 보여주는 방식으로 동작했습니다.
질문과 답변을 미리 등록해 두고, 사용자의 질문과 가장 비슷한 답을 찾아 보여주는 방식이었습니다.
그래서 많은 사람들은 지금의 AI도 미리 저장된 답을 꺼내 보여주는 시스템이라고 생각합니다.
하지만 생성형 AI는 기존 챗봇과 동작 방식이 완전히 다릅니다.
생성형 AI는 질문을 받으면 그 순간 새로운 답을 찾아갑니다.
그렇다면 AI는 어떤 원리로 답을 찾는 것일까요?
AI는 통계와 확률을 이용해 다음 단어를 찾습니다.
AI를 설명할 때 흔히 ‘학습한다(Training)’라는 표현을 사용합니다.
한국어에서는 일반적으로 ‘학습’이라고 번역하지만, 이 표현 때문에 AI가 사람처럼 내용을 이해하고 지식을 익힌다고 오해하기 쉽습니다.
실제로 AI가 하는 일은 조금 다릅니다.
AI는 방대한 데이터를 반복해서 분석하며 어떤 단어가 자주 함께 등장하는지, 어떤 문장이 자연스럽게 이어지는지, 어떤 결과가 더 자주 나타나는지를 통계적으로 정리합니다.
쉽게 말하면 ‘다음에는 어떤 단어가 나올 가능성이 가장 높은가?’를 계속 계산하는 것입니다.
예를 들어 AI는 수많은 문서에서 ‘대한민국의 수도는 서울이다.’라는 문장을 반복해서 접합니다.
이 과정에서 ‘대한민국의 수도는’라는 문장 뒤에는 ‘서울’이 가장 자주 등장한다는 사실을 통계적으로 알게 됩니다.
즉, AI는 문장을 저장해 두는 것이 아니라, 하나의 단어 뒤에 어떤 단어가 가장 많이 등장하는지를 계속 찾는 것입니다.
AI는 이렇게 문장을 완성합니다.
이제 사용자가 “대한민국 수도가 어디야?”라고 질문했다고 가정해 보겠습니다.
AI는 질문을 읽은 뒤 바로 완성된 답을 꺼내는 것이 아닙니다.
먼저 ‘대한민국의 수도는’라는 문장 뒤에 어떤 단어가 올 확률이 가장 높은지 계산합니다.
수많은 데이터에서는 ‘서울’이 가장 많이 등장했습니다.
반대로 ‘부산’, ‘대전’, ‘광주’가 이어질 확률은 훨씬 낮습니다.
그래서 AI는 ‘서울’을 선택합니다.
하지만 여기서 끝나지 않습니다.
이번에는 ‘대한민국의 수도는 서울’이라는 문장 뒤에 어떤 단어가 올 확률이 가장 높은지 다시 계산합니다.
가장 높은 확률을 가진 단어는 ‘입니다.’입니다.
그래서 AI는 다시 ‘입니다.’를 선택합니다.
이 과정은 문장이 끝날 때까지 계속 반복됩니다.
결국 AI는 완성된 문장을 한 번에 꺼내는 것이 아니라, 다음에 올 가능성이 가장 높은 단어를 하나씩 선택하면서 문장을 완성합니다.
이 모든 과정은 사람이 느끼지 못할 정도로 매우 빠른 속도로 이루어집니다.
그래서 같은 질문에도 답이 조금씩 달라질 수 있습니다.
AI는 항상 똑같은 문장을 만드는 것은 아닙니다.
질문의 표현이 조금만 달라져도 다음에 선택할 수 있는 단어들이 달라질 수 있습니다.
예를 들어 같은 내용을 묻더라도 어미를 조금 바꾸거나, 조건을 하나 더 추가하거나, 질문을 더 구체적으로 작성하면 AI가 이어 가는 문장의 흐름도 달라질 수 있습니다.
또 비슷한 표현이 여러 개 있다면 그중 하나가 선택될 수도 있습니다.
그래서 어떤 때는 짧게 답하고, 어떤 때는 예시를 하나 더 설명하거나 조금 더 자세한 내용을 덧붙이기도 합니다.
결국 질문이 달라지면 AI가 만드는 문장도 달라질 수 있습니다.
이것이 생성형 AI입니다.
생성형 AI는 저장된 답을 검색해서 보여주는 시스템이 아닙니다.
데이터를 분석하여 얻은 통계와 확률을 바탕으로, 다음에 올 가능성이 가장 높은 단어를 하나씩 선택하며 새로운 문장을 만들어 내는 시스템입니다.
우리가 AI와 자연스럽게 대화할 수 있는 이유도 이 과정이 사람이 느끼지 못할 정도로 빠르게 반복되기 때문입니다.
DANA NOTES 한 줄 정리
AI는 생각해서 답을 만드는 것이 아니라, 통계와 확률을 이용해 다음에 올 가능성이 가장 높은 단어를 계속 선택하며 문장을 만들어 갑니다. 그래서 질문이 달라지면 AI의 생각이 바뀌는 것이 아니라, 다음에 선택하는 단어들의 확률이 달라지는 것입니다.
