유의사항
이 글은 AI의 동작 원리를 쉽게 이해하기 위한 교육용 콘텐츠입니다. 실제 AI 서비스마다 동작 방식과 기능은 조금씩 다를 수 있습니다.
이 글에서 다루는 내용
같은 질문인데 왜 답이 다를까?
#03 AI는 어떻게 답을 찾을까?에서 살펴본 것처럼 AI는 다음에 올 단어를 확률적으로 선택하며 답을 생성합니다. 그렇다면 왜 같은 질문을 해도 답이 달라질까요? 이번 글에서는 그 이유를 알아보겠습니다.
AI를 사용하다 보면 이런 경험을 한 번쯤 해보셨을 것입니다.
어제 했던 질문을 오늘 다시 했는데 답이 달라졌거나, 같은 날 같은 질문을 두 번 입력했는데도 표현이나 예시가 조금씩 달랐던 적이 있을 것입니다.
처음에는 “AI가 틀린 건가?”, “방금은 맞고 지금은 틀린 건가?”라는 생각이 들 수도 있습니다.
하지만 대부분의 경우 이것은 오류가 아니라 AI가 작동하는 방식 때문입니다.
AI는 정답을 미리 저장해 두었다가 꺼내 보여주는 프로그램이 아닙니다. 질문의 내용과 대화의 흐름을 종합하여 그 순간 가장 적절하다고 판단한 답을 찾아 만들어 냅니다.
그래서 같은 질문이라도 상황에 따라 조금씩 다른 답이 나올 수 있습니다.
질문하는 방식이 답을 바꿉니다.
AI에게 입력하는 질문이나 지시문을 프롬프트(Prompt)라고 합니다.
프롬프트는 단순히 질문 한 줄만 의미하는 것이 아닙니다. AI에게 전달하는 조건, 원하는 형식, 설명 수준까지 모두 포함합니다.
예를 들어 다음 두 질문을 비교해 보겠습니다.
- “다이어트 식단 추천해 줘.”
- “저탄수화물 다이어트 식단을 일주일 기준으로 추천해 줘.”
사람이 보기에는 비슷한 질문처럼 보이지만 AI는 서로 다른 요청으로 이해합니다.
첫 번째 질문은 선택지가 매우 넓기 때문에 다양한 식단을 제안할 수 있습니다. 반면 두 번째 질문은 저탄수화물이라는 조건과 일주일이라는 기간이 추가되어 훨씬 구체적인 답을 만들 수 있습니다.
또 다른 예를 살펴보겠습니다.
- “여행지 추천해 줘.”
- “9월에 아이 둘과 함께 갈 수 있는 국내 여행지를 추천해 줘.”
두 번째 질문에는 계절, 여행 대상, 지역이라는 정보가 추가되어 있습니다. AI는 이러한 조건을 모두 고려하여 답변을 생성합니다.
결국 질문이 구체적일수록 AI도 사용자의 의도를 더 정확하게 이해할 수 있습니다.
AI는 대화의 흐름도 함께 참고합니다.
AI는 현재 질문만 보는 것이 아니라, 같은 대화에서 앞서 나눈 내용도 함께 참고하는 경우가 많습니다. 이를 문맥(Context)이라고 합니다.
예를 들어 처음에 “저는 채식주의자입니다.”라고 이야기했다고 가정해 보겠습니다.
그 이후에 “오늘 저녁 메뉴를 추천해 줘.”라고 말하면 AI는 별도의 설명이 없어도 채식 메뉴를 추천하려고 합니다.
하지만 새로운 대화를 시작한 뒤 같은 질문을 하면 채식이라는 정보가 없기 때문에 일반적인 메뉴를 추천할 가능성이 높습니다.
이처럼 AI는 지금 입력한 한 문장만 해석하는 것이 아니라, 대화 전체의 흐름을 함께 고려하여 답을 생성합니다.
그래서 같은 사람이 같은 질문을 하더라도 어떤 대화를 나누었는지에 따라 결과가 달라질 수 있습니다.
같은 질문인데도 조금씩 다른 이유
한 가지 이유가 더 있습니다.
AI는 항상 하나의 정답만 선택하는 것이 아니라, 여러 가능성 있는 표현과 문장 가운데 가장 적절한 답을 만들어 갑니다.
예를 들어 같은 질문을 여러 번 입력하면 핵심 내용은 비슷하지만 설명 순서가 달라지거나 예시가 바뀌는 경우가 있습니다.
이것은 AI가 불안정해서가 아니라, 보다 자연스럽고 다양한 대화를 만들기 위한 설계 때문입니다.
만약 AI가 항상 똑같은 문장만 반복한다면 사람과 대화하는 느낌보다는 정해진 문장을 그대로 출력하는 프로그램처럼 느껴질 것입니다.
즉, AI는 핵심 의미는 유지하면서도 표현과 구성은 조금씩 달라질 수 있습니다.
원하는 답을 얻으려면 어떻게 해야 할까?
이 원리를 이해하면 AI를 사용하는 방법도 달라집니다.
원하는 답이 나오지 않았다면 AI가 틀렸다고 생각하기보다 질문이 충분히 구체적이었는지 먼저 살펴보는 것이 좋습니다.
설명 수준을 지정하거나, 필요한 조건을 함께 적고, 원하는 형식을 알려주면 AI는 훨씬 의도에 가까운 답을 생성할 수 있습니다.
또한 필요한 정보는 미리 알려주고, 이전 대화의 내용을 이어가며 질문하면 AI는 문맥을 더 잘 이해하여 일관성 있는 답변을 제공할 가능성이 높아집니다.
반대로 다양한 아이디어가 필요할 때는 같은 질문을 조금씩 바꾸거나 여러 번 시도해 보는 것도 좋은 방법입니다.
AI의 답은 고정된 정답을 찾아 보여주는 것이 아니라, 질문과 문맥을 바탕으로 만들어지는 결과입니다. 따라서 AI를 얼마나 잘 활용할 수 있는지는 AI 자체보다 사용자가 어떤 질문을 하느냐에 크게 달려 있습니다.
DANA NOTES 한 줄 정리
같은 질문에도 답이 달라지는 이유는 AI의 오류가 아니라, 프롬프트와 문맥에 따라 가장 가능성이 높은 답이 달라지기 때문입니다.
