#19. 왜 AI 성능은 계속 바뀔까? (모델 업데이트와 AI 서비스의 변화)

19. 왜 AI 성능은 계속 바뀔까? (모델 업데이트와 AI 서비스의 변화)

먼저 읽으면 좋은 글


같은 AI 서비스를 계속 사용하다 보면 어느 순간 이런 생각이 들 때가 있습니다.

“예전보다 답을 잘하는 것 같은데?”

“무료로 사용할 때보다 유료로 사용하니까 더 잘하는 것 같은데?”

“처음 사용할 때보다 지금은 내가 원하는 것을 더 잘 알아듣는 것 같은데?”

반대로 같은 AI인데도 어떤 때는 답변이 빠르고, 어떤 때는 느리다고 느끼기도 합니다.

이런 변화를 모두 AI 모델 자체의 성능 향상이라고 생각하기 쉽지만 실제로는 그렇지 않습니다.

우리가 흔히 ‘AI 성능’이라고 말하는 것에는 서로 다른 변화가 섞여 있습니다.

AI 모델 자체의 능력이 달라질 수도 있고, AI 서비스를 이용하는 조건이 달라질 수도 있습니다.

AI 서비스가 사용자의 이전 대화나 선호를 참고하면서 더 적합한 답을 할 수도 있고, 인터넷이나 기기 환경에 따라 더 빠르거나 느리게 느껴질 수도 있습니다.

따라서 AI의 성능이 달라졌다고 느낄 때는 무엇이 달라진 것인지 구분해서 볼 필요가 있습니다.


AI 모델의 성능은 회사가 발전시킨다

먼저 AI 모델 자체의 성능을 생각해보겠습니다.

AI 모델은 사용자가 계속 질문한다고 해서 그 자리에서 스스로 계속 성장하는 것은 아닙니다.

AI를 개발하는 기업은 새로운 모델을 개발하거나 기존 모델을 업데이트하고 조정합니다.

이 과정에서 문장을 이해하는 능력, 추론하는 능력, 글을 작성하는 능력, 코드를 작성하는 능력, 이미지를 이해하는 능력 등이 달라질 수 있습니다.

그리고 새로운 모델이나 개선된 모델이 AI 서비스에 적용되면 사용자는 이전보다 더 좋은 답변을 받게 될 수 있습니다.

이 경우에는 실제로 AI 모델 자체의 능력이 달라진 것입니다.


같은 AI 서비스라도 이용할 수 있는 조건은 다를 수 있다

하지만 우리가 실제로 사용하는 것은 대부분 AI 모델 자체가 아니라 AI 모델을 이용할 수 있도록 만든 AI 서비스입니다.

예를 들어 GPT는 AI 모델이고, ChatGPT는 그 모델을 사용할 수 있도록 만든 AI 서비스입니다.

따라서 AI 모델의 성능과 AI 서비스를 사용하면서 느끼는 성능은 항상 같은 의미가 아닙니다.

AI 서비스는 여러 모델과 기능을 제공할 수 있고, 무료와 유료 같은 요금제에 따라 이용할 수 있는 범위가 달라질 수도 있습니다.

서비스에 따라 더 높은 요금제에서 더 성능이 높은 모델을 이용할 수 있거나, 더 많은 기능과 사용량을 제공할 수 있습니다.

이 경우 사용자는 자연스럽게

“유료로 바꾸니까 AI가 더 똑똑해졌네.”

라고 느낄 수 있습니다.

하지만 사용자가 돈을 지불했기 때문에 AI 모델 자체가 그 사용자를 위해 더 똑똑해진 것은 아닙니다.

사용할 수 있는 모델이나 기능, 사용량과 같은 서비스 이용 조건이 달라진 것입니다.


AI가 나를 더 잘 이해하게 된 것처럼 느낄 수도 있다

AI 서비스를 계속 사용하다 보면 처음보다 나에게 더 잘 맞는 답을 한다고 느끼는 경우도 있습니다.

이 역시 AI 모델 자체의 성능이 향상된 것과는 다를 수 있습니다.

AI 서비스가 이전 대화, 사용자가 알려준 정보, 저장된 선호나 메모리 등을 활용할 수 있다면 같은 AI 모델이라도 사용자에게 더 적합한 답을 만들 가능성이 높아집니다.

예를 들어 처음 사용하는 AI에게

“글을 하나 써줘.”

라고 요청했다고 생각해보겠습니다.

AI는 사용자가 어떤 문체를 좋아하는지, 글의 길이를 어느 정도로 원하는지, 전문적인 설명을 원하는지 쉬운 설명을 원하는지 알 수 없습니다.

하지만 사용자가 이전 대화에서

“전문용어를 너무 많이 사용하지 말고 비개발자도 이해할 수 있도록 설명해줘.”

라고 알려주었고 AI 서비스가 이 정보를 참고할 수 있다면 이후에는 그 조건에 더 맞는 글을 작성할 수 있습니다.

사용자는 이를 두고 AI가 이전보다 자신을 더 잘 이해한다고 느낄 수 있습니다.

하지만 이것이 반드시 AI 모델 자체가 사용자를 통해 다시 학습해 더 똑똑해졌다는 의미는 아닙니다.

AI가 답을 만들 때 참고할 수 있는 사용자 맥락이 늘어난 것입니다.


인터넷과 기기 환경은 AI를 사용하는 속도에 영향을 줄 수 있다

AI가 더 빠르거나 느려졌다고 느끼는 경우에는 사용 환경도 영향을 줄 수 있습니다.

우리가 사용하는 생성형 AI 서비스는 일반적으로 사용자의 컴퓨터에서 모든 AI 계산을 직접 처리하는 것이 아니라 서버에서 AI 모델을 실행하고 결과를 인터넷을 통해 전달합니다.

따라서 인터넷 연결이 빠르고 안정적이면 질문을 전달하고 답변을 받는 과정도 더 원활하게 느껴질 수 있습니다.

파일을 AI 서비스에 업로드할 때도 인터넷 업로드 속도에 따라 파일을 전달하는 데 걸리는 시간이 달라질 수 있습니다.

사용하는 컴퓨터나 스마트폰, 브라우저의 상태 역시 화면 표시나 서비스 조작의 원활함에 영향을 줄 수 있습니다.

하지만 인터넷 속도가 빨라졌다고 해서 AI 모델의 추론 능력이 좋아지는 것은 아닙니다.

컴퓨터를 새것으로 바꿨다고 해서 AI 모델이 더 정확한 답을 만드는 것도 아닙니다.

이 경우 달라지는 것은 주로 AI 모델의 성능이 아니라 AI 서비스를 사용하는 속도와 사용 경험입니다.


우리가 말하는 ‘AI 성능’에는 여러 가지가 섞여 있다

지금까지 살펴본 내용을 하나의 표로 정리하면 다음과 같습니다.

무엇이 달라졌나실제 변화사용자가 느끼는 것
AI 모델회사가 새로운 모델을 개발하거나 업데이트·조정답변 능력이 좋아짐
서비스 요금제이용 가능한 모델·기능·사용량 등이 달라짐더 높은 성능이나 더 많은 기능을 체감할 수 있음
사용자 맥락이전 대화·메모리·선호 등의 정보를 활용AI가 나를 더 잘 이해하는 것처럼 느껴짐
사용 환경인터넷·기기·브라우저 등의 차이더 빠르고 원활하게 느껴짐

네 가지 모두 사용자가 AI를 이용하면서 느끼는 경험에 영향을 줄 수 있습니다.

하지만 변화가 발생하는 이유는 서로 다릅니다.

AI 모델 자체가 발전한 것과 더 높은 요금제에서 다른 모델이나 기능을 사용할 수 있게 된 것은 다릅니다.

AI가 사용자의 취향에 더 잘 맞는 답을 하는 것 역시 모델 자체의 추론 능력이 향상된 것과는 다를 수 있습니다.

인터넷과 기기 환경이 좋아져 AI 서비스를 더 빠르고 원활하게 사용할 수 있게 된 경우도 마찬가지입니다.

이때 달라진 것은 AI 모델의 능력이 아니라 사용 환경입니다.

따라서 우리가 흔히 말하는 ‘AI 성능’에는 모델 자체의 성능, 서비스 이용 조건, 사용자 맥락, 사용 환경이 함께 섞여 있을 수 있습니다.

이 차이를 구분하면 AI가 실제로 더 똑똑해진 것인지, 아니면 AI 서비스를 사용하는 경험이 달라진 것인지 더 정확하게 이해할 수 있습니다.


DANA NOTES 한 줄 정리

우리가 ‘AI 성능이 좋아졌다’고 느끼는 데에는 AI 모델의 발전뿐 아니라 서비스 이용 조건, 사용자 맥락, 인터넷과 기기 같은 사용 환경도 영향을 줄 수 있습니다. 중요한 것은 AI 모델 자체의 성능과 AI 서비스를 사용하면서 느끼는 성능을 구분하는 것입니다.

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤