1. AI 모델 회사는 무엇을 직접 준비하고 무엇을 외부에서 가져올까?
AI 모델을 개발한다고 해서 회사가 필요한 모든 것을 직접 만드는 것은 아닙니다.
회사가 직접 갖춰야 하는 핵심 역량도 있고, 외부 기업에서 구매하거나 빌려야 하는 자원도 있습니다.
큰 틀에서는 다음 두 영역으로 나눠서 볼 수 있습니다.
- 회사 내부에서 준비하는 것: 데이터, 모델 개발, 전문인력, 평가와 보안 등
- 회사 외부에서 확보하는 것: 연산 자원, 데이터센터, 전력·냉각·네트워크 등
그리고 실제 AI 개발은 이 두 영역을 연결해 하나의 개발 환경을 만드는 과정입니다.
2. 회사 내부에서는 무엇을 준비해야 할까?
데이터
AI 모델이 학습할 데이터를 준비해야 합니다.
단순히 데이터를 많이 모으는 것만으로 끝나는 것은 아닙니다.
- 어떤 데이터를 사용할지 결정
- 필요한 데이터를 수집하거나 구매
- 오류·중복 데이터 정리
- 학습에 사용할 수 있는 형태로 가공
- 데이터의 품질과 사용 권한 확인
데이터를 외부에서 구할 수는 있어도, 어떤 데이터를 어떻게 학습에 사용할 것인지 결정하는 일은 AI 모델 회사의 핵심 업무입니다.
모델 개발
AI 모델의 구조와 학습 방법을 설계하고 실제 학습을 진행해야 합니다.
한 번 만들어 끝나는 것이 아니라,
개발 → 학습 → 평가 → 수정 → 다시 학습
과정을 반복합니다.
전문인력
AI 연구자만 있다고 모델을 만들 수 있는 것도 아닙니다.
모델의 규모와 회사에 따라 차이는 있지만 일반적으로
- AI 연구·개발
- 데이터
- 소프트웨어
- 인프라
- 평가·안전
- 보안
등 여러 분야의 인력이 함께 필요합니다.
3. AI 학습에 필요한 연산 자원은 어떻게 확보할까?
AI 모델을 학습하려면 매우 많은 계산을 처리할 수 있는 컴퓨팅 자원이 필요합니다.
여기에서 대표적으로 사용되는 것이 GPU와 AI 가속기입니다.
하지만 AI 모델 회사가 모든 장비를 직접 구매해야 하는 것은 아닙니다.
- 직접 서버와 GPU를 구매할 수도 있고
- 클라우드에서 필요한 만큼 빌릴 수도 있고
- 외부 인프라 기업과 장기 계약을 맺을 수도 있고
- 특정 기업과 전용 AI 인프라를 구축할 수도 있습니다.
따라서 중요한 것은 단순히 장비를 소유하는가가 아니라 모델을 학습하는 동안 필요한 연산 능력을 안정적으로 확보할 수 있는가입니다.
4. 데이터센터는 직접 지어야 할까?
연산 장비가 많아지면 장비를 설치하고 운영할 공간도 필요합니다.
하지만 데이터센터 역시 AI 모델 회사가 반드시 직접 소유해야 하는 것은 아닙니다.
회사는 상황에 따라
- 자체 데이터센터를 운영하거나
- 다른 회사의 데이터센터를 이용하거나
- 클라우드 사업자의 데이터센터를 이용하거나
- 인프라 기업과 함께 전용 시설을 구축할 수 있습니다.
즉 AI 모델을 개발하는 회사와 실제 데이터센터를 건설·운영하는 회사가 같을 필요는 없습니다.
5. 연산 장비가 많아지면 왜 전력·냉각·네트워크까지 필요할까?
대규모 AI 모델을 학습하려면 많은 연산 장비가 동시에 작동해야 합니다.
그러면 필요한 자원도 함께 늘어납니다.
연산 장비
→ 서버
→ 고속 네트워크
→ 전력
→ 냉각
→ 데이터센터
연산 장비에는 전력이 필요하고, 장비가 작동하면서 발생하는 열을 식혀야 합니다.
여러 장비가 함께 계산하려면 빠르게 데이터를 주고받을 수 있는 네트워크도 필요합니다.
그래서 대규모 AI 개발은 단순한 소프트웨어 개발을 넘어 물리적인 IT 인프라를 확보하는 문제와 연결됩니다.
6. 보안은 회사가 직접 할까, 외부 업체에 맡길까?
보안 역시 한쪽에서 전부 담당하기보다는 회사 내부와 외부 사업자가 역할을 나누는 경우가 많습니다.
AI 모델 회사 내부에서는
- 학습 데이터 접근 관리
- 모델과 소스코드 보호
- 직원 권한 관리
- 서비스와 모델의 보안
- AI 악용 방지와 안전 관리
등을 담당해야 합니다.
반면 외부에서는
- 데이터센터의 물리적 보안
- 클라우드 인프라 보안
- 네트워크·보안 장비
- 외부 보안 점검과 전문 서비스
등을 제공할 수 있습니다.
외부 서비스를 사용한다고 해서 AI 회사의 보안 책임이 사라지는 것은 아닙니다.
7. 그렇다면 AI 모델 개발에는 어디에서 비용이 발생할까?
앞에서 살펴본 요소들은 모두 비용으로 연결됩니다.
회사 내부
- 데이터 준비와 관리
- 모델 연구·개발
- 전문인력
- 반복적인 학습과 평가
- 안전과 보안
- 개발에 필요한 시간
회사 외부
- 연산 자원
- 서버와 클라우드
- 데이터센터
- 전력과 냉각
- 네트워크
- 외부 데이터
- 전문 서비스
따라서 AI 모델 개발에 필요한 투자는 특정 장비 하나의 가격이 아니라, 모델을 개발하고 학습시키고 운영할 수 있는 전체 환경을 만드는 비용으로 봐야 합니다.
8. 모든 AI 회사가 이렇게 많은 자원을 필요로 할까?
그렇지는 않습니다.
‘AI를 만든다’는 말 안에도 여러 단계가 있기 때문입니다.
예를 들어,
- 대규모 AI 모델을 처음부터 개발하는 회사
- 기존 모델을 추가 학습해 사용하는 회사
- 이미 만들어진 AI 모델을 이용해 서비스를 만드는 회사
는 필요한 자원의 규모가 크게 다릅니다.
대규모 모델을 처음부터 직접 개발할수록 데이터·연산·인프라·인력에 대한 투자가 커지고, 기존 모델을 활용할수록 직접 부담해야 하는 영역은 줄어듭니다.
그래서 AI 회사라는 이유만으로 모두 같은 규모의 투자가 필요한 것은 아닙니다.
DANA NOTES 한 줄 정리
AI 모델을 개발하려면 데이터와 전문인력 같은 내부 역량뿐 아니라 연산 자원, 데이터센터, 전력, 냉각, 네트워크 같은 외부 인프라까지 함께 확보해야 하며, 직접 개발하는 범위가 커질수록 필요한 투자도 커집니다.
