엔비디아 GPU 수요 급증: 소라(SORA) 영상 생성 시대를 맞이하여

오늘은 최근 오픈AI에서 발표한 소라 영상 생성 AI 모델과 관련하여 엔비디아 GPU의 필요성에 대해 이야기해보려 합니다.

소라는 디자이너, 영화 제작자, 일반 사용자까지 누구나 텍스트 프롬프트를 통해 영상을 제작할 수 있도록 하는 혁신적인 모델입니다. 하지만 이러한 혁신적인 기능을 구현하기 위해서는 엄청난 양의 계산량이 필요합니다.

 

 

1. 학습량

소라 모델을 학습시키기 위해서는 60초 길이의 영상을 초당 24프레임으로 변환하여 총 14,440개의 프레임을 처리해야 합니다. 또한, 트랜스포머 모델을 사용하여 이미지를 생성하기 때문에 기존 모델보다 180배, 데이터셋 크기가 30배 더 큰 계산량이 필요합니다.

 

2. 추론량

학습량보다 더 큰 문제는 추론량입니다. 사용자들이 소라 모델을 사용하여 영상을 제작할 때마다 엄청난 양의 GPU 계산량이 필요합니다. 이미지 생성 모델의 경우 학습량과 추론량이 비슷하지만, 영상 생성 모델은 학습량보다 추론량이 훨씬 많습니다.

 

3. GPU 필요량

소라 모델을 학습시키기 위해서는 엔비디아 H100 GPU 4,000개를 한 달 동안 돌려야 합니다. 또한, 유튜브에 업로드되는 영상의 15%가 소라 모델로 제작된다고 가정하면 하루에 89,000개의 H100 GPU가 필요합니다. 실제로는 메모리 병목 현상, 시간대별 사용량 변동 등을 고려해야 하기 때문에 더 많은 GPU가 필요할 것입니다.

 

 3.1 소라 모델 학습 및 추론에 필요한 막대한 계산량

소라 모델은 학습 및 추론 과정에서 엄청난 계산량을 필요로 합니다. 연구 결과에 따르면, 1분 길이의 영상을 생성하기 위해서는 약 180배의 이미지 생성량이 필요하며, 이는 10^25 플러스 수준의 계산량에 해당합니다.

 

 3.2 연구 결과에 따른 수치 분석

• 학습:
  • 4,000~10,000개의 엔비디아 H100 GPU가 1개월 동안 24시간 가동되어야 함
• 추론:
  • 유튜브에 하루에 업로드되는 영상의 15%가 소라 모델로 생성된다고 가정할 경우, 89,000개의 H100 GPU가 필요
  • 실제로는 메모리 병목 현상, 시간대별 트래픽 변동 등을 고려해야 하며, 필요한 GPU 수는 훨씬 더 많을 것으로 예상

4. AI 시대의 시작

소라 모델은 AI 시대의 시작을 알리는 중요한 모델입니다. 앞으로 영상뿐만 아니라 다양한 분야에서 AI 모델의 활용이 증가할 것이며, 이에 따라 엔비디아 GPU를 비롯한 반도체 수요가 급증할 것으로 예상됩니다.

 

5. 결론

소라 모델은 엄청난 계산량을 필요로 하는 모델이지만, 동시에 AI 시대의 가능성을 보여주는 중요한 모델입니다. 앞으로 AI 기술의 발전과 함께 엔비디아 GPU의 중요성이 더욱 커질 것으로 예상됩니다.

 

참고자료:

• 엔비디아, AI GPU 수요 증가…수익성 개선 확대 전망: https://www.infostockdaily.co.kr/news/articleView.html?idxno=192026
• “GPU 불티나게 팔려요” 초대박 난 엔비디아: https://www.aitimes.com/news/articleView.html?idxno=151375
• Scalable Diffusion Models with Transformers: https://arxiv.org/abs/2207.05483