알리바바, DeepSeek의 강력한 경쟁자 QwQ-32b 공개

알리바바가 최신 추론 모델을 공식적으로 발표했고, 알리바바의 "과장된 광고"가 사실이라면 DeepSeek과 OpenAI에는 우려의 여지가 있는 듯합니다. 이 모델은 오픈 소스이므로 누구나 무료로 접근하여 체험할 수 있습니다.

알리바바의 새로운 AI 모델은 QwQ-32b(Quan-with-Questions)로 명명되었으며, 현재 거의 모든 주요 언어 모델보다 훨씬 적은 매개변수로 실행되므로 필요한 리소스도 적습니다. 알리바바는 QwQ-32b의 성능이 DeepSeek 또는 OpenAI의 o1-mini와 동일 수준이라고 주장합니다.

DeepSeek-R1 대규모 언어 모델(LLM)은 2월 초에 출시되어 큰 인기를 끌었으며, ChatGPT가 세운 황금 표준에 도전했지만 운영 비용은 훨씬 낮았습니다. 알리바바는 QwQ-32b를 통해 이 한계를 한층 더 넓히고자 하는 듯합니다.

기술적으로 DeepSeek-R1을 실행하려면 6,710억 개의 매개변수가 필요하며, 그 중 370억 개의 매개변수가 활성화되어 있습니다. 반면 알리바바의 QwQ-32b는 320억 개의 매개변수만 필요합니다. 이러한 숫자는 많은 사람에게 추상적으로 보일 수 있지만 컴퓨팅 성능에 엄청난 차이를 가져옵니다. DeepSeek-R1은 실행하는 데 1600GB의 VRAM이 필요한 반면, QwQ-32b는 24GB의 VRAM만 필요합니다. 대부분의 경우 Nvidia H100 또는 이와 동등한 그래픽 카드가 필요하지만, 게이머에게 친화적인 RTX 4090에도 24GB의 VRAM이 있습니다. 최신 RTX 5090에서는 이 숫자가 32GB로 늘어났습니다.

심지어 매개변수가 320억 개에 불과하더라도 QwQ-32B는 수학, 프로그래밍, 일반적인 문제 해결 등의 분야에서 R1과 동등하거나 더 나은 성능을 보인다는 주장도 있습니다. 알리바바는 또한 QwQ-32B가 1,000억 개의 매개변수로 구축된 OpenAI의 o1-mini보다 성능이 뛰어나다고 밝혔습니다. QwQ-32B는 세계 최대의 오픈소스 AI 모델 커뮤니티인 Hugging Face에서 사용할 수 있습니다.

알리바바의 QwQ-32b는 Apache 2.0 라이선스에 따라 제공되므로 기업과 연구자는 자유롭게 사용할 수 있습니다. 더 중요한 점은 알리바바의 Qwen Chat을 통해 이를 시도해 볼 수 있다는 것입니다. DeepSeek와 마찬가지로 QwQ-32b는 주제 제한 측면에서 몇 가지 제한이 있습니다. 예를 들어, 정치적인 문제에 대해 질문하면 Qwen Chat에서는 해당 주제가 부적절하다는 메시지를 표시합니다. 하지만 즉시 눈에 띄는 장점도 몇 가지 있습니다.

QwQ-32b는 빠르고 간단한 질문에도 매우 자세한 답변을 제공하는 것으로 보입니다. 이런 방식은 좋을 수도 있지만, 어떤 면에서는 매우 귀찮을 수도 있습니다. 요청하지 않은 불필요한 정보를 많이 제공하기 때문입니다. QwQ-32b의 장점 중 하나는 ChatGPT의 Deep Thinking 기능과 비슷하게 추론 과정 전체를 보여줄 수 있다는 점입니다. 다만 깊이는 덜합니다.

알리바바의 주장이 사실일지는 아직 알 수 없지만, ChatGPT와 DeepSeek에 이제 유력한 경쟁자가 생긴 것 같습니다.