Deepseek, 일반 하드웨어 구성에서 잘 실행되는 무료 언어 모델 v3 출시

중국 AI 스타트업 DeepSeek이 최신 대규모 언어 모델(LLM) DeepSeek-V3-0324를 공식 출시했습니다. 최대 641GB 용량을 갖춘 이 모델은 지금까지 회사가 신제품에 대해 비밀스럽게 적용해 온 스타일에 맞춰 많은 정보를 공개하지 않은 채 AI 허깅 페이스 플랫폼에서 발표되었습니다.

이 모델의 특별한 점은 상업적 목적으로 무료로 사용할 수 있는 MIT 라이센스입니다. 초기 벤치마크 결과에 따르면 DeepSeek-V3-0324는 M3 Ultra 칩이 탑재된 Apple의 Mac Studio와 같은 주류 하드웨어 구성에서 실행될 수 있는 것으로 나타났습니다. AI 과학자 아우니 하눈(Awni Hannun)은 이 구성을 사용하여 초당 20개 이상의 토큰 처리 속도를 달성할 수 있다고 보고했습니다. 상용 하드웨어에서 대규모 언어 모델을 온프레미스에서 실행할 수 있는 이러한 기능은 고급 AI 모델을 지원하기 위해 대규모 데이터 센터 인프라를 사용하는 기존 접근 방식과 극명한 대조를 이룹니다.

DeepSeek의 정보에 따르면, 초기 테스트 결과 이전 버전에 비해 상당한 개선이 이루어진 것으로 나타났습니다. 이 모델은 내부 이해 관계자에 의해 엄격하게 테스트되었으며, 뛰어난 성능을 입증했습니다. 심지어 다른 모든 경쟁 모델보다 우수한 성과를 보였으며, 심층적인 사고가 필요하지 않은 작업에서는 Anthropic의 Claude Sonnet 3.5보다 우수했습니다. 하지만 유료 구독이 필요한 Sonnet 스타일 모델과 달리 DeepSeek-V3-0324는 완전히 무료로 다운로드하여 사용할 수 있습니다.

기술적으로 DeepSeek-V3-0324는 전문가 혼합(MoE) 아키텍처를 사용합니다. 이 알고리즘은 작업당 6,850억 개의 매개변수 중 약 370억 개를 선택적으로 사용하여 성능을 유지하면서 계산 요구 사항을 줄여 효율성을 높이는 기능이 특징입니다. 이 모델은 또한 컨텍스트 메모리를 개선하고 출력 속도를 높이는 데 기여하는 Multi-Head Latent Attention(MLA) 및 Multi-Token Prediction(MTP) 기술을 적용합니다.

사용자는 Hugging Face, OpenRouter의 채팅 인터페이스 및 API를 통해 DeepSeek-V3-0324에 접속할 수 있으며, 원하는 경우 DeepSeek의 채팅 플랫폼을 이용할 수도 있습니다. 추론 서비스 제공업체인 Hyperbolic Labs도 이 모델에 대한 액세스를 제공합니다.

DeepSeek-V3-0324를 출시함으로써 회사는 대규모 언어 모델 개발 경쟁에서 자사의 입지를 더욱 공고히 하는 동시에 AI 연구 및 개발 커뮤니티에 강력하고 접근하기 쉬운 옵션을 제공합니다. 상용 하드웨어에서 실행할 수 있는 기능과 무료 라이선스 덕분에 가까운 미래에 이 모델에 대한 많은 실용적인 응용 가능성이 열릴 것입니다.

Tags: #deepseek #deepseek-v3-0324 #대규모 언어 모델(llm) #중국어 AI