Microsoft, DeepSeek를 PC Copilot+ 플랫폼에 통합

1월에 Microsoft는 DeepSeek-R1 모델의 NPU 최적화 버전을 Qualcomm Snapdragon X 프로세서에서 실행되는 Copilot+ 컴퓨터에 직접 제공할 계획이라고 발표했습니다. 2월에는 DeepSeek-R1-Distill-Qwen-1.5B가 VSCode용 AIToolkit에 처음 출시되었습니다.

오늘 레드먼드에 위치한 이 회사는 Azure AI Foundry를 통해 Copilot+ 컴퓨팅 플랫폼에 맞춰 개선된 DeepSeek R1 7B 및 14B 모델을 출시한다고 공식 발표했습니다. Copilot+ 장치에서 7B 및 14B 모델을 직접 실행할 수 있는 기능을 통해 개발자는 이전에는 불가능했던 더욱 강력한 AI 애플리케이션을 구축할 수 있습니다.

이러한 모델은 NPU에서 실행되므로 사용자는 배터리 수명과 컴퓨터의 열 성능에 거의 영향을 미치지 않으면서 안정적인 AI 성능을 기대할 수 있습니다. 또한 CPU와 GPU의 부담이 줄어들어 시스템에서 다른 더 중요한 작업을 수행할 수 있게 됩니다.

Microsoft는 DeepSeek 모델의 모든 변형을 int4까지 양자화하기 위해 자체 자동 양자화 도구인 Aqua를 사용했다고 강조했습니다. 하지만 해당 모델의 토큰 처리 속도는 매우 느립니다. Microsoft는 14B 모델에서는 초당 8개의 토큰만 보고하고 1.5B 모델에서는 초당 거의 40개의 토큰을 보고합니다. Microsoft는 속도 개선을 위해 지속적으로 최적화하고 있다고 밝혔습니다. Microsoft가 성능을 지속적으로 개선함에 따라 이러한 모델이 Copilot+ 컴퓨터에 미치는 영향도 상당히 증가할 것으로 예상됩니다.

관심 있는 개발자는 VS Code용 AI Toolkit 확장을 통해 Copilot+ 컴퓨터에서 DeepSeek 모델의 1.5B, 7B, 14B 변형을 다운로드하여 실행할 수 있습니다. DeepSeek 모델은 ONNX QDQ 형식으로 최적화되었으며 Azure AI Foundry에서 직접 다운로드됩니다. 이러한 모델은 Intel Core Ultra 200V 및 AMD Ryzen 프로세서를 실행하는 향후 Copilot+ 컴퓨터에도 등장할 예정입니다.

많은 사람들은 Microsoft가 DeepSeek와 협력함으로써 위험을 감수하고 있다고 생각합니다. DeepSeek를 Windows 생태계에 통합하면 기술 도용 혐의가 타당하다고 판명될 경우 Microsoft가 문제에 직면할 수 있습니다. 하지만 DeepSeek이 AI 시장에서 큰 진전을 이루고 있다는 점은 부인할 수 없습니다. Microsoft의 이러한 움직임은 더욱 강력한 온디바이스 AI 기능을 향한 추진을 의미하며, AI 기반 애플리케이션에 대한 새로운 전망을 열어줍니다.