딥시크
더 많은 작업
- DeepSeek; 딥시크
- 중국 항저우의 인공지능 기업, 그리고 이 회사가 가중치를 공개해 온 대형 언어 모델 계열
딥시크(DeepSeek, 深度求索)는 중국 저장성 항저우에 있는 인공지능 연구 기업이자, 이 회사가 개발한 대형 언어 모델 계열의 이름이다. 정식 회사명은 항저우 딥시크 인공지능 기초기술연구 유한회사(杭州深度求索人工智能基础技术研究有限公司)이며, 퀀트 헤지펀드 하이플라이어(High-Flyer, 幻方量化)의 공동 창업자 량원펑(梁文锋)이 세웠다.[1]
딥시크는 전문가 혼합(MoE)과 어텐션 구조를 고쳐 학습·추론 비용을 낮춘 모델을 연달아 내고, 대부분의 모델 가중치와 기술 보고서를 공개해 왔다. 2024년 12월의 DeepSeek-V3와 2025년 1월의 추론 모델 DeepSeek-R1은 미국 선두 기업의 모델에 근접한 성능을 훨씬 적은 학습 연산으로 냈다고 발표돼, 미국 기술주 급락과 "AI 개발에 막대한 GPU가 꼭 필요한가"라는 논쟁을 불렀다. 한편 데이터가 중국 서버로 전송된다는 점 때문에 이탈리아, 한국 등에서 앱 제공이 제한되기도 했다.
| 공개 | 모델 | 내용 |
|---|---|---|
| 2024-01 | DeepSeekMoE | 전문가를 잘게 나누고 공유 전문가를 두는 MoE 구조 제안[4] |
| 2024-02 | DeepSeekMath 7B | 수학 특화 모델, 강화 학습 알고리즘 GRPO 제안[5] |
| 2024-05 | DeepSeek-V2 | 전체 2,360억, 토큰당 활성 210억 매개변수 MoE, MLA 도입, 컨텍스트 12만 8천[6] |
| 2024-09-05 | DeepSeek-V2.5 | 일반 대화 모델과 코딩 모델 통합[7] |
| 2024-12-26 | DeepSeek-V3 | 전체 6,710억, 활성 370억 매개변수, 14.8조 토큰 학습[3] |
| 2025-01-20 | DeepSeek-R1 | 강화 학습으로 추론 능력을 키운 추론 모델, MIT 라이선스[8] |
| 2025-03-25 | DeepSeek-V3-0324 | V3 개정판[7] |
| 2025-05-28 | DeepSeek-R1-0528 | R1 개정판[7] |
| 2025-08-21 | DeepSeek-V3.1 | 한 모델에서 추론 모드와 비추론 모드 전환, 에이전트·도구 사용 강화[9] |
| 2025-09-29 | DeepSeek-V3.2-Exp | 희소 어텐션 DSA(DeepSeek Sparse Attention) 도입, API 가격 50% 이상 인하[10] |
| 2025-12-01 | DeepSeek-V3.2, V3.2-Speciale | 도구 사용 중 추론 통합. Speciale는 IMO·IOI 2025 등에서 금메달 수준 성적을 냈다고 발표[11] |
| 2026-04-24 | DeepSeek-V4 미리 보기 | V4-Pro(전체 1.6조/활성 490억), V4-Flash(전체 2,840억/활성 130억), 컨텍스트 100만 토큰[12] |
| 2026-08-13 | DeepSeek-V4-Pro 정식 | 에이전트 기능 강화, 추론 강도 조절[7] |
| 2026-09-10 | DeepSeek-V4.1-Flash | 전체 5,520억 MoE, 입력 쪽 활성 80억·출력 쪽 활성 160억의 인과적 인코더-디코더 구조, 네이티브 이미지 이해[13] |
이 밖에 코드 모델 DeepSeek-Coder 계열, 비전-언어 모델 DeepSeek-VL 계열, 이미지 이해와 생성을 한 모델로 하는 Janus 계열, 수학 정리 증명 모델 DeepSeek-Prover 계열이 있다.
V2에서 도입한 멀티 헤드 잠재 어텐션(Multi-head Latent Attention, MLA)은 어텐션의 키와 값을 그대로 저장하지 않고 저차원 잠재 벡터 하나로 압축해 KV 캐시에 넣는다. 추론할 때는 이 잠재 벡터에서 키와 값을 복원한다. V2 논문은 이전 67B 밀집 모델과 비교해 KV 캐시를 93.3% 줄이고 최대 생성 처리량을 5.76배로 높였다고 보고했다.[6] 긴 컨텍스트에서 메모리를 가장 많이 차지하는 것이 KV 캐시이므로, MLA는 서비스 비용을 직접 낮추는 기술이다. 그룹 쿼리 어텐션(GQA)이 헤드 수를 줄여 캐시를 줄이는 것과 달리, 저차원 압축으로 줄인다는 점이 다르다. 어텐션 일반은 어텐션 메커니즘 문서 참고.
V3는 다음 토큰 하나가 아니라 여러 개 뒤의 토큰까지 예측하도록 하는 다중 토큰 예측(MTP) 목표로 학습했고, 대규모 모델 학습에 FP8 혼합 정밀도를 적용했다.[3] 이런 공학적 최적화가 적은 GPU로 큰 모델을 학습한 근거로 제시됐다.
GRPO(Group Relative Policy Optimization)는 DeepSeekMath에서 제안한 강화 학습 알고리즘으로, 근접 정책 최적화(PPO)의 변형이다.[5] PPO가 보상의 기준값을 추정하려고 정책 모델만 한 크기의 가치(critic) 모델을 따로 학습하는 반면, GRPO는 같은 질문에 대해 답을 여러 개 생성하고 그 묶음 안에서의 상대 점수를 기준으로 삼아 가치 모델을 없앤다. 메모리와 연산이 크게 줄어 큰 모델에 강화 학습을 적용하기 쉬워진다.
R1 논문은 사람이 쓴 추론 예시 없이 순수 강화 학습만으로도 자기 검증, 반성 같은 추론 행동이 나타난다고 보고했다. 정답을 기계적으로 확인할 수 있는 수학·코딩 문제에서 규칙 기반 보상을 주고 GRPO로 학습한 모델이 R1-Zero이며, 가독성과 언어 혼용 문제를 고치려고 소량의 예시 데이터로 먼저 미세 조정한 뒤 여러 단계 강화 학습을 거친 모델이 R1이다.[14] 이 논문은 동료 심사를 거쳐 2025년 9월 17일 《네이처》에 실렸다.[15] 딥시크는 R1의 출력으로 Qwen과 라마 기반 소형 모델 6종(Qwen2.5 1.5B·7B·14B·32B, 라마 3.1 8B, 라마 3.3 70B 기반)을 증류해 함께 공개했고,[14] 32B와 70B 증류 모델이 OpenAI o1-mini와 비슷한 수준이라고 발표했다.[8] 추론 모델 일반은 추론 모델 (인공지능) 문서 참고.
V3 기술 보고서는 전체 학습에 H800 GPU 278만 8천 시간이 들었고, GPU 임대료를 시간당 2달러로 가정하면 약 557만 6천 달러라고 계산했다. 같은 보고서는 이 금액이 V3 공식 학습만 포함하며, 그 전의 구조·알고리즘·데이터 연구와 실험 비용은 빠져 있다고 명시했다.[3]
그런데 이 "약 600만 달러"라는 숫자가 널리 퍼지면서, 미국 기업들이 수억~수십억 달러를 쓰는 것과 비교되는 회사 전체의 개발비처럼 받아들여졌다. 실제로 이 수치에는 GPU 구입비, 연구 인력 비용, 실패한 실험, 데이터 준비, R1의 추가 강화 학습 비용이 들어 있지 않다. 앤트로픽 최고경영자 다리오 아모데이는 2025년 1월 글에서 딥시크의 성과가 인상적이지만 학습비가 해마다 낮아지는 기존 추세에서 크게 벗어난 것은 아니라고 평가했다.[16] 요컨대 보고서의 숫자 자체는 계산 근거가 명시된 "최종 학습 1회분의 GPU 임대 환산 비용"이며, 개발 총비용과는 다른 개념이다.
R1이 공개되고 딥시크 앱이 주목받은 직후인 2025년 1월 27일, 엔비디아 주가는 하루에 약 17% 떨어졌다. 블룸버그는 이 날 엔비디아 시가총액이 약 5,890억 달러 줄어 미국 증시 역사상 단일 기업의 하루 최대 감소폭을 기록했다고 보도했다.[17] 적은 연산으로 비슷한 모델을 만들 수 있다면 AI 반도체 수요가 줄 수 있다는 우려가 배경이었다. 반대로 학습과 추론이 싸지면 AI 사용량이 늘어 전체 연산 수요는 오히려 커진다는 반론(제번스의 역설)도 있다.
딥시크 앱과 웹 서비스는 입력 내용과 기기 정보를 중국 서버에 저장한다. 이 때문에 여러 나라의 개인정보 감독 기관과 정부가 조치를 취했다.
- 이탈리아: 개인정보 감독 기관(Garante)은 2025년 1월 28일 딥시크에 수집 데이터와 저장 위치를 묻는 자료를 요구했고, 딥시크가 이탈리아에서 영업하지 않아 유럽 법이 적용되지 않는다고 답하자 1월 30일 이탈리아 사용자 데이터 처리를 즉시 제한하는 명령을 내렸다.[18]
- 한국: 개인정보보호위원회는 2025년 2월 17일, 딥시크 앱의 국내 신규 다운로드가 2월 15일 오후 6시부터 잠정 중단됐다고 발표했다. 개인정보 처리방침이 국내법이 요구하는 제3자 제공 내역을 제대로 담지 않았고, 이용자 정보가 바이트댄스에도 전송된 사실을 확인했다며, 개선에 시간이 걸린다고 보고 중단을 권고했고 딥시크가 이를 받아들였다. 기존 설치 앱과 웹 이용은 막지 않았다.[19] 같은 해 4월 개인정보보호위원회는 이용자 동의 없는 국외 이전 중단, 이미 넘어간 프롬프트 삭제, 한국어 처리방침 공개 등을 담은 시정 권고를 의결했다.[20]
- 그 밖의 나라: 호주, 일본, 대만, 미국 일부 주 등은 정부 기기에서 딥시크 사용을 금지했다고 보도됐다.[19]
중국에서 운영되는 딥시크 웹·앱 서비스는 중국의 생성형 AI 규제를 받으며, 중국 정치와 관련된 민감한 질문에 답을 거부하거나 답을 생성하다가 지우는 사례가 알려져 있다. 공개된 가중치를 자체 서버나 다른 업체의 클라우드에서 실행하면 데이터가 중국으로 가지 않지만, 모델 자체에 학습된 편향은 남을 수 있다. 관련 내용은 검열 문서 참고.
딥시크는 대부분의 모델 가중치를 허깅 페이스에 공개한다. 초기 모델은 코드는 MIT 라이선스, 모델 가중치는 이용 제한 조항이 있는 자체 모델 라이선스(DeepSeek License Agreement)로 배포했으며, V3 저장소는 이 모델 라이선스 아래에서도 상업적 이용이 가능하다고 밝혔다.[21] R1은 코드와 가중치 모두 MIT 라이선스로 공개해, 증류와 상업적 이용을 자유롭게 허용하고 API 출력으로 다른 모델을 학습시키는 것도 허용한다고 밝혔다.[8]
다만 학습 데이터와 학습 코드는 공개하지 않으므로, 엄밀한 의미의 오픈 소스라기보다는 가중치만 공개한 오픈 웨이트 모델에 해당한다. 메타 라마의 라이선스와 비교하면 사용자 수 제한이 없는 MIT 라이선스여서 이용 조건은 더 자유롭다.
- ↑ 1.0 1.1 Financial Times, "The Chinese quant fund-turned-AI pioneer", 2024-06-09.
- ↑ Financial Times, "How small Chinese AI start-up DeepSeek shocked Silicon Valley", 2025-01-24.
- ↑ 3.0 3.1 3.2 3.3 3.4 DeepSeek-AI, 〈DeepSeek-V3 Technical Report〉, 2024. arXiv:2412.19437
- ↑ 4.0 4.1 Damai Dai 외, 〈DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models〉, 2024. arXiv:2401.06066
- ↑ 5.0 5.1 Zhihong Shao 외, 〈DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models〉, 2024. arXiv:2402.03300
- ↑ 6.0 6.1 DeepSeek-AI, 〈DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model〉, 2024. arXiv:2405.04434
- ↑ 7.0 7.1 7.2 7.3 DeepSeek API Docs, News 목록, 2026-10-15 확인.
- ↑ 8.0 8.1 8.2 DeepSeek, "DeepSeek-R1 Release", 2025-01-20.
- ↑ DeepSeek, "DeepSeek-V3.1 Release", 2025-08-21.
- ↑ 10.0 10.1 DeepSeek, "Introducing DeepSeek-V3.2-Exp", 2025-09-29.
- ↑ DeepSeek, "DeepSeek-V3.2 Release", 2025-12-01.
- ↑ 12.0 12.1 DeepSeek, "DeepSeek V4 Preview Release", 2026-04-24.
- ↑ DeepSeek, "DeepSeek-V4.1-Flash Release", 2026-09-10.
- ↑ 14.0 14.1 DeepSeek-AI, 〈DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning〉, 2025. arXiv:2501.12948
- ↑ Daya Guo 외, 〈DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning〉, 《Nature》, 2025-09-17. [1]
- ↑ Dario Amodei, "On DeepSeek and Export Controls", 2025-01.
- ↑ Bloomberg, "Nvidia's $589 Billion DeepSeek Rout Is Largest in Market History", 2025-01-27.
- ↑ Garante per la protezione dei dati personali, "Intelligenza artificiale: il Garante privacy blocca DeepSeek", 2025-01-30.
- ↑ 19.0 19.1 뉴시스, "'개인정보 과다 수집' 딥시크에 칼 빼든 세계 각국…결국 '백기'(종합)", 2025-02-17.
- ↑ 바이라인네트워크, 개인정보위 딥시크 시정 권고 보도, 2025-04-25.
- ↑ deepseek-ai/DeepSeek-V3, GitHub 저장소 라이선스 안내, 2026-10-15 확인.