A.X K2
더 많은 작업
A.X K2(에이닷엑스 케이투)는 SK텔레콤이 대한민국 정부의 독자 AI 파운데이션 모델 프로젝트를 통해 개발한 6,880억 개 매개변수 규모의 대형 언어 모델(LLM)로, 전문가 혼합(MoE) 구조와 장문 처리·추론·에이전트 활용에 중점을 둔 A.X K1의 후속 모델이다.
SK텔레콤은 2026년 7월 29일 독자 AI 파운데이션 모델 프로젝트의 2단계 모델로 A.X K2를 공개했다. 전체 매개변수는 688B(6,880억 개)이며, 이전 모델인 A.X K1의 519B보다 규모가 커졌다.[1]
A.X K2는 모든 매개변수를 매번 사용하는 밀집(Dense) 모델이 아니라 전문가 혼합(Mixture of Experts, MoE) 구조를 사용한다. 전체 매개변수는 688B이지만 토큰 하나를 처리할 때 실제 활성화되는 매개변수는 약 33B이다. 256개의 라우팅 전문가(Routed Expert)와 하나의 공유 전문가(Shared Expert)를 두고 토큰마다 8개의 라우팅 전문가와 공유 전문가를 활성화한다.[2]
SK텔레콤은 A.X K2를 기존 대화형 LLM보다 여러 단계의 추론과 도구 사용이 필요한 에이전틱 파운데이션 모델(Agentic Foundation Model)을 지향해 처음부터 학습한 모델로 설명한다.[3]
2026년 10월 현재 A.X K2는 독자 AI 파운데이션 모델 프로젝트의 3단계에 진출한 SK텔레콤 컨소시엄의 주력 기반 모델이다.[4]
A.X K2의 전신은 독자 AI 파운데이션 모델 프로젝트 1단계에서 개발된 A.X K1이다.
A.X K1은 519B 규모의 MoE 모델로 약 10조 개 토큰을 이용해 처음부터 사전학습(Pre-training)됐다. SK텔레콤은 2026년 1월 A.X K1의 기술보고서를 공개했으며, 이 모델을 통해 독파모 프로젝트 1차 평가를 통과했다.[5]
후속 모델 A.X K2에서는 전체 매개변수를 519B에서 688B로 확대하면서도 토큰당 활성 매개변수는 33B 수준으로 유지했다. A.X K1의 라우팅 전문가는 192개였으나 K2에서는 256개로 증가했다.[2]
A.X K2의 학습량은 약 8.5조 토큰으로 K1의 약 10조 토큰보다 오히려 적다. 대신 SK텔레콤은 학습 데이터의 품질을 높이고 에이전트 및 소프트웨어 엔지니어링 데이터를 크게 확대하는 방식으로 토큰 효율성을 개선했다고 설명한다.[3]
A.X K2는 과학기술정보통신부가 추진한 독자 AI 파운데이션 모델 프로젝트에서 SK텔레콤 정예팀이 개발한 모델이다.
SK텔레콤 컨소시엄은 1단계에서 A.X K1을 개발해 2026년 1월 평가를 통과했으며, 이후 후속 모델 개발과 멀티모달 확장을 진행했다.[6]
2단계에서는 모델 규모를 688B로 확대한 A.X K2가 개발됐으며, SK텔레콤은 제조, 국방, 바이오, 금융, 공공, 게임, 모빌리티, 검색, 보안 등 실제 산업에서의 활용을 병행했다.[1]
이후 SK텔레콤 팀은 2단계 평가를 통과하여 프로젝트 3단계에 진출했다.[4]
A.X K2의 주요 사양은 다음과 같다.[2]
| 항목 | A.X K2 |
|---|---|
| 개발사 | SK텔레콤 |
| 모델 종류 | Decoder-only Transformer |
| 구조 | 전문가 혼합(MoE) |
| 전체 매개변수 | 688B |
| 활성 매개변수 | 토큰당 약 33B |
| Routed Expert | 256개 |
| Shared Expert | 1개 |
| 토큰당 Routed Expert | 8개 |
| 레이어 | 61개 |
| Attention Head | 64개 |
| Hidden Size | 7,168 |
| 어휘 크기 | 163,840 |
| 네이티브 컨텍스트 | 128K |
| 공식 지원 컨텍스트 | 256K |
| 학습 데이터 | 약 8.5조 토큰 |
| 학습 정밀도 | MXFP8(E4M3) |
| 라이선스 | Apache License 2.0 |
A.X K2에는 SK텔레콤이 개발한 Sparse Gated Attention(SGA)이 적용됐다.
일반적인 Attention이 긴 문맥에 포함된 많은 토큰을 참조하면서 계산량이 증가하는 것과 달리 SGA는 현재 토큰과 관련성이 높은 위치를 선별적으로 참조하도록 설계됐다. A.X K2에서는 각 Query가 최대 2,048개 위치를 선택해 참조한다.[3]
SK텔레콤은 이를 통해 장문 처리의 계산 효율성을 높이면서 긴 문맥에 대한 이해 성능을 유지했다고 설명한다.[1]
A.X K2는 128K 컨텍스트로 직접 학습됐으며 YaRN 스케일링을 이용하여 공식적으로 최대 256K 토큰 컨텍스트를 지원한다. RULER 장문 벤치마크에서는 256K까지 평균 94.6점을 기록했다.[2]
A.X K2에는 Gated Norm(GN)이라는 정규화 구조도 적용됐다.
RMSNorm 이후 게이팅을 적용해 대규모 학습 과정에서 활성값의 이상치를 억제하고 학습 안정성을 높이는 방식이다. 이는 FP8 및 NVFP4와 같은 낮은 정밀도의 추론 환경에서도 성능 손실을 줄이는 것을 목표로 한다.[3]
A.X K2는 기존 외국 모델의 가중치를 가져와 추가 학습한 모델이 아니라 약 8.5조 토큰 규모의 데이터로 처음부터(From Scratch) 사전학습됐다.[3]
학습 데이터는 영어, 한국어, 중국어, 일본어, 스페인어 등 다국어와 소스코드 및 구조화된 텍스트를 포함한다. 토크나이저는 A.X K1에서 사용한 BBPE 기반 대규모 어휘를 계승했으며 특히 한국어와 프로그래밍 코드의 토큰 효율성을 고려했다.[2]
K1보다 전체 학습 토큰 수는 줄었지만 데이터 구성을 개선하고 에이전트 및 소프트웨어 엔지니어링 데이터를 확대했다.[3]
또한 A.X K2는 학습 단계부터 순전파와 역전파에 MXFP8(E4M3) 정밀도를 사용했으며 공개 체크포인트 역시 블록 스케일 FP8 형식으로 제공된다.[2]
SK텔레콤의 발표에 따르면 A.X K2는 A.X K1과 비교한 국내외 14개 벤치마크에서 평균 32.2%p 성능이 향상됐다. 특히 장문 이해 및 에이전트 관련 평가에서는 약 83.9%p의 개선을 기록했다.[1]
수학과 한국어 평가에서 상대적으로 강한 성능을 보였으며 SK텔레콤은 AIME26, Apex 등의 수학 벤치마크와 KMMLU-Pro, CLIcK 등의 한국어 벤치마크에서 비교 대상 글로벌 오픈 모델과 대등하거나 높은 성능을 기록했다고 밝혔다.[2]
기술보고서에서는 2025년 국제수학올림피아드(IMO) 문제를 이용한 별도 평가에서 42점 만점 중 35점을 기록했으며, 첫 다섯 문제에서 각각 7점을 획득했다고 보고했다.[2]
다만 상당수 성능 수치는 개발사 자체 평가 결과이므로 다른 모델과의 절대적인 우열을 판단할 때에는 동일 조건에서 수행된 독립 벤치마크 결과와 함께 볼 필요가 있다.
A.X K2의 모델 가중치는 2026년 7월 29일 Hugging Face에 공개됐다.[1]
Apache License 2.0으로 배포되어 연구뿐 아니라 상업적 이용과 수정·재배포가 가능하다.[2]
따라서 API를 통해서만 사용할 수 있는 폐쇄형 모델과 달리 사용자가 모델을 직접 내려받아 자체 인프라에 배포할 수 있는 오픈 웨이트(Open Weight) 모델이다.
다만 전체 688B 규모의 모델이므로 직접 운용하기 위해서는 상당한 GPU 메모리와 추론 인프라가 필요하다. SK텔레콤은 실제 서비스 적용을 위해 별도의 경량 모델도 개발하고 있다.[1]
SK텔레콤은 A.X K2를 하나의 텍스트 모델에 그치지 않고 비전·음성 등을 포함하는 모델군으로 확장하고 있다.
| 모델 | 규모 | 용도 |
|---|---|---|
| A.X K2 | 688B / 33B 활성 | 범용 텍스트·추론·에이전트 기반 모델 |
| A.X K2 VL Light-Preview | 21B | 이미지·텍스트 처리 |
| A.X K2 ALM | 22B | 음성 이해·대화 |
| A.X K2 Raon-Speech | 21B | 음성 기반 상호작용 |
A.X K2 ALM(Audio Language Model)은 음성을 직접 이해하고 생성하기 위한 22B 규모의 오디오 언어 모델이다.
고객 상담, 회의, 산업 현장의 음성을 인식하고 분석하는 용도로 개발됐으며 실시간 음성 대화와 사용자의 발화가 끝났는지를 문맥적으로 판단하는 기능 등을 지원한다.[7]
A.X K2와 경량 파생 모델은 SK텔레콤의 서비스와 산업용 AI에 적용되고 있다.
SK텔레콤은 기업 업무용 AI인 A. Biz에서 뉴스레터 생성, 정보 수집·분석, 보고서 작성 등에 A.X K2를 활용하고 있으며, SK하이닉스 내부 업무 도구에는 경량 모델을 적용하고 있다.[1]
SK텔레콤의 AI 서비스 에이닷에도 A.X K2 경량 모델이 적용됐다. A. 전화의 AI 제안에서 통화 내용을 바탕으로 일정과 할 일을 추천하고, A. 노트의 내용 요약에도 활용된다.[1]
SK텔레콤은 이외에도 제조, 국방, 바이오, 금융, 공공, 게임, 모빌리티, 검색 및 보안 등으로 활용 영역을 확대하고 있다.[8]
- ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 SK텔레콤, 「SK텔레콤, 독파모 2차 모델 공개… 산업 현장·국민 일상 AI 확산 나선다」, https://news.sktelecom.com/228501, 확인일: 2026-10-04.
- ↑ 2.00 2.01 2.02 2.03 2.04 2.05 2.06 2.07 2.08 2.09 2.10 SK텔레콤, 「A.X K2 Model Card」, https://huggingface.co/skt/A.X-K2, 확인일: 2026-10-04.
- ↑ 3.0 3.1 3.2 3.3 3.4 3.5 3.6 SK텔레콤, 「A.X K2 Technical Report」, https://arxiv.org/abs/2608.30181, 확인일: 2026-10-04.
- ↑ 4.0 4.1 4.2 SK텔레콤, 「Beyond Sovereign AI Foundation Model Competition: SKT’s ‘AI for All’ as an Everyday Tool」, https://www.sktelecom.com/en/feature/feature_detail.do?currentPage=1&idx=58&keyword=&type=, 확인일: 2026-10-04.
- ↑ SK텔레콤, 「SKT 정예팀, A.X K1 기술 보고서 공개」, https://news.sktelecom.com/218112, 확인일: 2026-10-04.
- ↑ SK텔레콤, 「“독파모 통해 대한민국 AI 역량 증명” SKT 정예팀, 이번엔 멀티모달로 확장」, https://news.sktelecom.com/219742, 확인일: 2026-10-04.
- ↑ SK텔레콤, 「A.X K2 ALM Model Card」, https://huggingface.co/skt/A.X-K2-ALM, 확인일: 2026-10-04.
- ↑ 연합뉴스, 「SKT 독파모 컨소시엄 확대…SK AX·테크노매트릭스 합류」, https://www.yna.co.kr/view/AKR20260714051200017, 확인일: 2026-10-04.