Solar Open 2: 한국어 에이전트를 위한 15B 활성 오픈 웨이트 모델

한 문장 요약: Upstage가 250B 파라미터 중 토큰마다 15B를 활성화하고 100만 토큰 문맥을 지원하는 Solar Open 2 가중치와 기술 보고서를 공개했다.

무엇이 발표됐나

Upstage는 7월 22일 Solar Open 2의 가중치, 기술 보고서와 서빙 예제를 공개했다. 전체 250B 파라미터 가운데 토큰마다 15B를 활성화하는 희소 Mixture-of-Experts(MoE) 모델로, 한국어·영어·일본어와 100만 토큰 문맥을 지원한다. 검색, MCP 도구 호출, 코딩, 문서 작업처럼 실행 결과를 다시 읽고 수정하는 에이전트 궤적을 학습에 포함했다고 밝혔다.

가중치는 Hugging Face에서 Upstage Solar License로 제공된다. 상업 이용과 파인튜닝·증류를 허용하지만 Apache 2.0 같은 표준 오픈소스 라이선스는 아니다. 공식 모델 카드는 Transformers, vLLM, SGLang용 실행 경로를 제공하며, 발표사는 BF16에 H200 4장, 양자화 모델에 H200 2장을 최소 권장 구성으로 제시했다.

기술 구조에서 볼 지점

48개 트랜스포머 층은 선형 어텐션 3개와 GQA 소프트맥스 어텐션 1개를 반복한다. 전체 층의 75%가 고정 크기 상태를 유지해 모든 층의 KV 캐시가 문맥 길이와 함께 커지는 구조를 피한다. 소프트맥스 층에는 위치 인코딩을 두지 않는 NoPE를 적용해 길이 외삽 제약을 줄이려 했다.

FFN은 320개 라우팅 전문가와 항상 활성화되는 공유 전문가 1개로 구성되고, 토큰마다 라우팅 전문가 8개를 고른다. 활성 연산량은 15B로 낮췄지만 250B 전체 가중치의 저장과 전문가 병렬 통신은 남는다. 이전 Solar Open 100B에서 새 구조와 크기가 맞는 약 2.3%의 가중치만 옮기는 Selective Weight Transfer도 사용했다. 이는 아키텍처가 달라져 전체 체크포인트를 재사용할 수 없을 때 초기 학습 비용을 줄이는 실험적 선택이다.

개발자에게 왜 중요한가

Solar Open 2의 실용적 가치는 한국어 생성 점수 하나보다 토큰화·장문맥·자체 배포를 함께 설계한 데 있다. 기술 보고서에 따르면 같은 한국어 텍스트에서 비교한 글로벌 모델 토크나이저는 1.2~1.9배 더 많은 토큰을 사용했다. 한국어 문서와 도구 결과가 궤적 대부분을 차지하는 에이전트라면 이 차이는 유효 문맥과 추론비용에 직접 영향을 준다.

조직 내부 문서나 코드를 외부 API로 보낼 수 없는 팀은 공개 가중치를 자체 하네스에서 평가하고 후학습할 수 있다. 다만 “활성 15B”는 단일 GPU급 모델이라는 뜻이 아니다. 목표 동시성에서 GPU 메모리, 전문가 간 통신, 첫 토큰 지연과 처리량을 측정하고 한국어 도구 호출은 오류 복구까지 평가해야 한다.

한계와 검증 포인트

100만 토큰 수용과 긴 범위의 정확한 검색·추론은 다른 능력이다. 선형 어텐션의 고정 상태가 오래된 세부 정보를 압축하면서 잃는지, 소프트맥스 층이 이를 얼마나 보완하는지 문맥 위치별로 확인해야 한다. 발표 벤치마크에는 Upstage가 만든 Ko-GDPval과 자체 하네스 결과가 포함되며 이 글은 점수를 재현하지 않았다. 양자화 시 품질 저하와 H200 2장 구동 주장의 배치 크기·문맥 길이·처리량 조건도 별도 검증이 필요하다. 마지막으로 상업 이용 가능하다는 요약만 믿지 말고 배포·파생 모델·사용 제한에 관한 커스텀 라이선스 전문을 법무 요구와 대조해야 한다.

공식 1차 출처

• Solar Open 2 공식 발표 — Upstage, 2026-07-22
• Solar Open 2 Technical Report — 아키텍처, 학습과 평가 조건
• Solar Open 2 모델 카드와 가중치 — 라이선스와 실행 예제