오픈웨이트를 이어 학습해 주권형 프론티어 모델에 다가가는 방법 | DAKER 커뮤니티
프론티어 모델 개발은 오랫동안 소수의 큰 예산 조직만 할 수 있는 일처럼 여겨졌습니다. 그 인식이 굳어질수록 개발자와 사용자 사이의 정보, 경제, 권력의 비대칭도 커집니다. 2026년 8월 27일 공개된 Thomson 논문은 이 지점에서 다른 가능성을 제시합니다. 공개 오픈웨이트 모델을 출발점으로 삼고 지속 학습을 적용하면, 더 많은 기관도 주권형 AI에 가까워질 수 있다는 주장입니다.
이 글은 arXiv:2608.27147 초록에 나온 내용만 바탕으로 정리합니다. 초록에 없는 벤치마크 이름이나 퍼센트는 덧붙이지 않습니다. 함께 공개된 체크포인트 thomsonreuters/Thomson-1.0-Small도 참고할 수 있습니다.
논문은 2026년 8월 27일 arXiv에 올라왔습니다. 저자는 Shengzhuang Chen, Jerrod Parker, Yejin Bang, Andrew M. Bean, Nabeel Seedat, Stefan Winzeck, Daniil Glazko, Jannik Zgraggen, Fangyi Yu, Scott Arnott, Dietrich Trautmann, Luca Ciuffreda 외 14명입니다. PDF는 같은 번호의 pdf에서 볼 수 있습니다.
주권형 AI를 어떻게 볼 것인가
논문이 말하는 SovereignAI는 조직이 모델을 독립적으로 만들고, 배포하고, 사용을 거버넌스하는 능력입니다. 핵심은 단순히 모델을 내려받는 데 있지 않습니다. 모델 자체뿐 아니라 도구 인프라, 가치 정렬, 데이터 프라이버시까지 조직이 직접 소유하고 통제할 수 있어야 한다는 뜻에 가깝습니다.
공개 오픈웨이트 위에 지속 학습을 적용하면 더 많은 기관이 프론티어급 성능과 주권형 스택에 접근할 수 있다는 것이 이 논문의 문제의식입니다.
초록은 이런 능력이 큰 예산 플레이어에게만 열려 있다는 인식을 문제로 둡니다. 그 결과 정보와 경제, 권력의 비대칭이 커진다고 봅니다. Thomson은 공개된 오픈웨이트를 출발점으로 삼고, mid-training과 post-training 스택을 강화하는 방식으로 그 비대칭을 줄이려 합니다.
작은 조정보다 지속 학습 스택을 강조한 이유
초록은 소규모 파인튜닝, 프롬프트 엔지니어링, 동결된 모델에 도구만 덧붙이는 접근과 자신들의 방향을 구분합니다. 이런 방식이 전혀 쓸모없다는 뜻은 아니지만, 주권형 프론티어 모델을 만드는 데에는 한계가 있다는 문제의식이 분명합니다.
대신 논문은 파라미터에 대한 고영향 개입을 최소로 유지하면서도, 각 단계에서 가소성(plasticity)과 안정성(stability)을 함께 지키는 안전장치를 강조합니다. 목표는 여러 세대의 모델 개발에서 보이던 수준의 이득을, 흔히 생각하는 것보다 훨씬 낮은 계산·인력 예산으로 얻는 데 있습니다.
핵심은 모델 전체를 처음부터 다시 만드는 일이 아니라, 공개 오픈웨이트를 바탕으로 지속 학습과 안전장치를 함께 설계하는 데 있습니다.
Thomson이 주장하는 성능의 방향
초록에 따르면 Thomson은 고위험 전문 업무에 초점을 둔 범용 프론티어 모델입니다. 에이전트 작업, 안전, 법률, 세금, 다국어, 대규모 Deep Research에서 최근 프론티어 모델과 경쟁력 있게 작동한다고 설명합니다.
여기서 눈에 띄는 표현은 평가에서 나타났다는 π 모양 패턴입니다. 초록은 명시적으로 겨냥하지 않은 능력을 포함해 넓은 범위에서 뚜렷한 향상이 있었고, 좁은 도메인 적응에서 흔히 나타나는 망각(forgetting) 문제는 거의 사라졌다고 적습니다.
한 과제만 올리고 다른 능력을 잃는 방식이 아니라, 넓은 능력 향상과 낮은 망각을 함께 추구하는 것이 Thomson이 내세우는 방향입니다.
중요한 점은 여기서도 초록에 없는 수치를 덧붙이지 않는 것입니다. 이 글은 패턴의 이름과 능력 범주만 옮깁니다.
주권형 스택에서 소유해야 하는 것들
초록은 SovereignAI 스택의 많은 부분, 곧 모델, 도구 인프라, 가치, 데이터 프라이버시를 더 많은 행위자가 소유할 수 있게 된다고 말합니다. 이때 소유는 형식적인 표현이 아니라 운영상의 통제권에 가깝습니다.
예를 들어 동결된 외부 API에만 의존하면, 모델의 핵심 거버넌스는 외부에 남습니다. 반대로 어떤 도구 권한을 줄지, 데이터는 어디에 보관할지, 어떤 가치 정렬 규칙을 둘지 조직이 직접 정하고 배포할 수 있다면 주권형 스택에 더 가까워집니다.
특히 법률·세금처럼 고위험 전문 업무에서는 이 구분이 더 중요합니다. 어떤 데이터를 학습에 넣었는지와 넣지 않았는지, 어떤 규칙 아래 모델을 운영하는지를 분리해 기록하는 편이 좋습니다.
망각을 줄이는 것이 왜 중요한가
좁은 도메인에 맞춰 모델을 적응시키면 다른 능력이 떨어지는 일은 흔합니다. 초록은 Thomson 평가에서 이런 망각 문제가 거의 사라지는 패턴을 보고했다고 설명합니다. 이것이 앞서 말한 π 모양 패턴과 연결됩니다.
이 주장은 특정 점수표보다 운영 원칙에 더 가깝게 읽을 수 있습니다. 한 과제의 성능만 보는 대신, 에이전트 작업, 안전, 법률·세금, 다국어, Deep Research 성격의 긴 조사처럼 서로 다른 능력을 함께 점검해야 전체 변화를 볼 수 있기 때문입니다.
지속 학습의 성패는 한 지표의 상승보다, 겨냥한 능력과 겨냥하지 않은 능력을 함께 유지하는지에 달려 있습니다.
초록은 또 파라미터에 대한 고영향 개입을 최소로 유지한다고 적습니다. 따라서 모든 레이어를 크게 바꾸는 방식보다, 개입 범위를 신중하게 정하고 단계별로 안정성을 확인하는 접근이 논문의 취지에 더 가깝습니다.
공개 체크포인트가 갖는 의미
이 논의가 추상적인 주장에만 머물지 않는 이유는 공개 체크포인트가 함께 제시되기 때문입니다. Thomson-1.0-Small이 Hugging Face에 공개되어 있어, 연구의 출발점을 누구나 같은 주소에서 확인할 수 있습니다.
재현성과 검증 가능성은 이런 공개 링크에서 시작합니다. 어떤 베이스 모델을 썼는지, 어떤 단계에서 무엇을 바꿨는지, 어떤 안전장치를 두었는지 기록이 남아야 다른 사람도 같은 논의를 이어갈 수 있습니다.
이 점에서 이 논문은 단순한 제품 발표문이라기보다, 공개 오픈웨이트와 지속 학습을 통해 주권형 AI의 문턱을 낮출 수 있는지 묻는 연구 제안으로 읽는 편이 적절합니다.
이 글이 다루지 않는 것
이 글은 특정 벤치마크 점수표를 정리한 글이 아닙니다. 초록은 에이전트, 안전, 법률, 세금, 다국어, Deep Research에서 경쟁력 있다고 적지만, 벤치 이름과 퍼센트를 자세히 제시하지 않습니다. 따라서 없는 수치를 보태지 않았습니다.
또한 작은 파인튜닝만으로 충분하다는 처방도 아닙니다. 초록은 오히려 소규모 파인튜닝, 프롬프트 엔지니어링, 동결 모델 도구 증강과 구분해 mid-training과 post-training 스택, 그리고 안전장치를 강조합니다.
마찬가지로 모든 기관이 같은 예산으로 같은 결과를 낼 수 있다고 보장하는 내용도 아닙니다. 예산이 다른 환경에서도 더 많은 주체가 소유권을 가질 수 있다는 방향을 제시하는 데 의미가 있습니다.
참고 자료
arXiv:2608.27147
PDF
Hugging Face thomsonreuters/Thomson-1.0-Small
공개 오픈웨이트를 바탕으로 주권형 AI 스택을 만든다면, 여러분은 모델 자체보다 어떤 통제권을 가장 먼저 확보하고 싶으신가요?