본 글은 Thinking Machines Lab이 2026년 7월 15일 공개한 오픈웨이트 모델 Inkling의 스펙, 벤치마크, 배포 경로를 정리하고 백엔드·플랫폼 팀 관점에서 도입 판단 기준을 제시합니다. 모든 스펙과 수치는 공식 발표 페이지 Introducing Inkling을 근거로 합니다.
참조 시점: 2026년 7월 16일 KST. 발표 당일 오픈 웨이트로 공개되었고 Tinker 콘솔에서 파인튜닝도 함께 열렸습니다.
1. Inkling이 무엇인가
Inkling은 Thinking Machines Lab이 사전학습부터 자체 진행한 Mixture-of-Experts 트랜스포머입니다. 공식 발표 기준 총 파라미터는 975B, 토큰당 활성 파라미터는 41B이며, 컨텍스트는 최대 100만 토큰까지 지원합니다.
사전학습은 텍스트, 이미지, 오디오, 비디오를 포함한 45조 토큰 규모로 진행되었다고 공식 페이지에 명시되어 있습니다. 별도로 12B 활성 파라미터의 경량 버전 Inkling-Small(총 276B) 프리뷰도 같은 문서에 소개되었으나, 가중치 공개는 테스트 완료 이후로 예정되어 있습니다.
2. 아키텍처 요약
공식 발표에 따르면 Inkling의 MoE 설계는 DeepSeek-V3를 기반으로 하되 몇 가지 변경점을 포함합니다. 각 MoE 레이어는 256개의 라우팅 전문가와 2개의 공유 전문가로 구성되며, 토큰당 6개의 라우팅 전문가가 활성됩니다. 라우터는 sigmoid 기반이며 auxiliary loss 없이 편향 항으로 로드 밸런싱을 수행합니다.
2-1. 어텐션과 위치 인코딩
어텐션 레이어는 sliding-window와 global을 5 대 1 비율로 인터리브하며 KV 헤드는 8개입니다. 위치 인코딩은 널리 쓰이는 RoPE 대신 relative positional embedding을 사용했고, Thinking Machines Lab은 이 선택이 더 긴 시퀀스에서 더 잘 일반화된다고 설명합니다. 어텐션 이후 key/value 프로젝션과 residual 브랜치 출력에 짧은 컨볼루션을 얹은 점도 특이 사항입니다.
2-2. 옵티마이저와 학습 인프라
사전학습은 하이브리드 옵티마이저 조합입니다. 큰 행렬 가중치에는 Muon, 나머지 파라미터에는 Adam을 적용했고, 가중치 감쇠 강도를 학습률의 제곱에 결합했다고 서술되어 있습니다. 학습 하드웨어는 NVIDIA GB300 NVL72가 사용되었습니다.
3. 공식 벤치마크 수치 (effort=0.99 기준)
Thinking Machines Lab 공식 벤치마크 표에 따르면 Inkling의 effort=0.99 기준 주요 점수는 다음과 같습니다. 인용 값은 모두 발표 페이지에서 직접 확인 가능합니다.
- Humanity’s Last Exam (text only) 29.7%, 도구 사용 시 46.0% — 공식 발표 기준
- AIME 2026 97.1%, GPQA Diamond 87.2% — 공식 표 기준
- SWEBench Verified 77.6% (bash-only 하네스 자체 리포트), SWEBench Pro Public 54.3%
- Terminal Bench 2.1 63.8% (내부 코딩 하네스, 오염 롤아웃은 0점 처리 명시)
- MMMU Pro Standard 10 73.5%, Charxiv RQ 78.1% — 비전 축
- VoiceBench 91.4%, MMAU 77.2% — 오디오 축
- FORTRESS Adversarial 78.0%, StrongREJECT 98.6% — 안전 축
Design Arena Agentic Web Dev 리더보드 기준 Inkling은 1257점으로 오픈웨이트 상위 그룹에 위치합니다. 예측 벤치마크 ForecastBench에서는 검색 없이 Brier Index 61.1로 GPT-5.5(59.1)를 소폭 앞서고, 검색 사용 시 63.7로 보고되었습니다. 모든 수치는 발표 페이지의 Epistemics 표를 근거로 합니다.
4. Controllable thinking effort와 토큰 효율
Inkling은 하네스 안에서 조정 가능한 thinking effort 파라미터를 제공합니다. Thinking Machines Lab이 게재한 effort 스윕 그래프에 따르면, Terminal Bench 2.1 기준 Inkling은 Nemotron 3 Ultra와 동일한 점수를 약 1/3 수준의 토큰으로 달성합니다. 이는 발표 페이지 원문에서 직접 인용된 서술입니다.
대규모 프로덕션 워크플로에서 latency와 토큰 비용은 대체로 병목이므로, effort를 0.2에서 0.99까지 낮추는 옵션은 실서비스 도입 판단에서 실질적 지표입니다. 다만 공개된 그래프는 Terminal Bench 2.1, HLE, IFBench 세 축에 한정되므로, 도입 팀은 자체 워크로드 기준으로 재측정하는 절차가 필요합니다.
5. 배포와 파인튜닝 경로
공식 발표 기준 Inkling은 Tinker에서 컨텍스트 64K와 256K 옵션으로 오늘부터 파인튜닝 가능합니다. Thinking Machines Lab은 제한 기간 50% 할인을 명시했으며, 세부 요금은 자사 문서를 참조하도록 링크되어 있습니다. Inkling Playground는 Tinker 콘솔 내부의 채팅 인터페이스로 제공됩니다.
5-1. 서빙 파트너
발표 페이지에 나열된 API 배포처는 TogetherAI, Fireworks, Modal, Databricks, Baseten입니다. 오픈소스 추론 스택은 SGLang·Miles(RadixArk), vLLM(Inferact), TokenSpeed(Lightseek), llama.cpp(Unsloth), Hugging Face transformers까지 폭넓게 지원됩니다.
5-2. 가중치 배포 형식
Hugging Face에는 원본 체크포인트와 함께 NVFP4 체크포인트가 공개되었다고 발표에 명시되어 있습니다. NVFP4는 NVIDIA Blackwell 시스템에서 효율적 추론을 위한 형식으로 서술되어 있습니다. 자체 GPU 클러스터 서빙을 검토한다면 라이선스 조건은 Hugging Face 저장소 페이지에서 재확인해야 합니다.
6. 도입 판단 가이드
다음 경우 Inkling 검토가 우선순위에 오를 수 있습니다. 반대로 마지막 항목은 회피 신호입니다.
- 사내 도메인 데이터로 파인튜닝이 필요한데 프론티어 폐쇄 모델의 튜닝 비용이 부담인 경우 — Tinker 경로가 진입 장벽을 낮춥니다.
- 1M 토큰 컨텍스트가 실제 워크플로에서 필요한 경우. 단 Tinker 파인튜닝은 64K·256K로 제한되므로 서빙 컨텍스트와 분리 설계가 필요합니다.
- 오디오·비전을 한 모델에서 다룰 필요가 있는 팀. 공식 발표 기준 VoiceBench 91.4%, MMMU Pro 73.5%로 오픈웨이트 상위군입니다.
- 절대 성능만 필요한 경우는 회피 신호. 공식 발표 자체가 “Inkling is not the strongest overall model available today”라고 명시했습니다.
또한 SWEBench Verified 77.6%와 Terminal Bench 63.8%는 Claude Fable 5(SWEBench 95%, Terminal Bench 84.6%) 같은 폐쇄 프론티어 대비 격차가 있습니다. 이 격차는 발표 표에서 직접 확인 가능하며, 코드 자동화 파이프라인의 baseline을 무엇으로 잡느냐가 판단 축입니다.
7. 운영 리스크 체크리스트
- 가중치 라이선스 확인: 원본 및 NVFP4 체크포인트 모두 Hugging Face 저장소 페이지에서 재확인.
- 서빙 스택 선택: SGLang, vLLM, TokenSpeed, llama.cpp 지원 상태와 자사 인프라 호환성 매트릭스 작성.
- Tinker 잠금 위험: 파인튜닝을 Tinker에서만 수행할 경우 이관 경로를 사전에 설계.
- 안전 검증: FORTRESS·StrongREJECT 등 공식 수치는 effort=0.99 기준이므로 실사용 effort 구간에서 재측정.
- 도메인 팩트 검증: SimpleQA Verified 43.9%는 폐쇄 프론티어(Claude Fable 5 68.3%) 대비 낮은 편이므로 팩트 민감 서비스에는 RAG 병행 검토.
관련 글
오픈웨이트 LLM 도입을 검토 중인 팀이라면 아래 정리가 함께 참고가 됩니다. 서로 다른 파라미터 규모와 활용 시나리오를 비교하면 Inkling의 포지션이 더 뚜렷해집니다.
- 온디바이스 시나리오와 대조하려면 Bonsai 27B 정리 — 폰에서 돌아가는 27B급 온디바이스 LLM (2026-07)가 참고가 됩니다.
- 중국계 대형 오픈웨이트 흐름을 함께 살피려면 Hy3 정리 — 텐센트 Hunyuan 295B MoE 오픈모델 도입 신호 (2026)가 대조군으로 유용합니다.
- 백엔드 스택 관점의 최신 신호는 TypeScript 7.0 공식 출시 정리 — Go 네이티브 컴파일러와 백엔드 팀 도입 기준에서 이어집니다.
📌 함께 보시면 좋은 글
※ 본 글은 AI(Claude)의 초안을 기반으로 편집자 검수를 거쳐 발행되었습니다. (한국 AI기본법 대응 고지)
이직·퇴사, 지금 움직여도 될지 헷갈리시나요?
막연히 불안한 건지, 정말 시점이 온 건지 판단이 어려울 때가 있습니다.
5분 체크리스트로 지금 상태를 먼저 정리해보세요.
결론을 대신 내리기보다, 스스로 판단할 기준을 잡는 데 도움을 드립니다.
아직 확신이 없다면, 지금이 ‘고민 단계’인지부터 먼저 점검해보세요