OpenAI 전 CTO가 만든 첫 오픈 웨이트 모델, Inkling

OpenAI 전 CTO 미라 무라티가 설립한 Thinking Machines Lab이 첫 범용 AI 모델 Inkling을 공개했다.

Thinking Machines Lab은 미라 무라티가 OpenAI를 떠난 뒤 2025년 설립한 AI 스타트업이다. 회사 출범 약 1년 반 만에 자체 학습한 대규모 기반 모델을 공개했다.

975B 규모의 멀티모달 MoE 모델

Inkling은 전체 975B 파라미터를 가진 Mixture-of-Experts, MoE 구조의 Transformer 모델이다. 추론할 때는 전체 파라미터를 모두 사용하는 대신 약 41B 파라미터만 활성화한다.

주요 사양은 다음과 같다.

• 전체 파라미터 975B, 활성 파라미터 41B
• 최대 100만 토큰 컨텍스트
• 텍스트·이미지·오디오 입력
• 텍스트 출력
• 45조 토큰으로 사전학습
• Apache 2.0 라이선스
• 전체 모델 가중치 공개

Inkling은 256개의 선택형 Expert와 2개의 공통 Expert로 구성된다. 각 토큰을 처리할 때 관련된 Expert 6개를 선택해 연산하는 방식이다.

추론·코딩·멀티모달 능력을 갖춘 범용 모델

Inkling은 추론, 코딩, 도구 사용, 지시 이행, 이미지 이해, 오디오 처리 등 여러 영역을 지원한다.

공개된 주요 평가 결과는 다음과 같다.

• AIME 2026: 97.1%
• GPQA Diamond: 87.2%
• SWE-Bench Verified: 77.6%
• IFBench: 79.8%
• MMMU Pro: 73.5%
• VoiceBench: 91.4%

모든 평가에서 최고 성능을 기록한 것은 아니지만, 텍스트·이미지·오디오를 함께 처리할 수 있는 오픈 웨이트 모델이라는 점에서 경쟁력이 있다. 일부 코딩 평가는 Thinking Machines Lab의 자체 하네스를 사용했고, 비교 모델에는 각 회사가 발표한 자체 평가 결과도 포함돼 있어 수치를 완전히 동일한 조건의 비교로 보기는 어렵다.

성능과 비용을 조절하는 Thinking Effort

Inkling은 작업에 사용하는 추론량을 조절하는 Thinking Effort 기능을 제공한다.

간단한 작업에는 적은 토큰을 사용해 빠르게 답하고, 복잡한 수학·코딩·에이전트 작업에는 더 많은 토큰을 사용하도록 설정할 수 있다.

Thinking Machines Lab은 Terminal Bench 2.1 평가에서 Inkling이 Nemotron 3 Ultra와 비슷한 성능을 내면서 약 3분의 1 수준의 생성 토큰을 사용했다고 설명한다.

실제 서비스에서는 모든 요청에 최대 추론을 사용하는 것보다 작업 난도에 따라 응답 속도와 비용을 조절하는 기능이 중요하다.

텍스트·이미지·오디오를 하나의 모델에서 처리

Inkling은 텍스트뿐 아니라 이미지와 오디오를 입력으로 받을 수 있다.

이미지는 40×40 픽셀 크기의 패치로 변환하고, 오디오는 dMel 스펙트로그램 형태로 변환한 뒤 텍스트 토큰과 함께 하나의 Transformer에서 처리한다.

지원하는 작업은 다음과 같다.

• 이미지와 차트 분석
• 다이어그램 및 수학 이미지 추론
• 음성 받아쓰기
• 녹음 내용 질의응답
• 음성 명령 이해
• 긴 오디오 분석

현재 출력은 텍스트만 지원하므로 음성 생성 모델이라기보다, 이미지와 음성을 이해하는 멀티모달 추론 모델에 가깝다.

코딩과 도구 사용에 초점을 둔 에이전트 모델

Inkling은 일반적인 대화뿐 아니라 코딩과 도구 사용 능력도 함께 학습했다.

특정 API 형식이나 코딩 도구에만 익숙해지는 것을 방지하기 위해 학습 과정에서 도구의 종류와 스키마를 다양하게 변경했다. 이를 통해 처음 보는 도구가 주어져도 구조를 파악해 사용할 수 있도록 설계했다.

공개된 데모에서는 다음과 같은 작업을 수행했다.

• 프롬프트 한 번으로 웹 애플리케이션 제작
• 브라우저를 조작해 지원서 작성
• 여러 페이지의 PDF 문서 제작
• 외부 AI의 피드백을 받아 게임을 40회 반복 개선

한 번의 응답으로 결과를 만드는 것보다 도구를 사용하고, 결과를 평가하고, 다시 수정하는 반복 작업에 초점을 맞췄다.

자신의 파인튜닝 과정까지 수행한 Inkling

발표에서는 Inkling이 자신의 파인튜닝 과정을 수행하는 데모도 공개됐다.

연구진은 Inkling에게 알파벳 ‘e’를 사용하지 않고 답하도록 자신을 파인튜닝하라고 요청했다.

Inkling은 다음 작업을 수행했다.

1. 학습 목표 설정
2. 학습 데이터 생성
3. 평가 코드 작성
4. Tinker API를 이용한 파인튜닝
5. 새 체크포인트 적용
6. 학습 전후 성능 비교

Inkling이 새로운 학습 알고리즘을 스스로 만든 것은 아니다. Thinking Machines Lab이 제공한 파인튜닝 플랫폼 Tinker와 실행 환경을 사용해 학습 워크플로를 자동으로 수행한 사례다.

기존에는 사람이 데이터셋과 평가 코드를 직접 작성해야 했다면, 앞으로는 모델이 목표에 맞는 학습 데이터와 평가 방식을 설계하고 파인튜닝까지 실행하는 형태로 확장될 수 있다.

3천만 회 이상의 강화학습 Rollout

Inkling의 후처리 학습에는 대규모 강화학습이 사용됐다.

Thinking Machines Lab은 3천만 회 이상의 Rollout을 진행했으며, 학습이 진행될수록 AIME, HLE, GPQA 등을 종합한 추론 평가 성능이 상승했다고 설명한다.

Rollout은 모델이 문제를 풀고 결과를 평가받는 한 번의 실행 과정이다.

강화학습이 진행되면서 모델의 내부 추론 과정도 점차 짧아졌다. 성능을 유지하면서 불필요한 추론 토큰을 줄이는 방향으로 학습된 것이다.

오픈 웨이트지만 개인용 GPU 실행은 어렵다

Inkling의 전체 가중치는 Apache 2.0 라이선스로 공개됐다.

개발자는 모델을 내려받아 자체 환경에서 실행하거나 특정 업무에 맞게 파인튜닝할 수 있다. 다만 975B 규모이기 때문에 일반적인 개인용 GPU나 워크스테이션에서 실행하기는 어렵다.

실제 활용은 다음 플랫폼을 이용하는 방식이 현실적이다.

• Tinker
• Together AI
• Fireworks
• Modal
• Databricks
• Baseten

더 작은 모델인 Inkling-Small도 함께 공개됐다.

Inkling-Small은 전체 276B, 활성 파라미터 12B의 MoE 모델이다. 일부 평가에서는 대형 Inkling과 비슷하거나 더 높은 결과를 기록했다. 현재는 프리뷰 단계이며 이후 전체 가중치가 공개될 예정이다.

마무리

Inkling의 주요 특징은 다음과 같다.

• 975B 규모의 MoE 구조
• 텍스트·이미지·오디오 멀티모달 지원
• 최대 100만 토큰 컨텍스트
• 조절 가능한 Thinking Effort
• 코딩 및 도구 사용 능력
• 에이전트 기반 반복 작업
• Tinker를 이용한 파인튜닝
• Apache 2.0 기반 오픈 웨이트

Inkling은 완성된 챗봇 서비스보다 기업과 개발자가 자신의 데이터와 목적에 맞게 수정해 사용하는 기반 모델에 가깝다.

Thinking Machines Lab은 모델 가중치와 함께 파인튜닝 플랫폼까지 제공하면서, 기업이 자체 AI 모델을 학습하고 운영할 수 있는 생태계를 구축하려는 방향을 보여주고 있다.

참고 자료

Thinking Machines Lab, 「Inkling: Our open-weights model」
https://thinkingmachines.ai/news/introducing-inkling/

Inkling: Our open-weights model

 

Thinking Machines Lab, 「Inkling Model Card」
https://thinkingmachines.ai/model-card/inkling/

Inkling Model Card