MAI-Thinking-1 핵심 사양 및 데이터 가이드

MAI-Thinking-1은 수학, 코딩, 엔터프라이즈 애플리케이션과 같은 작업을 위해 설계된 Microsoft의 고급 AI 모델입니다. 이 모델은 350억 개의 활성 파라미터를 갖춘 희소 Mixture-of-Experts(MoE) 아키텍처와 256,000 토큰(약 600페이지)에 달하는 방대한 컨텍스트 윈도를 특징으로 합니다. 33.55조 토큰의 깨끗하고 라이선스가 부여된 데이터로 학습되어, 의료, 금융, 법률과 같은 산업을 위한 데이터 안전성과 신뢰성을 보장합니다.

주요 특징:

• 아키텍처: 350억 개의 활성 파라미터(총 약 1조 개)를 갖춘 희소 MoE.
• 학습 데이터: 33.55조 토큰, 전량 상업적으로 라이선스가 부여된 사람이 생성한 데이터.
• 컨텍스트 윈도: 광범위한 워크플로 처리를 위한 256,000 토큰.
• 성능: 수학(97% AIME 2025) 및 코딩 벤치마크에서 최고 점수.
• 멀티모달 통합: MAI-Image-2.5(이미지), MAI-Voice-2(음성 복제)와 같은 도구와 연동.
• API 액세스: 고급 함수 호출을 지원하는 OpenAI 호환.

현재 비공개 프리뷰 단계에 있는 MAI-Thinking-1은 엔터프라이즈 규모의 작업에 최적화되어 있으며, 규제 준수를 유지하면서도 강력한 추론 능력을 제공합니다. 다른 MAI 도구와의 통합은 산업 전반에 걸친 복잡한 워크플로를 지원합니다.

MAI-Thinking-1: 힐 클라이밍 머신 구축

MAI-Thinking-1 핵심 사양

MAI-Thinking-1의 기술적 기반은 고급 멀티모달 출력을 생성하는 데 필요한 역량을 제공하여, 비디오 생성과 통합 LLM API 워크플로를 위한 강력한 도구가 됩니다.

모델 아키텍처 및 파라미터

MAI-Thinking-1은 희소 Mixture-of-Experts(MoE) 아키텍처를 디코더 전용 Transformer 구성과 결합하여 설계되었습니다. 이 모델의 "LatentMoE" 구성은 필요한 전문가만 활성화되도록 보장하며 - 일반적으로 토큰당 512개 중 8개 - 효율적이고 확장 가능한 처리를 가능하게 합니다^[2][6]. 이 모델은 350억 개의 활성 파라미터와 약 1조 개의 총 파라미터로 작동합니다. 컨텍스트 윈도는 256,000 토큰에 걸쳐 있으며, 이는 약 600페이지 분량의 콘텐츠에 해당하여 단일 세션 내에서 광범위한 데이터 처리를 가능하게 합니다^[6].

이 아키텍처는 Gemma-3 스타일의 어텐션을 통합하여, 글로벌 레이어당 5개의 로컬 레이어, 512 토큰 슬라이딩 윈도, 8개의 KV 헤드를 갖춘 Grouped-Query Attention(GQA)을 특징으로 합니다. 토크나이저인 o200k_base는 약 200,000개 토큰의 어휘를 지원하여 처리 능력을 더욱 향상시킵니다.

MAI-Thinking-1은 Microsoft의 Maia 200 실리콘과 공동 개발되어, 표준 하드웨어 구성 대비 와트당 성능을 1.4배 향상시킵니다. 학습에는 8,000개의 NVIDIA GB200 GPU가 활용되어, 고품질 연산 리소스에 대한 액세스를 통해 모델의 견고한 성능을 보장합니다^[6].

학습 소스 및 데이터 호환성

이 모델은 총 33.55조 토큰의 깨끗하고 상업적으로 라이선스가 부여된, 사람이 생성한 콘텐츠로 학습되었습니다. 여기에는 주요 사전 학습 단계에서의 30조 토큰과 중간 학습 단계에서의 추가 3.55조 토큰이 포함됩니다^[6]. 이 데이터셋은 웹 텍스트, 공개적으로 이용 가능한 GitHub 코드, 도서, 학술 논문, 뉴스, 다국어 콘텐츠, 특정 도메인에 맞춤화된 자료 등 광범위한 소스를 아우릅니다.

"MAI-Thinking-1은 세심하게 출처를 확보한 33.55조 토큰의 상업적으로 라이선스가 부여된 데이터를 사용하여 처음부터 학습되었으며, 완전히 감사 가능한 학습 파이프라인을 보장합니다."

이러한 투명한 데이터 출처 확보는 지적 재산권 안전과 규제 준수가 중요한 의료, 금융, 법률과 같은 산업에서 이 모델을 신뢰할 수 있는 선택지로 만듭니다^[4].

API 및 통합 기능

MAI-Thinking-1은 Chat Completions API와 원활하게 통합되어 OpenAI 스타일 워크플로와 호환됩니다. 또한 함수 호출 및 계층화된 개발자 지침과 같은 고급 기능을 지원하여, 비디오 생성 및 엔터프라이즈 수준의 애플리케이션을 포함한 복잡한 멀티모달 작업에 적합합니다.

핵심 성능 및 역량 데이터

MAI-Thinking-1은 수학, 코딩, 과학적 추론과 같은 중요한 영역에서 측정 가능한 결과를 제공합니다. 이러한 지표는 엔터프라이즈 요구 사항에 부합하는 표준화된 문제 세트에서의 성능을 반영합니다.

추론 및 워크플로 최적화

256,000 토큰 컨텍스트 윈도를 통해 MAI-Thinking-1은 복잡한 다단계 워크플로를 처리할 수 있습니다. 여기에는 긴 계약서 분석, 상세한 에이전트 트레이스 처리, 복잡한 연구 문서 검토와 같은 작업이 포함되며, 이 모든 것을 단일 패스로 수행합니다. 희소 Mixture-of-Experts(MoE) 아키텍처는 연산 수요의 비례적 증가 없이 확장성을 보장하며, 이는 대용량 작업에 대한 비용 절감을 의미합니다.

예를 들어, 2026년 6월 Microsoft는 자동화된 Excel 작업을 위해 파인튜닝된 MAI 모델을 선보였습니다. 이 모델은 공개 및 비공개 벤치마크 모두에서 GPT-5.4와 동등한 성능을 달성했습니다^[6].

"MAI-Thinking-1은 기업이 대규모로 실행하는 워크로드를 위해 특별히 설계되었습니다... 대용량의 상시 가동 AI 워크로드를 경제적으로 실현 가능하게 만드는 가격 대비 성능 지점에서 말입니다." - Naomi Moneypenny, Microsoft ^[3]

이러한 추론 능력은 고급 코드 및 수학적 성능을 요구하는 작업에 강력한 경쟁력을 갖추게 합니다.

코드 및 수학 성능

MAI-Thinking-1은 동급 카테고리에서 가장 높은 벤치마크 점수 중 일부를 달성했습니다. 주목할 만한 결과는 다음과 같습니다:

• AIME 2025에서 97.0%
• AIME 2026에서 94.5%
• SWE-Bench Pro에서 52.8%
• SWE-Bench Verified에서 73.5%
• GPQA Diamond에서 84.2%
• LiveCodeBench v6에서 87.7% ^[6]

이러한 점수는 결정론적 환경에서 모델을 학습시키는 데 집중한 Microsoft의 노력을 반영하며, 성능이 신뢰할 수 있고 조정 가능함을 보장합니다. 이러한 일관성은 까다로운 엔터프라이즈 애플리케이션에 이상적입니다.

엔터프라이즈 배포 특성

MAI-Thinking-1은 확장성과 데이터 안전성을 핵심으로 설계되었습니다. 독점적이고 고품질의 데이터만으로 구축되어, 감사 가능성과 지적 재산(IP) 보호를 보장하며 - 이는 특히 의료, 금융, 법률과 같은 규제 산업에 매우 중요합니다. 2026년 6월 Microsoft는 Mayo Clinic과 협력하여 MAI 프레임워크를 사용해 고위험 임상 추론에 맞춤화된 전문 임상 모델을 개발했습니다^[6].

고급 멀티모달 모델을 포함한 멀티모달 통합과 결합된 이 견고한 성능은 비디오 생성 및 API 최적화와 같은 애플리케이션을 지원합니다.

기업은 강화 학습 환경(Reinforcement Learning Environments, RLEs)을 사용하여 MAI-Thinking-1을 더욱 맞춤화할 수 있습니다. Microsoft는 2026년 6월, McKinsey의 특정 요구에 맞춰 모델을 튜닝한 결과 GPT-5.5보다 더 나은 품질을 달성했으며, 동시에 10배 낮은 비용으로 운영되었다고 보고했습니다^[6].

학습 파이프라인 및 데이터 요구 사항

학습 파이프라인 개요

MAI-Thinking-1은 데이터, 연산 능력, 보상 신호 등 모든 요소를 시간이 지남에 따라 개선하고 최적화할 수 있도록 세심하게 설계된 파이프라인 덕분에 지속적으로 진화하도록 구축되었습니다^[2][6].

"목표는 더 나은 데이터, 더 강력한 보상, 더 유능한 환경, 더 많은 연산을 흡수할 수 있는 반복 가능한 시스템입니다." - Microsoft AI ^[2]

이 프로세스는 다단계 토큰 학습 접근법을 통해 생성되는 MAI-Base-1에서 시작됩니다^[6][7]. 여기서부터 Microsoft는 세 가지 전문 모델을 병렬로 개발합니다. 이들은 다음에 집중합니다:

• STEM 및 경쟁 수준의 코딩.
• 에이전트 코딩 및 도구 활용.
• 유용성 및 안전성.

이 모델들은 이후 지도 학습을 사용하여 병합됩니다. 마지막 단계는 결합된 모델을 파인튜닝하기 위한 강화 학습(RL)을 포함하며, 그 결과로 MAI-Thinking-1이 탄생합니다. 전체 학습 프로세스는 Microsoft가 운영하는 Azure 클러스터에서 실행되는 8,000개의 NVIDIA GB200 GPU로 구동되었습니다^[6].

Microsoft는 모델 개발에 대해 독특한 입장을 취합니다: 지능은 학습을 통해 구축되는 것이지 물려받는 것이 아닙니다. 제3자 모델로부터 지식을 증류하기보다, MAI-Thinking-1은 독자적으로 추론 능력을 개발하도록 학습됩니다^[2][7].

"역량은 물려받는 것이 아니라 학습되어야 합니다. 물려받은 지능은 더 빨리 습득되지만, 실제 사용에 필수적인 조정 가능성이 부족합니다." - Microsoft AI ^[2]

이러한 근본적인 접근법은 시스템이 단지 유능할 뿐만 아니라 실제 애플리케이션에도 적응 가능하도록 보장하며, 엄격한 데이터 거버넌스와 통합을 위한 토대를 마련합니다.

데이터 품질 및 거버넌스 표준

학습 데이터는 사람이 작성하고 상업적으로 라이선스가 부여된 콘텐츠만으로 구성되도록 세심하게 큐레이션됩니다^[2][6]. 이는 깨끗한 데이터 계보를 보장하며, 이는 추적 및 감사 가능한 데이터에 규제 준수가 의존하는 의료 및 금융과 같은 산업에 매우 중요합니다^[2][5].

무결성을 유지하기 위해 Microsoft는 학습 중 표준 머신 러닝 벤치마크 사용을 피합니다. 이는 모델이 테스트 데이터를 암기하는 것을 방지하여, 벤치마크 점수가 단순 암기가 아닌 진정한 추론을 반영하도록 보장합니다^[6].

"모델을 형성한 것이 무엇인지 설명할 수 없다면, 우리는 그 행동을 완전히 이해할 수도, 신뢰할 수 있게 개선할 수도 없습니다." - Microsoft AI Superintelligence Team ^[2]

멀티모달 데이터 통합

학습 프로세스는 전통적인 텍스트 데이터를 넘어, 실제 시나리오에서의 관련성을 높이기 위해 다양한 멀티모달 형식을 통합합니다. 이 코퍼스에는 웹 텍스트, 공개 GitHub 코드, 도서, 학술 논문, 뉴스 기사, 다국어 콘텐츠가 포함됩니다^[6]. 코딩 및 에이전트 작업의 경우, Microsoft는 데이터를 검증하기 위해 결정론적이고 실행 가능한 환경을 활용합니다^[2][6].

텍스트와 코드 외에도, MAI 모델은 오디오 및 시각 데이터를 통합합니다. 예를 들어:

• MAI-Transcribe-1.5는 고급 엔터티 인식을 사용하여 도메인 특화 어휘를 정밀하게 처리합니다.
• MAI-Voice-2는 일관된 음성 출력을 위한 정체성 보존 기능을 갖추고 있습니다^[3].
• MAI-Image-2.5는 브랜드 및 캐릭터 일관성을 유지하면서 정밀한 이미지 대 이미지 편집을 가능하게 합니다^[3].

이러한 멀티모달 통합은 MAI-Thinking-1이 텍스트 생성부터 복잡한 시각 및 오디오 작업에 이르기까지 광범위한 애플리케이션에 대비할 수 있도록 하여, 실제 요구 사항에 충분히 다재다능하도록 보장합니다.

APIMart의 API 통합 요구 사항

이 섹션에서는 고급 멀티모달 워크플로를 위해 설계된 MAI-Thinking-1에 액세스하기 위한 APIMart API 통합 단계를 설명합니다.

API 액세스 설정

MAI-Thinking-1에 액세스하려면 APIMart의 OpenAI 호환 게이트웨이를 사용합니다. OpenAI SDK(Python 또는 Node.js)가 엔드포인트를 가리키도록 구성하는 것부터 시작하세요:

https://api.apimart.ai/v1

OpenAI API 키를 APIMart API 키로 교체하세요. 모델 식별자로 "mai-thinking-1"을 지정해야 합니다.

인증의 경우, 요청 헤더에 Bearer 토큰을 사용하세요:

Authorization: Bearer YOUR_API_KEY

API 키는 환경 변수나 시크릿 매니저에 안전하게 저장하는 것이 필수적입니다. 액세스는 현재 비공개 프리뷰로 제한되어 있다는 점에 유의하세요. 프로덕션 액세스는 Microsoft Foundry를 통해 요청할 수 있습니다^[2][3].

함수 호출 및 개발자 도구

MAI-Thinking-1은 기능을 향상시키는 런타임 도구를 제공하여 표준 채팅 완성을 넘어섭니다. 통합 프로세스는 간단합니다:

1. 모델이 입력을 처리하고 도구 호출 요청을 식별합니다.
2. 클라이언트가 도구 호출을 실행하고 결과를 모델에 다시 전송합니다.
3. 모델이 결과를 사용하여 최종 응답을 생성합니다^[8].

지원되는 도구와 그 사용 사례에 대한 분석은 다음과 같습니다:

이러한 도구를 통해 개발자는 광범위한 애플리케이션을 위해 모델의 역량을 확장할 수 있습니다.

운영 사전 요구 사항

MAI-Thinking-1과의 통합을 최적화하려면 다음 운영 요구 사항이 충족되었는지 확인하세요:

• 대규모 인컨텍스트 데이터셋을 처리하기 위해 효율적인 메모리 및 지연 시간 관리가 필요한 256,000 토큰 컨텍스트 윈도 지원^[2].
• 주요 오류 코드의 적절한 처리:
  • 401: 인증 실패
  • 402: 잔액 부족
  • 429: 속도 제한 초과

기술 요구 사항에 대한 간략한 요약은 다음과 같습니다:

실용적인 배포 제약 사항

현재 배포 상태

2026년 6월 기준, MAI-Thinking-1은 Microsoft Foundry의 _비공개 프리뷰_를 통해서만 이용 가능합니다. 액세스하려면 Foundry 포털을 통해 요청을 제출해야 합니다. 더 광범위한 공개 프리뷰가 MAI Playground에서 "곧" 제공될 예정이며, 일반 가용성은 전 세계 여러 Foundry 리전에 걸쳐 점진적으로 확대될 것입니다^[1][2]. 이러한 단계적 출시는 복잡한 멀티모달 AI 워크플로 처리에서 이 모델의 중요성을 강조합니다.

현 단계의 한 가지 주요 한계는 토큰당 가격이 공개되지 않았다는 점입니다. 이로 인해 팀이 통합 비용을 정확하게 책정하기가 어렵습니다. 그러나 참고로, Foundry의 다른 MAI 시리즈 모델은 100만 입력 토큰당 5달러(MAI-Image-2.5), 시간당 0.36달러(MAI-Transcribe-1.5)로 가격이 책정되어 있어 가격 구조에 대한 대략적인 개념을 제공합니다^[3].

추론 및 성능 트레이드오프

MAI-Thinking-1은 희소 Mixture-of-Experts 아키텍처를 사용하여, 추론 패스 동안 약 1조 개의 총 파라미터 중 350억 개만 활성화합니다. 이 설계는 연산 비용 절감과 높은 수준의 추론 능력 유지 사이의 균형을 맞춥니다:

"MAI-Thinking-1은 기업이 대규모로 실행하는 워크로드를 위해 특별히 설계되었습니다... 대용량의 상시 가동 AI 워크로드를 경제적으로 실현 가능하게 만드는 가격 대비 성능 지점에서 말입니다." ^[3]

다만, 이 모델은 텍스트 및 추론 작업으로 제한됩니다. 비전 기반 작업이나 멀티모달 문서 이해는 지원하지 않습니다. 이미지 분석이나 시각 문서 파싱이 필요한 워크플로의 경우 추가 모델이 필요합니다. 이러한 한계는 산업 및 특정 사용 사례에 따라 배포 전략을 크게 좌우할 수 있습니다.

산업별 사용 사례

이러한 제약은 모델이 여러 산업에 걸쳐 어떻게 적용되는지에 직접적인 영향을 미칩니다. 예를 들어, Mayo Clinic은 Microsoft와 협력하여 MAI-Thinking-1을 임상 및 연구 워크플로에 통합했습니다. 이 파트너십은 의료와 같은 규제 분야에서 액세스 제어와 신뢰성 요구 사항이 어떻게 중요한 역할을 하는지 보여줍니다^[6][9].

전반적으로 MAI-Thinking-1은 법률 분석, 금융 모델링, 의료 연구, 엔터프라이즈 소프트웨어 개발과 같은 영역에서 대용량 추론 작업에 가장 적합합니다. 이러한 분야는 확장 가능하고 비용 효율적인 지능 솔루션을 요구하며, 모델의 텍스트 중심 아키텍처와 통제된 가용성의 결합은 이러한 산업의 규정 준수 및 운영 요구 사항에 잘 부합합니다.

결론 및 핵심 요점

MAI-Thinking-1은 강력한 아키텍처와 원활한 통합으로 두각을 나타내며, 멀티모달 애플리케이션을 위한 최고의 선택지가 됩니다. 추론 작업에서의 성능은 효율성과 인상적인 벤치마크 결과를 결합하여 높은 기준을 세웁니다. 깨끗하고 상업적으로 라이선스가 부여된 학습 데이터의 사용과 무증류(no-distillation) 접근법은, 특히 데이터 투명성과 계보가 중요한 의료, 법률, 금융과 같은 산업에서 명확한 우위를 제공합니다.

개발자는 MAI-Image-2.5, Sora 2, Kling V3를 포함한 500개 이상의 AI 모델을 위한 통합 엔드포인트를 제공하는 APIMart를 통해 MAI-Thinking-1에 손쉽게 액세스할 수 있습니다. 이러한 구성은 멀티모달 파이프라인 생성을 단순화합니다 - 예를 들어, 추론에는 MAI-Thinking-1을, 시각 작업에는 MAI-Image-2.5를, 비디오 출력에는 Sora 2나 Kling V3를 사용하는 식입니다. 이 모든 것은 신뢰할 수 있는 99.9% 가동 시간 SLA로 뒷받침됩니다.

비용과 성능을 최적화하기 위해, 기업은 복잡한 추론 작업을 MAI-Thinking-1에 할당하고 더 간단한 작업을 더 가벼운 모델에 위임하는 계층화된 라우팅을 구현할 수 있습니다. 조기 통합이 권장되며, 이는 기업이 수요가 증가하기 전에 시스템을 테스트, 개선, 확장할 시간을 줍니다. MAI-Thinking-1을 도입함으로써, 조직은 다양한 분야에 걸쳐 운영 효율성을 실현하는 동시에 탁월한 기술적 성능을 달성할 수 있습니다.

자주 묻는 질문(FAQ)

256,000 토큰 컨텍스트 윈도는 무엇에 사용해야 하나요?

256,000 토큰 컨텍스트 윈도는 대량의 데이터 처리가 수반되는 작업을 다루는 데 완벽합니다. 예를 들어, 최대 600페이지에 달하는 방대한 문서를 검토하거나 복잡한 코딩 워크플로를 손쉽게 처리할 수 있습니다. 이 기능은 오류를 발견하고 버그를 해결하거나 복잡한 다층 지침을 실행하기 위해 전체 코드 저장소를 분석하는 등 엔터프라이즈 수준의 작업에 특히 유용합니다.

또한 비동기적이고 대용량인 시나리오에서도 빛을 발합니다. 아키텍처 일관성 평가나 방대한 데이터셋에서의 패턴 식별과 같은 작업은, 특히 즉각적인 응답이 필요하지 않을 때 훨씬 더 관리하기 쉬워집니다.

MAI-Thinking-1이 비공개 프리뷰라면 어떻게 액세스하나요?

비공개 프리뷰 기간 동안 MAI-Thinking-1을 사용해 보려면, Azure AI Foundry의 공식 관심 등록 양식을 통해 얼리 액세스 요청을 제출해야 합니다. Baseten, Fireworks AI, Open Router와 같은 플랫폼에서 모델을 테스트할 수도 있습니다. Azure AI Foundry의 모델 카드나 카탈로그에서 등록 링크를 찾아보세요. 공개 가용성 및 가격에 대한 세부 정보는 프리뷰 단계 이후에 공유될 예정입니다.

OpenAI SDK에서 MAI-Thinking-1을 호출하려면 무엇을 변경해야 하나요?

OpenAI SDK로 MAI-Thinking-1을 사용하려면 클라이언트 구성과 요청 구조를 모두 조정해야 합니다. 해야 할 일은 다음과 같습니다:

• MAI-Thinking-1 전용 API 기본 URL을 사용하세요.
• 모델 파라미터를 mai-thinking-1로 설정하세요.
• 단계별 추론을 안내하도록 설계된 시스템 프롬프트를 포함하세요.
• 추론 노력(reasoning effort)을 제어하기 위해 extra_body 파라미터를 조정하세요. 이는 연산 시간과 관련 비용 모두에 영향을 미친다는 점을 유념하세요.

최상의 결과를 위해 통합이 추론 스타일의 출력을 적절히 처리할 수 있도록 갖춰져 있는지 확인하세요.

관련 블로그 게시물

• MAI-Code-1-Flash - Microsoft 코딩 플래시 모델