MAI 실시간 전사 1위, 배치보다 5.4배 비싼 이유

결론부터 말하면 MAI-Transcribe-2-Streaming은 ‘전사 정확도 1위’만 보고 전환할 제품이 아니다. 한국어 음성 서비스를 만드는 팀이라면 실시간 반응이 꼭 필요한 구간만 이 모델로 보내고, 녹화 파일은 시간당 0.10달러의 배치형으로 분리하는 편이 비용과 운영 위험을 함께 줄인다.

작성자: 트렌드매그 편집부 · 검수자: 트렌드매그 AI 편집 기준 · 최종 업데이트: 2026-10-03 (Asia/Seoul)

먼저 확인한 사실

무엇이 바뀌었는가: 파일 전사에서 말하는 중간에 반응하기로

Microsoft가 10월 1일 공개한 MAI-Transcribe-2-Streaming은 오디오 파일을 모두 받은 뒤 텍스트를 돌려주는 배치형이 아니다. 말하는 동안 바뀔 수 있는 중간 결과를 보내고, 구간이 확정되면 최종 결과를 전달한다. Microsoft는 60개 언어의 자동·연속 언어 감지를 지원하고, Artificial Analysis에서 최종·첫 부분 전사 정확도 1위를 기록했다고 밝혔다.

여기서 가장 중요한 변화는 정확도보다 결과가 도착하는 시점이다. 상담원 보조, 실시간 자막, 음성 에이전트는 문장이 끝난 뒤 수백 밀리초가 제품 경험을 바꿀 수 있다. 반대로 회의 녹화, 팟캐스트 자막, 완료된 상담 통화의 품질 검사는 다음 날 처리해도 된다. 이 작업에 실시간 요금을 내면 같은 텍스트를 더 빨리 받는 대가만 커진다.

모델 카탈로그는 생명주기를 Preview로 표시한다. Microsoft Learn은 공개 미리보기에는 SLA가 없고 프로덕션 워크로드에 권장하지 않는다고 명시한다. ‘지금 쓸 수 있음’과 ‘장애 책임을 걸고 운영할 수 있음’은 다른 상태다.

사용자 영향: 한국어는 지원하지만 한국어 1위는 아니다

공식 언어표에는 한국어 코드 ko가 들어 있다. 국내 콜센터, 강의 자막, 음성 메모, 자동차·키오스크 인터페이스의 시험 후보가 될 수 있다는 뜻이다. 그러나 Artificial Analysis 스트리밍 지표는 AA-AgentTalk 50%, VoxPopuli 25%, Earnings22 25%로 구성된 약 8시간 자료다. 공개 방법론은 여러 억양과 도메인을 포함한다고 설명하지만 한국어 전용 오류율을 제공하지 않는다.

따라서 ‘60개 언어 지원’을 ‘한국어 정확도 검증 완료’로 바꾸면 안 된다. 한국어 서비스라면 숫자, 영문 제품명, 사람 이름, 주소, 띄어쓰기, 존댓말 종결, 한국어·영어 코드 스위칭을 별도 표본으로 만들어야 한다. 콜센터라면 전화망의 8kHz 음질도 16kHz 마이크 녹음과 분리해야 한다.

배치형보다 5.4배: 즉시성에 내는 가격을 계산한다

스트리밍 도입가는 오디오 1시간당 0.54달러다. 9월에 나온 배치형 MAI-Transcribe-2의 도입가는 시간당 0.10달러다. 같은 1,000시간을 처리하면 스트리밍은 540달러, 배치형은 100달러로 차이는 440달러다. 스트리밍 단가는 배치형의 5.4배다.

월 전사비 = 오디오 시간 × 모델 단가 + 네트워크·저장·후처리 비용이다. 위 표는 모델 사용료만 계산한 가상 시나리오이며 환율, 세금, Azure 계약 할인, 데이터 이동, 재시도 비용은 포함하지 않았다. 두 가격 모두 2026년 말까지의 도입가다. 표준 가격이 공개되지 않았으므로 2027년 예산은 현재 단가를 고정값으로 쓰지 말고 여유율을 둬야 한다.

회사 주장과 확인 가능한 사실을 나눈다

API 문서가 드러낸 통합 비용

Realtime API는 OpenAI Realtime API와 유사한 WebSocket 프로토콜을 쓴다. 다만 ‘유사’는 교체만 하면 된다는 뜻이 아니다. 현재 문서에서는 PCM16 모노 16kHz 또는 24kHz 오디오를 보내고, 10~20ms 같은 작은 청크가 지연을 줄이는 방법으로 제시된다. 세션은 최대 1시간이다.

더 큰 함정은 턴 종료다. 현재 백엔드는 서버 측 음성 활동 감지와 자동 commit을 지원하지 않으며 turn_detection과 noise_reduction은 null만 받는다. 클라이언트가 자연스러운 침묵을 찾는 VAD를 두거나 사용자가 종료 버튼을 누를 때 commit을 보내야 한다. 중간 결과는 새 문자열을 계속 덧붙이는 값이 아니라 현재 가설을 교체하는 값이고, 연결 복구 때 다시 나타날 수 있다. 화면에 중복 문장이 쌓이는 버그는 모델 정확도보다 이벤트 처리에서 생길 수 있다.

국내 크리에이터·전문 블로그의 실전 사례

지정된 벤치마킹 목록 가운데 이번 주제와 직접 연결되고 공개 내용을 확인할 수 있는 자료는 OrcaRouter의 스트리밍·배치 비교 글 1건이었다. 이 글은 1,000분당 약 9달러와 1.67달러, 즉 5.4배 차이를 계산하고, 라이브 자막·상담 보조에는 스트리밍이 필요하지만 사후 회의록·아카이브에는 배치형이 합리적이라고 구분한다.

다만 OrcaRouter는 모델 라우팅 서비스를 운영하므로 여러 모델을 나눠 쓰라는 결론에 상업적 이해관계가 있다. 트렌드매그는 가격을 Microsoft 원문으로, 미리보기 상태와 API 제약을 Microsoft Learn으로, 평가 방법을 Artificial Analysis 원문으로 다시 확인했다. 지정 유튜브 채널에서는 발표 뒤 48시간 안에 설명·챕터·자막으로 검증 가능한 한국어 실사용 테스트를 찾지 못해 제목만 보고 인용하지 않았다.

직접 재현 가능한 한국어 검증 절차

1. 표본 40개를 고정한다. 조용한 한국어 10개, 전화망 10개, 소음 10개, 한국어·영어 혼합 10개를 각각 20~40초로 준비한다.
2. 정답 전사를 사람이 확정한다. 숫자·영문명·고유명사와 띄어쓰기 규칙을 먼저 정하고 수정 이력을 남긴다.
3. 두 경로를 같은 날 실행한다. 스트리밍과 배치형에 동일 오디오를 넣고 모델 버전, 리전, SDK 버전, 언어 설정, 청크 크기를 기록한다.
4. 세 지표를 분리한다. 최종 WER, 첫 부분 결과 지연, 최종 확정 지연을 따로 측정한다. 부분 결과가 몇 번 뒤집혔는지도 센다.
5. 업무 오류를 따로 센다. 전화번호, 금액, 날짜, 제품명, 사람 이름 오류에는 일반 단어보다 높은 가중치를 준다.
6. 장애를 재현한다. 10초 네트워크 단절, 1시간 세션 경계, 중복 이벤트, commit 누락을 시험하고 대체 배치 큐가 작동하는지 확인한다.
7. 월 비용을 실측한다. 성공 오디오뿐 아니라 재연결·재전송·후처리까지 포함해 시간당 총비용을 계산한다.

반론과 과장 가능성

• “5.4배면 비싸서 쓸 이유가 없다”는 단순화다. 대화가 끝난 뒤 결과가 오는 배치형은 실시간 음성 에이전트의 대체재가 아니다. 응답 지연이 이탈률을 줄인다면 프리미엄은 가치가 있다.
• “1위면 한국어도 가장 정확하다”는 근거가 없다. 공개 스트리밍 지표는 한국어 전용 순위가 아니며 도메인별 고유명사 오류를 대신 측정하지 않는다.
• “OpenAI 호환 프로토콜이면 바로 교체된다”도 과장이다. 이벤트 이름, commit, 턴 감지, 인증, 리전, 오류 복구가 다르다.
• “중간 결과가 빠르면 최종 결과도 항상 빠르다”는 오해다. 부분 가설은 수정될 수 있고 UI는 교체·확정 상태를 분리해야 한다.
• “글로벌 접근이면 국내 저장소에서 처리된다”는 뜻이 아니다. Azure가 지원 리전으로 라우팅하므로 데이터 위치와 계약 요건을 별도로 확인해야 한다.

분석의 한계

• 트렌드매그는 Azure 리소스를 만들거나 MAI-Transcribe-2-Streaming을 직접 호출하지 않았다.
• 2.5% WER와 세부 지연 수치는 Microsoft가 인용한 값이며, 이 글 작성 환경에서 공개 리더보드의 모델별 원시 행을 내려받아 재계산하지 못했다.
• Artificial Analysis의 약 8시간 혼합 데이터셋은 한국 전화망·방언·고유명사 성능을 대표하지 않는다.
• SDK 경로와 Realtime API 경로의 제공 리전 표가 달라 실행 당일 선택한 통합 문서를 다시 확인해야 한다.
• 도입가는 2026년 말까지이며 이후 가격, SLA, GA 일정은 확인되지 않았다.

지금 할 일

1. 사후 처리 가능한 녹화물은 배치형, 사람의 즉시 반응이 필요한 구간만 스트리밍으로 분류한다.
2. 한국어 40개 표본과 업무 가중 오류표를 먼저 만들고 공개 미리보기에서 제한된 트래픽만 시험한다.
3. 클라이언트 VAD·commit·중간 결과 교체·재연결·배치 폴백을 설계한다.
4. 2026년 말 전에 표준 가격과 GA·SLA·데이터 리전을 다시 확인한다.

도입 순서는 AI 로드맵, 모델 탐색은 AI 도구, 후속 분석은 AI 인사이트에서 이어갈 수 있다. 예산 설계에는 AI API 월 비용의 6가지 변수, 평가표 설계에는 벤치마크 1위가 실무 1위가 아닌 이유, 권한·연결 점검에는 OpenAI Dots 권한·기억 분석을 함께 볼 수 있다.

3줄 요약

• MAI-Transcribe-2-Streaming은 한국어를 포함한 60개 언어를 지원하지만 공개 미리보기라 SLA가 없고 프로덕션 권장 상태가 아니다.
• 시간당 $0.54로 배치형 $0.10보다 5.4배 비싸므로 실시간 반응이 필요한 구간만 보내는 편이 합리적이다.
• 한국어 정확도, 부분 결과 안정성, commit·재연결은 자체 표본과 장애 시험으로 확인해야 한다.

공식 출처

• Microsoft AI — MAI-Transcribe-2-Streaming 발표
• Microsoft Learn — Speech SDK, 미리보기 상태·리전·한국어 지원
• Microsoft Learn — Realtime API, 세션·commit·이벤트 제약
• Microsoft Foundry — 모델 카탈로그
• Microsoft AI — 배치형 MAI-Transcribe-2 가격·기능

독립 출처와 벤치마킹 자료

• Artificial Analysis — 스트리밍 음성 전사 리더보드
• Artificial Analysis — WER·지연·가격 평가 방법
• OrcaRouter — 스트리밍·배치 비용과 용도 비교 (모델 라우팅 서비스 운영사의 상업적 맥락 있음)

편집 원칙: 가격·언어·미리보기 상태·API 제약은 Microsoft 원문에서 확인하고, 평가 방법과 비용 비교는 독립 자료에서 교차 검토했다. 모델을 직접 테스트하지 않았다.