프랑스 AI 회사 Mistral이 10월 20일 음성 모델 묶음 Voxtral 3를 내놨습니다. 말을 받아 적는 모델과 글을 읽어 주는 모델, 그리고 둘을 엮어 전화 상담원 같은 음성 에이전트를 만드는 SDK가 함께 나왔고 발표 당일부터 API로 쓸 수 있어요. 같은 날 ChatGPT에는 골라 둔 대화를 PIN으로 잠가 기록에서 숨기는 기능이 들어왔습니다.

오늘 하나만 본다면: Mistral Voxtral 3

Mistral Voxtral 3 발표 이미지(Mistral 제공)

음성 에이전트는 사람 말을 알아듣고 무슨 뜻인지 따져 본 다음, 필요하면 예약 시스템 같은 도구까지 써서 다시 말로 답하는 프로그램이에요. 이 네 가지를 실시간으로 한꺼번에 굴리기는 아직 어렵다는 게 Mistral 설명이고, 그래서 그 과정을 통째로 묶어 내놨습니다.

받아쓰기 모델 Voxtral Small Transcribe 3는 50개 넘는 언어를 받아 적습니다. 누가 말했는지 나눠 적고 회사 이름이나 전문 용어를 미리 알려 주면 그 단어를 더 잘 알아들어요. 말이 끝났는지도 알아채니 에이전트가 머뭇거리지 않고 바로 답합니다. 값은 분당 0.004달러. 4B 크기의 Mini는 분당 0.0035달러, 실시간용 Realtime 3는 분당 0.008달러예요. Small이 Whisper, Scribe v2, Gemini 3.5 Transcribe보다 정확하다는 비교도 실었는데 회사가 직접 잰 결과라는 점은 감안해야 해요.

읽어 주는 모델 Voxtral Speech 3(문서 이름은 Voxtral Mini TTS 3.0)는 100만 글자당 13달러입니다. 감정과 말 빠르기, 강조를 지시할 수 있고 35개 넘는 언어로 말해요. 바로 고를 수 있는 기본 목소리는 18개 언어에 있는데 한국어도 그중 하나입니다. 30분 넘는 녹음만 있으면 특정 사람의 말투까지 따라 하는 Pro Voice도 쓸 수 있고요.

SDK는 화상·음성 통화 도구 LiveKit 위에 만들었습니다. 듣기와 생각하기, 말하기가 앞 단계를 기다리지 않고 함께 흘러가서 한 번 주고받는 데 1초가 안 걸린다고 해요. 상대가 끼어들면 하던 말을 멈춥니다. 전화망(SIP)과 브라우저·앱(WebRTC)에 모두 붙일 수 있습니다. 음성 에이전트 API는 Mistral Small 4로 생각하게 하면 분당 0.04달러, 다른 모델을 쓰면 분당 0.08달러입니다.

API는 유럽, 미국, 글로벌 엔드포인트에서 열려 있습니다. 전체를 회사 서버에 두려면 Mistral 영업팀에 따로 문의해야 하고요. 한국어 회의록이나 상담 녹취를 받아 적는 중이라면 지금 쓰는 서비스와 분당 값부터 나란히 놓고 보세요.

ChatGPT 대화를 PIN으로 잠근다

ChatGPT

OpenAI가 10월 20일 ChatGPT에 잠긴 대화(Locked chats)를 넣었습니다. 잠근 대화는 일반 기록, 고정한 대화, 검색에서 빠지고 프로젝트 아래 Locked chats에만 모여요. 열 때는 4자리 계정 PIN을 넣고, 지원하는 휴대폰이라면 Face ID나 기기 잠금으로도 열립니다. 화면을 공유하거나 컴퓨터를 같이 쓸 때 민감한 대화를 가려 두기 좋겠죠.

잠그는 법은 대화의 더보기(•••) 메뉴에서 Lock chat을 누르면 됩니다. 처음 잠글 때 PIN을 만들라고 안내가 나와요.

따로 암호화된 금고가 생기는 건 아닙니다. 대화 보관 기간이나 모델 학습에 쓸지 정하는 설정도 그대로예요. PIN을 잊어서 재설정하면 잠근 대화와 거기에만 있던 파일이 영구히 지워지고 OpenAI 지원팀도 되살리지 못합니다. Codex 대화와 내 컴퓨터에서 도는 Work 대화는 잠글 수 없고, 데스크톱에서는 새 ChatGPT 앱에서만 됩니다.

릴리스 노트에는 Free, Go, Plus, Pro가 적혀 있고 도움말 문서에는 Business, Enterprise, Edu까지 나옵니다. 차례로 풀리는 중이라 메뉴에 아직 안 보일 수 있어요.

개발자라면: OpenAI API 12시간 프롬프트 캐싱, Claude Code 2.1.305

OpenAI API Prompt caching 문서

OpenAI API(Responses API)에서 프롬프트 캐시를 12시간 동안 유지하는 옵션을 고를 수 있게 됐습니다. 프롬프트 캐싱은 매번 똑같이 보내는 지시문, 도구 목록, 문맥을 저장해 두고 다음 요청에서 싼 값으로 다시 쓰는 기능이에요. 이제는 요청 사이가 몇 시간씩 벌어져도 할인이 적용돼요. 대신 12시간 캐시에 처음 저장할 때는 입력 토큰 값의 2.5배를 냅니다. 몇 시간 간격으로 같은 앞부분을 되풀이해 보내는 작업이라면 따져 볼 만해요.

GitHub, anthropics/claude-code v2.1.305

Claude Code 2.1.305는 한국시간 오늘 새벽에 나왔습니다. 가장 급한 수정은 2.1.304에서 생긴 문제예요. Vertex, Bedrock 같은 다른 공급자나 사내 게이트웨이가 도구 검색(tool search)을 막아 두면 요청이 전부 실패했는데 이제는 도구 검색 없이 다시 시도합니다. 어제 2.1.304로 올린 뒤 회사 환경에서 Claude Code가 먹통이 됐다면 업데이트하면 됩니다.

/usage는 경고마다 원인과 해결책을 한 줄로 보여 주고 f를 누르면 그 해결책을 적용합니다. 디스크가 꽉 찬 상태에서 Bash 명령이 실패하면 알 수 없는 파일 경로 대신 디스크가 꽉 찼고 아무것도 실행되지 않았다고 알려 줘요. 리눅스 샌드박스에는 Chromium이나 rootless podman을 돌릴 수 있게 sandbox.allowNestedUserNamespaces 옵션이 생겼습니다. 다만 이 옵션을 켜면 샌드박스의 파일 보호를 우회할 수 있다고 릴리스 노트에 적혀 있습니다.

그 밖의 소식: DeepSeek가 추론 프레임워크 DeepInfer를 공개

GitHub, deepseek-ai/DeepInfer

DeepSeek가 자기 서비스를 돌리는 추론 프레임워크 DeepInfer를 Apache 2.0 라이선스로 GitHub에 올렸습니다. 추론 프레임워크는 학습이 끝난 모델을 서버에서 돌려 답을 만들어 내는 프로그램이에요. Hacker News에서 수집 시점 2,153점을 받아 어제 첫 화면 1위였습니다.

다만 일반 개발자가 바로 받아 쓸 물건은 아니에요. 지원 모델은 DeepSeek-V4.1-Flash 하나이고, 하드웨어도 NVIDIA SM100 GPU와 화웨이 Ascend 950 NPU뿐이에요. 이번 공개본은 오프라인 추론만 담았고 KV 캐시 시스템이나 여러 서버 사이 부하 분산처럼 완성된 서비스에 필요한 부분은 빠졌습니다. 성능 그래프도 GPU 4장(prefill)과 64장(decode)으로 잰 값이고, 처음에는 vLLM을 바탕으로 만들었다고 밝혔습니다. 큰 규모로 모델을 서빙하는 팀이라면 DeepSeek가 실제로 쓰는 최적화를 들여다볼 기회입니다.

출처