Timestral: Mistral의 시계열 파운데이션 모델

TL;DR Highlight

209M 파라미터 시계열 모델이 3대 벤치마크 1위, CPU에서도 돌아간다

Who Should Read

센서·관측 지표·수요 데이터 수천 개를 예측해야 하는데 시리즈마다 모델을 따로 학습하기 부담스러운 백엔드·데이터 개발자

Core Mechanics

209M 모델이 벤치마크 3개 1위
- GIFT-Eval, TIME, fev-bench 세 곳에서 사전학습·zero-shot 모델 중 1위라고 한다.
- 이전 최고 모델보다 파라미터는 약 2/3만 쓴다.
- 앙상블 없이 체크포인트 하나로 낸 결과다.
크기 4종, 모두 같은 구조
- 5M, 28M, 123M, 209M 네 가지이고 구조와 학습 방식은 같다.
- 28M 모델은 약 4배 큰 Chronos-2를 GIFT-Eval과 TIME에서 앞섰다.
- 209M 모델은 더 큰 TimesFM-3와 Falcon-2.0을 앞섰다.
GPU 없이 CPU로 추론
- 8스레드 서버 CPU에서 3주치 15분 간격 이력으로 하루 앞을 예측하면 5M은 10ms, 209M은 140ms다.
- 28M은 209M보다 5배 빠르다.
- 123M은 209M 점수의 0.2% 이내이면서 지연시간은 3/4다.
공변량과 확률 예측을 기본 지원
- 여러 시계열을 함께 모델링하고 21개 분위수로 불확실성 폭을 낸다.
- 요일·기계 상태 같은 범주형 공변량을 숫자 변환 없이 바로 넣는다.
- 생산 일정·날씨예보 같은 미래 공변량도 조건으로 쓴다.

Community Reactions

시리즈가 1만 개일 때 TSFM이 낫다는 의견
- 댓글에서 시리즈별 모델은 학습 이력이 부족하다는 지적이 있었다.
- 하나의 범용 모델은 스케일 차이와 피처 작업이 부담이라 TSFM이 일을 줄여 준다는 의견이다.
공변량이 핵심 아닌가 하는 의문
- 직전 N개 값만 보는 모델은 시간대·휴일·날씨를 아는 단순 모델에 진다는 반론이 있었다.
- 5M 모델은 'bank holiday' 의미를 모르고 0→1 변화만 본다는 지적도 있었다.
실무 도입과 경험담
- 매크로 팀에서 이 모델로 옮기는 중이라는 댓글이 있었다.
- 예전에 몇 달 걸린 예측 모델 구축을 이제 몇 분에 한다는 경험이 올라왔다.
벤치마크·라이선스에 대한 회의론
- 0.03 개선을 5배 차이처럼 보이게 그렸다는 비판이 있었다.
- 선두 t0-gamma에 근접하지만 라이선스가 제한적이라는 아쉬움이 나왔다.
- 블랙박스라 시스템 방정식은 얻지 못한다는 의견도 있었다.

How to Apply

내 시계열 하나로 zero-shot 돌려보기
- 오늘 GitHub 저장소를 받아 5M 모델로 CPU에서 하루 앞 예측을 돌려라.
- 기존 ARIMA나 현재 쓰는 모델과 같은 구간으로 백테스트해 비교하라.
알림 임계값을 분위수로 바꾸기
- 단일 예측값 기준 알림을 21개 분위수 중 상·하위 분위수 기준으로 바꿔라.
- 이상 탐지 오탐이 줄어드는지 지난 장애 기록으로 확인하라.
일정·상태를 공변량으로 넣기
- 생산 일정, 점검 계획, 요일, 기계 상태를 known-future 또는 범주형 공변량으로 입력하라.
- 공변량 없이 돌린 결과와 오차를 비교하라.
모델 크기를 지연·정확도로 고르기
- 5M, 28M, 123M, 209M을 같은 데이터로 돌려 지연시간 대비 오차를 표로 만들어라.
- 요구 지연 안에서 가장 큰 모델을 고르라.

Try It

복사해서 바로 해보기

# Claude 또는 ChatGPT에 붙여넣기 (Timestral 평가 계획을 짜는 프롬프트, 코드는 원문에 없어 실행 코드는 쓰지 않음)

나는 시계열 파운데이션 모델 Timestral(5M/28M/123M/209M, CPU 추론, 21개 분위수 출력, 과거·미래·범주형 공변량 지원)을 우리 데이터에 평가하려 한다.
데이터 설명: {{데이터 설명: 시리즈 개수, 간격, 길이}}
공변량 후보: {{공변량 목록}}
현재 쓰는 기준 모델: {{ARIMA 등}}

다음을 만들어 줘:
1. 시간 순서를 지키는 백테스트 분할 방법
2. 모델 크기별 정확도·지연시간 비교표 템플릿
3. 분위수 예측이 실제 값을 얼마나 포함하는지 확인하는 방법
4. 공변량 유무 비교 실험 설계

이어서 해 볼 것: 결과 표를 붙여 주고 어떤 크기를 운영에 쓸지 물어보기.

Terminology

시계열 파운데이션 모델LLM처럼 큰 데이터로 미리 학습해 두고 처음 보는 시계열도 바로 예측하는 모델이다. 시리즈마다 새로 학습하지 않아도 된다.

zero-shot추가 학습 없이 처음 보는 데이터에 바로 쓰는 방식이다. 입사 첫날 교육 없이 일을 시키는 것과 비슷하다.

공변량(covariate)예측 대상은 아니지만 대상에 영향을 주는 보조 변수다. 휴일, 날씨, 생산 일정 같은 것이다.

분위수 예측값 하나 대신 하위·중간·상위 값을 여러 개 내놓는 예측이다. 날씨예보의 강수확률처럼 불확실성의 폭을 보여 준다.

Pareto front크기 대비 정확도처럼 두 기준에서 더 나은 선택지가 없는 경계선이다. 같은 크기에서 이보다 잘하는 모델이 없다는 뜻이다.