Jev-1.13 API
활성TypeSafe AI의 Jev-1.13은 Choice, Score, Noul API를 통해 빠르고 타입 안전한 확률적 출력을 제공하는 System One 결정 모델입니다.
Jev-1.13 API 배경
개요
Jev-1.13은 TypeSafe AI의 플래그십 System One 모델로, 2026-09-15에 출시되었으며 소프트웨어 중심 의사결정 워크플로우를 위해 Jev-1.13 API를 통해 노출됩니다. 이 모델은 텍스트를 생성하는 대신, 비정형 상태(state)와 미리 정의된 타입드(typed) 질문을 결합해 확률과 신뢰(confidence)를 포함한 타입-세이프 답변으로 변환합니다. 분류, 스코어링, 이진 판단처럼 빠르고 구조화된 의사결정에 최적화되어 있어, 문자열을 생성하고 후단에서 파싱 및 검증이 필요한 전통적인 LLM과 본질적으로 다릅니다.
개발 과정
TypeSafe AI는 2024년에 Diogo Almeida가 Erik Gafni, Sasha Sheng과 함께 설립했으며, 약 2년 동안 기계가 직접 소비 가능한(즉, 바로 실행 가능한) 결정에 초점을 둔 새로운 모델 범주를 개발했습니다. Jev는 회사의 첫 번째 System One 모델로, 운영 워크플로우에서 텍스트 생성 시스템의 대안으로 포지셔닝되었습니다. 2026년 9월까지 Jev-1.13.0은 Jev-1.13 API 및 jev-latest 별칭의 현행 버전이 되었고, 프로덕션 사용을 위한 공통 AI 게이트웨이, SDK, 커뮤니티 도구 전반에 걸친 에코시스템 통합이 이루어졌습니다.
주요 혁신
- 자연어 텍스트가 아니라 구조화된 결정을 반환하는 System One 설계로, 파싱 없이도 소프트웨어가 출력값을 바로 소비할 수 있게 함.
- Choice, Score, Noul의 3가지 병렬화 가능한 결정 프리미티브로, 단일 공유 상태가 한 요청에서 여러 타입드 평가를 지원하도록 함.
- 텍스트 선호 최적화가 아닌, 보정(calibrated)된 확률과 신뢰에 초점을 둔 RLCD 학습. 정직한 불확실성 추정을 강조.
Jev-1.13 API 기술 사양
구조
Jev-1.13은 Jev-1.13 API를 통해 제공되는 비(非)생성형 결정 모델로, 자동회귀적 토큰 단위 디코딩(단계별 생성) 대신 단일 패스/병렬 평가 패턴으로 전달됩니다. 입력은 텍스트, JSON 객체, 배열 형태로 제공되며, 각 요청은 공유 상태와 세 가지 프리미티브로 구성된 하나 이상의 타입드 질문을 결합합니다: 열거된 옵션 중 하나를 선택하는 Choice, 순서가 있는 스케일을 위한 Score, 이진 진리 확률을 위한 Noul. API 엔드포인트는 POST /v1/systemone이며, 공유 컨텍스트 예산은 대략 32k~64k 토큰입니다.
파라미터
제공된 연구 맥락에서는 TypeSafe AI가 Jev-1.13에 대한 파라미터 개수나 모델 크기를 공개하지 않았습니다. 공개적으로 이용 가능한 기술적 설명은 스케일 지표보다는 인터페이스 동작, 지연시간, 보정(calibration), 스키마 안전 출력(schema-safe outputs)에 초점을 둡니다. 대부분의 채택자에게 Jev-1.13 API의 더 중요한 특징은 타입드 출력, 신뢰를 포함한 확률 분포, 공유 상태 기반 멀티-질문 동시 실행, 그리고 SDK와 게이트웨이 통합을 통한 배포 준비성입니다.
기능
- Choice, Score, Noul 출력으로 비정형 상태에서 타입드 의미론적 결정을 수행하며, 확률과 신뢰 값(probabilities and confidence values)을 제공합니다.
- 워크플로 라우팅, 검증 게이트(moderation gates), 검증 레이어(validation layers), 에이전트 도구 선택(agent tool selection)에 적합한 저지연·고빈도 추론 패턴을 지원합니다.
- 동일한 입력 상태에 대해 여러 결정 질문을 병렬로 평가하여 프로덕션 시스템에서 오케스트레이션 효율을 향상합니다.
- 생성 방식 자체로 스키마-세이프 출력을 보장하여, 텍스트 생성 모델에서 흔히 발생하는 잘못된 구조 응답을 방지합니다.
한계
- 텍스트, 코드, 설명, 요약, 근거(rationale)를 생성할 수 없으므로 개방형 언어 작업에는 적합하지 않습니다.
- 정답 공간이 미리 정의되어 있을 때 가장 잘 작동합니다. 자유형 응답, 정확한 산술, 상세하고 감사를 거칠 수 있는 추론이 필요한 작업에는 맞지 않습니다.
Jev-1.13 API 성능
장점
- Jev-1.13 API는 빠른 구조화된 결정을 위해 최적화되어 있으며, 70~500ms 범위의 공식 지연시간(latency) 주장과 함께 토큰 단위 생성 오버헤드를 피하는 설계를 갖고 있습니다.
- 출력은 생성 방식 자체로 타입-세이프이므로 스키마 포맷 오류가 제거되고, 하위 소프트웨어 시스템에 대한 운영 복잡성이 줄어듭니다.
- 확률 중심 설계는 신뢰(confidence)와 옵션별 분포(per-option distributions)를 제공하여, 임계값(thresholding), 폴백 로직(fallback logic), 인간 검토 라우팅을 구현하기 쉽게 합니다.
- Jev-1.13 API는 산문(prose) 품질보다 반복 가능한 구조화 출력이 더 중요한 대규모 맵-리듀스(map-reduce) 스타일 분류 및 스코어링 작업에 잘 어울립니다.
실제 효과
실무적으로 Jev-1.13은 비즈니스 프로세스에 이미 명확한 결정 경계(decision boundaries)가 있고, 결정적(deterministic) 워크플로우 안에 의미론적 판단(semantic judgment)을 삽입해야 할 때 가장 효과적입니다. 속도와 타입드 출력이 설명보다 더 중요한 라우팅, 랭킹, 검토(모더레이션), 이상 탐지 스크리닝, 에이전트 게이팅에서 특히 강력해 보입니다. 보고된 벤더(제조사) 벤치마크는 일부 프런티어 LLM 기준선보다 속도와 비용 효율에서 큰 향상을 주장하지만, 그 비율은 비교 설정에 크게 좌우됩니다. 독립적인 주의도 여전히 필요합니다. 즉, 타입 안전이 정확성을 보장하진 않으며, 광범위한 배포 전에 도메인별 평가 세트에서 보정 품질을 반드시 검증해야 합니다.
Jev-1.13 API 언제 사용하나요
시나리오
- 들어오는 티켓을 부서와 긴급도에 따라 정해진 응답 시간 창 안에서 라우팅해야 하는, 고도로 볼륨이 큰 고객 지원 파이프라인이 있습니다. 답 공간이 사전에 알려져 있고 비즈니스가 생성 텍스트가 아니라 구조화된 출력, 확률, 신뢰를 필요로 하므로 Jev-1.13 API는 잘 맞습니다. 목적 팀을 분류하고, 순서가 있는 스케일에서 심각도를 할당하며, 신뢰가 낮을 때 인간 에스컬레이션을 트리거할 수 있습니다. 이는 자동화 신뢰성을 높이고 처리 지연을 줄이며 티켓팅 시스템과의 통합을 단순화합니다.
- 다음 도구를 반복해서 선택해야 하거나, 단계가 안전한지 검증해야 하거나, 추가 컨텍스트가 필요한지 결정해야 하는 AI 에이전트 또는 워크플로 엔진이 있습니다. Jev-1.13 API는 파싱이 필요한 장황한 모델 응답 대신 빠르고 타입드 게이팅 결정을 지원하므로 이상적입니다. 단일 공유 상태가 도구 선택, 위험 스크리닝, 완료 준비성 같은 여러 병렬 점검을 구동할 수 있습니다. 그 결과 오케스트레이션 복잡성이 줄고 지연시간이 개선되며, 프로덕션 환경에서 에이전트 동작이 더 예측 가능해집니다.
- 하위 처리 전에 일관된 분류, 스코어링, 또는 이진 검토 신호가 필요한 문서, 로그, 거래 기록이 대량으로 있습니다. Jev-1.13 API는 맵-리듀스 스타일 워크로드에서 특히 효과적이도록, 비정형 입력에 대해 반복 가능한 구조화된 판단을 내리도록 설계되어 이 시나리오에 적합합니다. 팀은 보정된 불확실성 신호를 유지하면서 인보이스 이상 징후를 점수화하고, 정책 이슈를 플래그하며, 이슈 심각도를 랭킹할 수 있습니다. 그 결과 처리량이 향상되고, 기계가 소비하기 쉬운 출력이 더 깔끔해지며, 대규모 운영 데이터셋 전반에 대해 임계값 기반 자동화를 적용하기가 쉬워집니다.
모범 사례
- 정답 공간이 명확하고 운영상 의미가 있도록 작업을 설계하십시오. 옵션이 열거(enumerable) 가능하면 Choice를 사용하고, 강도(intensity)의 순서가 중요하면 Score를 사용하며, 이진 점검에는 Noul을 사용하십시오.
- Jev-1.13 API에서 신뢰(confidence)와 확률 분포를 1급 제어 신호(first-class control signal)로 활용하세요. 자동화 임계값, 인간으로의 폴백 기준, 드리프트 모니터링을 포함합니다.
- 산술, 카운팅, 날짜 로직, 결정적 변환(deterministic transformation)은 모델 밖의 애플리케이션 코드에서 처리하고, Jev-1.13 API는 의미론적 판단에만 사용하십시오.
- 전면적인 프로덕션 론칭 전에 Jev-1.13 API를 도메인별 라벨링된 예시로 벤치마킹하여 보정, 클래스 정의, 에스컬레이션 규칙을 검증하십시오.