Jev API
Jev는 타입이 지정된 확률 기반 결정을 내리기 위한 TypeSafe AI의 System One 모델 패밀리입니다. Choice를 통한 분류, Score를 통한 루브릭 평가, Noul을 통한 예/아니오 판단을 제공합니다. 버전별 실험적 기능을 포함하여 Jev 1.13과 1.14.0을 비교해 보세요.
Jev-1.13 API
typesafe/jev-1.13
TypeSafe AI의 Jev-1.13은 Choice, Score, Noul API를 통해 빠르고 타입 안전한 확률적 출력을 제공하는 System One 결정 모델입니다.
Jev API 배경
개요
Jev는 직접 실행할 수 있는 결정이 필요한 애플리케이션을 위해 설계되었습니다. 요청은 상태와 타입이 지정된 일련의 질문을 제공하며, 응답은 생성된 설명 대신 구조화된 답변을 포함합니다. 상태는 고객 메시지, 문서, 제품, 인시던트 또는 기타 애플리케이션 레코드를 설명할 수 있습니다. 애플리케이션은 사용 가능한 결과를 정의하고 결과가 워크플로에 미치는 영향을 결정합니다. Jev는 시스템이 서면 응답과 명시적 결정 모두를 필요로 할 때 텍스트 생성 모델을 보완합니다.
개발 과정
이 패밀리 페이지는 플랫폼의 jev-1.13 및 jev-1.14.0 항목을 통합합니다. TypeSafe는 2026년 10월 14일에 Jev 1.14.0을 출시했으며, 작업 전반의 점진적인 개선과 특히 다국어 품질에 중점을 두었다고 설명했습니다. 원래 API는 버전 ID jev-1.13.0 및 jev-1.14.0을 사용하며, 이 플랫폼의 모델 식별자는 선택된 버전 카드를 따릅니다. 업스트림 릴리스가 모든 제공자가 이를 이미 노출하고 있음을 의미하지는 않습니다.
주요 혁신
- 타입이 지정된 결정 프라이머티브를 통해 소프트웨어는 프로즈에서 추출할 필요 없이 선택된 레이블, 수치 점수 및 확률을 소비할 수 있습니다.
- 독립적인 질문들이 하나의 상태를 공유할 수 있습니다. 애플리케이션은 여러 판단을 수집하고 명시적인 비즈니스 로직을 사용하여 결합할 수 있습니다.
- 실험적 이미지 입력은 두 버전 모두 업스트림에서 사용할 수 있으며, 실험적 Box 질문 유형은 Jev 1.14.0 전용입니다.
Jev API 기술 사양
구조
TypeSafe는 Jev를 System One 모델, 즉 타입이 지정된 질문으로 제공되는 좁은 범위의 판단을 중심으로 구축된 모델이라고 부릅니다. 각 질문은 동일한 상태에 대해 독립적으로 평가됩니다. 잘 정의된 결정을 위한 것입니다. 여러 추론 단계가 필요한 광범위한 작업은 별도의 판단으로 분해되어 애플리케이션 코드에서 결합되어야 합니다. 공개 문서에는 여기에 대한 파라미터 수가 제공되지 않으므로 가정되지 않습니다.
기능
- Choice는 개발자가 정의한 명명된 옵션 세트에서 선택하며, 선택된 옵션, 확률 분포 및 신뢰도 값을 반환합니다. 지원 부서나 제품 클래스와 같이 고유한 순서가 없는 범주에 적합합니다.
- Score는 순서가 있는 루브릭을 평가합니다. 루브릭 수준 사이에 위치할 수 있는 수치 점수, 해당 수준에 대한 확률 및 신뢰도를 반환합니다. 각 수준의 의미를 구분하는 설명을 작성하세요.
- Noul은 예/아니오 진술을 평가하고 0과 1 사이의 확률을 반환합니다. 확률을 무조건적인 부울 결과로 취급하는 대신 개별 술어에 사용하세요.
- Choice 및 Score 신뢰도는 출력 분포의 집중도를 요약하며, 정확성에 대한 보장과는 다릅니다. 임계값과 에스컬레이션 정책은 애플리케이션에 속합니다.
- 업스트림 기본 컨텍스트 제한은 전체 요청의 경우 64k 토큰이며, 상태와 단일 질문을 합친 경우 32k입니다. 질문은 두 제한 모두를 충족해야 합니다. 이는 업스트림 참조 제한이며, 노출된 구성에 대해서는 선택한 플랫폼 항목을 확인하세요.
- 업스트림 실험적 긴 컨텍스트에는 TypeSafe-Danger-Zone-Long-Context: true가 필요하며 두 컨텍스트 제한을 모두 262k로 높입니다. 이미지 입력에는 TypeSafe-Danger-Zone-Images: true가 필요합니다. 헤더 패스스루 및 실험적 지원은 실제 제공자와 함께 확인해야 합니다.
한계
- Jev는 일반적인 프로즈 생성 인터페이스가 아닙니다. 제품에 서면 답변, 개방형 구성 또는 상세한 설명이 필요한 경우 별도의 생성 모델을 사용하세요.
- 이미지 입력, Box 출력 및 확장된 컨텍스트는 프로덕션 준비 상태나 이 플랫폼을 통한 가용성을 보장하는 것이 아니라 선택 사항인 업스트림 실험 기능입니다.
- 더 긴 컨텍스트는 정확도를 떨어뜨리고 지연 시간을 늘릴 수 있습니다. 관련 증거를 제공하고 단일 질문에 관련 없는 여러 판단이 포함되지 않도록 하세요.
- 실험적 이미지 지원을 통해 오디오나 비디오에 대한 지원을 추론하지 마세요. 평가 전에 지원되지 않는 미디어를 적절한 텍스트나 구조화된 증거로 변환하세요.
Jev API 성능
장점
- 명시적 출력 유형은 소프트웨어가 결과를 사용하여 분기, 순위 지정 또는 라우팅해야 하는 워크플로에 적합합니다.
- Choice는 알려진 범주를 비교할 수 있으며, Score는 모든 판단을 이진 결정으로 강제하는 대신 순서가 있는 평가를 유지할 수 있습니다.
- 신뢰도 인식 처리를 통해 자동 결정과 추가 증거 또는 인간의 검토가 필요한 경우를 구분할 수 있습니다.
- 공유 상태, 다중 질문 패턴을 통해 최종 정책을 코드에 유지하면서 단일 레코드의 별도 측면을 평가할 수 있습니다.
실제 효과
버전을 채택하거나 임계값을 변경하기 전에 대표적인 평가 세트를 사용하세요. 모호한 레코드, 누락된 정보, 소수 범주 및 고객이 사용하는 언어를 포함하세요. 실제 제공자 환경에서 작업 정확도, 잘못된 자동 작업, 검토 볼륨, 지연 시간 및 비용을 측정하세요. TypeSafer의 릴리스 공지에서는 1.14.0의 광범위한 개선 사항을 설명하지만 모든 워크로드에 대한 보편적인 개선 비율을 설정하지는 않습니다. 교체 대상이 자체 수락 기준을 통과할 때까지 이전 버전을 고정하여 유지하세요.
Jev API 언제 사용하나요
시나리오
- 지원 트리아지: 고정된 목록에서 소유 팀을 선택하고 순서가 있는 루브릭으로 긴급도를 별도로 평가합니다.
- 카탈로그 및 문서 분류: 불확실한 사례를 검토용으로 보존하면서 레코드를 알려진 레이블에 매핑합니다.
- 콘텐츠 평가: 개별 정책 조건 또는 품질 차원을 평가한 다음 명시적 애플리케이션 규칙을 사용하여 결합합니다.
- 에이전트 라우팅: 작업이 실행되기 전에 적용되는 일반 권한 검사와 함께 알려진 도구 또는 핸들러 중에서 선택합니다.
- 검색 파이프라인: 후보 관련성을 평가하거나 제공된 증거에 대해 좁게 명시된 주장을 검증합니다.
모범 사례
- 질문당 명확하게 범위를 지정한 판단을 하나씩 작성하세요. 증거를 상태에 넣고 상호 구별 가능한 Choice 옵션 또는 설명적인 Score 수준을 정의하세요.
- 테스트된 결정 정책의 입력으로 신뢰도와 확률을 사용하세요. 불확실한 결정이 자동으로 실행되지 않아야 하는 검토 또는 기권 경로를 포함하세요.
- 평가 및 배포 중에 특정 모델 버전을 고정하세요. 1.13에서 1.14.0으로 이동할 때 임계값을 다시 테스트하고 동일한 출력 분포를 가정하지 마세요.
- 통합 전에 선택한 버전의 플랫폼 상태와 가격을 확인하세요. 공식 업스트림 가격 및 엔드포인트는 이 플랫폼의 버전별 API 문서를 대체할 수 없습니다.
- 선택한 제공자와 평가가 지원할 때까지 이미지 및 확장 컨텍스트 실험을 초기 프로덕션 텍스트 워크플로와 분리해 유지하세요.
- 참조 문서: https://docs.typesafe.ai/introduction ; https://docs.typesafe.ai/models ; https://docs.typesafe.ai/primitives/choice ; https://docs.typesafe.ai/primitives/score ; https://docs.typesafe.ai/confidence ; https://docs.typesafe.ai/images ; https://typesafe.ai/blog/jev-1-14 .