TypeSafe Jev 시리즈 3/10 — 빠르고 구조화된 판단이 필요한 곳 | DAKER 커뮤니티

LLM이 잘하는 일은 많지만, 모든 문제를 문장 생성으로 풀 필요는 없습니다. 서비스 운영에서는 답장을 길게 쓰는 일보다, 어떤 팀으로 보내야 하는지, 환불 요청인지, 바로 처리해도 되는지를 빠르게 가르는 판단이 더 중요할 때가 있습니다.

TypeSafe의 System One과 Jev는 바로 그 지점을 겨냥합니다. 자연어를 이해하되 결과는 텍스트가 아니라 타입 있는 결정과 확률로 돌려준다는 점에서, 일반적인 생성형 모델과 결이 다릅니다.

System One은 무엇이 다른가

System One은 자연어 입력을 이해하지만, 생성 텍스트를 반환하지 않습니다. 대신 소프트웨어가 바로 사용할 수 있는 구조화된 결정과 확률을 반환합니다. 교정(calibration)은 결과와 대조해 불확실성을 반영하도록 최적화되며, 개별 답이 맞다는 보장을 뜻하지는 않습니다.

System One은 답장을 쓰거나, 코드를 만들거나, 추론 설명을 생성하지 않고, 가능한 답의 공간을 프리미티브로 정의합니다.

즉, 무엇이든 길게 설명하는 모델이라기보다, 미리 정한 판단 틀 안에서 빠르게 결론을 내리는 모델로 이해하면 됩니다.

현재 입력 범위

Jev는 현재 텍스트 입력만 받습니다. 문자열, JSON 객체, 텍스트 배열을 평가할 수 있습니다. 이미지·오디오·비디오는 아직 지원하지 않습니다.

프리미티브로 판단을 정의하는 방식

문서에서는 몇 가지 프리미티브 예시를 통해 System One의 사용 방식을 보여줍니다. 중요한 점은 모델이 자유롭게 문장을 만드는 것이 아니라, 미리 정한 형태로 답한다는 데 있습니다.

Choice

예를 들어 어느 팀이 이 티켓을 처리해야 하는지를 묻는 경우입니다. 가능한 답을 billing, technical, account처럼 정해 두고 그중 하나를 고르게 할 수 있습니다.

Score

고객이 얼마나 답답한 상태인지를 0=차분, 1=답답, 2=매우 답답처럼 점수로 표현하는 방식입니다.

Noul

이 메시지가 환불을 요청하는지처럼 예·아니오에 가까운 판단을 확률과 함께 다룰 수 있습니다. 문서의 예시는 noul: 0.95입니다.

값은 예시이며, 실제 설정·응답 필드는 각 프리미티브 문서를 따릅니다.

System One이라는 이름의 배경

System One이라는 이름은 Kahneman의 Thinking, Fast and Slow에서 말하는 System 1과 System 2의 구분에서 왔습니다. 여기서 강조하는 쪽은 빠르고 직관적인 판단입니다.

이 모델 계열은 느리고 장문의 추론보다, 빠르고 초점 있는 결정을 겨냥합니다.

워크플로 안에서는 어떻게 쓰이나

환불 요청 예시는 System One이 실제 흐름 안에서 어디에 놓이는지 잘 보여줍니다. 먼저 고객 메시지·거래·정책을 담은 state를 만들고, 그다음 환불 요청 여부, 중복 청구 증거, 정책 지원 여부를 독립 질문으로 함께 묻습니다. 이후 이 결과를 코드의 결정론적 검사와 합쳐 실행 또는 검토로 라우팅합니다.

답에는 confidence도 포함되므로, 자동 실행과 사람 검토 또는 추론 모델로의 에스컬레이션을 나누는 기준으로 삼을 수 있습니다.

호출 방법

호출은 클라이언트 SDK 또는 HTTP POST /v1/systemone로 할 수 있습니다. model 필드로 모델을 고르며, 문서 예시는 jev-latest(SDK 기본값)를 사용합니다.

어디에 적용할지 가르는 기준

이 문서를 읽고 나면, 서비스 안의 작업을 두 부류로 나눠 보는 것이 좋습니다. 하나는 설명 문장이 필요한 지점이고, 다른 하나는 분기 가능한 판단이 필요한 지점입니다. 후자만 System One 후보로 표시하면 적용 범위를 더 선명하게 볼 수 있습니다.

참고 자료

System One (.md)

이전: 2/10 텍스트가 아니라 교정된 확률 · 다음: 4/10 평가할 재료를 한곳에

여러분의 서비스에서는 설명 생성보다 구조화된 판단이 더 중요한 지점이 어디라고 보시나요?