Jev를 소프트웨어에 넣는 법: TypeSafe 판단 AI의 특징과 영상 데모 정리 | DAKER 커뮤니티

한 줄 답: 요즘 AI를 제품에 붙일 때 가장 먼저 떠오르는 것은 대개 채팅형 LLM입니다.

데이콘·DAKER 커뮤니티 기준으로 정리한 안내입니다.

요즘 AI를 제품에 붙일 때 가장 먼저 떠오르는 것은 대개 채팅형 LLM입니다. 그런데 David Ondrej의 영상은 조금 다른 방향을 보여 줍니다. 문장을 길게 생성하는 대신, 아주 짧은 시간 안에 선택지와 점수, 확률을 돌려주는 판단 모델을 어떻게 제품 흐름에 넣을 수 있는지에 초점을 맞춥니다.

이 글은 「Build Anything with Jev, Here’s How」에서 다룬 범위만 바탕으로, Jev가 무엇인지와 어떤 데모가 나왔는지, 그리고 아이디어에서 VPS와 API 연결까지 어떤 흐름으로 시연했는지를 정리한 내용입니다.

Jev로 만들기 —

Jev를 한 줄로 보면 무엇인가

영상에서 Jev는 채팅용 LLM이 아니라 빠른 판단용 모델로 소개됩니다. 문장을 이어 쓰는 방식이 아니라, 여러 옵션을 병렬로 평가해 선택과 점수, 확률을 구조화된 형태로 내놓는다는 설명입니다.

제브는 문장을 쓰는 LLM이 아니라, 선택지·점수·확률을 한 번에 돌려주는 System One 판단 모델로 소개됩니다.

영상은 이런 특성이 실시간 폼, 분류, 컴퓨터 사용 같은 작업에 잘 맞는다고 설명합니다. 반대로 문장 작성, 자기 설명, 코드 작성, 단계별 추론은 Jev의 역할이 아니라고 선을 긋습니다. Astra나 Fable 같은 채팅·코딩 모델을 대체하는 제품이 아니라는 점도 분명히 말합니다.

영상에서 설명한 Jev의 동작 방식

Jev의 핵심은 프롬프트를 텍스트 응답으로 길게 생성하는 대신, 결정·확률로 바꾼다는 데 있습니다. 예시로 든 고객 지원 티켓 인터페이스에서는 어느 부서로 보낼지에 대한 choice, 불만 정도를 나타내는 score, 환불 요청 가능성을 뜻하는 probability를 약 100ms에 받는다고 설명합니다.

또한 학습 방식으로 RLCD(calibrated decisions용 강화학습)를 언급합니다. 영상 설명에 따르면, 확신이 낮을 때는 그 낮은 확신을 확률로 표현하도록 만들었다는 취지입니다.

장점은 행동 선택·분류·점수·순위·라우팅을 매우 빠르게 처리하는 데 있고, 문장 생성이나 단계별 추론을 대신하는 모델은 아닙니다.

속도, 가격, 구조화에 대한 영상 주장

영상에서 제시한 수치는 Jev의 포지션을 이해하는 데 중요한 부분입니다. 지연 시간은 대략 70–500ms, 흔히는 100–150ms대로 소개합니다. 가격은 입력 약 100만 토큰당 0.042달러, 출력은 무료라고 설명하며, 같은 내용을 10억 입력 토큰당 42달러로도 말합니다. 예시로는 요청 100만 건에 입력 1천 토큰씩이면 약 42달러라는 계산을 듭니다.

또한 가장 빠른 모델 대비 약 200배 빠르고, 일부 저가 모델 대비 약 400배 저렴하다고 소개합니다. 「환각 0%」라는 표현도 구조화된 결정 출력과 도구 호출 오류율 차트와 함께 등장하지만, 이 역시 영상에서 제시한 주장으로 이해하는 것이 좋습니다. 실제 업무에서 어느 정도 차이가 나는지는 별도로 재보아야 한다는 점도 함께 봐야 합니다.

접속 방식과 관련해서는, 데모 당시 TypeSafe API가 대기열 상태여서 OpenRouter 또는 Vercel AI Gateway로 Jev를 연결했다고 설명합니다.

데모로 보여 준 활용 사례

영상은 Jev가 어디에 들어갈 수 있는지를 몇 가지 짧고 선명한 데모로 보여 줍니다. 스프레드시트에서는 각 행의 긴급도를 입력 즉시 라벨링하는 모습을 보여 주며, 수백 행 규모에서도 약 100ms대 반응을 강조합니다.

간단한 자율주행 토이 데모에서는 거리와 속도 같은 입력을 바탕으로 가속, 감속, 정지, 회전 같은 행동을 실시간으로 선택합니다. 또 컴퓨터 사용 데모에서는 항공권 검색 과정을 예로 들며, 구조화된 클릭과 결정을 수행하는 모습을 보여 줍니다. 이 장면에서는 영상 기준 약 0.004달러, 약 7초라는 수치도 언급됩니다.

여기에 더해, UI를 깨보려는 적대적 테스트 스위트를 CI에 넣기 쉬워졌다는 사례도 나옵니다. 수 펜니 수준의 비용과 병렬 처리 가능성이 장점으로 제시됩니다.

아이디어에서 VPS, API 연결까지의 3단계

1. 아이디어

영상이 제안하는 출발점은 LLM이 10–20초 걸리는 작업이 아니라, 실시간 판단이 필요한 제품을 떠올리는 것입니다. 데모에서는 지원자나 대기열을 실시간으로 등급 매기는 Typeform류 지능형 폼이 예시로 등장합니다.

2. VPS 하나

배포 흐름은 프론트엔드와 백엔드를 여러 호스팅에 나누기보다, Hostinger VPS와 Coolify 등을 이용해 풀스택을 한곳에 올리는 방식으로 시연됩니다. 이 과정에서 에이전트인 Astra가 리눅스 설정을 돕는 장면도 나옵니다.

3. Jev 붙이기

마지막 단계에서는 에이전트에게 앱을 만들게 하고, API 키를 환경변수로 넣은 뒤 GitHub와 Dockerfile을 통해 배포하는 흐름을 보여 줍니다. TypeSafe API가 대기열이면 OpenRouter 등을 쓰는 방식입니다. 시연된 폼에서는 약 488ms 왕복이 한 번 표시됩니다.

영상의 흐름은 빠른 판단이 필요한 제품 아이디어를 잡고, VPS에 풀스택을 올린 뒤, Jev를 API로 연결해 실제 UX에 녹여 넣는 과정으로 이어집니다.

정리

이 영상의 메시지는 두 갈래로 읽힙니다. 하나는 빠르고 저렴하며 형식이 잡힌 판단을 기존 소프트웨어 UX에 넣으면 새로운 제품 기회가 생길 수 있다는 점입니다. 다른 하나는, 그렇다고 해서 Jev가 문장형 LLM을 대체하는 것은 아니라는 점입니다.

즉, 무엇이든 생성하는 모델이라기보다, 실시간으로 고르고 점수 매기고 라우팅하는 모델로 보는 편이 영상의 취지에 가깝습니다. 세부 시연과 설정 과정은 원본 영상을 함께 보는 것이 좋습니다.

출처