오늘의 디지털 흐름을 읽는 중

직접 써보고, 기준을 세웁니다

긴 답변을 만드는 생성형 AI와 분류·선택·점수 같은 판단 결과를 내놓는 Jev AI의 차이 대표이미지

Jev AI란? 챗봇이 아닌 ‘판단용 AI’는 어디에 쓰는 걸까

ChatGPT나 Claude를 오래 써왔다면 AI가 질문을 받고 답을 길게 설명해주는 모습이 익숙하다.

글을 써달라고 하거나 자료를 요약하고, 아이디어를 정리하는 작업도 대부분 이 흐름 안에서 처리한다.

Jev AI는 시작점부터 다르다. 긴 문장을 만드는 대신 주어진 상황에서 무엇을 선택할지, 어디로 보낼지, 어느 정도 적합한지를 판단하는 데 초점을 둔다.

TypeSafe AI는 Jev를 첫 번째 System One Model(짧은 판단과 선택을 빠르게 처리하도록 설계한 모델 계열)로 소개하고 있다.

처음 보면 “대화를 길게 하지 않는 AI를 어디에 쓰지?”라는 생각이 들 수 있다.

평소 AI에게 맡기는 일을 보면 글을 써달라는 요청만 있는 것은 아니다.

“이 문의는 환불인가 배송인가?”, “이 자료는 어느 그룹에 들어가나?”, “후보 중 조건에 가장 잘 맞는 것은 무엇인가?” 같은 요청에서는 잘 쓴 문장보다 다음 작업으로 넘어갈 수 있는 판단 하나가 더 필요하다.

Jev AI는 왜 대답을 길게 하지 않을까

일반적인 생성형 AI에 질문하면 결과는 대부분 문장이다.

질문에 답하고 이유를 설명하며, 필요하면 표나 코드까지 만들어준다. 사람이 읽고 이해해야 하는 작업에는 이런 방식이 편하다.

소프트웨어가 다음 행동을 결정해야 할 때는 필요한 결과가 달라진다.

고객 문의가 하나 들어왔고 결과가 ‘결제’, ‘배송’, ‘환불’, ‘기타’ 중 하나면 몇 문단짜리 설명은 오히려 다시 처리해야 할 데이터가 된다.

이때 프로그램에 필요한 건 ‘환불’이라는 판단과 그 판단을 얼마나 믿을 수 있는지에 대한 정보다.

TypeSafe는 Jev의 결과를 typed decisions(형식이 정해진 판단 결과)와 calibrated probabilities(판단의 확실성을 함께 보여주는 보정된 확률값)라는 표현으로 설명한다.

자유롭게 문장을 늘리는 대신, 미리 정한 값 안에서 판단하고 그 확실성을 함께 돌려주는 방식이다.

사람이 읽을 답을 만드는 것과 프로그램이 바로 쓸 판단값을 내놓는 것은 다른 일이다.

Jev는 긴 설명보다 선택, 분류, 점수처럼 정해진 결과가 필요한 작업에 집중한다.

실제 작업에서는 ‘생성’보다 ‘판단’이 필요한 순간이 많다

AI를 실제 업무에 연결해보면 글을 만드는 일보다 먼저 판단해야 할 순간이 자주 나온다.

문의 유형을 나누고, 문서 종류를 구분하고, 여러 후보 중 우선순위를 정하는 식이다.

쇼핑몰 문의가 들어오면 담당 유형을 정해야 하고, 여러 문서가 들어오면 문서 종류를 나눠야 한다.

검토 과정에서는 통과시킬지 다시 볼지 정해야 하고, 후보가 많다면 조건에 맞춰 우선순위를 매길 수도 있다.

실제 상황

필요한 결과

고객 문의 접수

배송·결제·환불 등 담당 유형

문서 자동 정리

계약서·영수증·보고서 등 문서 종류

검수 과정

통과·재검토·보류

후보 비교

조건에 따른 점수 또는 우선순위

자동화 흐름

다음에 실행할 작업이나 전달 경로

각 단계마다 생성형 AI에 긴 답변을 요청한 뒤 필요한 값만 다시 뽑아낼 수도 있다.

작업량이 적을 때는 그 방식으로도 충분하다. 같은 판단이 수백 번, 수천 번 반복되는 자동화에서는 이야기가 달라진다.

원하는 결과가 몇 개의 선택지나 점수라면 문장을 만든 뒤 다시 해석하는 과정이 하나 더 생긴다.

분류, 전달 경로 결정, 점수화처럼 가능한 결과가 어느 정도 정해져 있고 그 값을 다음 작업이 바로 받아야 하는 경우가 Jev의 주요 활용 범위다.

ChatGPT와 Jev를 같이 쓰면 역할이 더 선명해진다

실제 자동화에서는 Jev와 생성형 AI가 서로 다른 단계를 맡을 수 있다.

판단이 끝난 뒤 설명이나 답변을 만들어야 하는 흐름이라면 둘을 이어서 쓰는 방식이 자연스럽다.

고객 문의
   ↓
Jev
배송 / 결제 / 환불 중 유형 판단
   ↓
담당 업무로 전달
   ↓
ChatGPT·Claude
고객에게 보낼 답변 작성

Jev가 문의 유형을 정하면 해당 업무로 넘기고, 생성형 AI는 그 상황에 맞는 답변을 작성한다. 분류와 답변 작성이 섞이지 않아 각 단계에서 필요한 기준도 따로 관리할 수 있다.

여러 후보 자료
   ↓
Jev
조건별 분류·점수화
   ↓
검토할 자료 선택
   ↓
생성형 AI
비교 이유·보고서·최종 설명 작성

자료 검토에서도 같은 방식으로 나눌 수 있다.

먼저 조건에 맞는 후보를 판단하고, 그 결과를 바탕으로 설명이나 보고서를 작성한다.

한 모델이 처음부터 끝까지 처리할 때보다 어느 단계에서 판단이 달라졌는지 확인하기 쉽고, 필요한 부분만 고치기도 편하다.

Jev가 함께 돌려주는 확률값은 자동화 경계를 정할 때 쓸 수 있다.

신뢰도가 높으면 다음 단계로 넘기고, 낮거나 애매하면 사람이 확인하도록 기준을 정할 수 있다.

Jev가 잘 맞는 작업과 잘 맞지 않는 작업

Jev에 잘 맞는 작업인지 볼 때는 속도보다 필요한 결과의 형식을 먼저 보면 된다.

‘승인 / 거절’, ‘A / B / C’, ‘배송 / 환불 / 결제’, ‘1~5점’처럼 가능한 결과가 어느 정도 정해져 있으면 다음 프로그램이 그 값을 받아 바로 움직일 수 있다.

반대로 “이 제품의 장단점을 자세히 설명해줘”, “이 자료로 블로그 글을 작성해줘”, “새로운 광고 아이디어를 여러 개 생각해줘”처럼 읽을 내용을 새로 만들어야 하는 요청은 생성형 AI가 맡는 편이 자연스럽다.

Jev는 긴 문장 생성 기능을 줄이고 정해진 선택, 분류, 점수 판단에 범위를 집중했다.

자유로운 작성이나 창작보다 결과 형식이 미리 정해진 업무에 맞는다.

TypeSafe는 공식 사이트에서 ‘Zero Hallucinations(정해진 출력 형식 밖의 임의 문자열을 만들지 않는다는 제품 표현)’라는 문구를 사용한다.

여기서 말하는 의미는 Jev가 미리 정한 출력 형식 안에서 결과를 돌려준다는 데 있다.

그렇다고 모든 판단이 항상 맞는다는 뜻은 아니다.

정해진 값 안에서 결과를 내는 것과 그 판단 자체가 맞는지는 다른 문제다. 신뢰도가 낮은 결과는 사람이 확인하도록 기준을 두는 이유도 여기에 있다.

일반 사용자가 Jev를 볼 때 가장 먼저 봐야 할 것

현재 Jev는 early access(초기 접근 단계)로 제공되고 있어 ChatGPT처럼 대화창을 열고 바로 쓰는 서비스와는 성격이 다르다.

현재는 소프트웨어나 자동화 과정에서 분류, 선택, 점수 판단을 맡기는 방식으로 사용하는 모델이다.

일반 사용자라면 평소 AI에 어떤 일을 반복해서 시키는지부터 떠올려보면 된다.

‘써줘’, ‘설명해줘’, ‘아이디어를 내줘’가 많다면 생성형 AI가 중심이다.

‘골라줘’, ‘나눠줘’, ‘점수를 매겨줘’, ‘어디로 보내야 할지 판단해줘’가 반복된다면 그 안에는 Jev가 맡을 수 있는 판단 작업이 들어 있다.

특히 결과를 사람이 읽고 끝내는 게 아니라 프로그램이 그 값을 받아 다음 작업을 실행해야 한다면 Jev가 맡을 자리가 생긴다.

사람이 읽을 설명을 만드는 단계와 다음 행동을 결정하는 단계가 따로 있기 때문이다.

Jev에서 눈여겨볼 부분은 챗봇이 하나 더 생겼다는 게 아니라, 지금까지 하나의 생성형 AI에 몰아넣던 작업을 ‘판단’과 ‘생성’으로 나눌 수 있다는 점이다.


참고자료와 출처
TypeSafe AI – Jev와 System One 모델의 공개 배경·출력 구조
TypeSafe AI – Jev의 판단·확률·자동화 활용과 현재 제공 상태