이 영상은 TypeSafe의 Jev를 문장을 생성하는 대신, 복잡한 정보를 읽고 미리 정해진 선택지 중 하나를 고르는 범용 분류기로 소개합니다. Jev는 기존 LLM을 대체하기보다, 이메일 분류·에이전트 안전 점검처럼 LLM이 맡아 온 판단 업무를 더 빠르고 저렴하게 처리하는 도구입니다. 핵심은 분류 비용이 낮아지면 이전에는 포기했던 판단까지 소프트웨어 곳곳에 적용할 수 있다는 점입니다.

1. 글을 쓰지 않는 AI가 왜 주목받았나

Jev는 입력으로 복잡한 텍스트를 읽지만, 답변을 문장으로 쓰지는 않습니다. 사용자가 가능한 답을 미리 제시하면 그중 하나를 고르는 방식입니다. 진행자는 이를 "객관식 문제만 풀 수 있는 LLM"에 비유합니다. 언뜻 보면 글을 잘 쓰는 모델이 넘쳐나는 시대에 쓸모없어 보일 수 있지만, Jev는 TypeSafe가 출시한 뒤 24시간 만에 Vercel AI Gateway 역사상 가장 빠르게 채택된 모델이 됐다고 설명합니다. 유료 팀 채택 수 역시 첫 24시간 기준으로 이전에 출시된 어떤 모델보다 두 배 이상 많았다고 합니다.

"많은 뛰어난 개발자가 한꺼번에 판단력을 잃은 게 아니라면, Jev가 '글을 쓰지 않는 것'이야말로 핵심일 수 있습니다."

진행자는 이 영상에서 네 가지를 다루겠다고 예고합니다. 어떤 업무가 Jev에 어울리는지 알아보는 방법, 실제 시스템에서의 활용 방식, 시험 비용, 그리고 Jev가 잘 처리하지 못하는 영역입니다. 특히 Jev가 LLM을 대체한다는 주장이 아니라는 점을 강조합니다. 오히려 LLM이 아닌 선택형 모델이 더해지면서 AI 시스템의 역할 구분이 선명해진다는 설명입니다.

2. 규칙과 LLM 사이에 있던 빈자리

소프트웨어는 오래전부터 명확한 조건을 처리해 왔습니다. 예를 들어 송장이 30일 넘게 연체되면 표시하거나, 주문 총액이 한도를 넘으면 경고하는 일은 조건을 정확히 써서 일반 코드로 처리할 수 있습니다. 하지만 고객 이메일을 보고 "계약을 해지할 것 같은가?", "실제 사업 기회인가, 아니면 단지 '사업 기회'라는 표현이 들어간 것뿐인가?"를 판단하는 일은 정해진 규칙만으로 다루기 어렵습니다.

이런 문제는 복잡한 문장을 이해해야 하지만 결과는 간단합니다. 특정 범주를 고르거나, 점수를 매기거나, 진행 여부를 '예/아니요'로 정하는 식입니다. 진행자는 이런 업무를 분류 문제, 더 구체적으로는 문장과 선택을 이어 주는 준결정론적(semi-deterministic) 문제라고 부릅니다. 판단 자체는 확률적일 수 있지만, 결과를 미리 정해진 선택지로 제한해 뒤이은 소프트웨어가 일관되게 처리할 수 있습니다.

"우리가 하는 일은 복잡한 텍스트를 읽고 행동이나 간단한 선택을 내리는 것입니다."

기존 머신러닝 분류기는 예시를 모으고, 데이터를 사람이 라벨링하고, 모델을 학습·평가한 뒤 문제 변화에 맞춰 유지해야 했습니다. 잘 만들어 놓으면 실행 비용은 낮지만, 새로운 분류 업무마다 데이터와 전문 지식, 평가 작업이 필요했습니다. 그래서 대규모 플랫폼에는 유용해도 디지털 제품 곳곳에 흩어진 수많은 작은 판단 업무에 적용하기는 부담스러웠습니다.

LLM은 이 간극을 메우기 시작했습니다. 별도 학습 없이도 설명만으로 메시지를 분류하고, 도구를 고르고, 문서의 관련성을 판단하거나 다른 모델의 결과를 점검할 수 있게 됐습니다. 다만 텍스트 생성용 모델을 단순한 선택 업무에 쓰는 만큼, 필요한 것보다 비용이 많이 들 수 있습니다. Jev는 이 지점에서 복잡한 정보를 해석하되 정해진 선택지만 반환하도록 설계된 범용 분류기로 등장합니다.

3. Jev가 맡을 수 있는 네 가지 역할

진행자는 Jev를 기존 소프트웨어에 끼워 넣을 수 있는 새로운 레고 블록에 비유합니다. 코드가 계산과 데이터 조회를 맡고, LLM이 추론·계획·문장 생성을 맡는다면, Jev는 복잡한 상황을 읽고 정해진 결과 중 하나를 고릅니다. Jev는 여러 질문을 한 번에 평가할 수도 있고, 분류 업무가 바뀔 때마다 별도의 모델을 새로 학습할 필요도 없다고 설명합니다.

첫 번째 활용 방식은 복잡한 입력과 기존 업무 절차 사이에서 정보를 분류하는 것입니다. 고객 지원 티켓을 읽고 결제 문의인지, 오늘 답해야 하는지, 고객 이탈 위험이 있는지를 판단하면 소프트웨어가 담당 팀과 우선순위를 정할 수 있습니다. 이메일에서 마케팅 기회를 찾아 답할 가치와 기회의 규모를 판단한 다음, 필요할 때만 LLM이 회신을 작성하게 할 수도 있습니다.

"관심을 쏟을 가치가 있는지 결정하는 일은 Jev가 맡고, 실제 이메일 작성은 모델이 맡을 수 있습니다."

두 번째는 큰 문제 공간에서 중요한 항목을 추려내는 일입니다. 세금 문서 처리 업무에 Jev를 적용한 개발자는 기존 LLM 방식과 비교해 비용은 34분의 1, 속도는 6배 빨라졌다고 보고했습니다. 한 기업가는 이메일·슬랙·대화 기록 2만여 건에서 불만, 추가 판매 기회, 후속 조치 누락을 찾아내는 데 7분과 1달러가 들었다고 소개됐습니다. 면역학 연구 사례에서는 1만 개의 문헌 기반 질문 후보 중 중요한 질문 100개를 고르는 데 Jev를 사용했습니다. 이는 Jev가 연구 질문 자체를 해결한다는 뜻이 아니라, 사람이 주의를 기울일 대상을 빠르게 좁혀 준다는 의미입니다.

세 번째는 AI 에이전트나 업무 흐름의 다음 단계를 결정하는 것입니다. 에이전트가 빌드 폴더를 삭제하거나 코드를 강제로 푸시하려 할 때 Jev가 위험을 판단해 사용자에게 확인을 요청하도록 할 수 있습니다. 더 큰 업무 흐름에서는 현재 문서 상태를 보고 다음에 일반 도구를 쓸지, LLM에 문장 생성을 맡길지, 더 강력한 추론 모델을 호출할지, 사람에게 넘길지를 Jev가 고를 수 있습니다. 브라우저 자동화에서도 화면의 제한된 버튼과 링크 가운데 다음 행동을 선택하는 역할을 맡을 수 있습니다.

네 번째는 사용자가 의도한 바를 실시간으로 파악해 소프트웨어를 반응시키는 것입니다. 영상에서는 스프레드시트 열 제목에 '긴급도'라고 입력하면 Jev가 그 의미를 알아차리고 각 행의 긴급 여부를 분류하는 예시가 소개됩니다. 다른 열에서는 정보 누락이나 담당 팀을 판단하고, 일반 수식은 그런 판단을 날짜와 금액 계산에 결합할 수 있습니다. 필요하다면 마지막에 LLM을 연결해 답변을 작성하면 됩니다.

"스프레드시트는 계산과 언어적 판단이 자연스럽게 함께 작동하는 모습을 보여 줍니다."

4. 완벽한 도구는 아니며, 실제 문제로 검증해야 한다

진행자는 Jev가 모든 업무에 맞는 완벽한 도구라고 주장하지 않습니다. 여전히 오판할 수 있으므로 각자의 분류 문제에 직접 시험해야 합니다. 비교 대상은 현재 사용 중인 LLM뿐 아니라 기존 머신러닝 분류기, 사람이 직접 판단하는 방식일 수도 있습니다. 비용은 대체로 LLM보다 낮을 가능성이 크지만, 실제 정확도와 처리 결과를 확인한 뒤 적용해야 한다는 설명입니다.

어떤 업무가 Jev에 맞는지 찾을 때는 "복잡한 정보가 들어오고, 간단한 선택이 나가는 지점"을 살펴보면 됩니다. 예를 들어 이메일의 내용을 이해해 담당 부서를 고르거나, 에이전트의 행동을 검토해 허용·차단·사람에게 확인 요청 중 하나를 결정하는 경우가 이에 해당합니다.

시작 절차도 어렵지 않다고 소개합니다. TypeSafe가 제공하는 에이전트 설정 안내를 Claude Code나 Codex 같은 코딩 에이전트에 넣고, 계정과 API 키를 연결한 뒤 현재 프로젝트에서 적절한 분류 업무를 찾아 보게 할 수 있습니다. 진행자는 자신의 이메일 분류 도구를 이런 방식으로 만들었다고 말합니다. 에이전트에게 기존 LLM 선택 작업을 Jev로 바꿔 보고, 속도와 비용, 결과를 비교하라고 요청할 수도 있습니다.

"프로젝트에서 LLM이 정해진 결과 중 하나를 고르는 비효율적인 지점을 찾아 Jev 버전을 만들고, 결과와 속도와 비용을 비교해 보세요."

5. 낮은 비용과 빠른 속도가 바꾸는 것

영상에서 소개한 가격은 입력 토큰 100만 개당 4.2센트이며, 출력 비용은 없다고 합니다. 입력 토큰이 요청마다 1,000개라면 1,000회 호출은 약 4센트, 1만 회는 약 42센트입니다. 같은 조건에서 100만 회 요청도 약 42달러라는 계산입니다. TypeSafe의 출시 평가에서는 LLM과 비교해 속도는 최대 100배에 가까웠고, 비용은 100배 넘게 낮아질 수 있다고 제시했으며, 진행자는 직접 사용해 보고 다른 개발자 사례도 살폈다고 덧붙입니다.

이런 비용 절감은 단지 기존 AI 지출을 줄이는 데 그치지 않습니다. 판단을 해볼 만한 업무의 범위 자체를 넓힙니다. 비싸서 포기했던 판단을 더 자주, 더 세밀하게 실행할 수 있기 때문입니다. 예컨대 고객 통화 중 일부만 살펴보던 기업이 모든 통화를 여러 기준으로 확인하거나, 한 번 분류한 문서를 고객 반응에 따라 매일 다시 분류할 수 있습니다. 에이전트 작업의 시작에서만 안전성을 확인하던 방식도 각 단계마다 점검하는 방식으로 넓어질 수 있습니다.

이 변화는 제번스 역설과 연결됩니다. 효율이 높아지고 자원 사용 비용이 낮아지면 전체 사용량이 오히려 늘어날 수 있다는 개념입니다. Jev의 이름도 이 아이디어에서 따왔다고 설명합니다. 지능을 싸게 이용할 수 있게 되면 이미 돈을 쓰던 업무만 더 저렴하게 처리하는 것이 아니라, 비용 때문에 아예 시도하지 않았던 업무까지 새로 생긴다는 뜻입니다.

"비용이 충분히 낮아지면, 예전에는 돈을 들일 가치가 없다고 판단했던 질문들도 할 수 있게 됩니다."

6. LLM의 역할은 사라지는 게 아니라 커질 수 있다

Jev가 더 많은 분류를 맡으면 LLM의 일이 줄어들 것처럼 보일 수 있지만, 진행자는 오히려 유용한 AI 업무 전체가 늘어날 수 있다고 봅니다. 저렴한 분류가 새로운 기회를 발견하고, 더 어려운 예외를 가려내면 그 문제는 추론과 설명, 문장 작성이 가능한 LLM이나 사람에게 넘어갑니다. 즉, 단순한 선택은 Jev가 맡고 LLM은 정말로 추론하거나 글을 써야 하는 상황에 집중할 수 있습니다.

영상 말미에서 진행자는 개발자들이 지금까지 규칙으로 처리하거나, 비용이 정당화될 때만 전용 분류기를 만들거나, LLM을 선택 업무에까지 동원해 왔다고 정리합니다. Jev는 그 사이에 놓인 새로운 소프트웨어 구성 요소이며, 기술자뿐 아니라 코딩 에이전트를 통해 더 많은 사람이 활용할 수 있는 형태로 제공된다는 점도 강조합니다.

시청자에게는 매일 쓰는 소프트웨어를 Jev의 관점에서 살펴보라고 제안합니다. 복잡한 정보를 해석한 뒤 몇 가지 결과 중 하나를 고르는 판단이 이미 비싼 AI 호출 속에 들어 있는지, 혹은 비용과 복잡성 때문에 지금까지 아예 생략해 온 판단이 있는지 찾아보라는 것입니다.

"모든 요소가 지능적으로 반응한다면 어떨까요? 모든 행이 사용자의 의도를 이해하고, 모든 문서가 지금 중요한 기준에 맞춰 평가된다면요?"

마지막으로 진행자는 작은 팀이나 혼자 일하는 개발자에게도 격려를 보냅니다. 업계에서 아무도 기대하지 않았던 아이디어가 큰 변화를 만들 수 있으며, Jev도 작은 팀이 만들었다는 점을 상기시킵니다. 아직 Jev를 써 보지 않았다면 입력은 복잡하고 출력은 몇 가지 선택지로 좁혀지는 문제에 적용해 보고, 자신의 업무에서 어떤 가능성이 열리는지 시험해 보라고 권하며 영상을 마무리합니다.