지난 4년의 AI 시대를 한 문장으로 줄이면 “챗봇의 시대”였다. RLHF 로 사람 취향에 맞게 다듬은 언어 모델이 자유 텍스트를 생성하고, 사람이 그걸 읽는다. 소프트웨어가 그 출력을 쓰려면 산문을 파싱해 구조로 되돌려야 하고, 그 과정 어딘가에서 늘 무언가가 샌다.

TypeSafe 는 정확히 그 반대 방향에 베팅한 신생 AI 랩이다. 2년간 스텔스로 있다가 2026년 9월 15일 DCVC 주도 4,000만 달러 시드와 함께 공개됐고,1 같은 주에 첫 모델 Jev 를 얼리액세스로 내놨다.2 창업자 Diogo Almeida 는 OpenAI 에서 RLHF·InstructGPT(ChatGPT 의 기반 연구)를 공동 발명한 인물이다 — 챗봇 시대를 만든 방법론의 저자가, 이번엔 챗을 버린 모델을 만들었다.3

이 글은 두 주가 채 안 된 이 모델이 실제로 무엇이고, LLM 시대의 어떤 가정을 뒤집는지, 그리고 어디까지가 벤더 주장인지를 1차 자료와 중립 보도로 갈라 정리한다.

LLM 시대의 형태 — 그리고 그 비용

지금의 표준 스택에서 소프트웨어가 “판단”을 얻는 방법은 이렇다. 범용 LLM 에 프롬프트를 보내고, 생성된 텍스트(운이 좋으면 structured output 으로 강제한 JSON)를 받아 파싱한다. 이 구조의 문제는 셋이다:

  1. 출력이 자유 텍스트다. JSON 스키마를 강제해도 값 은 여전히 생성된 토큰이다. “confidence”: 0.9 라는 필드는 모델이 자기에 대해 쓴 산문이지, 측정된 확률이 아니다.
  2. 순차 생성이라 느리고 비싸다. 토큰을 하나씩 뽑는 구조는 판단 하나에 수 초·수천 토큰을 쓴다. 편집 한 번마다, 티켓 한 건마다 검사를 돌리는 류의 “상시 판단” 워크로드에는 산수가 안 맞는다.
  3. 탈선의 여지가 항상 있다. 거부·환각·형식 이탈 — 모든 출력이 원칙적으로 가능한 공간에서 샘플링된다.

TypeSafe 의 매니페스토는 이걸 “생각의 비용(the cost of thinking)”이라는 말로 요약한다 — 지능이 계량 불가할 만큼 싸지면 무슨 일이 벌어지는가를 묻고, 자기들은 “업계의 나머지와 반대 방향으로” 짓고 있다고 선언한다. 그들이 내세우는 핵심 지표는 intelligence per dollar 다.4

Jev — 타입 있는 질문, 보정된 확률

Jev 는 LLM 이 아니다. 텍스트를 생성하지 않는다. 상태(state — 텍스트 또는 JSON)와 타입이 정해진 질문들을 주면, 각 질문에 보정된 확률 분포로만 답한다.25 질문 타입은 세 가지가 전부다:5

  • Noul — 예/아니오. 답은 0~1 사이 확률 하나.
  • Choice — 정의한 선택지(최대 255개) 중 하나. 답은 선택 + 선택지별 확률 + confidence.
  • Score — 순서 있는 척도(2~10 레벨) 위의 위치. 답은 레벨 사이에 떨어질 수 있는 분수 점수(예: 1.6) + 분포.

공식 발표문의 표현을 빌리면 “프런티어 지능의 함수 호출: 비구조 상태 in, 타입 있는 확률적 결정 out”이다.2 여러 질문을 한 요청에 담으면 병렬로 한 번에 샘플링된다 — 토큰을 순차로 뽑는 LLM 과 구조적으로 다른 지점이다.2

훈련 방법도 이름부터 RLHF 를 겨냥한다. RLCD(Reinforcement Learning for Calibrated Decisions) — 사람 취향이 아니라 결과 대비 확률의 정직함 을 최적화한다고 한다.2 TechCrunch 인터뷰에 따르면 훈련 데이터는 전량 합성이며, 아키텍처는 비공개다(외부 관측자들은 오픈웨이트 LLM 위에 지은 것으로 추정한다).3

가격은 플랫폼에 공개돼 있다: 입력 100만 토큰당 $0.042, 출력 무료 (OpenRouter 기준, 컨텍스트 32k).6 판단 하나가 1,000~1,600 토큰이라면 검사당 대략 $0.00004~0.00007 — 범용 LLM 검사 대비 100배쯤 싼 산수다. 지연은 회사 발표로 100ms 미만, “기존 프런티어 모델보다 최대 100배 빠르고 저렴” — 이 성능·지능 동급 주장은 전부 벤더 주장이고, 공개 2주차라 중립 헤드투헤드 벤치마크는 아직 없다.12

이름의 유래도 회사가 밝혔다: 제번스 역설(Jevons Paradox) — 자원이 싸지면 소비가 준다는 예상과 달리 폭증한다는 그 역설이다. 판단이 검사당 수천분의 1센트가 되면, 지금은 아무도 안 돌리는 곳에 판단을 깔게 된다는 베팅이 이름에 박혀 있다.1

시대 비교 — 무엇이 뒤집혔나

  LLM 시대 (2022~) System One / Jev 가 겨냥하는 것
지능의 소비자 사람 (챗 응답을 읽는다) 소프트웨어 (확률을 코드가 분기한다)
훈련 목표 RLHF — 사람이 선호하는 응답 RLCD — 결과에 대해 정직한 확률
출력 자유 텍스트 (파싱·검증 필요, 탈선 가능) 사전 정의된 타입 (형식 오류가 구조적으로 불가)
샘플링 순차 (토큰 단위) 병렬 (질문 전부 한 번에)
신뢰도 모델이 말로 주장 분포 자체가 출력 — 임계값을 코드가 정함
단위 경제 판단당 ~1센트, 수 초 판단당 ~수천분의 1센트, <100ms (벤더 주장)

Almeida 의 프레이밍이 이 표를 관통한다: “사람만이 지능의 소비자일 수는 없다. 대부분의 지능은 결국 소프트웨어 안에서, 배경에서 조용히 돌아야 한다.”1 LLM 시대가 지능을 대화 상대 로 만들었다면, 이쪽은 지능을 언어의 원시 타입(primitive) 으로 만들겠다는 것이다.

주의할 독해 하나 — “환각하지 않는다(can’t hallucinate)”는 공식 문구는 형식에 대한 주장이지 정답에 대한 주장이 아니다.2 타입이 맞는 답도 틀릴 수 있다. Jev 가 파는 건 정답 보장이 아니라, 틀릴 때 확률이 낮게 나오는 정직함 이고, 그 보정(calibration)이 실제로 잘 됐는지야말로 아직 제3자 검증이 없는 핵심 주장이다.

실전에서는 — 실제로 굴러가는 사례 하나

이 모델이 어떤 자리에 들어가는지는 어제 다룬 Abide 가 좋은 표본이다. 코딩 에이전트의 매 편집마다 “이 diff 가 이 규칙을 어겼는가”를 Jev 에 묻고 확률 하나를 받아 0.8 이상이면 에이전트에게 수리를 지시한다. 범용 LLM 으로는 편집당 1센트 이상·수 초라 시작할 수 없던 게임이, 검사당 ~300ms·수만분의 1달러라서 성립한다. “지금은 아무도 판단을 안 돌리는 자리에 판단을 깐다”는 제번스 베팅의 축소판이다.

같은 패턴이 가리키는 자리들: 티켓 라우팅, 콘텐츠 심사, 에이전트 출력 검증, 임계값 기반 자동화(높은 confidence 는 자동 처리, 낮으면 사람에게). 공통점은 전부 생성이 아니라 판정이라는 것 — LLM 시대에 “LLM-as-a-judge”라는 어색한 우회로 때우던 자리다.

걸러 읽을 것들

  • 아키텍처 비공개. “새로운 아키텍처”라는 회사 설명과 “오픈웨이트 LLM 기반 추정”이라는 외부 관측이 공존한다.3 얼마나 “새로운” 건지는 현재 검증 불가.
  • 보정 품질·지능 동급 주장 = 벤더 주장. 공개 2주차, 얼리액세스 대기열 상태다. 중립 벤치마크 부재를 회사도 부정하지 않는다.
  • 영어 최적. 다국어는 되지만 동급 정확도는 아니라는 게 공식 안내다 — 한국어 워크로드는 자체 라벨 데이터로 임계값을 검증하고 쓰는 게 맞다.
  • 고정 질문 셋의 한계. 세 타입으로 표현 안 되는 판단, 열린 추론이 필요한 판단은 여전히 LLM 의 자리다. TypeSafe 스스로 System One(직관) 이라는 이름으로 범위를 긋고 있다 — System Two(추론)는 이 모델이 하는 일이 아니다.

정리

LLM 시대의 암묵적 가정은 “지능의 출력은 언어다”였다. Jev 는 그 가정을 빼고 남는 것 — 보정된 확률 — 만 팔겠다는 첫 프런티어급 시도다. RLHF 를 만든 사람이 RLHF 가 최적화하는 것(사람의 선호)과 소프트웨어가 필요로 하는 것(정직한 확률)이 다르다는 걸 인정하고 후자를 위한 별도 훈련 체계를 세웠다는 점에서, 방향 자체는 논리가 선다. 남은 건 전부 실측의 문제다: 보정이 정말 되는지, 동급 지능이라는 말이 어느 과제에서 참인지. 확률로 대답하는 모델답게, 그 답도 아직 분포 위에 있다.

References

  1. “TypeSafe AI Emerges From Stealth With $40M in Funding With New Model for Composable AI”, Business Wire (회사 보도자료), 2026-09-15. https://www.businesswire.com/news/home/20260915525333/en/ ↩ ↩2 ↩3 ↩4

  2. Diogo Almeida, “Introducing System One Models and Jev”, TypeSafe 공식 블로그, 2026-09-14. https://typesafe.ai/blog/introducing-system-one-models-and-jev ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7

  3. Tim Fernholz, “A new kind of AI model from a ChatGPT inventor is thrilling developers”, TechCrunch, 2026-09-18. https://techcrunch.com/2026/09/18/a-new-kind-of-ai-model-from-a-chatgpt-inventor-is-thrilling-developers/ ↩ ↩2 ↩3

  4. TypeSafe AI 홈페이지·매니페스토 (“Intelligence per dollar”, “Intelligence beyond chat”). https://typesafe.ai ↩

  5. TypeSafe 공식 문서 “System One concepts” (Noul/Choice/Score 타입 정의). https://docs.typesafe.ai/concepts/system-one ↩ ↩2

  6. OpenRouter 모델 페이지 “TypeSafe: Jev Latest” (가격 $0.042/M input·output 무료, 컨텍스트 32k). https://openrouter.ai/~typesafe/jev-latest ↩