이번 주 AI 뉴스 세 개가 한꺼번에 나왔다. 빌 게이츠는 “AI가 10억 명을 죽일 수 있다”고 했다. 트럼프와 시진핑은 워싱턴에서 만나 AI 대화 채널을 열기로 했다. 그리고 메타는 몇 달째 Muse 모델군을 쏟아내고 있다.

셋은 서로 다른 얘기처럼 들린다. 기술 쪽에서 보면 같은 질문에 대한 세 가지 답이다. 그 질문은 “강력한 AI를 누가, 어디서, 어떤 통제 아래 돌리는가”다.

  • 게이츠: 위험은 모델이 아니라 “나쁜 의도 + 최신 도구”의 조합이다. 그러니 법과 감시가 필요하다.
  • 트럼프: 위험보다 경쟁에서 지는 것이 더 크다. 그러니 속도를 내고, 기술 스택을 수출하고, 사고가 나면 핫라인으로 푼다.
  • 메타 Muse: 같은 능력을 클라우드의 거대 모델과 내 기기 위의 오픈 모델로 동시에 내놓는다. 통제 지점이 한곳에 모이지 않는다.
  • 이 셋이 충돌하는 지점은 결국 하나다. 능력이 작은 모델로 증류되어 누구나 내려받게 될 때, 게이츠가 말한 감시와 트럼프가 말한 통제는 어디에 걸 수 있는가.

1. 빌 게이츠 — “10억 명”이라는 숫자의 기술적 의미

게이츠는 9월 27일 NBC Meet the Press에서 이렇게 말했다. “AI는 10억 명의 죽음을 초래하는 사건을 일으킬 만큼 확실히 강력하다.” “나쁜 의도를 가진 사람과 최신 AI 도구의 조합만큼 강력한 무기는 없었다.” 업계의 자율 규제만으로는 안 되고 입법과 법 집행이 필요하다고도 했다(Guardian, Forbes).

과장처럼 들리지만, 발언의 구조는 기술적으로 꽤 정확하다. 그는 “AI가 스스로 반란을 일으킨다”고 말하지 않았다. 행위자는 사람이고, AI는 증폭기라고 말했다. 그가 든 예도 사기와 전력망 공격이다. 이렇게도 말했다. “예전엔 국가만 사이버 공격 팀을 가졌다. 이제는 AI를 가진 작은 집단이 가장 큰 나라만 하던 일을 할 수 있다”(Forbes).

기술 쪽에서 이 말을 풀면 이렇다.

게이츠의 주장 기술적으로 뜻하는 것
작은 집단이 국가급 공격을 도구 호출과 긴 작업을 잘하는 에이전트 능력이 공격 자동화의 진입 장벽을 낮춘다
킬 스위치만으로는 부족 이미 배포된 모델, 특히 오픈 웨이트는 끌 수 없다
자율 규제로는 부족 안전 평가를 모델 회사가 스스로 하고 스스로 통과시킨다

“10억 명”이라는 숫자 자체는 근거가 제시된 추정이 아니다. 인터뷰에서 나온 규모의 비유로 읽어야 한다. 다만 방향은 가볍게 넘길 게 아니다. 공격자에게 필요한 게 “지능”이 아니라 실행력(도구 사용, 오류 회복, 긴 작업 유지)이라면, 올해 모델들이 가장 크게 좋아진 부분이 정확히 그것이기 때문이다.

2. 트럼프 — “AI에서 이기는 자가 이긴다”

같은 주에 트럼프는 정반대 쪽에 섰다. 속도를 늦추자는 제안을 두고 “부정적인 세력들이 일어나지도 않을 일을 꺼낸다”고 했다. “우리는 AI에서 중국을 앞서고 있다. 그리고 솔직히 그렇게 유지하고 싶다. AI에서 이기는 자가 이기기 때문이다”(Newsweek).

그 기술 전략은 2025년 7월에 나온 America’s AI Action Plan에 정리돼 있다. 기둥은 세 개다. 혁신 가속(규제 완화), AI 인프라 구축(데이터센터·전력·반도체 공장), 국제 외교와 안보(미국 AI 기술 스택 수출, 적대국 견제)다.

그런데 9월 24~26일 미중 정상회담의 백악관 팩트시트에는 흥미로운 두 줄이 있다(White House).

  • 두 정상은 해당 신기술을 부를 때 “인공지능” 대신 “초지능(super intelligence)”이라는 말을 쓰기로 했다.
  • 미중 초지능(SI) 대화를 만들어 위험과 이익에 대해 의견을 나누고, 11월까지 다음 교류를 하기로 했다. 그리고 SI 사고를 다루는 양자 소통 채널을 두기로 했다.

반면 반도체 수출 통제는 회담 결과물에 직접 등장하지 않았다(Korea Times). 정리하면 트럼프 노선의 기술적 핵심은 다음과 같다.

트럼프 노선 기술적으로 뜻하는 것
이기는 자가 이긴다 경쟁력은 연산량(칩·데이터센터·전력)에서 나온다는 전제
기술 스택 수출 동맹국이 미국 칩·모델·클라우드 위에서 돌게 만든다 = 통제 지점을 미국 인프라에 둔다
SI 사고 핫라인 사고는 막는 게 아니라 국가 간에 관리하는 것으로 본다(핵 핫라인 모델)

게이츠와 트럼프의 차이는 “위험이 있냐 없냐”가 아니다. 위험을 어디서 다루느냐의 차이다. 게이츠는 국내 법과 감시로, 트럼프는 국가 간 경쟁과 핫라인으로 다룬다.

3. 메타 Muse — 같은 능력을 두 곳에 동시에

메타의 Muse는 Meta Superintelligence Labs가 올해 새로 만든 모델군이다. 라마(Llama)와 달리 클로즈드와 오픈 두 갈래로 나온다. 아래 내용은 모두 메타 공식 발표에 근거하고, 성능 수치는 벤더 주장이다.

Muse Spark — 클라우드의 거대 모델 (클로즈드)

2026년 4월에 공개됐다. 네이티브 멀티모달 추론 모델이고, 도구 사용, 시각적 사고 과정, 멀티 에이전트 조율을 지원한다(Meta). 기술적으로 눈에 띄는 주장은 세 가지다.

  • 사전학습 효율: 사전학습 스택을 새로 만들어, 이전 모델 Llama 4 Maverick과 같은 능력을 한 자릿수 이상 적은 연산량으로 낸다고 한다.
  • 생각 시간 벌점: 강화학습에서 생각을 오래 하면 벌점을 줬다. 그러자 모델이 추론을 압축하는 단계를 거쳤다가, 다시 늘려 성능을 올렸다고 한다.
  • Contemplating 모드: 에이전트 여러 개가 병렬로 추론한다. 한 에이전트가 오래 생각하는 대신 여럿이 동시에 생각해서 지연 시간을 늘리지 않는다.

안전 쪽에도 짚을 점이 있다. 외부 평가 기관 Apollo Research는 출시 직전 체크포인트를 보고, Muse Spark가 자기가 평가받고 있다는 것을 가장 자주 알아챈 모델이라고 했다. 테스트 상황을 “정렬 함정”으로 알아보고 정직하게 행동해야 한다고 추론했다는 것이다. 메타는 출시를 막을 문제는 아니라고 결론 내렸지만, 연구가 더 필요하다고 스스로 적었다(Meta). 평가받는 줄 아는 모델의 평가 결과를 어디까지 믿을 수 있는가. 게이츠가 “자율 규제로는 부족하다”고 할 때 가리키는 게 정확히 이런 문제다.

Muse Glimmer — 내 기기 위의 30B (오픈 웨이트)

8월 10일 공개됐다. 30B 파라미터, Apache 2.0 라이선스의 오픈 웨이트이고, 소비자용 GPU 한 장을 단 맥이나 PC에서 상시 로컬 에이전트로 돌리는 걸 목표로 한다(Meta, Hugging Face).

기술 내용
증류 Muse Spark의 출력으로 로짓 증류를 해서 사전학습한다. 이후 긴 컨텍스트와 에이전트 데이터로 중간학습하고, SFT와 온폴리시 증류, 강화학습을 섞는다
양자화 전체 정밀도로는 55GB 이상이 필요하다. 약 4비트로 줄여 20GB 미만으로 만든다. KV 캐시와 이미지 인코더, 드래프터까지 24~32GB 안에 들어간다
투기적 디코딩 작은 드래프터(DFlash)가 토큰 블록을 제안하고 본 모델이 검증한다. RTX 5090에서 3.1배, M5 Max에서 1.8배 빨라진다고 한다
에이전트 능력 도구 호출, 실패 복구, 멀티모달, 100개 이상 언어

이 표에서 가장 중요한 단어는 증류다. 거대 클로즈드 모델의 에이전트 추론 능력이 30B 오픈 모델로 옮겨져서 누구나 내려받을 수 있게 됐다. 메타는 공개 전에 자사 안전 프레임워크로 오픈 웨이트 공개 여부를 평가했다고 밝혔다. 하지만 한 번 공개된 가중치는 다시 거둘 수 없다. 이 모델은 이제 인터넷이 끊긴 방에서도 돈다.

4. 세 가지를 나란히 놓으면

기준 게이츠 트럼프 메타 Muse
가장 큰 위험 악의적 사용자 + 에이전트 도구 중국에 뒤처지는 것 (벤더로서) 평가 신뢰성, 오용
통제 지점 국내 법·집행·감시 연산 인프라·수출·국가 간 핫라인 모델 학습 단계의 안전 튜닝 + 공개 전 평가
끌 수 있나 “킬 스위치로는 부족” 인프라를 쥐면 가능하다는 전제 Spark는 API라 가능, Glimmer는 불가능
연산의 위치 — 거대 데이터센터(미국 안) 데이터센터(Spark) 와 개인 기기(Glimmer)

이 표의 마지막 두 줄이 이 글의 요점이다. 트럼프 노선은 연산이 거대 데이터센터에 모인다는 전제 위에 서 있다. 그래야 칩 수출 통제나 스택 수출이 통제 수단이 된다. 게이츠의 감시도 누가 무엇을 돌리는지 볼 수 있어야 가능하다.

그런데 Glimmer 같은 모델은 그 전제를 흔든다. 거대 모델에서 증류한 에이전트 능력이 24GB짜리 기기 한 대에 들어간다. 그렇게 되면 통제 지점은 데이터센터가 아니라 가중치 파일 공개를 결정하는 순간 하나로 좁혀진다. 그 순간이 지나면 되돌릴 수 없다.

5. AI 기술의 미래 — 내가 보는 세 가지

① 능력은 계속 아래로 흘러내린다. 증류, 양자화, 투기적 디코딩은 전부 “큰 모델의 능력을 작은 기기로”를 향한 기술이다. Muse Spark의 “연산량 한 자릿수 절감” 주장이 사실이라면, 같은 능력을 얻는 비용은 해마다 크게 떨어진다. 연산량을 쥐는 것만으로 우위를 지키는 전략은 시간이 갈수록 약해진다.

② 그래서 안전은 “모델”에서 “시스템”으로 옮겨 간다. 모델 하나를 안전하게 만드는 것만으로는 부족하다. 평가받는 줄 아는 모델이 있고, 누구나 받는 가중치가 있기 때문이다. 실제로 효과가 있는 통제는 모델 바깥에 있다. 도구 권한을 최소화하고, 실행 전에 사람이 승인하고, 출력을 스키마로 검증하고, 감사 로그를 남기는 것이다. 내가 WATCHMAN과 SENTINEL을 만들며 제일 많이 쓴 시간도 모델 고르기가 아니라 이 바깥 통제를 만드는 데였다.

③ 폐쇄망과 온디바이스가 표준이 된다. Glimmer 같은 모델은 위험이자 기회다. 데이터를 밖으로 내보낼 수 없는 곳(반도체 팹, 금융, 의료, 국방)에서 에이전트를 쓸 수 있는 길이 열린다. 외부 API에 기대지 않고 사내에서 에이전트를 돌리는 역량이 앞으로 기술 조직의 기본기가 될 것이다.

게이츠, 트럼프, 메타는 각자 다른 쪽을 보고 있다. 하지만 기술이 가는 방향은 하나로 모인다. 더 작게, 더 가까이, 끌 수 없게. 그렇다면 남는 질문은 “누가 AI를 가질 것인가”가 아니다. “AI가 이미 모두의 손에 있을 때, 무엇을 통제의 기준으로 삼을 것인가”다.

한계

  • 게이츠와 트럼프 발언은 언론 보도로 인용했다. 인터뷰 전문은 직접 확인하지 않았다.
  • “10억 명”은 발언자가 근거를 제시한 추정치가 아니다.
  • Muse의 성능·효율 수치는 모두 메타의 자체 발표(벤더 주장)다. 독립 검증은 확인하지 않았다. Glimmer를 직접 돌려 보지도 않았다.
  • 미래에 대한 5절은 의견이다.

References