추론 컴퓨팅과 RLVR: '생각의 양'을 조절하는 추론 모델의 표준화
OpenAI의 o1 및 DeepSeek-R1 등장 이후, 대규모 언어 모델(LLM) 연구는 사후 훈련 단계에서 검증 가능한 보상 기반 강화학습(RLVR, Reinforcement Learning with Verifiable Rewards)을 활용하는 방향으로 급격히 전환되었습니다. 최근 공개된 GPT-5.6 모델군은 3가지 크기로 제공되며, 각 모델마다 대략 5~6단계의 추론 노력(Reasoning Effort) 조절 옵션을 기본 탑재하고 있습니다.
- 프롬프트 수입
- 추론 노력 토큰 설정
- RLVR 중간 추론 생성
- 최종 검증 응답 도출
이러한 추론 모델들은 수학(SymPy, WolframAlpha)이나 코드(단위 테스트, 컴파일러)와 같이 정답 여부가 명확한 도메인에서 `0(오답)`과 `1(정답)` 보상만으로 자가 수정(Self-correction) 및 '아하 모먼트(Aha moments)'를 학습합니다. 모델이 출력하는 `<think>`와 `</think>` 태그는 추론 능력 자체를 부여하는 것이 아니라, 사용자 인터페이스(UI)나 파이프라인에서 추론 과정을 분리하기 위한 규칙 기반 포맷 보상($R_{format}$)의 결과물입니다.
- 하드 스위치(Hard Switch): Qwen3 기술 보고서에 따르면 `enable_thinking=False` 설정 시 토크나이저 수준에서 비어 있는 `<think></think>` 태그를 강제 삽입하여 즉각적인 직답을 유도합니다.
- 소프트 스위치(Soft Switch): 시스템 프롬프트(예: `Reasoning effort: low/medium/high`)나 `/think`, `/no_think` 접두사를 통해 응답 길이와 계산량을 제어합니다.
- 토큰-정확도 상관관계: 추론 노력 수준을 높일수록 더 많은 토큰을 생성하며 복잡한 벤치마크 정확도가 향상되는 인퍼런스 컴퓨팅 스케일링이 입증되었습니다.
롱컨텍스트 비용 절감: Gemma 4의 교차 레이어 KV 캐싱과 PLE
에이전트 워크플로와 추론 모델의 토큰 소비가 급증함에 따라, 활성화 메모리(KV Cache) 병목을 해소하기 위한 아키텍처 개편이 필수 과제로 떠올랐습니다. Google이 출시한 오픈 가중치 모델군 Gemma 4는 모바일·임베디드 타깃의 E2B, E4B 모델에 혁신적인 최적화 설계를 도입했습니다.
| 모델명 | 유효 파라미터 | 전체 파라미터(임베딩 포함) | 전체 레이어 수 | 독자 KV 계산 레이어 | 공유 KV 레이어 | 128K 컨텍스트 KV 캐시 절감량 |
|---|---|---|---|---|---|---|
| Gemma 4 E2B | 2.3B | 5.1B | 35 | 15 | 20 | 약 2.7 GB (bfloat16) |
| Gemma 4 E4B | 4.5B | 8.0B | 42 | 24 | 18 | 약 6.0 GB (bfloat16) |
교차 레이어 어텐션 (Cross-Layer Attention)
Gemma 4 E2B/E4B는 후반부 트랜스포머 레이어가 독자적인 Key/Value 프로젝션을 계산하지 않고 이전 레이어의 KV 텐서를 재사용합니다. 슬라이딩 윈도우 어텐션(SWA) 레이어는 이전 SWA 레이어의 KV를, 풀 어텐션 레이어는 이전 풀 어텐션 레이어의 KV를 재활용하여 KV 캐시 메모리 사용량을 대략 절반으로 줄였습니다.
계층별 임베딩 (Per-Layer Embeddings, PLE)
트랜스포머 스택 전체의 크기를 키우는 대신, 토큰 임베딩 레이어에서 계층별 전용 임베딩 슬라이스(`ple_l`)를 한 번에 생성한 후 각 레이어의 피드포워드 신경망(FFN) 출력단에서 게이팅 및 잔차 연결로 합산합니다. 이를 통해 메인 트랜스포머 연산 비용은 2.3B/4.5B 수준으로 유지하면서 임베딩 테이블의 파라미터 용량(5.1B/8.0B)을 활용하는 구조적 효율을 달성했습니다.
다중모달 AI의 물리적 한계: 위상수학 벤치마크 MindTopo
Microsoft Research는 시각-언어 모델(VLM)이 3D 공간의 불변 구조를 얼마나 이해하는지 평가하는 신규 벤치마크 MindTopo를 발표했습니다. 기존의 유클리드 기하학적 평가(거리, 각도, 크기)를 넘어, 피아제(Piaget) 인지 발달 이론에 기반한 5대 위상학적 특성을 측정합니다.
- 연속성 (Continuity): 경로 또는 객체가 끊어지지 않고 이어져 있는지 판단
- 분리 (Separation): 인접한 요소들이 하나의 구조인지 독립된 개체인지 구별
- 순서 (Order): 경로를 따라 배열된 요소들의 순서 및 변형 추적
- 포함 (Enclosure): 경계선이 내부와 외부를 형성하는지 여부 판별
- 매듭 (Knots): 꼬여 있는 줄이 단순한 엉킴인지 실제 매듭·링크인지 식별
실험 결과 모든 폐쇄형 및 오픈 가중치 VLM은 단일 이미지의 정적 추론(Static Reasoning)보다 시뮬레이터 환경에서 조작을 수행하는 대화형 계획(Interactive Planning)에서 훨씬 큰 성능 저하를 보였습니다. 모델들은 국소적으로 타당해 보이는 행동을 취하다가 물리적 제약 조건을 위반하거나 공간적 연결 관계를 잃어버리는 현상을 드러냈습니다.
의료 전문 VLM CARE-X: 이원 추론과 결정론적 도구 연계
Microsoft는 흉부 X선 판독을 위한 통합 연구용 VLM CARE-X를 공개하며, 단순 텍스트 생성을 넘어선 임상 보조 시스템의 설계 방향을 제시했습니다. SigLIP2-so400M 비전 인코더와 Phi-4-mini-instruct(3.8B) 백본을 경량 어댑터로 결합하고 DAPO(직접 정렬 정책 최적화) 강화를 적용했습니다.
"co-training discriminative auxiliary heads with a generative VLM enriches shared representations, leading to stronger generative performance on the same tasks while also providing calibrated structured predictions."
CARE-X는 단일 순방향 패스(Forward Pass)에서 자연어 판독문 생성과 보조 헤드를 통한 정량적 분류 확률을 동시에 산출하는 이원 추론(Dual Inference)을 채택했습니다. PadChest 구문 위치 특정(Phrase Grounding)에서 mAP가 +24.6%p, mIoU가 +14.1%p 향상되었으며, ReXVQA 벤치마크(41,007개 QA)에서는 94%의 정확도를 기록하여 리더보드 1위에 올랐습니다.
또한 계측이 필수적인 심비대증(Cardiomegaly) 및 대동맥 확장 진단을 위해 Qwen3-VL-4B-Instruct와 결정론적 측정 도구를 연계한 다단계 추론 루프를 적용한 결과, 인도 Narayana Health의 CT 확진 122개 외래 코호트에서 94.26%의 재현율(Recall)을 달성하여 시각 추정 전용 모델 대비 +10.65%p 향상된 성능을 증명했습니다.
글로벌 기술 정책과 규제 환경의 분기
AI 기술의 급격한 발전과 함께 정책 및 사회적 규범을 둘러싼 갈등도 심화되고 있습니다.
- 미국 법무부와 저작권: 트럼프 행정부 법무부는 뉴욕타임스(NYT)와 OpenAI 간의 소송에서 AI 학습이 공정이용(Fair Use)에 해당할 수 있다는 입장을 표명하며 국가 안보를 위한 기술 주도권 유지를 강조했습니다.
- 공교육 내 생성형 AI 규제: 뉴욕시는 60만 명의 학생에게 영향을 미치는 초·중학교 생성형 AI 전면 사용 금지(1년 모라토리엄)를 단행했습니다.
- 빅테크 반독점 및 플랫폼 판결: 미국 법원은 구글의 광고 기술 사업부 분할 요구를 기각하며 플랫폼 해체 대신 경쟁사 데이터 공유 의무화 판결을 내렸습니다.
- 반도체 공급망 안보: 대만 당국은 핵심 칩 인력 유출 및 불법 영업과 연계된 166건의 중국 지하 네트워크 사건을 적발했습니다.
- 모빌리티 및 노동: 우버(Uber)는 영국 스타트업 Wayve와 협력해 영국 최초의 상용 로보택시 서비스를 개시했으나, 미국 내에서는 운전기사 노조와 연대하고 영국 내에서는 알고리즘 급여 소송에 직면했습니다.