서론
최근 샌프란시스코에서의 일주일을振り返리며, 저자는 산업 내 최고 연구자들이 향후 몇 년 내 AI가 자신의 직업을 능가할 것이라고 생각하는 이유를 고민했습니다. 그 이유는 모델의 인프라 및 엔지니어링 역량이 급속히 가속화되고 있기 때문입니다.
인프라 엔지니어링 가속화
저자는 모델이 곧 초인간 분산 GPU 엔지니어가 될 것이라고 보며, 이는 모델 formulation을 실험하고 조정하는 일을 훨씬 쉽게 만들지만 모델의 근본적인 성격을 Dramatically 바꾸지는 않을 것이라고 설명합니다.
"I fully agree that the models will be superhuman distributed GPU engineers in a few years."
이러한 변화는 코딩 에이전트의 등장으로 연구가 훨씬 쉬워졌음을 시사하며, 좋은 아이디어가 좋은 실행보다 더 가치 있게 되는 시대가 시작되고 있음을 나타냅니다. 저자는 이를 RSI(Rapid Self‑Improvement)라고 부르기도 하지만, 더 grounded한 표현으로는 "병렬화된, AI‑assisted 언어 모델링"이라고 부릅니다. 또한, 현재 모델 클래스에 대한 사전 학습 연구(아키텍처 및 데이터 선택)가 2‑3년 내 자동화될 가능성이 있다고 제시합니다.
비용 효율성과 저과일 과일
지난 몇 년간 기업이 추론 효율성을 개선함으로써 달성한 비용 절감은 이미巨대하며, 예를 들어 모델을 특정 가격점에 발표한 후 서빙 비용을 10‑30% 절감할 수 있었습니다. 이러한 개선은 누적되어 향후 몇 년 동안 모델 지능의 실제 비용이 지수함수적으로 감소할 것이며, 저과일 과일인 효율성 확보에는 불과 몇 년이 걸릴 것이라고 전망합니다. 더 긴 horizon에서는 가속기와 모델의 공동 설계가 기존 GPU 플랫폼 위에 추가적인 주문 규모의 효율성을 제공할 것입니다. 이러한 효율성 급증은 Jevons paradox를 촉발하여 에이전트 모델에 대한 수요가 증가할 것이며, Meta의 Muse agent가 이와 같은 현상의 초기 징후로 언급됩니다.
| 구분 | 비용 절감 범위 |
|---|---|
| 하한 | 10% |
| 상한 | 30% |
RL 환경 데이터 품질과 시장
저자는 RL 환경을 개선하는 것이 또 다른 저과일 과일이라고 지적하며, 이미 $100M 또는 $1B 매출을 달성한 RL 데이터 기업이 다수 존재한다고 말합니다.
"You don’t have to look far to see another new RL data company that’s crossed $100M or $1B in revenue."
그러나 해당 부문의 평균 출력은 remarkably 낮으며, 많은 연구자들이 구매한 데이터가 사실상 crap이라고 동의합니다.
반면, 선도 연구소들은 해당 데이터 구매에서 명확한 투자 수익률(ROI)을 확인하고 있습니다.
이러한 상황은 RL 환경의 조악함이 명백히 개선 가능함을 보여줍니다.