AI 진영을 뒤흔든 속도 조절 선언
생성형 AI 기술의 선두 주자들이 급격한 기술 확장 경쟁에서 한 발 물러나 '속도 조절(Pacing the frontier)'을 선언했습니다. 최근 연구진들의 잇따른 안전 경고와 해킹 사고가 이어지는 가운데, 주요 프론티어 AI 기업들이 상장 연기와 개발 속도 조절이라는 현실적인 브레이크를 밟기 시작했습니다.
OpenAI의 샘 알트만(Sam Altman) CEO는 최근 포춘(Fortune)과의 인터뷰에서 2026년 내 기업공개(IPO)를 진행하는 것은 현명하지 않다는 입장을 명확히 밝혔습니다. 한편 Anthropic의 다리오 아모데이(Dario Amodei) CEO는 기술 폭주를 막기 위한 3단계 제안을 담은 블로그 글을 공개했으며, 알트만과 테슬라의 일론 머스크(Elon Musk) 역시 이에 적극적인 동의를 표했습니다.
OpenAI, 2026년 IPO 추진 공식 철회
OpenAI는 비밀리에 상장 예비 심사를 신청했으나, 2026년 연내 상장은 진행하지 않기로 결정했습니다. 포춘의 앨리슨 숀텔(Alyson Shontell) 편집장과의 대담에서 알트만 CEO는 상장 압박으로 인해 무리하게 속도를 내지 않겠다는 입장을 전달했습니다.
"안전과 관련해 벌어지고 있는 모든 상황을 고려할 때, 지금 상장을 추진하는 것은 현명하지 못한(ill-advised) 선택이라고 생각합니다. 우리는 비즈니스가 준비되고, 사회가 이 기술을 맞이할 준비가 되었다고 느낄 때 상장할 것입니다."
2026년 내 상장 불가 방침을 묻는 질문에 알트만은 "2026년은 아니라고 봅니다. 우리에게는 해야 할 일이 아직 많습니다"라고 답변했습니다. 뉴욕타임스는 지난 6월 OpenAI가 2026년 3~4분기 상장을 목표로 주관사 및 법률 자문단을 꾸렸으나, 기술주 변동성과 자체 재무 과제로 인해 2027년으로 일정을 미루는 방안을 검토 중이라고 보도한 바 있습니다.
Anthropic이 제시한 3단계 '프론티어 페이싱' 전략
Anthropic의 다리오 아모데이 CEO는 최근의 OpenAI-HuggingFace 해킹 사태와 차세대 AI를 스스로 구축하는 수준으로 급격해진 기술 발전 속도를 언급하며 신중한 접근이 필요하다고 강조했습니다. Anthropic 내부에서도 최근 연구원 제이콥 콕슨(Jacob Coxon)이 주요 AI 기업들이 인류의 삶을 걸고 도박을 하고 있다는 우려를 제기하며 사임하는 등 진통이 이어진 바 있습니다.
아모데이 CEO는 AI 역량 개선 속도를 의도적으로 늦추기 위한 구체적인 3대 전략을 제안했습니다.
- 외부 상주 평가관 도입
- 민주주의 진영 표준 공조
- 글로벌 최소 위험 통제
1단계: 외부 상주 평가관(Embedded Evaluators) 전격 수용
METR과 같은 제3자 기관의 평가관을 사내에 직접 상주시키는 방식입니다. 은행 규제관처럼 사내 출입증, 전용 데스크, 노트북을 지급받아 내부 리스크 평가팀과 동등한 수준으로 안전 조치를 검증하고 사고 보고를 감시하게 됩니다. Anthropic은 이 조치를 일방적으로 즉시 이행하기로 약속했으며, OpenAI의 알트만 역시 "좋은 아이디어"라며 동참을 선언했습니다.
2단계: 민주주의 진영 내 안전 기준 표준화
민주주의 국가 내 주요 AI 기업들이 공통 안전 기준을 수립하고 통제되지 않은 개발 속도에 제한을 두는 방식입니다. 담합으로 인한 반독점 규제(Antitrust) 저촉을 피하기 위해 미국 정부가 대화에 필요한 좁은 범위의 면책(narrow waiver)을 제공해 줄 것을 요청했습니다. 또한 고성능 반도체 및 장비 수출 통제와 모델 증류(Distillation) 단속을 통해 중국과의 격차를 3~5년간 벌릴 수 있다고 설명했습니다.
3단계: 권위주의 정부를 포함한 글로벌 공조
미국과 동맹국이 권위주의 국가와도 대화를 시도하여 최소한의 합의를 도출하는 단계입니다. 생물학 무기 제조나 위험 행위에 AI를 악용하는 것을 금지하는 협약 등이 주요 목표로 제시되었습니다.
안전 거버넌스 로드맵 비교
두 기업의 리더십이 밝힌 안전 거버넌스 및 실행 방안은 다음과 같이 요약됩니다.
| 구분 | OpenAI | Anthropic |
|---|---|---|
| IPO 일정 | 2026년 연내 상장 철회 (2027년 검토) | 미정 (해당 없음) |
| 상주 평가관 | METR 등 제3자 상주 모델 수용 약속 | 일방적 선제 도입 선언 및 타사 동참 촉구 |
| 규제 협력 | 안전 중심의 사회적 준비 상태 우선 | 반독점 면책 요청 및 3단계 글로벌 프레임워크 제시 |
| 경영진 입장 | "기술과 비즈니스가 준비될 때 추진" | "시간을 확보하여 올바른 방식으로 개발 진행" |
업계의 반발과 규제 포섭 논란
이러한 감속 제안에 대해 모든 시각이 긍정적인 것은 아닙니다. 일각에서는 아모데이 CEO의 주장을 파멸론자(Doomer)의 담론으로 치부하며 대중적 AI 반발을 부추긴다고 비판하고 있습니다.
언론인 브라이언 머천트(Brian Merchant)는 AI가 스스로 개선되어 인류를 위협한다는 단계적 근거가 부족하다고 지적했습니다. 또한 이러한 감속 규제 제안은 결과적으로 시장 선두 주자인 Anthropic과 OpenAI의 지배력을 공고히 하는 '규제 포섭(Regulatory Capture)'으로 작용할 가능성이 높다고 비판했습니다.
이에 대해 아모데이 CEO는 기술에 대한 사회적 회의론이 '신뢰의 위기'에서 기인한 것이며, 안전을 확보하면서 얻은 시간을 현명하게 활용해야만 기술의 진정한 혜택을 인류가 누릴 수 있다고 반박했습니다.