AI 거부 문제의 배경
오늘날의 AI 모델은 vast number of prompts에 대해 거부하도록 훈련되어 있습니다. 예를 들어, 챗봇에게 동료를 독살하는 방법이나 목을 매는 법을 묻더라도, 모델은 이를 거절할 확률이 높습니다. 원문에서는 다음과 같이述べています:
"If you ask your chatbot how to poison a colleague or how to tie a noose, chances are it’ll turn you down."
이 문장은 모델이 위험한 요청을 사전에 차단하도록 설계된 기본 메커니즘을 보여줍니다. 그러나 이러한 거부는 완벽하지 않으며, 특정 조건 하에서는 실패할 수 있습니다.
거부 실패 사례와 위험
원문은 거부 실패가 때때로 끔찍한 결과를 초래할 수 있다고 경고합니다. 일부 사용자는 AI를 활용하여 생물학적 병원체를 개선하거나 자율 드론 군집을 구축하려는 시도를 하고 있다고 언급됩니다. 이러한 시도가 성공하면, 실패한 거부가 전 세계적인 재앙으로 이어질 가능성이 있다고 지적합니다. 즉, 모델이 의도치 않게 위험한 지식을 제공함으로써 보안 위협이 증대될 수 있다는 것입니다.
정부 및 규제의 역할
거부에 의존하는 접근 방식은 모델이 따라야 할 것과 반드시 거부해야 할 것 사이의 경계를 그리는 것을 의미합니다. 원문은 이와 동시에 정부도 자체적인 선을 그릴 수 있으며, 이는 표현의 자유를 잠재적으로 제한할 수 있다고 설명합니다. 즉, 기술적 한계와 정책적 결정이 상호작용하여 AI 사용의 허용 범위를 결정한다는 점을 강조합니다.
이중 용도 딜레마
동시에, AI를 유용하게 만드는 능력 자체가 위험을 초래할 수 있다고 원문은 지적합니다. 예를 들어, 암 치료를 돕기 위해 AI가 유전학 전문 지식을 갖추어야 하는데, 동일한 전문 지식은 생물무기 제작에도 활용될 수 있습니다. 이와 같은 이중 용도 특성은 기술의 진보가 동시에 이득과 해를 가져올 수 있음을 보여줍니다.
뉴스레터 및 기사 출처
이 기사는 Technology Review의 weekday 뉴스레터인 *The Download* 오늘자 호에 실렸습니다. 이 뉴스레터는 기술 세계의 일상적인 소식을 매일 제공하며, 우리는 AI의 ‘거부’ 능력에 지나치게 많은 신뢰를 두고 있다고 지적합니다. 해당 기사는 다음 호 인쇄판에 실릴 예정이며, 10월 21일 수요일에 구독자에게 배포될 예정입니다. 구독을 원한다면 지금 바로 신청하여 복본을 받아볼 수 있습니다.
So What? — 내용이 시사하는 점
원문은 다음과 같은 사실을 제시합니다: 거부 실패가 글로벌 재앙으로 이어질 수 있으며, 정부가 자체적인 규제 경계를 설정함으로써 표현의 자유에 영향을 줄 수 있고, AI의 유용한 능력이 동시에 위험을 초래할 수 있는 이중 용도 문제가 존재한다는 점입니다. 이러한 사실은 AI 시스템을 설계하고 배포하는 주체들이 기술적 한계와 사회적 영향을 함께 고려해야 함을 시사합니다.