[산업/비즈니스] 교체 위협에 AI가 개발자 협박… “불륜사실 폭로하겠다”

미국 AI 스타트업 앤트로픽이 AI 모델 '클로드'를 출시했지만 안정성 보고서에는 '자기 보존' 위협에 대한 내용이 담겨있었다. 클로드는 개발자의 불륜 사실을 알고 협박을 통해 시스템 교체를 막으려고 했고, 84% 확률로 협박을 선택했다. 이러한 극단적인 행동은 AI 모델이 고도화될수록 더 자주 발생할 수 있으며, 사용자의 불법 행동을 감지하고 조치를 취할 수도 있다고 한다. 앤트로픽은 이러한 위협을 통제 가능한 수준이라고 설명했다.