앤트로픽 "RSI 가속에 AI 안전 대책 뒤처질 수도"…통제 강화 검토

앤트로픽이 AI를 활용한 연구개발이 급격히 빨라지면서 안전성과 보안 대책을 마련하는 속도를 앞지를 수 있다고 경고했다. 특히 과거에도 개발 속도가 크게 빨라진 사실을 뒤늦게 파악한 적이 있다고 인정하며, 재귀적 자기개선RSI에 대비해 인간의 감독과 통제 체계를 강화할 필요성을 제기했다.테크크런치는 2일현지시간 앤트로픽이 기업공개IPO를 위해 미국 증권거래위원회SEC에 제출한 증권신고서 수정본S1/A에 이 같은 위험을 구체적으로 추가했다고 보도했다.지난달 26일 최초 신고서에서도 RSI의 가능성과 위험을 언급했지만