앤트로픽, '클로드 페이블 5' 보안 체계 전격 공개… AI 탈옥 위험도 평가 기준도 제안

앤트로픽Anthropic이 지난 1일부터 재배포한 차세대 인공지능 모델 '클로드 페이블 5Claude Fable 5'에 적용된 사이버 보안 안전장치의 구체적인 내용을 2일현지시간 공개했다.아울러, AI 모델의 안전장치를 우회하는 '탈옥Jailbreak' 공격의 위험성을 체계적으로 평가하기 위한 새로운 기준인 '사이버 탈옥 심각도Cyber Jailbreak Severity, CJS' 프레임워크도 함께 제안했다.이번 발표는 AI 모델이 점점 더 강력한 사이버 보안 능력을 갖추게 되면서 발생할 수 있는 악용 가능성에 대