오픈AI, 사이버보안 ‘Critical’ AI 모델 ‘아스트라’ 공개 예고…“인간 개입 없이 취약점 탐지·공격 가능”

오픈AIOpenAI가 1일현지시간 차세대 AI 모델 ‘아스트라Astra’가 사이버보안 분야에서 자사의 준비 프레임워크Preparedness Framework가 규정한 최고 수준인 ‘크리티컬Critical’ 역량 임계값에 도달했다고 밝혔다. 아울러, 아스트라의 사이버보안 능력 평가 결과와 출시를 위한 안전·보안 대책도 공개했다.이에 따라 오픈AI는 아스트라의 개발과 출시 과정에서 사이버 악용과 모델의 비인가 행동을 차단하기 위한 강화된 안전장치를 적용하고, 고급 사이버보안 기능에 대한 접근도 단계적으로 제한할 계획이