뉴질랜드 스루라인, 오픈AI·앤트로픽의 위기 대응 업체로 주목

AI 챗봇 사용 과정에서 극단주의 성향을 보이는 이용자를 조기에 발견해 지원으로 연결하는 안전 기술이 뉴질랜드의 한 스타트업에서 개발되는 것으로 알려졌다. 로이터는 2일현지시간 뉴질랜드 스타트업 스루라인ThroughLine이 오픈AI, 앤트로픽, 구글 등과 협력해 위험 사용자 대응 시스템을 개발 중이라고 보도했다.이 시스템은 오픈AI의 챗GPT 이용자 중 폭력적 극단주의 성향이 감지될 경우, 이를 단순 차단하는 대신 상담 지원이나 전문 기관으로 연결하는 것이 핵심이다. AI와 인간 상담을 결합한 ‘하이브리드 대응 모델’로 설