"AI 검색 속도 최대 20배"...구글, 차세대 프레임워크 'R4T' 발표

AI 검색이 복잡해질수록 질문을 여러 세부 검색어로 나누고 결과를 조합하는 과정에서 막대한 추론 연산과 응답 지연이 발생하고 있다. 구글은 이러한 문제를 실시간 검색 단계가 아닌 사전 학습 단계에서 해결해 검색 속도를 최대 20배 향상하는 새로운 방식을 제시했다. 구글은 15일현지시간 복잡한 AI 검색에서 발생하는 추론 시간과 연산 비용을 줄이기 위한 새로운 프레임워크 ‘리트리브 포 트레인R4T·RetrieveforTrain’을 온라인 아카이브를 통해 공개했다.이 방식은 검색할 때마다 대형언어모델LLM이 수백개의 사고