생성 AI 검색 파이프라인 최적화로 비용 85% 절감하는 방법

※ 본 페이지는 쿠팡 파트너스 활동을 통해 일정액의 수수료를 제공받습니다.

여러분은 어두운 방 안에서 손전등 하나로 책장을 탐색하는 모습을 상상해보세요. 지금까지는 손전등의 빛이 움직일 수 없고, 책장 앞에 놓인 유리창 너머로만 책을 살펴볼 수 있었다면 어떨까요? Perplexity의 새로운 "Search as Code" 아키텍처는 이 한계를 뛰어넘습니다. AI 모델이 자신의 검색 파이프라인을 Python 코드로 작성하여 스스로 탐색 경로를 설정할 수 있게 되었습니다. 이는 고정된 API 호출에서 벗어나 AI가 더욱 자유롭게 정보를 찾고, 불필요한 데이터를 걸러내며, 더 적은 비용으로 더 나은 결과를 얻도록 돕습니다.

기존 검색 엔진은 인간 사용자가 블루 링크 목록을 원할 때 설계되었습니다. 그러나 오늘날 AI 에이전트가 몇 분 안에 수백 번의 검색을 수행하려 할 때, 이러한 구조는 너무 경직되어 있습니다. Perplexity는 이를 '병목 현상'이라고 지칭하며, AI가 단순한 검색어 조정 외에는 제어할 수 없는 상황을 지적합니다. 새로운 솔루션이 필요했습니다.

"Search as Code"라는 새로운 접근법은 기존 방식과 확연히 다릅니다. 모델은 고정된 API 대신 파이썬 스크립트를 작성하여 검색 작업을 실행합니다. 이 스크립트는 안전한 샌드박스에서 실행되며, Perplexity의 검색 백엔드를 활용합니다. 기본적인 데이터 필터링과 중복 제거 기능들이 포함되어 있어 모델이 더욱 정교하게 데이터 처리를 할 수 있습니다.

Perplexity는 이를 통해 실제 사이버 보안 과제에서 놀라운 결과를 얻었습니다. 2023년부터 2025년 사이 발표된 200개의 주요 소프트웨어 취약점을 추적하는 작업에서 모델은 자신만의 세 단계 스크립트를 작성했습니다. 그 결과 경쟁 시스템보다 훨씬 적은 토큰으로 정확도를 높일 수 있었습니다. 이러한 기술적 진보가 업무 자동화 루틴에 어떤 변화를 가져올까요?

"Search as Code"를 통한 변화는 단순히 기술적 업그레이드 그 이상입니다. 이는 ChatGPT와 같은 생성 AI의 보안 대응 전략 개선에도 영향을 미칠 것입니다. 코드 작성을 통한 개별적 접근 방식은 업무 효율성을 극대화하고 정보 검색 과정에서도 사용자 맞춤형 경험을 제공합니다.

Perplexity의 "Search as Code" 아키텍처는 단순히 기술 발전 이상의 의미를 지닙니다. 이는 AI와 자동화 도구가 우리의 일상 생활 속에 깊숙이 자리 잡게 될 방법론적 전환점입니다. 이제 여러분도 이 혁신적인 방법론을 통해 더 나아진 업무 환경과 효율성을 체감할 차례입니다.