기술 선도 기업, 증가하는 AI 추론 처리량을 지원하기 위해 F5로 DNS 인프라 현대화

Griff Shelley제품 마케팅 매니저 III | F5

조직이 인공지능 이니셔티브를 빠르게 확장함에 따라 이를 뒷받침하는 네트워크 인프라는 전례 없는 부담에 직면하고 있습니다. 특히 추론과 S3 스토리지 엔드포인트로의 데이터 전송에 중점을 둔 AI 워크로드에는 막대한 처리량, 초고속 라우팅, 그리고 타협 없는 보안이 요구됩니다.

에이전트와 내장형 대규모 언어 모델(LLM)이 확산되고 AI의 영향력이 끊임없이 확대되는 시대에, 모든 디지털 상호작용의 출발점인 도메인 네임 시스템(DNS)은 AI 이니셔티브의 투자 수익 실현 여부를 좌우하는 데이터 경로의 핵심 단계입니다.

과제: 레거시 시스템이 한계에 도달할 때

현대 AI 환경에서 생성되는 막대한 양의 요청은 범용 부하 분산 도구의 한계를 드러내며, IT 리더들에게 대규모 AI 서비스 제공 워크플로를 위한 아키텍처 설계를 재고하도록 요구하고 있습니다. 최근 한 글로벌 기술 선도 기업이자 하이퍼스케일러도 전 세계 400개 이상의 데이터 센터에서 AI 추론 워크플로를 지원할 솔루션을 모색하던 중 이러한 전환점에 직면했습니다.

이 기업은 지연 시간이 짧은 추론 워크플로를 지원하기 위해 대량의 DNS 요청을 처리해야 했습니다. 하지만 기존 Citrix 인프라가 병목 현상을 일으켰으며, 개별 장비는 수요 충족에 필요한 DNS 응답 처리량의 절반밖에 지원하지 못했습니다. 이로 인해 서비스 가용성이 위협받았고, 이 글로벌 기술 선도 기업은 기존 공급업체의 한계를 보완하기 위해 하드웨어 장비를 추가로 배포하는 등 매우 비효율적인 우회 방식을 택할 수밖에 없었습니다.

이러한 성능 부족으로 인해 인프라를 유지하는 데 필요한 레거시 장비를 랙에 설치하고 배치하며 관리하는 데도 과도한 인력이 투입되었습니다. 대량의 AI 추론 트래픽에 대비하던 이 기업은 자사의 성장 속도에 발맞출 수 있는 공급업체를 통해 대규모 확장성과 고급 트래픽 관리 기능을 모두 갖추도록 인프라를 전면 개편해야 한다는 점을 깨달았습니다.

솔루션: 전례 없는 확장성을 위한 F5 기반 통합

이 문제를 해결하기 위해 이 기업은 F5를 선택하고 기존 솔루션을 전략적으로 개선했습니다. F5 BIG-IP DNS와 F5 BIG-IP Advanced Firewall Manager (AFM)을 F5 rSeries 어플라이언스에 구축함으로써, 기존 솔루션에 필요한 하드웨어 설치 공간보다 33% 적은 공간으로 워크로드에 필요한 성능을 확보했습니다.

이 기술 기반은 DNS 응답을 최적화하기 위한 EDNS 클라이언트 서브넷 삽입 기능과 고급 속도 제한 기능을 결합하여, 설정된 안전 한도를 초과하는 트래픽 급증을 관리했습니다. 다른 경쟁 솔루션도 평가했지만 고객의 내부 인증 절차를 통과하지 못해 위험에 대한 우려가 제기되었습니다. F5는 해당 환경의 규모, 성능 및 보안 요구 사항을 충족할 수 있는 유일한 파트너로 두각을 나타냈습니다.

성과: 운영 간소화 및 AI 도입 준비

F5를 통해 인프라를 현대화함으로써 가장 시급한 성능 병목 현상을 해결하고 하드웨어 규모를 크게 줄였습니다. 이 고객은 더 적은 수의 시스템으로 대규모 트래픽 부하를 처리할 수 있게 되면서 수동 하드웨어 배포에 따른 운영 부담을 줄였고, 엔지니어링 팀은 인프라 유지보수 대신 전략적인 AI 확장에 집중할 수 있게 되었습니다.

다음 단계: 에이전트형 AI의 제어 계층으로서의 DNS

이러한 인프라 전면 개편은 업계 전반에서 일어나는 더 큰 변화를 반영합니다. 바로 사람이 시작하는 웹 트래픽에서 기계가 주도하는 자율적인 AI 상호작용으로의 근본적인 전환입니다. 조직에서 에이전트형 AI를 도입하는 사례가 늘어나면서, 사람이 입력한 단 하나의 프롬프트가 기계 간 탐색, 데이터베이스 쿼리, API 호출을 대규모로 연쇄적으로 촉발하고, 이 모든 작업이 기계 특유의 속도로 쉼 없이 이어질 수 있습니다.

이러한 트래픽 유형의 변화에 맞춰 트래픽 제어 문제에 접근하는 방식도 달라져야 합니다. AI가 등장하기 전에는 “어떤 애플리케이션이 이 사용자에게 서비스를 제공해야 할까?”라고 물었을 것입니다. 오늘날에는 “지금 이 요청을 어떤 모델, 리전, GPU 클러스터, 클라우드 또는 추론 제공업체가 처리해야 할까?”라는 질문에 더 가깝습니다.

AI 시대의 효과적인 DNS 솔루션은 지능적인 고성능 제어 계층으로 작동할 준비가 되어 있어야 합니다. AI 트래픽에 근본적으로 새로운 DNS 프로토콜이 필요한 것은 아니지만, DNS의 효과를 뒷받침하는 핵심 역량인 초대규모 확장성, 복원력, 지능적인 글로벌 트래픽 라우팅의 필요성은 그 어느 때보다 커지고 있습니다.

에이전틱 AI 시스템이 여러 모델, 클라우드, 리전에 걸쳐 작업을 조율함에 따라, 조직은 추론 요청을 최적의 성능과 효율성을 갖추고 정상적으로 작동하며 지리적으로도 적합한 실행 환경으로 밀리초 단위로 동적 라우팅해야 합니다. 이 기술 선도 기업의 사례에서 볼 수 있듯이, 진정한 AI 준비 태세를 갖추려면 에이전틱 AI가 이끌 미래의 엄청난 처리 속도와 트래픽 규모를 감당하도록 설계된 DNS 및 애플리케이션 전송 인프라를 우선적으로 확보해야 합니다.

자세히 알아보세요 F5의 AI 미션에 대해. 자체 AI 추론 아키텍처의 효율성을 높이려면 F5에 문의하세요.

또한 더 많은 F5 고객 사례를 통해 다양한 산업의 기업들이 F5를 선택하는 이유를 확인해 보세요.

작성자 소개

Griff Shelley제품 마케팅 매니저 III | F5

Griff Shelley는 F5의 제품 마케팅 매니저로, 하드웨어, 소프트웨어 및 SaaS 애플리케이션 딜리버리 솔루션을 전문으로 담당하고 있습니다. 혁신적인 기술을 고객의 성공으로 연결하는 데 열정을 쏟으며, 글로벌 및 로컬 애플리케이션 딜리버리, 클라우드 서비스, AI 데이터 트래픽 인프라 분야의 시장 진출 프로젝트를 주도하고 있습니다.

Griff Shelley의 다른 블로그 게시물