웨비나속 Q&A

AI 워크로드 증가에 따른 보안 우려를 해소하기 위해, F5는 금일 웨비나에서 소개드리는 효율적인 데이터 딜리버리뿐만 아니라 AI 모델 API와 애플리케이션 보안에 특화된 AI Gateway를 제공합니다. 이 솔루션은 인증,인가, Rate Limiting, Prompt Injection 방어 등 AI 특화 위협 대응 기능을 갖추고 있습니다. 또한 F5에서 제공하는 API 보안 관련 자세한 내용은 7월 3일 별도 웨비나에서 다룰 예정입니다. 많은 관심 부탁드립니다.

말씀하신 기존인프라, 방화벽, 로드밸런서, 웹방화벽 기능들은 모두 서비스모듈형태로 제공하고 있습니다. 앱 트래픽확장이나 인프라규모가 늘어날 때 유연하게 확장할 수 있는, 오늘 소개해드린 VELOS플랫폼을 통해 기존 인프라들을 통합할 수 있을 것 같습니다.

PII (개인정보) 관련된 부분들을 AI Gateway 솔루션을 통해서 Prompt 의 응답 내에서 개인정보 유출 여부를 정규식 패턴으로 탐지 하고 masking 또는 차단을 하는 솔루션을 제공 하고 있습니다.

컨테이너화 시킨다는 것은 AI워크로드의 경량화를 의미합니다. 더 민첩하게 앱을 배포하고 운영할 수 있게 됩니다.

보안관점에서 AI 특화 위협을 막는 AI Gateway와 웹 보안을 담당하는 웹방화벽이 필수합니다. F5에서는 AI Gateway 솔루션과 NGINX NAP(NGINX App Protect)을 제공해서 AI, API 보안부터 웹 방어까지 통합적으로 지원합니다.

말씀하신대로 대량의 트래픽과 실시간 응답이 핵심과제인데요, F5로드밸런서의 지능형 트래픽분산을 통해 컴퓨팅자원사용을 효율적으로 개선할 수 있습니다.

민첩성과 확장성을 위해 경량화된 컨테이너기반의 AI워크로드를 운영하게됩니다. 이를위한 K8S클러스터운영이나 네트워크인프라와의 통합이 핵심이 될 것 같습니다.

AI Factory를 구축할 때 기존 보안 장비나 서비스와의 연동은 필수적입니다. AI 서비스가 대부분 API 형태로 배포되다 보니, API Gateway나 WAF 같은 보안 계층을 통합해 위협을 막고, 인증과 접근제어를 수행해야 합니다. F5는 AI Gateway로 Prompt Injection 같은 AI 특화 공격을 완화하고, NGINX NAP 같은 소프트웨어 기반 WAF도 함께 제공해서 API,LLM 포함하여 OWASP Top 10 관련 공격을 방어할 수 있도록 지원합니다. 이런 보안 컴포넌트를 AI Factory 파이프라인에 자연스럽게 통합해 설계할 수 있습니다.

일반적으로 GSLB를 이용해서 위치기반의 DNS resolution을 통해서 client가 위치한 가장 인접한 cluster의 IP 정보를 return해 주는 형태로 구현이 가능합니다. 또한 Anycast도 또다른 형태의 구현 방법입니다. F5는 GSLB 기능 제공이 가능한 DNS 제품 솔루션을 제공 하고 있습니다.

트래픽 상태나 로드밸런서 시스템에 대한 모니터링의 경우 자체 대시보드환경이나 서드파티 모니터링툴과 연계하여 운영하실 수 있을것 같습니다.