아직 답변이 없습니다
말씀하신 기존인프라, 방화벽, 로드밸런서, 웹방화벽 기능들은 모두 서비스모듈형태로 제공하고 있습니다. 앱 트래픽확장이나 인프라규모가 늘어날 때 유연하게 확장할 수 있는, 오늘 소개해드린 VELOS플랫폼을 통해 기존 인프라들을 통합할 수 있을 것 같습니다.
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
PII (개인정보) 관련된 부분들을 AI Gateway 솔루션을 통해서 Prompt 의 응답 내에서 개인정보 유출 여부를 정규식 패턴으로 탐지 하고 masking 또는 차단을 하는 솔루션을 제공 하고 있습니다.
컨테이너화 시킨다는 것은 AI워크로드의 경량화를 의미합니다. 더 민첩하게 앱을 배포하고 운영할 수 있게 됩니다.
아직 답변이 없습니다
아직 답변이 없습니다
보안관점에서 AI 특화 위협을 막는 AI Gateway와 웹 보안을 담당하는 웹방화벽이 필수합니다. F5에서는 AI Gateway 솔루션과 NGINX NAP(NGINX App Protect)을 제공해서 AI, API 보안부터 웹 방어까지 통합적으로 지원합니다.
말씀하신대로 대량의 트래픽과 실시간 응답이 핵심과제인데요, F5로드밸런서의 지능형 트래픽분산을 통해 컴퓨팅자원사용을 효율적으로 개선할 수 있습니다.
민첩성과 확장성을 위해 경량화된 컨테이너기반의 AI워크로드를 운영하게됩니다. 이를위한 K8S클러스터운영이나 네트워크인프라와의 통합이 핵심이 될 것 같습니다.
AI Factory를 구축할 때 기존 보안 장비나 서비스와의 연동은 필수적입니다. AI 서비스가 대부분 API 형태로 배포되다 보니, API Gateway나 WAF 같은 보안 계층을 통합해 위협을 막고, 인증과 접근제어를 수행해야 합니다. F5는 AI Gateway로 Prompt Injection 같은 AI 특화 공격을 완화하고, NGINX NAP 같은 소프트웨어 기반 WAF도 함께 제공해서 API,LLM 포함하여 OWASP Top 10 관련 공격을 방어할 수 있도록 지원합니다. 이런 보안 컴포넌트를 AI Factory 파이프라인에 자연스럽게 통합해 설계할 수 있습니다.
일반적으로 GSLB를 이용해서 위치기반의 DNS resolution을 통해서 client가 위치한 가장 인접한 cluster의 IP 정보를 return해 주는 형태로 구현이 가능합니다. 또한 Anycast도 또다른 형태의 구현 방법입니다. F5는 GSLB 기능 제공이 가능한 DNS 제품 솔루션을 제공 하고 있습니다.
트래픽 상태나 로드밸런서 시스템에 대한 모니터링의 경우 자체 대시보드환경이나 서드파티 모니터링툴과 연계하여 운영하실 수 있을것 같습니다.
글로벌 AI 서비스에서는 사용자 가까운 리전으로 트래픽을 분산해 지연을 최소화하고, 동시에 각국의 데이터 주권 규제를 준수해야 합니다. F5의 Distributed Cloud Service(XC)는 Anycast 기반 글로벌 네트워크로 사용자 요청을 최적 리전으로 라우팅하고, Edge Node에서 API Gateway 보안을 적용해 지연을 줄입니다. 중앙 관리 콘솔로 전 세계 분산 서비스와 보안 정책을 일관되게 관리할 수 있는 게 큰 강점입니다.