아직 답변이 없습니다
아직 답변이 없습니다
PII (개인정보) 관련된 부분들을 AI Gateway 솔루션을 통해서 Prompt 의 응답 내에서 개인정보 유출 여부를 정규식 패턴으로 탐지 하고 masking 또는 차단을 하는 솔루션을 제공 하고 있습니다.
컨테이너화 시킨다는 것은 AI워크로드의 경량화를 의미합니다. 더 민첩하게 앱을 배포하고 운영할 수 있게 됩니다.
아직 답변이 없습니다
아직 답변이 없습니다
보안관점에서 AI 특화 위협을 막는 AI Gateway와 웹 보안을 담당하는 웹방화벽이 필수합니다. F5에서는 AI Gateway 솔루션과 NGINX NAP(NGINX App Protect)을 제공해서 AI, API 보안부터 웹 방어까지 통합적으로 지원합니다.
말씀하신대로 대량의 트래픽과 실시간 응답이 핵심과제인데요, F5로드밸런서의 지능형 트래픽분산을 통해 컴퓨팅자원사용을 효율적으로 개선할 수 있습니다.
민첩성과 확장성을 위해 경량화된 컨테이너기반의 AI워크로드를 운영하게됩니다. 이를위한 K8S클러스터운영이나 네트워크인프라와의 통합이 핵심이 될 것 같습니다.
AI Factory를 구축할 때 기존 보안 장비나 서비스와의 연동은 필수적입니다. AI 서비스가 대부분 API 형태로 배포되다 보니, API Gateway나 WAF 같은 보안 계층을 통합해 위협을 막고, 인증과 접근제어를 수행해야 합니다. F5는 AI Gateway로 Prompt Injection 같은 AI 특화 공격을 완화하고, NGINX NAP 같은 소프트웨어 기반 WAF도 함께 제공해서 API,LLM 포함하여 OWASP Top 10 관련 공격을 방어할 수 있도록 지원합니다. 이런 보안 컴포넌트를 AI Factory 파이프라인에 자연스럽게 통합해 설계할 수 있습니다.
일반적으로 GSLB를 이용해서 위치기반의 DNS resolution을 통해서 client가 위치한 가장 인접한 cluster의 IP 정보를 return해 주는 형태로 구현이 가능합니다. 또한 Anycast도 또다른 형태의 구현 방법입니다. F5는 GSLB 기능 제공이 가능한 DNS 제품 솔루션을 제공 하고 있습니다.
트래픽 상태나 로드밸런서 시스템에 대한 모니터링의 경우 자체 대시보드환경이나 서드파티 모니터링툴과 연계하여 운영하실 수 있을것 같습니다.
글로벌 AI 서비스에서는 사용자 가까운 리전으로 트래픽을 분산해 지연을 최소화하고, 동시에 각국의 데이터 주권 규제를 준수해야 합니다. F5의 Distributed Cloud Service(XC)는 Anycast 기반 글로벌 네트워크로 사용자 요청을 최적 리전으로 라우팅하고, Edge Node에서 API Gateway 보안을 적용해 지연을 줄입니다. 중앙 관리 콘솔로 전 세계 분산 서비스와 보안 정책을 일관되게 관리할 수 있는 게 큰 강점입니다.
아직 답변이 없습니다
아직 답변이 없습니다
네 현재 F5에서는 양자 암호화를 지원 하고 있습니다. https://www.f5.com/solutions/post-quantum-cryptography-readiness
정형 데이터안에 포함된 메타데이터추출을 할수도 있을 것같고, 비정형 데이터들의 경우 임베딩처리나 백터DB저장과같은 별도의작업이 필요할 것같습니다.
우선 AI팩토리에대한 비즈니스목적과 유스케이스를 정의하는게 필요할것같습니다. 그리고 결국은 학습/추론에 필요한 충분한 데이터가 있는가 입니다. 또한, AI개발,인프라,현업의 협업이 필수라고 볼수있습니다.
보안 영역이라서 이번 웨비나 주제와 조금 벗어나긴 하지만 F5는 AI Gateway 솔루션을 통해서 OWASP LLM Top 10에서 안내하는 보안문제를 완화하고, 인증/인가, Rate Limiting, 로깅, SDK 기반 기능 확장 같은 필수 보안, 확장과 컴플라이언스 기능을 제공합니다. 이렇게 해서 고객이 규제에 맞춘 안전한 AI 서비스를 더 쉽게 운영할 수 있게 지원합니다.
👍
질문 감사드립니다 관련 하여 궁금하신 이슈, 노하우를 조금 더 구체적으로 설명 주시면 도와드리도록 하겠습니다 :)
네, 질문이 조금 포괄적인것 같습니다. F5파트너사를 통한 기술지원이나 F5코리아를 통해서도 이슈를 해결할 수 있습니다.