오늘 세션은 Google Cloud의 생성형 AI솔루션과 관련한 내용입니다. AWS환경에서도 Google Cloud의 생성형 AI인 Gemini를 API형태로 호출하여 사용하실 수 있습니다.
1. 구글 클라우드에서는 Foundation Model에 질문하고 답변하거나 Fine-Tuning을 하실 때, 데이터가 'Adapter Layer'에 위치하기 때문에 데이터의 손실이나 유출을 방지할 수 있습니다. 어느 정도인지는 정확한 수치로 표현드리기 어렵기 때문에 https://safety.google/cybersecurity-advancements/saif/ 해당 링크를 통해서 보안적인 부분을 더 보셔도 좋을 것 같습니다. 2. 생성형 AI에 대한 다양한 이슈들은 생성형 AI가 앞으로 더 채워나가야 할 부분이고, 이에 대해서 구글에서도 여러가지 개발을 하고 있고, 다른 생성형 AI를 개발하는 회사에서도 노력을 기울이고 있습니다. 앞으로 더 나아지는 생성형 AI를 기대할 수 있다고 봐주시면 좋을 것 같습니다!
Google Cloud의 강력한 보안 인프라를 기반으로 동작하는 Google의 생성형 AI제품인 Gemini를 위해 Google AI Red team은 보안 AI 프레임워크를 사용하여 ML 기반 애플리케이션에 보안 및 개인정보 보호 조치를 통합하는 표준화되고 종합적인 접근방식을 만들고 있습니다. Google의 생성형 AI의 보안과 관련하여 더 상세한 내용을 알고 싶으시다면 Google의 보안 AI 프레임워크 페이지를 확인해보시는것을 추천드립니다. (https://safety.google/cybersecurity-advancements/saif/)
API를 사용하여 동작하는 생성형 AI의 특성상 인터넷 연결이 반드시 필요합니다만, Gemma의 경우에는 다운로드하여 사용할 수 있습니다. 또한, AWS와 Azure에서도 Gemini API 호출이 가능하므로 구글의 생성형 AI모델을 사용할 수 있습니다.
사내 데이터를 Adapter Layer를 통해 민감한 데이터에 대해서는 클라우드 상에서 안전하게 보관되기 때문에 데이터 유출은 걱정하시지 않아도 됩니다
구글 클라우드는 기존 시스템과 같이 사용할 수 있도록 API 형태로 제공해드리고 있습니다. 또한 Foundaiton Model을 Fine-tuning 할 수 있어, 기업의 데이터를 학습한 모델을 사용하실 수 있습니다. 또한 구글은 Responsible AI라고 해서 엄격한 보안 정책과 업계 규정을 준수하고 있습니다. 추가적으로 원하시는 질문이 있으시다면 저희 클루커스에 연락주시면 좋을 것 같습니다.
챗봇의 소스를 고객에게 공개할 수 있는 데이터와 내부적으로만 사용하는 데이터로 나누고, 각각의 챗봇을 구성하시기를 권장드립니다.
개발자 생산성 향상을 위해 생성형 AI를 도입하고자 하시는 케이스는 확실히 많아지고 있습니다. 말씀하신 오픈 API 개발이나 운영 부분에 대해서도 회사의 Private한 코드에 대한 생산성 향상을 기대하실 수 있습니다. 구글 클라우드에 경우에는 Codey라고하는 코드 어시스턴트 모델을 사용하실 수도 있고, IDE(VisualStudio 등)에서 사용하실 수 있는 Gemini for Google Cloud를 사용하시는 방법도 고려해보실 수 있습니다.
저희 클루커스에서는 생성형 AI 담당 아키텍트분들이 기업에 맞는 아키텍처를 구축해드리고 운영에 대한 부분을 지원 드리고 있습니다. 기업마다 환경이 다르기 때문에 먼저 사전 미팅을 가져보셔도 좋을 것 같습니다.
NGINX Instance Manager를 통해 다수 NGINX 인스턴스에 대한 취약점 및 설정 관리를 제공합니다. 또한, NGINX Instance Manager를 통해 API 기반으로 다양한 모니터링 시스템과 연동이 됩니다.
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
취약점을 대상으로 하는 악성패턴에 대한 대비뿐만 아니라 인증연동 및 AI/ML 및 OpenAPI 등을 이용한 베이스라인을 위배하는 호출을 사용자를 특정지을 수 있는 정보를 기반으로 API 보안을 강화할 수 있습니다.
api 사용에 대한 적절한 권한을 식별하고 인증이 필요할 것 같습니다. 또한 shadow api를 식별하여 잠재적 이슈를 해결하는 것도 고려되어야 합니다.