문의주신 데이터관리와 관련하여 잘 답변드리기에는 웨비나 시간이 너무 짧은 듯 합니다. 저희 클루커스에 문의주시면 상세히 설명드리도록 하겠습니다.
아직 답변이 없습니다
클루커스는 데이터 플랫폼 구축을 위한 Data Engineer팀, Data Analytics팀을 운영하고 있습니다. 데이터베이스 현대화, 마이그레이션, 빅데이터 분석 플랫폼 구축과 데이터 시각화까지 서비스를 제공하고 있으니 관련하여 관심있으신 경우 클루커스로 문의 부탁드립니다.
아직 답변이 없습니다
구글 클라우드에서는 Sec-PaLM2라고 해서 보안 전문 LLM이 있습니다. 일반적인 모델에서 보안적인 부분을 활용해보고 싶으시다면 우선 말씀주신 것처럼 LLM의 사이즈에 따라서 성능이 좌우되지만, 최근에 연구를 통해서 모델의 사이즈에 관계없이 Prompt Engineering이 중요하다는 내용이 나왔습니다. 보안에 대한 데이터를 LLM에게 잘 전달하고, 답변을 제대로 할 수 있도록 LLM에게 지침을 내리는 부분이 중요다고 생각해주시면 됩니다.
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
말씀하신 것과 같이 LLM이 커지면서 각 분야별로 SLM이 분리하여 사용하는 사례가 있습니다. 하지만, 진행하시려는 환경이 SLM에 적합한지 진단하신 후 SLM을 도입하시는 것을 권장드립니다. 추가로, sLLM을 튜닝하는 Distillation이 곧 공개될 예정이니 참고 부탁드리겠습니다. 관련하여 자세한 사항이 궁금하시다면 클루커스에 문의 부탁드리겠습니다.
리소스에 대해서는 데이터에 대한 사이즈와 어떤 목표를 가지고 있으신지를 파악하는게 중요합니다. Fine-Tuning을 하고 싶으실지 혹은 다른 방법으로 도입을 하고 싶으신지에 대해서 자세히 말씀해주시면 제시해드릴 수 있을 것 같습니다!
민감데이터에 대해서는 Adapter Layer를 통해 클라우드 상에서 안전하게 보관됩니다. 그럼에도 고객사의 상황에 따라 요건등이 달라질 수 있으므로, 관련하여 자세한 내용이 필요하시다면 클루커스로 문의 부탁드리겠습니다.
생성형 AI가 여러 Case에서 활용되며, 고객의 니즈와 거버넌스에 따라 다양한 포트폴리오가 생성이 됩니다. 관련하여 자세한 내용이 필요하시다면 클루커스로 문의 부탁드리겠습니다.
오늘 세션은 Google Cloud의 생성형 AI솔루션과 관련한 내용입니다. AWS환경에서도 Google Cloud의 생성형 AI인 Gemini를 API형태로 호출하여 사용하실 수 있습니다.
1. 구글 클라우드에서는 Foundation Model에 질문하고 답변하거나 Fine-Tuning을 하실 때, 데이터가 'Adapter Layer'에 위치하기 때문에 데이터의 손실이나 유출을 방지할 수 있습니다. 어느 정도인지는 정확한 수치로 표현드리기 어렵기 때문에 https://safety.google/cybersecurity-advancements/saif/ 해당 링크를 통해서 보안적인 부분을 더 보셔도 좋을 것 같습니다. 2. 생성형 AI에 대한 다양한 이슈들은 생성형 AI가 앞으로 더 채워나가야 할 부분이고, 이에 대해서 구글에서도 여러가지 개발을 하고 있고, 다른 생성형 AI를 개발하는 회사에서도 노력을 기울이고 있습니다. 앞으로 더 나아지는 생성형 AI를 기대할 수 있다고 봐주시면 좋을 것 같습니다!
Google Cloud의 강력한 보안 인프라를 기반으로 동작하는 Google의 생성형 AI제품인 Gemini를 위해 Google AI Red team은 보안 AI 프레임워크를 사용하여 ML 기반 애플리케이션에 보안 및 개인정보 보호 조치를 통합하는 표준화되고 종합적인 접근방식을 만들고 있습니다. Google의 생성형 AI의 보안과 관련하여 더 상세한 내용을 알고 싶으시다면 Google의 보안 AI 프레임워크 페이지를 확인해보시는것을 추천드립니다. (https://safety.google/cybersecurity-advancements/saif/)
API를 사용하여 동작하는 생성형 AI의 특성상 인터넷 연결이 반드시 필요합니다만, Gemma의 경우에는 다운로드하여 사용할 수 있습니다. 또한, AWS와 Azure에서도 Gemini API 호출이 가능하므로 구글의 생성형 AI모델을 사용할 수 있습니다.
사내 데이터를 Adapter Layer를 통해 민감한 데이터에 대해서는 클라우드 상에서 안전하게 보관되기 때문에 데이터 유출은 걱정하시지 않아도 됩니다
구글 클라우드는 기존 시스템과 같이 사용할 수 있도록 API 형태로 제공해드리고 있습니다. 또한 Foundaiton Model을 Fine-tuning 할 수 있어, 기업의 데이터를 학습한 모델을 사용하실 수 있습니다. 또한 구글은 Responsible AI라고 해서 엄격한 보안 정책과 업계 규정을 준수하고 있습니다. 추가적으로 원하시는 질문이 있으시다면 저희 클루커스에 연락주시면 좋을 것 같습니다.
챗봇의 소스를 고객에게 공개할 수 있는 데이터와 내부적으로만 사용하는 데이터로 나누고, 각각의 챗봇을 구성하시기를 권장드립니다.
개발자 생산성 향상을 위해 생성형 AI를 도입하고자 하시는 케이스는 확실히 많아지고 있습니다. 말씀하신 오픈 API 개발이나 운영 부분에 대해서도 회사의 Private한 코드에 대한 생산성 향상을 기대하실 수 있습니다. 구글 클라우드에 경우에는 Codey라고하는 코드 어시스턴트 모델을 사용하실 수도 있고, IDE(VisualStudio 등)에서 사용하실 수 있는 Gemini for Google Cloud를 사용하시는 방법도 고려해보실 수 있습니다.