웨비나속 Q&A
최근 웨비나 진행 중 발생한 질문과 답변을 조회할 수 있습니다
[질문] 생성형AI 활용시 부작용은 어떻게 보완하고 있는가요
아직 답변이 없습니다
[질문] 파라미터가 해를 거듭하면서 1조개를 넘어가고 있는데 요즘은 그래서 특정분야에 특화된 SLM에 많은 관심을 기울이는데 LLM을 도입해서 사용하는 고객이 SLM으로 넘어가기 위해서는 어떻게 해야 하는지요?
말씀하신 것과 같이 LLM이 커지면서 각 분야별로 SLM이 분리하여 사용하는 사례가 있습니다. 하지만, 진행하시려는 환경이 SLM에 적합한지 진단하신 후 SLM을 도입하시는 것을 권장드립니다. 추가로, sLLM을 튜닝하는 Distillation이 곧 공개될 예정이니 참고 부탁드리겠습니다. 관련하여 자세한 사항이 궁금하시다면 클루커스에 문의 부탁드리겠습니다.
클루커스 담당자
2024-03-28 14:38
[질문] 구글 클라우드 기반 생성형 AI 도입을 위해서 현실적으로 필요로 하는 최소한의 리소스(인력/장비 등)를 구체적으로 제시해주실 수 있나요?
리소스에 대해서는 데이터에 대한 사이즈와 어떤 목표를 가지고 있으신지를 파악하는게 중요합니다. Fine-Tuning을 하고 싶으실지 혹은 다른 방법으로 도입을 하고 싶으신지에 대해서 자세히 말씀해주시면 제시해드릴 수 있을 것 같습니다!
클루커스 담당자
2024-03-28 14:29
[질문] 각 기업마다 내부 임직원의 업무 효율성 향상을 위해서 기업 자체 정보(민감 또는 기밀정보)를 사용해야 하는 경우가 대부분일 것으로 예상됩니다. 이때 기업 자체 정보는 어디에 보관하는 것을 추천하는지 궁금합니다.
민감데이터에 대해서는 Adapter Layer를 통해 클라우드 상에서 안전하게 보관됩니다. 그럼에도 고객사의 상황에 따라 요건등이 달라질 수 있으므로, 관련하여 자세한 내용이 필요하시다면 클루커스로 문의 부탁드리겠습니다.
클루커스 담당자
2024-03-28 14:31
(질문) 생성형 AI가 가장 범용적으로 활용되는 분야가 금융쪽일 것 같은데, 특정요소와 제약조건을 고려하여 포트폴리오를 만드는데 적용될 수 있는지 궁금합니다.
생성형 AI가 여러 Case에서 활용되며, 고객의 니즈와 거버넌스에 따라 다양한 포트폴리오가 생성이 됩니다. 관련하여 자세한 내용이 필요하시다면 클루커스로 문의 부탁드리겠습니다.
클루커스 담당자
2024-03-28 14:30
[질문] 클루커스 솔루션이 구글 클라우드 기반으로 제공되는데, 기존에 아마존 클라우드를 사용하는 기업이 클루커스 생성형AI 솔루션을 도입하려고 하면 사전에 어떤 준비가 필요한가요?
오늘 세션은 Google Cloud의 생성형 AI솔루션과 관련한 내용입니다. AWS환경에서도 Google Cloud의 생성형 AI인 Gemini를 API형태로 호출하여 사용하실 수 있습니다.
클루커스 담당자
2024-03-28 14:26
[질문]최근 ChatGPT 같은 생성형 AI기술이 빠르게 도입되면서 생성형 AI 활용이 가파르게 증가하고 있는 추세입니다 1.클라우드 기반 생성형 AI의 경우 데이터 손상이나 유출 방지를 위한 보안 전략은 무엇이 있고 보안적인 측면에서 신뢰성은 어느정도라고 보시는지요? 2.생성형 AI에 대한 다양한 이슈도(부적절하거나 편향된 훈련 데이터의 품질 문제,복잡한 생성형 AI 모델의 컴퓨팅 자원 문제 등)도 제기되기도 하는데 이에 대한 견해도 궁금합니다.
1. 구글 클라우드에서는 Foundation Model에 질문하고 답변하거나 Fine-Tuning을 하실 때, 데이터가 'Adapter Layer'에 위치하기 때문에 데이터의 손실이나 유출을 방지할 수 있습니다. 어느 정도인지는 정확한 수치로 표현드리기 어렵기 때문에 https://safety.google/cybersecurity-advancements/saif/ 해당 링크를 통해서 보안적인 부분을 더 보셔도 좋을 것 같습니다. 2. 생성형 AI에 대한 다양한 이슈들은 생성형 AI가 앞으로 더 채워나가야 할 부분이고, 이에 대해서 구글에서도 여러가지 개발을 하고 있고, 다른 생성형 AI를 개발하는 회사에서도 노력을 기울이고 있습니다. 앞으로 더 나아지는 생성형 AI를 기대할 수 있다고 봐주시면 좋을 것 같습니다!
클루커스 담당자
2024-03-28 14:28
[질문] 생성형 ai가 점점 많은 비정형데이터를 활용하고 멀티모달을 지향하는데 이러면서 보안은 더 취약해 질것 같은데 클우커스는 이런것에 어떻게 대응하는지요?
Google Cloud의 강력한 보안 인프라를 기반으로 동작하는 Google의 생성형 AI제품인 Gemini를 위해 Google AI Red team은 보안 AI 프레임워크를 사용하여 ML 기반 애플리케이션에 보안 및 개인정보 보호 조치를 통합하는 표준화되고 종합적인 접근방식을 만들고 있습니다. Google의 생성형 AI의 보안과 관련하여 더 상세한 내용을 알고 싶으시다면 Google의 보안 AI 프레임워크 페이지를 확인해보시는것을 추천드립니다. (https://safety.google/cybersecurity-advancements/saif/)
클루커스 담당자
2024-03-28 14:22
[질문] 구글 클라우드 기반에서만 생성형 AI를 사용 할 수 있는 것인지 타 클라우드/자체 IDC 환경에서도 생성형 AI를 사용할 수 있는지 궁금합니다.
API를 사용하여 동작하는 생성형 AI의 특성상 인터넷 연결이 반드시 필요합니다만, Gemma의 경우에는 다운로드하여 사용할 수 있습니다. 또한, AWS와 Azure에서도 Gemini API 호출이 가능하므로 구글의 생성형 AI모델을 사용할 수 있습니다.
클루커스 담당자
2024-03-28 14:19
[질문] [ 지금 소개되는 사례들은 데이터가 민감한 경우가 많을 것 같은데 데이터에 대한 접근에 대해서 보안은 어떤 방식으로 구체적으로 적용(활용)되나요?
사내 데이터를 Adapter Layer를 통해 민감한 데이터에 대해서는 클라우드 상에서 안전하게 보관되기 때문에 데이터 유출은 걱정하시지 않아도 됩니다
클루커스 담당자
2024-03-28 14:24
(질문) 대부분의 ai 솔루션이 모델을 개발하는데 중점을 두고 있어 기업의 기관계 시스템과 연계에는 부족한 면이 많아서 ai 적용시 어려움이 많은데 타 ai 솔루션의 기간계시스템 적용시 차이점은 어떤것이며 이런 적용의 문제는 어떤 방식으로 극복한것인지 궁금합니다
구글 클라우드는 기존 시스템과 같이 사용할 수 있도록 API 형태로 제공해드리고 있습니다. 또한 Foundaiton Model을 Fine-tuning 할 수 있어, 기업의 데이터를 학습한 모델을 사용하실 수 있습니다. 또한 구글은 Responsible AI라고 해서 엄격한 보안 정책과 업계 규정을 준수하고 있습니다. 추가적으로 원하시는 질문이 있으시다면 저희 클루커스에 연락주시면 좋을 것 같습니다.
클루커스 담당자
2024-03-28 14:21
[질문] 안녕하세요. 좋은 웨비나가 될 것 같아서, 많은 기대 품으면서 참가합니다. 저희 회사도 생성형AI 솔루션을 통해 사용자에게 챗봇을 도입하고자 하는데, 문제는 저희 회사의 영업기술이나 기밀 정보등도 문의에 따라 노출될까봐 걱정입니다. 어떤 질문이 들어올 지 몰라서 노출하기 싫은 정보를 미리 선별하기도 어려운데, 이러한 어려움은 어떻게 해결할 수 있나요?
챗봇의 소스를 고객에게 공개할 수 있는 데이터와 내부적으로만 사용하는 데이터로 나누고, 각각의 챗봇을 구성하시기를 권장드립니다.
클루커스 담당자
2024-03-28 14:14
(질문) 요즘 copilot 같은 코딩AI가 유용하게 개발에 활용되고 있습니다. 오픈API 개발, 운영에 이런 툴 활용이 가능할지, 유용한 활용방안이나 유의할 점들이 있을지 궁금합니다. 이런 생성형AI 툴이나 기술을 API 개발 운영에 활용하시는지 궁금합니다
개발자 생산성 향상을 위해 생성형 AI를 도입하고자 하시는 케이스는 확실히 많아지고 있습니다. 말씀하신 오픈 API 개발이나 운영 부분에 대해서도 회사의 Private한 코드에 대한 생산성 향상을 기대하실 수 있습니다. 구글 클라우드에 경우에는 Codey라고하는 코드 어시스턴트 모델을 사용하실 수도 있고, IDE(VisualStudio 등)에서 사용하실 수 있는 Gemini for Google Cloud를 사용하시는 방법도 고려해보실 수 있습니다.
클루커스 담당자
2024-03-28 14:13
[질문] 최근 기업에서 AI가 주문을 받는 시스템이나 자동응답 챗봇 등이 운용되고 있는데, 이러한 기술을 기업에서 기구축한 인프라에 연계하기 위해 클루커스 생성형AI 솔루션을 이용할 경우 기업별 맞춤형 구축, 운영지원을 해주시나요?
저희 클루커스에서는 생성형 AI 담당 아키텍트분들이 기업에 맞는 아키텍처를 구축해드리고 운영에 대한 부분을 지원 드리고 있습니다. 기업마다 환경이 다르기 때문에 먼저 사전 미팅을 가져보셔도 좋을 것 같습니다.
클루커스 담당자
2024-03-28 14:08
[질문]NGINX Controller를 통해 멀티 클라우드 환경에서도 다수의 NGINX 인스턴스들에 대한 설정, 관리, 모니터링을 제공하는지와 커스토마이징 가능여부등이 궁금합니다.
NGINX Instance Manager를 통해 다수 NGINX 인스턴스에 대한 취약점 및 설정 관리를 제공합니다. 또한, NGINX Instance Manager를 통해 API 기반으로 다양한 모니터링 시스템과 연동이 됩니다.
F5 기술지원
2024-03-27 15:04
[질문] F5에서는 API 보안 대상 Host에 대해 사용자가 정의해 놓은 보안정책에 따라 수집된 데이터를 분석하여 정책에 위배되는 부분에 대해선 이벤트 알림 또는 접근제어를 수행하는 Tool 이나 솔루션을 지원하나요?
아직 답변이 없습니다
[질문] 미래에는 결국 AI가 API 위협에 대해 방어하는 현상으로 가는 수순이겠지요?
아직 답변이 없습니다
[질문] 기존의 전통적 보안 방법이 유용한가요? 생성형 AI기반 보안 방법이 대세인가요?
아직 답변이 없습니다
[질문] 보통 운영시 가장 먼저 A계정과, db 가 우선 보안 순위인데, API 보안후 가장 2차3차까지 보안처리해야할 필요성이 있는 항목은 어떤 것을 들수가 있을까요?
아직 답변이 없습니다
[질문] shift left가 조금은 공허하게도 들리는 것이 모니터링을 통하지 않은 초기 대응 수준이 얼마나 더 효과적일까란 생각이 들어서안데, 개발초기에 제공하는 패턴 탐지는 충분한 수준인가요
아직 답변이 없습니다