웨비나속 Q&A
최근 웨비나 진행 중 발생한 질문과 답변을 조회할 수 있습니다
[질문] ChatGPT 와 구글 Gemini 의 가장 큰 차별점이 무엇일까요?
아직 답변이 없습니다
[질문] Gemini 사용할 때에도 프롬프트 엔지니어링을 활용할 수 있는지 그리고 활용할 수 있다면 어떤 용도로 활용할 수 있는지 궁금합니다.
프롬프트 엔지니어링은 모든 LLM 모델에서 활용이 가능합니다. 프롬프트 엔지니어링 방법은 굉장히 많은 내용이 있기 때문에 몇 가지만 말씀드리자면 1. 수식 계산을 위한 LLM / 회사의 데이터를 기반으로 매출이 몇 % 정도 달성 되었는지에 대한 질의 응답으로 사용하실 수 있습니다. 2. 사내 다른 애플리케이션과 통합된 LLM / 사내 애플리케이션이 있을 경우, Open API 형태로 LLM에게 전달해주면 Function Calling이 가능합니다. 이를 통해서 다른 애플리케이션의 데이터와 함께 사용하시는 방법도 고려해보시면 좋을 것 같습니다.
클루커스 담당자
2024-03-28 15:47
[질문] MS의 경우 M365를 포함해 엔터프라이즈 서비스들과 코파일럿을 단일 UI로 통합하고 상응하는 비용체계를 제안하는거 같은데, 구글의 경우 비용체계 관점에서 Gemini를 단독으로 사용하는 경우와 GCP상에서 다른 서비스와 연계사용할 경우 어떤 차이가 있는지 궁금합니다
말씀주시는 내용은 Gemini for Google Workspace 사용을 문의주시는것으로 보입니다. 제품과 관련한 내용은 제품 페이지에서 확인해보시기를 바랍니다. (https://workspace.google.com/solutions/ai/#demo)
클루커스 담당자
2024-03-28 15:07
[질문] SaaS 업체와의 협업도 진행되고 있나요?
네 SaaS 솔루션을 갖춘 ISV 파트너사와도 협업하여 진행하는 경우도 있습니다.
클루커스_마케팅
2024-03-28 14:43
[질문] 제미나이를 외부데이터의 도움없이 내부 데이터만을 사용해야 하는 사내 LLM으로 활용하고자 할때 파라미터 값이 너무 클것 같은데 제미나이의 파라미터를 커스터마이징도 가능한지요?
내부 데이터만 사용해서 답변해야 하는 케이스를 말씀해주신 것으로 이해했습니다. 우선 Gemini의 파라미터를 줄이는 부분에 대해서는 지원하고 있지 않습니다. 내부 데이터를 기반으로 답변 해야 하는 경우 영상에서 말씀드렸던 RAG 아키텍처를 통해 내부 데이터를 기반으로 LLM이 답변하게끔 아키텍처를 구성하고, 그 외에 데이터는 답변하지 못하도록 '가드레일'이라고 하는 프롬프트 엔지니어링을 고려해볼 수 있습니다.
클루커스 담당자
2024-03-28 15:45
[질문] 이미 AWS를 사용 중인 고객이 많은데 클루커스는 어떤 부분에서 강점이 더 보일 수 있나요?
클루커스는 데이터 및 인공지능 전담 팀을 운영하여 클라우드 기반의 데이터 및 인공지능 서비스 제공에 강점이 있습니다.
클루커스_마케팅
2024-03-28 14:37
[질문] 클루커스의 서비스는 클라우드 환경에서만 가능한가요? 저희 회사 같은 경우에는 아직 클라우드로의 전환 계획이 없습니다. 온프레미스나 자체 데이터센터에서도 활용할 수 있을까요?
생성형 AI를 사용하기 위한 LLM은 Google Cloud에서 동작하는 모델입니다. LLM만 필요하시다면 Google Cloud에 결제 계정만 걸어두시고, API를 호출해서 사용하실 수 있습니다. 혹은 Googel AI에서도 API를 호출하여 사용하실 수 있습니다. 결론적으로 온프레미스나 데이터 센터에서 API를 호출할 수 있는 보안적인 네트워크 환경을 구축할 경우 LLM API를 호출하여 사용하실 수 있습니다.
클루커스 담당자
2024-03-28 15:43
[질문] 생성형 AI를 통하여 불필요한 작업들을 줄이고 일의 효율을 늘릴 수 있을 거라고 생각하는데 그로 인해 일자리의 변화를 불러올 것이라고 생각합니다. 미래 일자리 소멸에 대비하여 어떠한 방안이 있을지 궁금합니다!
아직 답변이 없습니다
아직 답변이 없습니다
(질문) 생성형AI서비스를 기업에 맞도록 구축하려면, 기업의 내부데이터 LLM이 필요한데, 이를 위해 반드시 필요한 준비 사항은 어떤 것이 있는지요
우선 가장 크게 어떤 목적으로 사용할지에 대한 부분이 필요합니다. LLM 도입을 하기 전에 우리 기업에서 어떤 목적으로 사용해야 할 지에 대해서 방향성을 잡고, 도입을 위해서 어떤 데이터를 사용할지, 그 데이터가 잘 정제되어 있는지 확인해 보시는 것이 좋습니다. 당연한 말이지만 데이터가 잘 정리되어 있을 수록 LLM의 답변 퀄리티도 좋아지고 구축에 필요한 아키텍처 또한 단순화될 수 있습니다. 최종적으로 필요한 사항을 정리해드리자면, "1. 구체적인 LLM 도입 목표, 2. LLM에게 사용할 정리된 데이터" 우선 크게 이렇게 두 가지라고 말씀드릴 수 있을 것 같습니다. 추가적으로 궁금하신 사항이 있으시다면 클루커스에 문의 부탁드리겠습니다.
클루커스 담당자
2024-03-28 15:40
[질문] 제미나이를 기반으로 엔터프라이즈가 특정 용도로 파인튜닝하고 RAG 같은 응용을 개발할 수 있는지, 이런 개발환경을 GCP가 아닌 로컬이나 프라이빗 클라우드 환경에도 구축할 수 있는지 궁금합니다. 이런 실행환경을 국내에서 구축한 사례가 있는지 궁금합니다
클루커스의 사례는 아니지만 구글 클라우드 생성형 AI를 사용한 사례 중에 쇼핑몰 애플리케이션에서 사용자의 리뷰를 요약하는 기능을 사용하신 사례가 있었습니다. 또한 RAG, Fine-Tuning을 위한 환경의 경우에 Local과 Private Cloud에서 Google Cloud에 접속할 수 있는 환경이라면 충분히 가능하다고 말씀드릴 수 있을 것 같습니다. 만약 폐쇄된 환경일 경우에는 다운로드 받을 수 있는 Gemma 모델을 고려해보시는 방법도 있습니다.
클루커스 담당자
2024-03-28 15:36
[질문] 공기관과 협업하다 보면 한글 오피스 자료들을 취급하게 되는 경우도 많아지는데 백데이터로 한글 오피스 자료도 활용할 수 있나요?
한글 오피스 자료에 대하여 니즈에 맞게 전처리 및 데이터 적재를 통하여 생성형 AI로 활용할 수 있습니다. 자세한 내용을 알고 싶으시다면 클루커스로 문의 부탁드리겠습니다
클루커스 담당자
2024-03-28 14:57
[질문] Vertex AI Studio를 사용해서 개별 기업이 스스로 생성형 AI를 구축/활용/적용할 수 있나요?
물론입니다. 구축하시는 과정에서 어려운점이 있으시다면 언제든지 저희 클루커스에 문의주세요.
클루커스 담당자
2024-03-28 14:56
[질문] 생성형 ai를 파인튜인 할때 요즘은 RAG가 필요수적으로 사용되는데 이런 파인튜인을 위해서 인프라의 소모가 많는데 구글의 생성형 ai는 별도의 파인튜닝이 불필요한 것인지요?
LLM 도입을 고려하시는 부분이 어떤 분야일지에 대해서 알면 더 정확한 답변을 드릴 수 있을 것 같습니다. 질문에 대해서 답변을 드리자면, LLM을 튜닝하는 과정에서 RAG가 필요하지 않습니다. RAG는 LLM을 통해서 답변을 도출해내는 과정에 필요한 기술이라고 봐주시면 됩니다. 구글의 생성형 AI도 데이터에 따라서, 또 도입 방법과 목적에 따라서 파인튜닝을 사용할 수 있다고 봐주시면 됩니다.
클루커스 담당자
2024-03-28 15:22
[질문] 데이터 전처리 용 생성형 AI 도 개발이 가능할까요? 데이터 전처리가 생각보다 어렵더라구요..
전처리를 원하시는 데이터에 따라 달라집니다. 클루커스에 문의주시면 귀사의 상황을 좀 더 상세히 파악하고 제안말씀 드리도록 하겠습니다.
클루커스 담당자
2024-03-28 14:53
[질문] 계속 MS 애저 MSP 파트너 역할에 집중 하시나요?
안녕하세요 클루커스는 Microsoft Azure, Google Cloud, Naver Cloud, AWS 모두 공식 파트너사로 멀티 클라우드를 지원하고 있습니다.
클루커스_마케팅
2024-03-28 14:33
[질문] vertex AI studio에서 서드파티 LLM이나 API를 연계하는 개발이 가능한지 궁금합니다. 이 경우 구글이 부과하는 비용체계는 어떻게 되는지 궁금합니다
사용자는 custom model을 등록하거나 외부 API를 호출하여 개발을 할 수 있습니다. 관련하여 GCP에서는 GCP 서비스 사용비용 외에는 부가하는 비용이 없으며, 서드파티 LLM 혹은 API 제공사에서 요구하는 비용은 별도로 확인해보셔야 합니다.
클루커스 담당자
2024-03-28 14:50
[질문]선의의 국가에서 생성형 AI활용을 하면 뭐 걱정은 안되지만, 악의적인 국가에서 활용한다면 위협이 될 수도 있을 것 같습니다. 이런 위험한 측면도 있는데요 한 말씀 해주시면 감사하겠습니다.
아직 답변이 없습니다
(질문) 생성형 AI에서 정형 데이터는 어느 정도 처리경험과 검증이 된 반면 비정형데이터는 상대적으로 그렇지 않은데 정형데이터와 비정형데이터가 혼합되어 있는 경우 어떤 방식으로 처리 되는지요?
정형데이터와 비정형 데이터가 혼합되어 있는 경우 ReAct를 활용하여 LLM에서 정형과 비정형을 분기하여 처리 가능합니다.
클루커스 담당자
2024-03-28 14:51
[질문] CSP 와 MSP의 차이가 무엇인가요?
CSP는 Cloud Service Provider의 약자로 클라우드 서비스를 제공하는 업체를 말하고, MSP는 Managed Service Provider의 약자로 클라우드 관리 서비스를 제공하는 업체입니다. 클루커스는 MSP로서 클라우드 제품을 구축 및 전환, 운영을 지원합니다.
클루커스_마케팅
2024-03-28 14:32