웨비나속 Q&A

클루커스는 데이터 및 인공지능 전담 팀을 운영하여 클라우드 기반의 데이터 및 인공지능 서비스 제공에 강점이 있습니다.

클루커스_마케팅 2024-03-28 14:37

생성형 AI를 사용하기 위한 LLM은 Google Cloud에서 동작하는 모델입니다. LLM만 필요하시다면 Google Cloud에 결제 계정만 걸어두시고, API를 호출해서 사용하실 수 있습니다. 혹은 Googel AI에서도 API를 호출하여 사용하실 수 있습니다. 결론적으로 온프레미스나 데이터 센터에서 API를 호출할 수 있는 보안적인 네트워크 환경을 구축할 경우 LLM API를 호출하여 사용하실 수 있습니다.

클루커스 담당자 2024-03-28 15:43

우선 가장 크게 어떤 목적으로 사용할지에 대한 부분이 필요합니다. LLM 도입을 하기 전에 우리 기업에서 어떤 목적으로 사용해야 할 지에 대해서 방향성을 잡고, 도입을 위해서 어떤 데이터를 사용할지, 그 데이터가 잘 정제되어 있는지 확인해 보시는 것이 좋습니다. 당연한 말이지만 데이터가 잘 정리되어 있을 수록 LLM의 답변 퀄리티도 좋아지고 구축에 필요한 아키텍처 또한 단순화될 수 있습니다. 최종적으로 필요한 사항을 정리해드리자면, "1. 구체적인 LLM 도입 목표, 2. LLM에게 사용할 정리된 데이터" 우선 크게 이렇게 두 가지라고 말씀드릴 수 있을 것 같습니다. 추가적으로 궁금하신 사항이 있으시다면 클루커스에 문의 부탁드리겠습니다.

클루커스 담당자 2024-03-28 15:40

클루커스의 사례는 아니지만 구글 클라우드 생성형 AI를 사용한 사례 중에 쇼핑몰 애플리케이션에서 사용자의 리뷰를 요약하는 기능을 사용하신 사례가 있었습니다. 또한 RAG, Fine-Tuning을 위한 환경의 경우에 Local과 Private Cloud에서 Google Cloud에 접속할 수 있는 환경이라면 충분히 가능하다고 말씀드릴 수 있을 것 같습니다. 만약 폐쇄된 환경일 경우에는 다운로드 받을 수 있는 Gemma 모델을 고려해보시는 방법도 있습니다.

클루커스 담당자 2024-03-28 15:36

한글 오피스 자료에 대하여 니즈에 맞게 전처리 및 데이터 적재를 통하여 생성형 AI로 활용할 수 있습니다. 자세한 내용을 알고 싶으시다면 클루커스로 문의 부탁드리겠습니다

클루커스 담당자 2024-03-28 14:57

물론입니다. 구축하시는 과정에서 어려운점이 있으시다면 언제든지 저희 클루커스에 문의주세요.

클루커스 담당자 2024-03-28 14:56

LLM 도입을 고려하시는 부분이 어떤 분야일지에 대해서 알면 더 정확한 답변을 드릴 수 있을 것 같습니다. 질문에 대해서 답변을 드리자면, LLM을 튜닝하는 과정에서 RAG가 필요하지 않습니다. RAG는 LLM을 통해서 답변을 도출해내는 과정에 필요한 기술이라고 봐주시면 됩니다. 구글의 생성형 AI도 데이터에 따라서, 또 도입 방법과 목적에 따라서 파인튜닝을 사용할 수 있다고 봐주시면 됩니다.

클루커스 담당자 2024-03-28 15:22

전처리를 원하시는 데이터에 따라 달라집니다. 클루커스에 문의주시면 귀사의 상황을 좀 더 상세히 파악하고 제안말씀 드리도록 하겠습니다.

클루커스 담당자 2024-03-28 14:53

안녕하세요 클루커스는 Microsoft Azure, Google Cloud, Naver Cloud, AWS 모두 공식 파트너사로 멀티 클라우드를 지원하고 있습니다.

클루커스_마케팅 2024-03-28 14:33

사용자는 custom model을 등록하거나 외부 API를 호출하여 개발을 할 수 있습니다. 관련하여 GCP에서는 GCP 서비스 사용비용 외에는 부가하는 비용이 없으며, 서드파티 LLM 혹은 API 제공사에서 요구하는 비용은 별도로 확인해보셔야 합니다.

클루커스 담당자 2024-03-28 14:50

정형데이터와 비정형 데이터가 혼합되어 있는 경우 ReAct를 활용하여 LLM에서 정형과 비정형을 분기하여 처리 가능합니다.

클루커스 담당자 2024-03-28 14:51

CSP는 Cloud Service Provider의 약자로 클라우드 서비스를 제공하는 업체를 말하고, MSP는 Managed Service Provider의 약자로 클라우드 관리 서비스를 제공하는 업체입니다. 클루커스는 MSP로서 클라우드 제품을 구축 및 전환, 운영을 지원합니다.

클루커스_마케팅 2024-03-28 14:32

DB에 질문을 하는 부분을 말씀하신 것을 기준으로 답변 드리겠습니다. 쿼리를 하기 위해서는 테이블에 대한 정보와 스키마에 대한 정보가 필요합니다. 이런 데이터가 충분할 경우에는 내부적으로 사용할 수 있을 정도의 퀄리티가 나오고 있습니다. 시스템 설정에 대한 부분은 답변에 많은 시간이 걸릴 수 있기 때문에 클루커스에 문의 주시면 답변 드릴 수 있도록 하겠습니다.

클루커스 담당자 2024-03-28 14:50

정확하게는 '인원을 대체한다'라는 느낌보다는 기존에 있던 인원들의 효율성이 올라가서, 더 많은 업무도 처리할 수 있기 때문에 추가적인 인력이 필요하지 않을 수 있다고 봐주시면 좋을 것 같습니다.

클루커스 담당자 2024-03-28 14:46

구축된 서비스의 유지관리를 고려하신다면 클루커스의 MSP서비스를 사용해보세요. 클루커스의 전문적인 기술력으로 귀사의 자산을 유지관리 할 수 있습니다. 최대 24/7로 대비하여 귀사가 보유한 서비스의 원활한 업무를 지원합니다.

클루커스 담당자 2024-03-28 14:46

구글에 장점에 대해서만 말씀 드리자면, 비용 처리가 Open AI는 토큰 기반이고 구글클라우드는 글자 수(캐릭터)기반입니다. 한글이 영어에 비해서 1.5-3배 정도 토큰을 많이 사용하기 때문에 한글 데이터의 경우에는 구글 클라우드가 비용적으로 저렴하다고 말씀드릴 수 있습니다. 답변을 생성하는 속도가 비교적 빠른 편이고, 가장 최근에 있는 데이터까지 학습이 되었습니다. 관련하여 자세한 사항이 궁금하시다면 클루커스에 문의 부탁드리겠습니다.

클루커스 담당자 2024-03-28 14:44