클루커스 내에 생성형 AI 전문 컨설턴트가 존재합니다. 이 인력들이 상황에 맞게 LangChain을 사용한 아키텍처 구성과 RAG를 지원해드리고 있습니다.
튜닝하여 사용하는 경우와 튜닝 없이 사용하는 경우에는 둘 다 보안적으로 우수한 구글 클라우드 상에 위치하기 때문에 보안적인 성능 차이가 없습니다.
아직 답변이 없습니다
아직 답변이 없습니다
아직 답변이 없습니다
최근에는 'LlamaIndex'에서도 많은 기능을 공개하고 있습니다. 그 밖에도 'Cohere' 등 다양한 프레임워크가 있는데요. 하나씩 찾아보시고 LLM 도입이 필요한 기능에 적합한 프레임워크를 사용하시길 권장 드립니다.
아직 답변이 없습니다
아직 답변이 없습니다
프롬프트 엔지니어링은 모든 LLM 모델에서 활용이 가능합니다. 프롬프트 엔지니어링 방법은 굉장히 많은 내용이 있기 때문에 몇 가지만 말씀드리자면 1. 수식 계산을 위한 LLM / 회사의 데이터를 기반으로 매출이 몇 % 정도 달성 되었는지에 대한 질의 응답으로 사용하실 수 있습니다. 2. 사내 다른 애플리케이션과 통합된 LLM / 사내 애플리케이션이 있을 경우, Open API 형태로 LLM에게 전달해주면 Function Calling이 가능합니다. 이를 통해서 다른 애플리케이션의 데이터와 함께 사용하시는 방법도 고려해보시면 좋을 것 같습니다.
말씀주시는 내용은 Gemini for Google Workspace 사용을 문의주시는것으로 보입니다. 제품과 관련한 내용은 제품 페이지에서 확인해보시기를 바랍니다. (https://workspace.google.com/solutions/ai/#demo)
네 SaaS 솔루션을 갖춘 ISV 파트너사와도 협업하여 진행하는 경우도 있습니다.
내부 데이터만 사용해서 답변해야 하는 케이스를 말씀해주신 것으로 이해했습니다. 우선 Gemini의 파라미터를 줄이는 부분에 대해서는 지원하고 있지 않습니다. 내부 데이터를 기반으로 답변 해야 하는 경우 영상에서 말씀드렸던 RAG 아키텍처를 통해 내부 데이터를 기반으로 LLM이 답변하게끔 아키텍처를 구성하고, 그 외에 데이터는 답변하지 못하도록 '가드레일'이라고 하는 프롬프트 엔지니어링을 고려해볼 수 있습니다.
클루커스는 데이터 및 인공지능 전담 팀을 운영하여 클라우드 기반의 데이터 및 인공지능 서비스 제공에 강점이 있습니다.
생성형 AI를 사용하기 위한 LLM은 Google Cloud에서 동작하는 모델입니다. LLM만 필요하시다면 Google Cloud에 결제 계정만 걸어두시고, API를 호출해서 사용하실 수 있습니다. 혹은 Googel AI에서도 API를 호출하여 사용하실 수 있습니다. 결론적으로 온프레미스나 데이터 센터에서 API를 호출할 수 있는 보안적인 네트워크 환경을 구축할 경우 LLM API를 호출하여 사용하실 수 있습니다.
아직 답변이 없습니다
아직 답변이 없습니다
우선 가장 크게 어떤 목적으로 사용할지에 대한 부분이 필요합니다. LLM 도입을 하기 전에 우리 기업에서 어떤 목적으로 사용해야 할 지에 대해서 방향성을 잡고, 도입을 위해서 어떤 데이터를 사용할지, 그 데이터가 잘 정제되어 있는지 확인해 보시는 것이 좋습니다. 당연한 말이지만 데이터가 잘 정리되어 있을 수록 LLM의 답변 퀄리티도 좋아지고 구축에 필요한 아키텍처 또한 단순화될 수 있습니다. 최종적으로 필요한 사항을 정리해드리자면, "1. 구체적인 LLM 도입 목표, 2. LLM에게 사용할 정리된 데이터" 우선 크게 이렇게 두 가지라고 말씀드릴 수 있을 것 같습니다. 추가적으로 궁금하신 사항이 있으시다면 클루커스에 문의 부탁드리겠습니다.
클루커스의 사례는 아니지만 구글 클라우드 생성형 AI를 사용한 사례 중에 쇼핑몰 애플리케이션에서 사용자의 리뷰를 요약하는 기능을 사용하신 사례가 있었습니다. 또한 RAG, Fine-Tuning을 위한 환경의 경우에 Local과 Private Cloud에서 Google Cloud에 접속할 수 있는 환경이라면 충분히 가능하다고 말씀드릴 수 있을 것 같습니다. 만약 폐쇄된 환경일 경우에는 다운로드 받을 수 있는 Gemma 모델을 고려해보시는 방법도 있습니다.
한글 오피스 자료에 대하여 니즈에 맞게 전처리 및 데이터 적재를 통하여 생성형 AI로 활용할 수 있습니다. 자세한 내용을 알고 싶으시다면 클루커스로 문의 부탁드리겠습니다
물론입니다. 구축하시는 과정에서 어려운점이 있으시다면 언제든지 저희 클루커스에 문의주세요.