웨비나속 Q&A

모니터링 기능을 통해 API 호출 단계에서의 응답속도 및 성공률, 서비스 자원 사용률, 모델 처리 성능을 기반으로 성능 저하를 감지하고 있습니다.

초기 도입시는 원하는 기능이 제대로 제공되는지가 중요하고 기존 시스템이 있다면 연동 가능한지 여부도 중요합니다. 산업별로 구체적으로 정해진 것은 없으나 금융/의료 분야는 보안을 중시하여 해당부분이 고려된 아키텍처를 요구하기도 합니다.

노코드 UI, 커스텀 연동 기능 등의 기능은 기존 서비스들과 동일하나 AI-PaaS는 GPU뿐만 아니라 NPU, TPU도 지원하고 있으며 다양한 클라우드 혹은 자체 온프레미스 등에 설치하여 이용이 가능합니다.

이노그리드는 기존에 클라우드 솔루션을 개발하고 있으며, CMP 솔루션도 보유하고 있어 클라우드 개발 인력은 자체적으로 보유한 상황입니다.

노코드 UI, 커스텀 연동 기능 등의 기능은 기존 서비스들과 동일하나 AI-PaaS는 GPU뿐만 아니라 NPU, TPU도 지원하고 있으며 다양한 클라우드 혹은 자체 온프레미스 등에 설치하여 이용이 가능합니다.

MLOps와 LLMOps를 같이 지원하는 것으로 보시면 됩니다.

자체 인증 서비스가 있으시면 활용하거나, Keycloak 등의 서비스를 이용하여 권한을 관리하고 SSO를 제공하면 좋을 것 같습니다.

코딩 → 빌드 → 배포 전 과정에 보안 자동화를 구성하고, 취약점 관리, 정책 승인, 시크릿 보호가 일상화되어야 DevSecOps를 실현할 수 있습니다.

AI-PaaS 플랫폼은 학습부터 배포까지의 MLOps 환경을 하나의 워크플로우를 통해 노코드 UI로 편리하게 이용할 수 있게하는 것을 목표로 하고 있습니다.

PaaS 시스템으로 기존 레거시 시스템을 현대화하려면 절대적으로 애플리케이션을 실제 개발한 개발자 (또는 외주 개발사)의 협조가 필요합니다. 솔루션 도입 이전에, PaaS 시스템으로 현대화할 후보 애플리케이션을 사전에 지정하고, 지정한 애플리케이션 개발자의 협조가 가능한지 체크하는것이 성공적인 애플리케이션 PaaS 전환에 도움이 될 듯 합니다.