Q
[질문] 도입이 제한되는 조건이 환경이 있나요? 있다면 대표적으로 어떤 사항이 있나요?
A
LLM 도입이 제한되는 대표적인 조건이나 환경으로는 매우 엄격한 실시간 응답 Latency 요구사항(예: 밀리초 단위), 극도로 제한적인 온프레미스 컴퓨팅 자원 환경, 그리고 데이터 주권이나 보안에 대한 규제가 매우 강력하여 외부 클라우드 서비스 이용이 어려운 경우가 있습니다. 또한, LLM의 특성이 맞지 않아 효과를 보기 어려운 비즈니스 케이스도 있습니다.