📌 Time Index

05:36 서비스나우는 디지털 워크플로우 컴퍼니

06:36 AI in ServiceNow Platform

10:27 Generative AI 가 서비스나우 플랫폼을 만났을 때

15:28 서비스나우의 Generative AI 전략

21:12 서비스나우 플랫폼에서 Generative AI 가 할 수 있는 일들

36:34 Generative AI (Now Assit) 데모

52:41 서비스나우의 Generative AI 로드맵

55:07 Q&A

1:04:30 나에게 OOO 이란

📌 촌장의 라이브 정리

엔터프라이즈 Generative AI는 무엇이 달라야 하는가?

기업에 적용되어야 하는 Generative AI 는 범용 LLM 과는 달라야 합니다. 왜냐면 기업 내의 보안과 안전을 위한 적절한 거버넌스가 AI 운영에도 반드시 적용되어야 하기 때문이죠. 엔터프라이즈 Generative AI의 미션은 3가지로 요약할 수 있습니다. (1) LLM(Large Language Model)의 결과가 정확해야 합니다 (2)기업 내 데이터를 최적화함과 동시에 각 부서별 데이터 관리 거버넌스를 기반으로 하는 정책 결정이 가능해야 합니다. (3) 데이터의 보안을 위해 범용적 목적의 LLM 과 도메인 특화된 LLM 을 구분하여 효과적으로 선택하고 취합할 수 있는 조정 능력이 있어야 합니다. 이와 더불어 AI를 실제적인 업무에 적용하고 운영하기 위한 명확한 목적과 방향을 세우는 것이 필요합니다.

Generative AI 가 무엇을 할 수 있을까?

디지털 플랫폼에 Generative AI가 적용되었을 때 어떤 일을 수행할 수 있을까요? 예를 들면 컨택 센터에 채팅으로 문의가 들어온다고 가정해 보죠. 챗봇이 관련된 문의를 처리하다가 담당자에게 해당 요청 사항을 넘겨야 하는 상황이 되었습니다. Generative AI는 현재까지의 문의 요청 사항들을 간략히 정리 요약해서 담당자에게 바로 전달합니다. 그리고 관련된 문제 해결을 위한 몇 가지 방법들에 대해서도 제안해 주죠. 담당자는 훨씬 더 명확하고 빠르게 문의 사항에 대해 대처할 수 있을 뿐만 아니라 표준화된 대응이 가능해 집니다. 이런 원할한 프로세스는 결국 고객 만족이라고 하는 최종 목적을 달성하기 위한 아주 효과적인 프랙티스가 될 수 있습니다. 이 밖에도 대화 형식의 의사 소통으로 직원 및 고객들의 커뮤니케이션을 도와줄 수 있고, 관련된 워크플로우를 정리해서 문서를 만들거나 제안서를 정리하는 콘텐츠 제작의 역할도 수행할 수도 있죠. 또 노코드 방식의 코드 생성 기능을 제공해서 간단한 프롬프트 설명만으로도 손쉬운 코딩이 자동으로 생성되고 사용할 수 있는 환경을 제공해 줍니다.

Generative AI 컨트롤러는 왜 필요할까?

워크플로우에서 Generative AI를 적용한다는 것은 단순한 일이 아닙니다. 가장 효과적인 LLM 모델을 적용해서 빠른 결과를 내야 합니다. 더 정확한 데이터를 기반으로 하는 명확한 답변이 필요할 때와 오픈 데이터를 이용한 광의의 응답이 요청되는 것을 구분해야 합니다. 수많은 워크플로우를 매끄럽고 유연하게 처리하여 탁월한 사용자 경험을 제공할 수 있기 위해서는 Generative AI 컨트롤러의 최적화된 운영이 필요합니다. 개발자와 관리자 그리고 실제 사용자를 효과적으로 연결하면서 적합하면서도 회사의 거버넌스를 지켜나가는 지혜로운 Generative AI의 사용법이 다가옵니다.

Generative AI 데모

서비스나우 Generative AI 서비스인 Now Assist 가 기업의 문제들을 해결하는 데모 과정들은 매우 흥미로웠습니다. 헬프데스크에서 문제를 해결하는 플로우, 기술문서를 손쉽게 생성해 내는 Generative AI의 콘텐츠 생성 기능, 그리고 단순히 스크립트를 입력하는 것만으로도 바로 원하는 코드를 생성해 내는 코딩 능력까지. Generative AI가 비즈니스 업무에 적용되었을 때 벌어질 수 있는 맛보기 예제들은 앞으로 얼마나 우리의 업무를 바꿔나갈 지에 대한 전초전에 불과합니다.

What is matter

그럼에도 불구하고 Generative AI 기술 자체에 매몰되지 말아야 합니다. Generative AI가 아주 핫한 기술이긴 하지만, 단순히 최신의 기술을 빨리 적용시키는 것이 비즈니스의 목적이 되어서는 안될 것입니다. 진정한 기술의 효용성은 문제 해결에 있습니다. 자신의 문제가 무엇인지 규정하고 원하는 목표를 가능한 가시적으로 세울 수 있고, 새로운 도전을 두려워하지 않는 자세를 가지고 있다면 Generative AI는 여러분의 기업을 혁신으로 이끌고 갈 것입니다.