GenAI의 첫 번째 단계 추적

이것은 "GenAI 여정" 시리즈의 두 번째 이야기입니다.

기술 및 엔지니어링의 세계에서는 좋은 아이디어를 포착해야 할 때가 있습니다. 불가피한 중단이 새로운 위험을 가져올 수 있다는 것을 이해하지만, 그 싸움에 뛰어들게 됩니다. 비행기를 날리면서 비행기를 구축해야 합니다.

물론 이것은 우리가 기업 세계에서 익숙한 것과 상반됩니다. 우리는 모든 각도를 연구하고, 모든 결정을 면밀히 조사하고, 그 과정에서 비용 분석과 기능을 비교하는 것을 좋아합니다. 대상 시장 및 경쟁 분석에 대한 정보를 포함하여 의사결정을 뒷받침하기 위해 연구 기관을 통해 그렇게 할 수 있을 때까지 몇 달 동안 혁신적인 아이디어에 대해 논의하지 않거나 공유하지 않을 수도 있습니다.

지난 여름 우리 회사의 경영진 리더십 회의에서 혁신에 대한 간략한 프레젠테이션을 마쳤을 때 제 눈앞에 번쩍 떠오른 것들이 있습니다. 프레젠테이션을 마무리하고 리더들에게 질문이 있는지 묻자, Hitachi Digital Services의 CEO이자 현 회장인 Gajen Kandiah가 일어서서 저에게 회사의 생성형 AI(GenAI) 헌장을 이끌게 될 것이라고 발표했습니다.

GenAI는 이미 회의에 참석한 모든 사람의 마음속에 있었음이 분명하지만, 그 선언은 짜릿하면서도 놀라운 일이었습니다. 그 자리에서, 그토록 단호하게, 그리고 그러한 상황에서 임무를 맡는다는 것은 Gajen의 자신감 표명이자 방향 지시 표명이기도 했습니다. Gajen은 이 분야에서 우리 회사의 사고 리더였으며 이 주제와 그 잠재력에 대한 그의 참여와 열정은 익히 잘 알고 있습니다.

Gajen은 나중에 자신과 이사회가 몇 가지 이유로 저를 선택했다고 설명해주었습니다. 예를 들어, 제가 회사에 입사한 지 1년도 안 되었다는 것이 핵심 요소였습니다. 그들은 이 업무를 이끄는 리더가 경험이 풍부하면서도 조직 내에서 혼란을 주도하고 규범에 도전할 수 있을 만큼 회사에 새로운 사람이기를 원했습니다. 그는 이것이 매우 중요할 거라고 말했습니다.

미소를 지으며 인정하고 동의하는 마음으로 고개를 끄덕이는 동안, 제 머릿속은 빙글빙글 돌며 할 일 목록을 작성하고, 우리가 걸어야 할 단계를 머릿속으로 화이트보드에 적고 있었습니다.

GenAI 팀 구성

저는 시간을 낭비하지 않았습니다. 다음 날 사무실로 돌아왔을 때, 저는 최고 트랜스포메이션 책임자인 Santhosh Sreemushta와 전망에 대해 논의하고, 정책, 제품 및 엔지니어링, 서비스, 내부 IT/CIO, 마케팅 등 다섯 개의 교차 기능 팀을 가장 효과적으로 구성할 수 있는 팀 구성안을 작성하는 것으로 여정을 시작했습니다.

공을 굴리고 새로운 비즈니스 계획에 수반될 수 있는 전통적인 관료주의적 지연의 함정을 피하기 위해 저는 팀원들이 이 새로운 책임을 그들의 "일상 업무"에 적용해야 한다고 결정했습니다. (혼란스런 업무를 시작하는 것이라고 생각했습니다.) 그래서 저는 제가 생각하기에 좋은 리더가 될 수 있는 사람들의 명단을 모아서 그들 각각에게 따로 이메일을 보내 지지를 요청했습니다. 그렇게 하면서, 저는 이 작업에는 선구적인 접근 방식이 필요하고 모호함을 편안하게 다룰 수 있는 사람들이 필요하다는 것을 알리는 데 중점을 두었습니다.

이 여정의 일환으로 GenAI를 회사 DNA의 일부로 만들 수 있는 방법을 찾고 싶었기 때문에 이는 매우 중요했습니다. 만약 그렇게 할 수 있다면, 그것은 장기적인 헌신을 보장할 것이고, 저와 팀 뒤를 따라오는 사람들이 수용할 있는 것입니다. 이는 구조와 지속 가능한 추진력을 창출하는 데 중요한 구성 요소입니다.

팀 소집

저는 리더들에게 그들의 팀을 모아 그들의 이름을 저에게 보내도록 했습니다. 엔지니어, 연구원, 마케터가 모두 참여하고 싶어 한다고 말했을 때 저는 놀라지 않았습니다. 오후가 되자 우리의 조직이 정해졌습니다.

그때가 6월 중순이었습니다. 돌이켜 보면, 1년 전 OpenAI의 ChatGPT의 급부상부터 지난달 인상적인 Chat GPT 플랫폼의 출시에 이르기까지 급증한 GenAI를 둘러싼 업계만큼 빠르게 이 임무를 수행했다고 감히 말할 수 있습니다. 그 중대한 리더십 선언부터 GenAI 전략 팀으로서의 첫 공식 회의까지 총 2주가 흘렀습니다. 누구나 알 수 있는 민첩한 행동이었습니다.

저는 일주일 후에 팀을 소집했습니다. 우리는 이 시간을 사용하여 운영 방식, 역할과 책임, 목표를 할당하는 방법에 대한 청사진을 만들었습니다. 아직 KPI가 아니라 목표입니다. 아직은 KPI 단계에 이르지 못했습니다.

북극성 초안 그리기

우리는 우리의 청사진이 몇 가지 일을 동시에 수행해야 한다는 데 동의했습니다: Gajen이 강조한 것처럼 보호 장치를 설정하고, 회사의 가치와 일치시키고, 우리 모두가 더 많은 것을 배움에 따라 진화와 성장을 위한 유연성을 제공하는 등의 일입니다.

이를 가장 효과적으로 수행하기 위해서는 비즈니스 관점에서 시작하여 모든 이해 관계자에게 동등한 목소리를 낼 수 있도록 내부적으로 노력해야 했습니다. 이러한 토론 과정에는 최고 정보 보안 사무소, CIO 사무소, 기업 법무 및 제품 개발 부서의 구성원이 참여했으며 GenAI 접점을 보유하고 있거나 가질 수 있는 Hitachi Vantara의 모든 부분을 탐색했습니다. ChatGPT, Bard, 그리고 이제 Gemini와 같은 공개 GenAI 앱의 사용부터 비공개 앱, 소프트웨어 개발의 코파일럿에 이르기까지, 우리는 승인된 사용을 공식적으로 지시하는 정책 문서를 만들기 시작했습니다.

첫 번째 조치 항목으로, 모든 직원이 공개 및 비공개 GenAI 도구를 언제 어떻게 사용하는지에 대해 사용할 수 있는 정책 문서 초안을 작성하기로 합의했습니다. 제품 개발에서 마케팅에 이르기까지, 우리는 회사가 승인한 관행에 대한 매개변수를 배치하기 시작했습니다. 그것은 회사의 북극성이 될 것입니다. 이 논문은 현재와 미래의 개발을 안내하는 데 도움이 되는 비전이 될 것입니다. DNA의 일부로 만들겠다는 저의 사명을 기억하십시오.

겉으로 보기에는 실용적으로 보이는 이 접근 방식은 실제로 우리에게 중요한 시점으로 판명되었습니다. 정책 논문에 대한 문제를 파헤치면서, 우리는 곧 그것이 그 자체로 노력이 될 것이라는 것을 깨달았습니다. 일반적인 사용 및 데이터 개인 정보 보호에 대한 규칙 및 제한 사항을 만드는 것부터 규정 준수, 사이버 보안 및 정책 교육 문제에 대한 지침을 마련하는 것까지 시간이 걸릴 것입니다. 나머지 노력을 방해하지는 않더라도 지연될 수 있는 시간입니다.

하지만 지금은 전례 없는 시기입니다. GenAI를 둘러싼 혁신의 속도가 너무 빠르기 때문에 긴박감을 높여야 했습니다. 우리 직원들은 기술이 발전하는 속도와 같은 속도로 탐험할 수 있는 자유가 필요했습니다. 우리는 계속 밀고 나가야 했기 때문에 나머지 청사진의 실행과 병행 하여 정책 논문을 작성하기로 동의했습니다. 우리는 필요할 때 이 정책 논문을 작성할 수 있을 것입니다.

내 화이트보드에 생명 불어넣기

거기에서 우리는 시장 관점을 두 가지 뚜렷한 경로 즉, 1) GenAI를 기존 제품에 통합하는 접근 방식을 결정하는 방법과 2) 처음부터 구축할 수 있는 것에 대해 창의적인 생각을 하는 것으로 나누어 설명했습니다:

우리는 말 그대로 훌륭하고 창의적인 아이디어의 건전한 목록을 화이트보드에 넣은 다음 그 목록을 정리하기 시작했습니다. 보드에 너무 많은 아이디어가 있었기 때문에 그 아이디어를 줄이고 가장 큰 영향을 미칠 수 있는 두, 세 가지 아이디어에 초점을 맞춰야 했습니다. 모든 것을 살펴볼 수는 없었습니다. 다양하게 살펴보는 것은 주의를 산만하게 하고 지체하는 지름길이었습니다.

이 철학을 조기에 확립하는 것은 매우 생산적인 것으로 입증되었습니다. 이를 통해 우리는 팀으로서 우선순위를 빠르게 구체화할 수 있었습니다.

정책 논문 외에도 두 가지 초기 프로젝트 즉, 엔터프라이즈 지원 팀의 문제 해결 속도를 높이기 위해 "컴패니언"이라고 불리는 GenAI 에이전트(궁극적으로 시스템 구성, 관리, 문제 해결 등을 개선하기 위해 포트폴리오에 직접 통합), LLM을 미세 조정하고 컴패니언을 개발하는 데 사용할 "즉시 사용 가능한" 어플라이언스를 개발하기로 결정했습니다. 

우리가 알고 있는 것을 배운 것에 적용하기

우리의 이야기를 공유하게 되어 기쁩니다. GenAI 작업과 관련하여 Hitachi의 울타리 안에서 이루어지는 수천 가지 결정에는 많은 것이 반영되어 있습니다. 하지만 우리는 혼자가 아니라는 것을 알고 있습니다. 우리는 매일 고객 및 파트너와 대화하기 때문에 기업이 동일한 주제와 과제에 대해 동일한 논의를 하고 있다는 것을 알고 있습니다. 그렇지 않다면 그렇게 될 것입니다.

예를 들어, 청사진을 실행에 옮길 때가 되었을 때, 우리는 먼저 철학적 논쟁을 해결해야 한다는 것을 깨달았습니다 – 작업을 위해 하나의 큰 언어 모델을 채택해야 할까요 아니면 서로 협력할 수 있는 여러 에이전트로 구성된 작은 모델 접근 방식을 채택해야 할까요?

많은 기업과 마찬가지로 우리도 차이점을 평가했으며, 작은 모델 접근 방식을 채택하기로 한 결정은 1) 더 작은 모델이 더 정확한 결과를 생성할 수 있는 능력이 있고 2) 환각의 위험이 훨씬 적다는 두 가지 주요 속성으로 귀결되었습니다. 반면, 하나의 대규모 언어 모델을 활용하는 것은 상대적으로 관리하기가 더 간단하지만 훈련하는 데 더 많은 비용이 듭니다.

몇 가지 건전한 논의 끝에 우리는 코파일럿을 만들기 위해 소규모 모델 접근 방식을 채택하기로 동의했습니다. 이는 GenAI 여정을 진행하면서 배운 내용에 기술 전문 지식을 적용한 좋은 사례였습니다.

우리는 이 시리즈의 3부에서 학습에 대한 아이디어를 확장할 것입니다. 필자가 내부 개발 작업을 하는 동안, Hitachi Digital Services의 제 동료인 Prem Balasubramanian은 새로운 모델을 구축하고 새로운 문제를 실시간으로 함께 해결하는 다양한 고객과 함께 작업한 내용을 공유하기 위해 펜을 들고 있을 것입니다.

GenAI는 우리 모두를 위한 여정이며 몰입해야 합니다. 

관련

• Gajen Kandiah: GenAI 여정 소개
• AI에 대한 생성적 접근 방식