엔터프라이즈 AI에 대한 새로운 접근 방식

Hitachi Vantara의 편집팀은 최고 제품 책임자인 Octavian Tanase와의 인터뷰를 통해 기업의 AI에 대한 그의 비전과 전략에 대해 살펴보았습니다.

아시다시피 AI는 새로운 것이 아닙니다. 생성형 AI 외에도 AI의 새로운 시대에 대한 흥분과 가능성을 창출하는 다른 것은 무엇입니까?

Octavian Tanase: 가장 가치 있는 자동차 회사는 도요타나 폭스바겐이 아니라 테슬라입니다. ChatGPT는 2개월 만에 1억 명의 사용자에게 도달했습니다(Netflix는 10년 걸림). GPU 선두 업체인 NVIDIA는 시가총액 2조 달러를 넘어섰습니다.

어제의 AI 혁신 기업은 오늘의 리더로서 내일의 시장 지배를 위한 발판을 마련합니다. 업계 전반에 걸쳐 기업의 잠재적 가치는 연간 2조 6천억 달러에서 4조 4천억 달러opens in a new tab에 이르기까지 엄청나며, 얼리 어답터들은 이미 재정적 보상을 받고 있습니다. 오늘날 일반적인 애플리케이션에는 챗봇, 지식 관리, 소프트웨어 개발 및 문서화가 포함됩니다. 그러나 거기서 멈추지 않습니다. 미래에는 진단 영상, 신약 개발, 사기 탐지, 경로 최적화, 예측 유지 관리, 네트워크 최적화 등과 같은 수직 전반에 걸친 사용 사례가 나타날 것입니다. Hitachi Vantara Exchangeopens in a new tab에서는 다양한 업계의 리더들이 현재 진행 중인 프로젝트 중 일부에 대해 논의했습니다.

불과 몇 년 전만 하더라도 AI를 시작하는 것은 어려운 작업이었습니다. 그러나 오늘날의 상황은 어떻습니까? AI 관행을 구축하고자 하는 기업에게 해주고 싶은 말이 있습니까?

기술의 복잡성이 복잡해 보일 수 있지만 AI 솔루션을 구축하는 본질은 더 이상 위협적인 전망이 아닙니다. 기본적으로 풍부한 고품질 데이터, 신경망과 같은 고급 데이터 모델, GPU를 포괄하는 이를 지원하는 데 필요한 IT 인프라, 저지연/고속 비정형 데이터 액세스 등의 세 가지 핵심 요소를 중심으로 진행됩니다.

특히 시장에서 점점 더 많이 요구되는 기술인 프롬프트 엔지니어링과 같은 분야에서는 전문 지식이 확실히 중요하지만, 기본적인 기술 구성 요소는 높은 수준에서 이해하기가 비교적 쉽습니다. 더군다나 이러한 필수 구성 요소는 파악하기 어려운 것이 아닙니다. 실제로 쉽게 접근할 수 있습니다. ChatGPT, Google의 Gemini 또는 Microsoft의 CoPilot과 같은 몇몇 GenAI 어시스턴트는 무료로 사용할 수 있습니다. 다른 것들은 AWS, Azure 및 Google Cloud와 같은 퍼블릭 클라우드 플랫폼을 통해 쉽게 액세스할 수 있으며 종종 구독료만 지불하면 됩니다. 이러한 접근성은 프로세스를 간소화하여 더 광범위한 사용자와 기업이 AI 솔루션을 이용할 수 있도록 합니다.

즉, 미션 크리티컬 코어 애플리케이션을 위해 AI를 대규모로 배포하려면 깊은 책임감이 필요합니다. 기업은 환각과 같은 실수에 대해 점점 더 많은 법적 책임을 지게 됩니다. 최근 항공업계에서 일어난 사건opens in a new tab은 경고의 신호탄이었습니다. 중요한 고객 데이터 또는 핵심 비즈니스 프로세스가 손상될 경우 잠재적인 결과가 확대됩니다.

AI에 대한 기업의 요구 사항opens in a new tab은 기능을 넘어, 설명 가능성(XAI), 관찰 가능성, 추적 가능성, 데이터 보안, 인프라 확장성 및 비용 효율성과 같은 중요한 기준을 포괄합니다. 사회적 책임과 책임감 있는 AI(RAI)의 실천은 필수적이며, 편향을 제거하는 것뿐만 아니라 에너지 소비에 대해 신중히 고려할 것을 강조합니다. 가장 흥미로운 고려 사항은 단일 AI 모델의 훈련으로 300톤의 상당한 CO2를 배출opens in a new tab할 수 있다는 마지막 요점을 강조합니다. 이러한 현실은 혁신을 추구하는 데 있어 윤리적이고 책임감 있으며 환경을 생각하는 AI 관행의 필요성을 강조합니다.

이는 비즈니스 및 IT 리더가 혁신하도록 요청받는 매우 어려운 지점입니다. 상황은 얼마나 심각하며, 그들은 그 딜레마를 어떻게 헤쳐 나갈 수 있습니까?

AI 프로젝트의 60-80%가 실패opens in a new tab하거나 최소한 심각한 차질 또는 비용 초과에 직면한다는 것은 공공연한 비밀입니다. 비즈니스 및 IT 측면의 기업 리더가 신중을 기하는 것은 당연한 것입니다. AI 수용을 주저하는 것은 근본적인 신뢰 부족과 위험에 대한 인식이 증폭되어 실패, 비용 증가, 평판 손상 가능성 등이 원인이 되고 있습니다. 피해야 할 몇 가지 함정: 퍼블릭 클라우드는 놀이터와 트렌치 학습을 위한 훌륭한 플랫폼을 제공하지만, 모든 퍼블릭 클라우드가 동일하게 생성되는 것은 아니며 일반적으로 비용 및 고착화, 실시간 성능(자율 로봇 공학) 및 솔루션 조립의 복잡성과 관련하여 고유한 문제를 제기합니다. 독점 및 기밀 데이터에 대한 데이터 보존과 같은 규정 준수 고려 사항은 AI 채택을 더욱 복잡하게 만듭니다.

반면, 기존 데이터센터는 자체적인 준비 문제에 직면해 있습니다. 대부분의 기업은 고성능 컴퓨팅의 요구 사항을 충족할 준비가 되어 있지 않으며, 기존의 높은 자본 비용에 대한 부담은 말할 것도 없고 대기 시간, 처리량, 소비 전력 및 냉각 요구 사항 문제와 씨름하고 있습니다. 퍼블릭 클라우드와 데이터센터의 장점과 단점 사이의 적절한 균형을 유지하는 것은 기술 구현의 복잡한 환경을 탐색하는 기업에는 미묘한 결정입니다.

엔터프라이즈 AI의 패러다임 전환이 필요한 시점입니다. 데이터, 모델 및 IT 인프라의 기본 요소는 여전히 필수적이지만, 기업의 고유한 요구 사항을 충족하기 위해서는 재설계된 접근 방식이 필요합니다. 에지, 코어 및 하이브리드 클라우드 환경을 아우르는 보다 정교한 데이터 환경이 중요합니다. 모델은 대규모 언어 모델(LLM)을 넘어 그리드 최적화, 선물 거래 또는 방송사업자 라우팅과 같은 전문화된 실시간 애플리케이션을 위해 소규모 또는 표준 언어 모델(SLM)을 통합해야 합니다. IT 인프라는 꼼꼼하게 적절한 규모, 비용 효율성, 지속 가능성을 보장해야 하며, 스토리지, 컴퓨팅(교육 및 추론 모두) 및 네트워킹의 중요한 요구 사항을 해결해야 합니다.

리더십을 향한 여정을 가속화하기 위해 기업은 독점적인 AI 플랫폼을 처음부터 구축하는 것에서 벗어나야 한다고 생각합니다. 대신, 그들은 효과적으로 설계되고 신뢰할 수 있으며 검증된 AI 기반을 사용하여 비즈니스 애플리케이션을 개발하는 데 중점을 둘 것입니다. 저는 기성 AI 솔루션이 기업의 60% 또는 70%를 지원할 수 있을 것으로 예상하며, 나머지 30%는 독점 IP와 데이터를 사용하여 경쟁 우위를 확보할 수 있을 것으로 기대합니다. 이 접근 방식은 AI 이니셔티브와 관련된 위험과 비용을 줄이는 동시에 시장 출시 시간을 크게 단축합니다.

이는 Hitachi Vantara가 지원을 제공할 수 있는 유리한 입지 조건을 가지는 분야일 수 있습니다. 그러나 청중, 특히 Hitachi Vantara에 친숙하지 않거나 Hitachi를 산업 회사로 생각할 수 있는 사람들을 위해 우리의 인사이트에 주의를 기울여야 하는 이유를 명확히 설명해 주시기를 바랍니다.

100년 넘게 미래를 꿈꾸는 Hitachi는 디지털 선도 기업으로 진화하며 AI 영역에서 빠르게 발전하고 있습니다. 2022 회계연도에만 R&D에 24억 달러를 투자했으며, 2023년에는 디지털 및 AI 이니셔티브를 위해 특별히 3억 달러의 기업 펀드를 조성했습니다. 우리의 리더십은 에너지, 모빌리티/운송, 제조 및 산업, 금융 서비스를 포함한 주요 업계 전반에 걸쳐 확장됩니다. 운영 기술(OT)과 정보 기술(IT) 모두에 대한 전문 지식을 활용하여 자체 운영 및 고객과의 협업을 통해 AI 솔루션을 성공적으로 산업화했습니다. 주목할 만한 사례는 2021년 초에 철강 생산을 위해 제어 시스템에 AIopens in a new tab를 배포하여 품질 및 수율 향상과 같은 실질적인 이점을 얻은 것입니다. Hitachi Ltd는 소프트웨어, 하드웨어, 클라우드 서비스 및 산업용 제품을 아우르는 강력한 파트너 에코시스템을 구축하는 데 탁월한 성과를 거두며 혁신과 협업의 성공에 대한 헌신을 보여주고 있습니다.

반면 Hitachi Vantara는 35년 전에 Hitachi Data Systems로 설립되었습니다. 이 회사는 Hitachi의 중심에 있는 혁신의 원동력으로 계속 자리매김하고 있습니다. 전설적인 탁월한 스토리지 및 컴퓨팅 인프라로 유명한 Hitachi Vantara는 100% 데이터 가용성을 보장한 최초의 공급업체입니다. 그리고 우리는 계속해서 한계를 뛰어넘고 있습니다.

한 가지 예를 들자면, Hitachi Content Software for File(HCSF)는 라스베이거스의 Sphere의 고해상도 비디오 콘텐츠를 지원하고 있으며, 이는 5밀리초 미만의 대기 시간으로 초당 400기가바이트 이상의 처리량을 처리하는 최초의 솔루션입니다.  이러한 형태의 성능은 가장 까다로운 산업용 AI 애플리케이션에도 필요합니다. 다른 최상급으로는 에너지 효율성이 있으며, 그 밖에도 에너지 효율성, Carbon Footprint for Products의 인증을 받은 유일한 스토리지 공급업체라는 점 등 다양한 장점이 있습니다. 최근 Virtual Storage Platform One은 하이브리드 클라우드 전반에 걸쳐 단일 제어 및 데이터 플레인을 발표했습니다. 또한 Hitachi Vantara의 하이브리드 클라우드 솔루션은 EverFlex를 통해 비용 효율적인 종량제 기반 솔루션으로 사용할 수 있습니다. 

이제 가장 최근에 발표한 Hitachi iQ 포트폴리오에 대해 살펴보도록 하겠습니다. NVIDIA와의 협업이 포함되어 있다고 들었습니다. 그게 무슨 말입니까?

Hitachi iQ를 소개하게 되어 매우 기쁩니다. AI 워크로드를 위한 업계 최적화 솔루션 제품군입니다. OT 및 IT, 엔지니어링 역량 및 파트너 에코시스템에 대한 전문 지식을 바탕으로 엔터프라이즈 AI에 대한 실용적이고 솔루션 지향적인 접근 방식을 취하고 있습니다. Hitachi iQ는 AI 솔루션 스택 위에 산업별 기능을 계층화하여 기본적인 통합 및 테스트를 넘어 조직의 비즈니스와 더욱 관련성을 높입니다. Hitachi iQ는 NVIDIA의 DGX 및 HGX와 함께 제조, 운송, 에너지 및 금융 서비스와 같은 산업에 최적화될 것입니다.

DGX BasePOD 인증 외에도 Hitachi iQ는 NVIDIA H100 기반의 하이엔드 HGX 제품과 H100 및 L40S NVIDIA GPU로 구성된 미드레인지 PCI-E 기반 제품을 보완하여 출시할 예정입니다. 또한 NVIDIA의 엔터프라이즈급 AI 도구 및 프레임워크인 NVIDIA AI Enterprise도 제공합니다. 더불어, Hitachi Vantara는 Hitachi Content Software for File(HCSF) 스토리지 기술을 활용하여 가장 복잡한 AI 워크로드를 위한 빠른 스토리지 솔루션을 제공하는 가속 스토리지 노드를 출시할 예정입니다.

하지만 이는 단지 기술 제공에 관한 것만이 아닙니다. 이미 작년에 Hitachi는 생성형 AI를 위한 COE(Center for Excellenceopens in a new tab)를 설립하여 고객의 가속화된 여정을 지원하는 동시에 위험을 통제하는 데 도움을 주고 있다고 발표했습니다. 이를 통해 고객은 오늘날의 AI 리더와 미래의 시장 리더가 되기 위한 경로를 빠르게 추적할 수 있습니다.

그리고 거기서 멈추지 않습니다. iQ 포트폴리오의 미래 전략은 단일 시맨틱 플레인을 갖춘 "범용 데이터 액세스 및 인텔리전스"(하이브리드 클라우드 전반)의 세 가지 기둥, 패키지형 산업 솔루션(SLM 포함), 제공 및 운영의 주요 기능과 프로세스를 자동화하기 위해 산업 부문의 파트너십을 통해 구축된 코파일럿, Hitachi Vantara 및 NVIDIA와 같은 업계 거물들의 세계적 수준의 IT 인프라 솔루션을 기반으로 합니다.

마지막으로, 오늘은 NVIDIA의 GTC 컨퍼런스에 참석했습니다. NVIDIA와의 파트너십과 이것이 특별한 이유에 대해 말씀해 주십시오.

최근 발표된 NVIDIA와의 전략적 협력은 생성형 AI를 통한 디지털 트랜스포메이션을 가속화하는 데 있어 중요한 이정표입니다. 이 파트너십은 시장 수요를 충족하도록 특별히 설계된 맞춤형 솔루션 포트폴리오를 개발하겠다는 약속을 의미합니다. 우리는 데이터에서 빠르고 실행 가능한 인사이트를 제공하는 산업별 AI 기능을 만들어 궁극적으로 산업 및 기업 부문 모두에서 디지털 혁신을 가속화하는 데 중점을 두고 있습니다.

이 협력은 NVIDIA의 선호 파트너로서의 기존 지위를 기반으로 합니다. 하지만 Hitachi Vantara를 차별화하고 AI 여정을 시작하는 고객에게 매력적인 선택이 될 수 있는 이유는 무엇일까요? 당사의 강점은 저지연/고속 비정형 데이터 액세스를 위해 설계된 솔루션을 포함하여 최고 수준의 인프라 솔루션을 제공하는 것 외에도 주제별 전문 지식에 있습니다. 우리는 전 세계에 서비스와 지원을 제공하여 성공적인 AI 구현을 위한 강력한 프레임워크를 제공합니다. 또한 광범위한 파트너 에코시스템은 고객에게 포괄적이고 영향력 있는 솔루션을 제공할 수 있는 능력을 더욱 향상시킵니다.

Octavian, 대화에 참여해 주셔서 감사드립니다.

Octavian Tanase는 Hitachi Vantara의 최고 제품 책임자입니다.

Hitachi Vantara의 AI 솔루션에 대해 자세히 알아보십시오.
데이터 중심 세계에 대한 관점은 Insights를 확인하십시오.