與客戶一起踏上 GenAI 學習之旅

這是「我們的 GenAI 之旅」系列的第三個故事。

關於生成式人工智慧（GenAI）不言而喻的事實之一是每個人都在邊走邊學。也許這是因為創新的步伐如此之快，以至於學習曲線不斷上升。

甚至考慮一下最新的進展，包括微軟計劃將 Chat GTP-4 Turbo 整合到 Copilots 中，以處理「複雜且耗時的任務」；谷歌推出了 Gemini 型號套件 Ultra、Pro 和 Nano，支援從高階硬體到手機的所有產品；甚至 Apple 在 GitHub 上發布了專為 Apple 晶片設計的機器學習 ML-Explore (MLX) 陣列框架。

有時，步伐似乎令人眼花撩亂。我們 Hitachi Digital Services 以及我們的母公司 Hitachi Ltd. 已經在人工智慧領域工作了數十年，甚至我們每天都在了解有關 GenAI 的功能、機會和潛在風險的新知識。

事實上，如果來自雲端供應商、系統製造商、軟體開發人員等的人告訴您他們已經解決了所有問題，請務必小心。科技進步如此之快，以至於很少人能在某一天知道所有的答案。另一方面，如果他們傾聽並承諾與您合作、與您合作，在 GenAI 的幫助下解決您的問題並實現您的目標，那麼他們就值得考慮。

我非常熟悉這個領域以及 GenAI 和人工智慧的開發。身為 Hitachi Digital Services 的首席技術官，我直接與全球大型客戶合作，協助他們透過數位解決方案克服挑戰並實現業務目標。正如我的同事在前兩個故事中所說，GenAI 和人工智慧的出現越來越多地為公司帶來了一些最引人注目的機遇，同時也帶來了一些重大風險，這並不奇怪。接觸技術至關重要，但盡可能以最深思熟慮的方式。

在我的工作中，我們喜歡建立解決方案，並在可能的情況下開始對其中的某些方面進行模板化，以便在其他類似的客戶挑戰中快速重複使用。但 GenAI 大大改變了這個理念，主要是因為此類解決方案針對特定工作負載，針對特定產業中具有超特定參數的特定客戶。換句話說，這些「雪花」型解決方案中很少有可以打包和重複使用的。

然而，隨著 GenAI 的快速採用而出現的一種模式是在客戶理解層面。我認識到精明的組織、不太精明的組織以及不精明但熱心的組織。

有趣的是，通常這三個類別的差異不是挑戰或選擇，而是嚴重性或規模。

做出關鍵決定

例如，每個組織都必須儘早了解 GenAI 等待他們的基本選擇。

我應該使用什麼引擎？對我來說，在本地進行這項工作是否比在雲端完成這項工作更好？ （而且，如果我轉向雲，我是否有成為雲端提供者的人質的風險？）

然後討論轉向人工智慧的核心問題以及應該採用哪種類型的大語言模型（LLM）。像LLaMA 2模型這樣的小型模型接受了70 億到700 億個參數的訓練，非常適合在本地或雲端運行，而OpenAI 的GPT-3 和GPT-4 則接受了1750 億到1 萬億個參數的訓練，並且通常最好與雲端提供的運算能力一起使用。

正如我在最近的一篇文章中所說，在確定本地法學碩士和本地足跡是否比利用公共雲更有利時需要考慮的一些事項包括但不限於培訓頻率和培訓數據。

例如，正如我在Hitachi Vantara 的同事Bharti Patel 最近所寫的那樣，她在公司的GenAI 工作促使他們在本地構建了自己的系統，以支持他們與LLaMA 2 的工作。 ：是為了更好地控制法學碩士的數據和管理。

客戶角度

這些只是我每天看到客戶面臨的各種問題和決策中的一些。例如，正如我上面提到的，越來越多的安全性、資料隱私以及模型偏差問題引起了人們的嚴重關注。我們合作的一家全球銀行致力於消除其 GenAI 機器人產生回應/結果或以非議會或冒犯性語言回應查詢的風險。

我們開始工作並直接應用了多項領先技術，從即時工程（為 GenAI 模型編寫自然語言文字指令的過程）到負責任的人工智慧（即毒性分析、幻覺控制等）。特別是，我們應用了檢索增強生成（RAG），這是一種人工智慧技術，它結合了來自外部資料集的信息，允許人工智慧模型從知識來源中檢索相關資訊並將其與生成的文字合併。

利用這些技術和工具，我們建立了一個名為AI Compass 的程序，該程序可以跨不同參數（例如情緒、毒性、潛在越獄、拒絕等）測量AI 模型。重要到生產 GenAI 用例。

這對銀行來說非常合適，因為它需要的不僅僅是毒性分析，它還需要確保所有地點在上述多個維度上的回應均合規且一致。

製造機會

有時，客戶認為他們需要某種工具或技術，但經過評估後，另一種方法更有效。在另一個 GenAI 實例中，一家領先的住宅產品製造商希望利用該技術來幫助該公司更好地實現極其複雜的定價系統的自動化。對外行人來說，許多改造產品在定價方面都有依賴關係。從客製化尺寸到無數類型的可用材料，從區域性到季節性，提出的每個零件在推薦合理價格之前都需要克服許多挑戰。該公司渴望找到一種使這一過程自動化的方法。事實是，他們有大量數據可供利用，大量歷史數據，但需要一種方法來快速產生答案以完成更多銷售。

在與公司一起應對挑戰後，我們都意識到這不僅僅是一個 Gen AI 用例。相反，這是更傳統的機器學習和規範自動化的絕佳機會，然後可以將其與 GenAI 結合起來，以便客戶更輕鬆地使用。因此，我們開始了與公司的合作之旅，我在 Hitachi Digital Services 的團隊與 Hitachi America Limited 的資料科學家和工程師一起工作，確定範圍並執行。

如果說我們在 AI 和 GenAI 方面的工作教會了我們什麼的話，那就是我們與我們的客戶和合作夥伴以及我們自己的團隊一起參與其中。我們都在一起快速學習並不斷前進。我們的執行主席 Gajen Kandiah在不久前的一篇文章中說得最好，他鼓勵讀者不要拖延與 GenAI 的接觸。開始專案、實驗，但要小心謹慎地進行。

相關內容

·追蹤我們的 GenAI 第一步

·介紹我們的 GenAI 之旅

·人工智慧的生成方法