Rastreando nossos primeiros passos GenAI

Esta é a segunda história da série "Nossa Jornada GenAI".

Às vezes, no mundo da tecnologia e da engenharia, você simplesmente precisa aproveitar uma boa ideia. Você entra na disputa – entendendo que as inevitáveis interrupções trarão novos riscos – mas você entra, mesmo assim. Você decide construir o avião enquanto o pilota.

Isso, é claro, vai contra o que estamos acostumados a fazer no mundo corporativo. Gostamos de estudar todos os ângulos, examinar minuciosamente todas as decisões e comparar a funcionalidade com as análises de custo ao longo do caminho. Talvez nem mesmo discutamos ou compartilhemos uma ideia inovadora por meses, até que possamos fazê-lo com um conjunto de pesquisas para embasar a tomada de decisões, incluindo informações sobre o mercado-alvo e a análise da concorrência.

Essas são algumas das coisas que passaram diante de meus olhos quando terminei uma breve apresentação sobre inovação na reunião de Liderança Executiva de nossa empresa no verão passado. Ao encerrar minha apresentação e perguntar se nossos líderes tinham alguma pergunta, nosso CEO e agora Presidente Executivo da Hitachi Digital Services, Gajen Kandiah, levantou-se e anunciou à equipe que eu lideraria o projeto de IA Generativa (GenAI) da nossa empresa.

Embora a GenAI já estivesse claramente na mente de todos os presentes na reunião, o pronunciamento foi tão surpreendente quanto estimulante. Receber a incumbência, no local, de forma tão decisiva e em um ambiente como esse foi tanto um voto de confiança de Gajen quanto uma declaração de direção. Gajen tem sido um líder de pensamento para nossa empresa nesse espaço e seu envolvimento e paixão pelo tópico e seu potencial são bem conhecidos.

Gajen me explicaria mais tarde que ele e a diretoria me escolheram por vários motivos. O fato de eu estar na empresa há menos de um ano, por exemplo, foi um elemento fundamental. Eles queriam que o líder desse trabalho fosse ao mesmo tempo profundamente capacitado e experiente, mas novo o suficiente na empresa para ser capaz de promover a ruptura dentro da organização e desafiar as normas. Isso, segundo ele, seria fundamental.

Enquanto eu sorria e acenava com a cabeça em sinal de reconhecimento e concordância, minha cabeça girava, elaborando listas de tarefas e rascunhando no quadro branco do meu cérebro as etapas que precisaríamos seguir.

Formação da nossa equipe de GenAI

Não perdi tempo. Quando voltei ao escritório no dia seguinte, discuti a perspectiva com nosso diretor de transformação, Santhosh Sreemushta, e comecei a jornada elaborando o que eu achava que seria a constelação mais eficaz de cinco equipes multifuncionais: Política, Produto e Engenharia, Serviços, TI interna/CIO e Marketing.

Para fazer a bola rolar e evitar as armadilhas dos atrasos burocráticos tradicionais que podem acompanhar os novos planos de negócios, decidi que os membros da equipe teriam que adicionar essa nova responsabilidade aos seus “trabalhos diários”. (Que comece a disrupção, pensei). Então, fiz uma lista das pessoas que eu achava que seriam bons líderes e enviei um e-mail para cada uma delas separadamente pedindo seu apoio. Ao fazer isso, fiz questão de informar a todos que esse trabalho exigia uma abordagem pioneira e o tipo de pessoa que se sentisse à vontade para lidar com a ambiguidade.

Isso foi fundamental, porque, como parte dessa jornada, eu queria encontrar maneiras de tornar o GenAI parte do DNA da nossa empresa. Se eu pudesse fazer isso, garantiria um compromisso de longo prazo, algo que pode ser abraçado por aqueles que vierem depois de mim e pelas equipes. É um componente crítico para criar estrutura e impulso sustentável.

Convocação da equipe

Pedi aos líderes que montassem suas equipes e me enviassem seus nomes. Não fiquei surpreso quando eles me disseram que os engenheiros, pesquisadores e profissionais de marketing estavam ansiosos para participar. À tarde, nossa organização estava definida.

Isso foi em meados de junho. Olhando para trás, não é eufemismo dizer que avançamos nessa missão tão rápido quanto a indústria em torno da GenAI, que disparou desde a ascensão do ChatGPT da OpenAI há um ano até o lançamento da impressionante plataforma Chat GPT no mês passado. Desde esse importante pronunciamento de liderança até nossa primeira reunião oficial como uma equipe de estratégia GenAI, um total de duas semanas se passaram. Isso é ágil no livro de qualquer pessoa.

Reuni as equipes uma semana depois. Usamos esse tempo para elaborar nosso projeto de como operaríamos, atribuir funções e responsabilidades e também metas; ainda não KPIs, mas metas. Não estamos na fase dos KPIs.

Esboçando nossa estrela guia

Concordamos que nosso projeto deve fazer várias coisas ao mesmo tempo: estabelecer as proteções, como Gajen enfatizou; alinhar-se aos valores de nossa empresa; e oferecer flexibilidade para a evolução e o crescimento à medida que todos nós aprendemos mais.

Para fazer isso de forma mais eficaz, tivemos que começar do ponto de vista comercial e trabalhar internamente, dando a todas as partes interessadas uma voz igual. A discussão incluiu membros do escritório do chefe de segurança da informação, do escritório do CIO, do departamento jurídico corporativo e do desenvolvimento de produtos, e explorou todos os cantos da Hitachi Vantara que têm ou poderiam ter um ponto de contato com a GenAI. Desde o uso de aplicativos públicos de GenAI, como o ChatGPT, o Bard e agora o Gemini, até aplicativos privados e co-pilotos no desenvolvimento de software, nós nos propusemos a elaborar um documento de política que ditasse oficialmente o uso aprovado.

Como primeiro item de ação, concordamos em elaborar um documento de política que pudesse ser usado por todos os funcionários sobre como e quando usar ferramentas públicas e privadas de GenAI. Desde o desenvolvimento do produto até o marketing, decidimos estabelecer os parâmetros para as práticas aprovadas pela empresa. Seria a “estrela guia” da empresa. O documento também seria visionário para ajudar a orientar o desenvolvimento hoje e no futuro. Lembrem-se de minha missão - torná-la parte do DNA.

Essa abordagem aparentemente prática acabou se tornando, na verdade, um momento crítico para nós. À medida que nos aprofundávamos nas questões do documento de política, logo percebemos que ele seria um esforço em si mesmo. Desde a elaboração de regras e restrições sobre o uso geral e a privacidade dos dados até a elaboração de diretrizes sobre questões de conformidade regulamentar, segurança cibernética e até mesmo treinamento em políticas, isso levaria tempo, o tipo de tempo que poderia atrasar, se não inviabilizar, o restante do esforço.

Mas estes são tempos sem precedentes. O ritmo da inovação em torno do GenAI é tão rápido que exigiu um maior senso de urgência. Nosso pessoal precisava da liberdade de explorar na mesma velocidade em que a tecnologia estava se movendo. Precisávamos seguir em frente, então concordamos em elaborar o documento de política em paralelo com a execução do restante do projeto. De fato, construiríamos este avião quando estávamos decolando.

Dando vida ao meu quadro branco

A partir daí, delineamos nossa perspectiva de mercado, dividindo-a em dois caminhos distintos: 1) determinar como abordar a integração do GenAI em produtos existentes e, 2) colocar o pensamento criativo em torno do que podemos construir do zero.

Nós literalmente escrevemos em um quadro branco uma lista considerável de ideias excelentes e criativas e, em seguida, começamos a reduzir essa lista. Com tantas ideias no quadro, tivemos que reduzi-la bastante e nos concentrar em duas ou três ideias que poderiam ter o maior impacto desde o início. Ferver o oceano não era uma opção. Na verdade, lançar uma rede ampla era uma receita para distração e atraso.

Estabelecer essa filosofia desde o início provou ser bastante produtivo. Ela permitiu que nós, como equipe, cristalizássemos nossas prioridades com rapidez.

Portanto, além do documento de política, decidimos desenvolver dois projetos iniciais: Agentes GenAI, chamados de “companheiros”, para acelerar a resolução de problemas para nossas equipes de suporte corporativo (e, por fim, integrá-los diretamente ao nosso portfólio para melhorar a configuração do sistema, o gerenciamento, a solução de problemas etc.); e um dispositivo “pronto para uso” que usaríamos para ajustar os LLMs e desenvolver companheiros. 

Aplicando o que sabemos ao que aprendemos

Estamos empolgados em compartilhar nossas histórias. Há muita coisa envolvida nas milhares de decisões que estão sendo tomadas dentro das paredes da Hitachi em relação ao nosso trabalho com a GenAI. Mas sabemos que não estamos sozinhos. Conversamos com clientes e parceiros todos os dias, por isso sabemos que as empresas estão tendo as mesmas discussões sobre os mesmos tópicos e desafios. E, se não estiverem, estarão.

Por exemplo, quando chegou a hora de colocar nosso projeto em prática, percebemos que precisávamos primeiro resolver um debate filosófico: deveríamos adotar um único modelo de linguagem grande para nosso trabalho ou uma abordagem de modelo pequeno que incluísse vários agentes que pudessem colaborar entre si?

Como muitas empresas, avaliamos as diferenças e, para nós, nossa decisão de adotar a abordagem de modelos pequenos se resumiu a pelo menos dois atributos principais: 1) modelos menores têm a capacidade de gerar resultados mais precisos e 2) com muito menos risco de alucinações. Por outro lado, aproveitar um único modelo de linguagem grande seria mais simples de gerenciar, relativamente falando, mas mais caro de treinar.

Após uma discussão saudável, concordamos em adotar a abordagem de modelo pequeno para criar nossos copilotos. Esse foi um ótimo exemplo de aplicação de nossa experiência técnica ao que estamos aprendendo durante nossa jornada com a GenAI.

Vamos ampliar essa ideia de aprendizado na Parte 3 da série. Enquanto eu escrevo de dentro do nosso trabalho de desenvolvimento interno, meu colega Prem Balasubramanian, da Hitachi Digital Services, colocará a caneta no papel em seguida para compartilhar o que ele tem trabalhado com uma série de clientes à medida que eles criam novos modelos e enfrentam novos problemas juntos em tempo real.

A GenAI é uma jornada para todos nós e precisamos mergulhar nela. 

Relacionado

• Gajen Kandiah: Apresentando nossa jornada GenAI
• Uma abordagem generativa para IA