Como os CIOs podem criar valor com ai generativo

O software está comendo o mundo, como Marc Andreessen colocou mais de uma década atrás. Agora, AI generativa (Genai) está transformando o desenvolvimento de software - e, por extensão, como as grandes empresas são executadas hoje. Isso faz o

Software and data are expressed in languages, and GenAI is very good at translation. This makes the Função de tecnologia Um local natural para aplicação precoce.

O impacto de Genai será sentido em várias áreas. Isso melhorará a qualidade e a velocidade dos desenvolvedores de software, pois permite que os usuários de negócios desenvolvam protótipos do que desejam. A Genai amplia bastante o acesso aos dados porque "entende" dados de uma ampla variedade de fontes e automatiza a limpeza, a estruturação e o gerenciamento de dados. Os custos de implementação de software cairão porque a Genai pode atualizar o código herdado em custas baixas, permitindo a migração completa para a automação de processos de nuvem e de ponta a ponta. E a velocidade com que Genai está começando a se sentir sentida é sem precedentes. Nossa pesquisa estima que essas ferramentas permitam os ganhos de produtividade de desenvolvimento de software de 30% a 50%. No total, os ganhos de eficiência podem atingir 10% da linha de base de custos de TI - até 65% dos custos podem ser diretamente afetados - translatando em centenas de milhões de dólares para a maioria das empresas da Fortune 500. (Consulte Anexo 1.)

Company tech functions are already leveraging off-the-shelf coder augmentation solutions, such as GitHub Copilot (Microsoft), CodeWhisperer (Amazon), and Codey (Google), to boost their efficiency and creativity. Our research estimates that these tools enable software development productivity gains of 30% to 50%. Altogether, efficiency gains could reach 10% of the IT cost baseline—up to 65% of costs can be directly affected—translating into hundreds of millions of dollars for most Fortune 500 companies. (See Exhibit 1.)

Genai apresenta CIOs com quatro novas responsabilidades:

• Delivering efficiencies and enhancements in the tech function.
• Enabling GenAI in the business.
• Increasing data quality and availability across the entreprise.
• Mitigating novel cyber threats sparked by GenAI.

Big tech companies have long deployed their innovations internally first. This article, which kicks off a series on how CIOs and their companies can tap the power of GenAI, focuses on how companies outside the tech sector can deploy GenAI for the tech function.

How GenAI Transforms IT

AI’s adoption has been far from even, but because of its plain-speaking capabilities, GenAI is a game-changer with many use cases along the tech value chain. Large language models (LLMs), such as GPT-4, show impressive results when trained on vast quantities of data. IT makes AI’s job even easier because it relies on standardized and structured documents and artefacts, such as code, specifications, data models, tests, operations knowledge bases, user tickets, build scripts, and system logs. Commercial tools are available for myriad use cases that fall into four areas, helping to optimize IT processes and workflows end to end. (See Exhibit 2.)

parceria com o negócio. As ferramentas genai podem formar a base de uma nova relação de ganha-ganha entre ele e os negócios. Os aplicativos de prototipagem em alguns dias podem levar a melhores especificações, iterações mais rápidas e adoção de negócios mais forte. Genai acelerará o movimento "sem código" que já está em andamento em muitas empresas. Todos os funcionários - não apenas engenheiros - terão o poder de criar painéis de negócios, gerar insights a partir de conjuntos de dados e projetar seus próprios fluxos de trabalho apenas digitando o que é necessário em um chatbot suportado por um LLM.

Building and Maintaining Apps. Todas as etapas do ciclo de vida do desenvolvimento de software podem ser aumentadas com ferramentas comerciais disponíveis hoje. Por exemplo, uma empresa de software viu as tarefas concluídas dos desenvolvedores saltarem mais de 40% nos três meses após a implementação de uma ferramenta de produtividade de IA. (Consulte “Aumentando o desenvolvimento de software.”)

Operações de TI. As operações básicas geralmente são responsáveis ​​por mais da metade dos custos de TI. Muitos processos podem ser automatizados ou gerenciados com mais eficiência. Considere as seguintes estimativas, que são baseadas na pesquisa do BCG e na experiência do cliente:

• Esperamos que os chatbots de serviço de serviço em breve lidem com mais de 20% das solicitações de helpdesk de nível básico sem assistência humana e atribuam e documentem as solicitações que precisam ser escaladas. A IA também aumentará o local de trabalho digital, a infraestrutura de TI e as operações de rede, para obter ganhos de produtividade previstos de 40% ou mais.
• Optimized management of the end-user computing for all employees and partners can boost productivity by up to 5%.
• Intelligent Gerenciamento de infraestrutura , incluindo a implantação e a execução de aplicativos com eficiência, pode ganhar 5%a 10%. Vários casos de uso da Genai podem acelerar a transformação dos dados. Por exemplo, o Genai pode ajudar a automatizar a limpeza de dados, consolidação, aumento e integração; pode gerar dados sintéticos; e pode automatizar a rotulagem e a classificação de dados, o anonimato de dados e o gerenciamento de dados. (Consulte o Anexo 3.)
• Optimized performance for network operations thanks to software managed assets should increase productivity by as much as 5%.

Enhancing Data. Multiple GenAI use cases can accelerate data transformation. For example, GenAI can help automate data cleansing, consolidation, augmentation, and integration; it can generate synthetic data; and it can automate data labeling and classification, data anonymization, and data management. (See Exhibit 3.)

Como começar

Aqui está um plano de seis etapas que, baseado em nossa experiência, pode realizar as oportunidades oferecidas por Genai para ele. (Consulte o Anexo 4 e o Anexo 5.)

Formular sua visão genai. O primeiro passo é definir onde o Genai pode ter impacto precoce e como o impacto pode escalar e se espalhar, com base no potencial da tecnologia e nas ambições e no ponto de partida da empresa. Isso pode exigir experimentação e aprendizado fazendo, mas é importante pensar em termos de processos e ferramentas de ponta a ponta (como redesenhar o processo de desenvolvimento e manutenção de software) em vez de otimizar as etapas separadamente (por exemplo, codificar apenas os idiomas atuais de desenvolvimento). A gerência deve estar preparada para lidar com os medos (perda de emprego) e restrições (tecnologia herdada, alta parcela de pacotes comerciais de software pronta para uso) e explicar como os ganhos serão realocados. À medida que a função de TI ganha experiência, a visão pode ser traduzida em um roteiro de caso de uso com base no valor e viabilidade.

Financie a jornada, estabeleça os pré -requisitos. Uma boa regra geral para o planejamento é que um a dois dólares em financiamento é obrigado a gerar cada dólar de economia anual. A maturidade técnica suficiente em toda a empresa também deve ser alcançada em várias áreas antes da implantação, incluindo uma base de código centralizada, um banco de dados de gerenciamento de configuração bem documentado e base de conhecimento e um software enxuto e uma cadeia de ferramentas DevOps. Como a maioria das ferramentas utilizadas serão soluções prontas para uso, a maior parte do investimento será destinada a pessoas e habilidades, e os custos de modelo de operação serão mais altos. A criação de habilidades e o gerenciamento de mudanças deve receber alocações de orçamento adequadas. Genai ganhará tração experimentando os casos de uso mais viáveis ​​e de alto valor. Os KPIs da função de tecnologia, como lead time, frequência de implantação, qualidade do software e satisfação do desenvolvedor, devem ser monitorados antes e depois para documentar a economia de eficiência. Derive e compartilhe as lições principais de cada experimento para melhorar os processos futuros. GenAI represents a major IT transformation, which requires funding for the necessary changes in tooling, processes, and talent. A good rule of thumb for planning is that one to two dollars of funding are required to generate each dollar of annual saving. Sufficient companywide technical maturity also must be achieved in several areas prior to deployment, including a centralized code base, a well-documented configuration management database and knowledge base, and a lean software and DevOps toolchain. Since most of the tools used will be off-the-shelf solutions, the bulk of the investment will go toward people and skills, and operating model costs will be higher. Skills building and change management should receive adequate budget allocations.

Exercise Your GenAI Muscles. GenAI will gain traction by experimenting on the most feasible and high-value use cases. Tech function KPIs, such as lead time, deployment frequency, software quality, and developer satisfaction, should be monitored before and after to document efficiency saving. Derive and share the key lessons from each experiment to improve future processes.

Remodapa Strategies de fornecimento. provedores de serviços externos estarão implantando IA para melhorar suas estruturas de custo. Procure compartilhar as economias. Contratos de renegociado assim que eles forem renovados que buscam reduzir taxas e custos. Com o tempo, a Genai pode oferecer uma oportunidade para os CIOs reduzirem sua dependência de terceiros, à medida que o valor muda para os estágios de design e arquitetura do ciclo de vida do produto, que podem ser reforçados internamente. Empresas que já internalizaram os recursos como parte de seus Transformações digitais Ganhar mais com Genai no curto prazo.

Anticipate Workforce Implications. Organizations will need to adapt their operating models to accommodate the new skills, roles, and Maneiras de funcionar . Força de trabalho estratégica O planejamento deve concordar com Gerenciamento de mudança e campanhas “upskilling”. Os riscos genai são mais fáceis de medir e controlar nele do que em outras funções, mas não devem ser deixados ao acaso. Para a geração de código, a maioria das ferramentas comerciais oferece a opção de usar modelos treinados no código que transportam autorização explícita para fins de treinamento e não inclui código de código aberto. Os chatbots helpdesk podem ser suscetíveis a "alucinações" (falsidades e fabricação) e preconceitos de seus conjuntos de dados de treinamento. A maioria das ferramentas comerciais é baseada na nuvem e exige upload de ativos como código, testes e ingressos. Mesmo as camadas corporativas com proteção de dados aprimoradas podem encontrar restrições de políticas específicas de privacidade, regulamentação ou conformidade específicas da empresa. Para mitigar esses riscos, ele precisará de ferramentas e processos independentes para medir a qualidade, acordos de nível de serviço, riscos de segurança e satisfação do usuário. De fato, as empresas que se aplicam a Genai para controlar demais, além de tomar outras etapas (como refatorar a arquitetura herdada, mudar para a nuvem, internalizar o software como serviço e automatizar o gerenciamento e operações de dispositivos móveis), podem mudar seus orçamentos de TI de uma taxa média de 70%/30%de mudança para 50%/50%, que é usada em um número

Mitigate Legal and Ethical Risks with Responsible AI. GenAI risks are easier to measure and control in IT than in other functions, but they should not be left to chance. For code generation, most commercial tools offer the option to use models trained on code that carries explicit authorization for training purposes and does not include open-source code. Helpdesk chatbots may be susceptible to “hallucinations” (falsehoods and fabrications) and bias from their training data sets. Most commercial tools are based in the cloud and require uploading assets such as code, tests, and tickets. Even enterprise tiers with enhanced data protection can encounter restrictions from company-specific data privacy, regulatory, or compliances policies. To mitigate these risks, IT will need independent tools and processes to measure quality, service level agreements, security risks, and user satisfaction.

---

GenAI’s disruption in IT will likely be on a scale similar to that of the internet. Indeed, companies that apply GenAI to rein in IT overspending, along with taking other steps (such as refactoring legacy architecture, moving to the cloud, internalizing software as a service, and automating mobile device management and operations), could shift their IT budgets from an average 70%/30% run-change ratio to 50%/50%, ushering in a nova era para isso .

O grande número de casos de uso em potencial, a extensão dos ganhos de produtividade e a extensão de novas ferramentas para funções de negócios significam que os benefícios potenciais provavelmente superarão em muito os investimentos necessários. Os CIOs prospectivos que colocam os recursos da Genai para funcionar o mais rápido possível estarão bem posicionados para obter o conhecimento e a experiência necessários e colher o valor comercial.