Cada membro C-Suite agora é um chefe de IA

executivos seniores ainda mantêm Visões divididas sobre o potencial generativo da IA. Pesquisa de Índice de Aceleração Digital (DAI) da BCG em 2023 de 2.000 executivos globais constatou que mais de 50% desencorajam Genai adoção. Mas enquanto o debate sobre o potencial e os perigos de Genai continua, a tecnologia continua avançando. A maioria das empresas precisa planejar a Genai se tornar uma parte mais difundida e poderosa dos negócios cotidianos. Isso significa que todos os membros do C-Suite precisam escalar a curva de aprendizado genai.

Como tem sido amplamente documentado, o genai Oportunidades são significativos, mas os líderes precisam se concentrar igualmente no Riscos . A privacidade e a segurança cibernética já são acessórios regulares nas agendas da sala de reuniões, e a privacidade e as violações de dados comprometidas são duas das principais razões pelas quais os executivos da pesquisa da BCG disseram que desencorajam a adoção mais ampla. Os riscos também se estendem a operações, segurança, conformidade e reputação. Já vimos muitos casos de software seqüestrado, chatbots equivocados e violações de defesa cibernética - e ainda estamos nos primeiros dias. Os bandidos estão escalando sua própria curva de aprendizado. Os reguladores estão assistindo, determinando se devem intervir e, em caso afirmativo, quando, onde e como. Quando se trata de risco de IA, quais são exatamente as responsabilidades do CEO? Ou os COOs ou os CIOs? Aqui está nosso guia prático para onde os membros do C-Suite devem focar seus esforços, pois a Genai se torna uma parte maior da realidade dos negócios cotidianos.

Beyond bringing themselves up to speed, though, what is a responsible C-suite member supposed to do? When it comes to AI risk, what exactly are the CEO’s responsibilities? Or the COO’s or CIO’s?

Companies need a strategy and plan for implementing GenAI, but equally important, they need clear accountabilities for each member of the top management team to ensure that they cover all the bases—relating to the risks as well as the rewards. Here’s our hands-on guide to where C-suite members should focus their efforts as GenAI becomes a bigger part of everyday business reality.

Risco e exposição aumentados

AI e, especialmente, Genai, aumenta a exposição de uma empresa a riscos tecnológicos e expande as possíveis superfícies de ataque além dos sistemas digitais. Grande parte do poder de Genai vem da facilidade com que qualquer pessoa pode usá -lo, os dados não estruturados que ele pode organizar rapidamente e as idéias que ele pode gerar. Mas os modelos Genai ainda estão em andamento: viés e alucinações (Tech Speak For Erskes) são comuns. Informações confidenciais

GenAI presents or heightens five types of material business risk:

• Safety: Biased or inaccurate AI decision making
• Data Loss: Theft, disclosure, or misdirection of private or confidential information
• Operational Failure: Inaccurate solutions or nonresilient systems
• Reputational Damage: Business failures, safety issues, data loss, and eroded customer trust
• Regulatory: Privacy violations and noncompliance

In addition, GenAI boosts the capabilities and productivity of criminals, just as it does that of companies. Fraud, malware, social engineering attacks (such as phishing) are already common threats. Now they can all be automated, and their quality and precision enhanced with the same types of algorithms that companies use to improve their processes. Corporate data, confidentiality, integrity, and privacy are all in the crosshairs.

Implementing GenAI is partly a matter of marrying it with the company’s current AI capabilities and determining the best use cases for scaling up. But companies also need to ensure that the GenAI models they build, buy, and implement have appropriate guardrails to ensure data protection, privacy, and responsible use. They must put three elements in place. The first is enterprise-wide security and privacy capabilities tailored to the relevant use cases. Second is model security and secure application design. Models in development need to be made safe against AI-specific vulnerabilities, such as in the algorithm supply chain and the integrity of training data. At the same time, all GenAI application development teams should be following standardized DevSecOps processes and integrating AI safety measures throughout the application development process. The third priority is ensuring that companies understand the GenAI security practices of their vendors and partners and require that they are sufficiently robust.

Essas prioridades cruzam várias linhas organizacionais. Acabar com eles requer responsabilidades e responsabilidades claras, começando no C-Suite.

Diretor executivo

The top executive’s job is to ensure that the company realizes the full business value of GenAI solutions while maintaining customer trust and a high standard of responsible use. As a practical matter, he or she must oversee the development of the objectives for GenAI and lead the effort to make them clear to the organization.

CEOs need a basic understanding of GenAI, particularly with respect to security and privacy risks, since they are responsible for holding their C-suite colleagues accountable for implementing security and privacy processes with measurable effectiveness across the organization. They must have confidence that all decisions strike the right balance between risk and business benefit. One key requirement is the establishment of a formal GenAI operating model for security and privacy that includes third-party vendors and platform providers.

O CEO garante que as equipes de produto, jurídica e de segurança colaborem em todas as fases da implantação da Genai, incluindo aquisição, construção e implementação de modelos Genai. Se o desacordo ou o conflito surgir em metas ou incentivos, os CEOs precisam trazer para o alinhamento de funções e negócios. Vários distritos eleitorais importantes estarão assistindo, incluindo o conselho, acionistas, concorrentes, reguladores e clientes. Os COOS estabelecem objetivos da Genai para operações de negócios, garantindo que os processos mensuráveis ​​de segurança e privacidade sejam incluídos. Eles supervisionam o desenvolvimento da estrutura operacional desejada e da construção de capacidade para apoiar as operações habilitadas para a Genai. À medida que a Genai se torna mais incorporada da maneira que as empresas operam, o COO deve garantir que a organização tenha a capacidade de solucionar e resolver interrupções nos processos habilitados para Genai. Trabalhando de mãos dadas, eles identificam ameaças e implementam os controles adequados para mitigar riscos, além de promover a inovação. Além disso, CROs e CISOs gerenciam o apetite de risco da organização e aconselham outros membros do C-Suite nas compensações entre o valor de Genai e a nova exposição ao risco que ele cria. Eles ajudam a desenvolver e implementar soluções de baixo atrito, mantendo um perfil de risco apropriado. escassez.

Chief Operating Officer

The COO’s primary responsibility is to ensure that deployed GenAI use cases are aligned with business objectives and implemented in a resilient fashion. COOs establish GenAI objectives for business operations, ensuring that measurable security and privacy processes are included. They oversee development of the desired operational structure and capability building to support GenAI-enabled operations.

COOs rely heavily on the enterprise’s security capabilities to prevent malicious activity and avoid operational disruptions. As GenAI becomes more embedded in the ways that companies operate, the COO must ensure that the organization has the ability to troubleshoot and resolve disruptions in GenAI-enabled processes.

Chief Risk and Information Security Officers

These two executives are directly responsible for controlling the risk of GenAI to the organization. Working hand in hand, they identify threats and implement the proper controls upfront to mitigate hazards while also promoting innovation. In addition, CROs and CISOs manage the organization’s risk appetite and advise other C-suite members on tradeoffs between the value of GenAI and the new risk exposure it creates. They help develop and implement low-friction solutions while maintaining an appropriate risk profile.

GenAI presents CROs and CISOs with particular challenges, among them using the new technology to be better and faster at achieving basic cybersecurity goals, managing the dynamic nature of new capabilities that support both protection and attacks, and addressing the urgent need to reskill or upskill security staff amid a general talent shortage.

CROs e CISOs têm uma longa lista de prioridades imediatas de segurança e privacidade, que incluem:

• Estabelecendo uma estratégia de segurança com níveis de tolerância ao risco definidos que os níveis de riscos de que os Critérios de Uso 7. Gerenciar, governar e relatar os riscos e controles de Genai
• Establishing (with the COO) measurable criteria to evaluate GenAI use cases against potential value and risks
• Ensuring that they have the appropriate skills to identify, manage, govern, and report on GenAI risks and controls
• Garantir que as diretrizes atuais de governança e proveniência sejam suficientemente robustas e assadas nos processos atuais de desenvolvimento de Genai
• Ensuring that secure-by-design standards are updated and applied to the machine-learning operations process used for building custom GenAI applications
• Ensuring compliance with data governance and provenance guidelines and legislative and regulatory requirements
• Dedicação de recursos e financiamento para desenvolver recursos de segurança da Genai
• Avaliando como as soluções genai incorporadas em soluções de segurança cibernética podem ajudar a organização a detectar ataques, proteger dados e retenção do valor comercial || Mecanismos de resposta a incidentes no caso de uma violação de segurança ou regulamentação envolvendo Genai
• Putting in place strong vendor management procedures, including the vetting of new GenAI vendors
• Ensuring that they have defined appropriate incident response mechanisms in the event of a security or regulatory breach involving GenAI
• Atualizando os planos de aprendizado e desenvolvimento e o talento de suas organizações para explicar os conjuntos de habilidades necessários para gerenciar riscos de segurança cibernética e privacidade genai || Tecnologia

Chief Information, Technology, and Data Officers

Technology e os dados são os facilitadores da IA. Os executivos responsáveis ​​devem garantir que as equipes de produto, tecnologia e segurança cibernética tenham acesso à infraestrutura de tecnologia, sistemas, aplicativos, serviços e dados necessários-em uma taxa de valor de custo-valuosa razoável. É um equilíbrio delicado: a implementação inadequada pode dificultar a inovação e colocar a organização em risco de estagnação.

CIOs, CTOs e CDOs precisam monitorar a proveniência e a segurança dos dados e o planejamento de sistemas Genai que podem montar dados em respostas e saídas que excedam as classificações de segurança de dados das entradas de dados. Um escritório de dados robusto com visibilidade dos dados utilizados nesses sistemas e uma compreensão da propriedade intelectual crítica é extremamente importante. Eles criam o inventário de tecnologias da Genai da organização e se comunicam com a força de trabalho sobre o uso (por usuários e desenvolvedores de negócios) dessas novas ferramentas. Eles devem colaborar de perto com os funções de risco de risco, legal e de segurança da informação. Eles são responsáveis ​​pela proveniência, acesso e governança de dados, bem como pela governança de processos de Genai que garantem a conformidade sem impedir a exploração. Eles precisam permanecer atualizados sobre a nova legislação e regulamentação sobre o uso de produtos e sistemas genai e traduzi -los em padrões e procedimentos práticos. Colocando, atualizando o monitoramento e os mecanismos de relatórios são prioridades para confirmar que os padrões e procedimentos são seguidos. O diretor de produtos garante que o que o que usa Genai seja usado para não ser apenas experimentos "legais", mas agregue valor aos produtos, serviços ou processos (como através de novas proposições de valor do cliente ou custos mais baixos). O diretor de produtos também trabalha com o CRO, o CISO e cada proprietário do produto para garantir que as práticas responsáveis ​​de IA e seguro por design sejam implementadas e com recursos em cada equipe de produto. É fundamental que as métricas e os principais indicadores de desempenho sejam estabelecidos para medir o valor, o impacto, a segurança e a implantação responsável dos produtos Genai. os direitos de. O risco de uso indevido ou uso não autorizado é muito aumentado, porque praticamente qualquer pessoa pode usar ferramentas genai para gerar conteúdo de marketing ou comunicação sem verificar a proveniência ou a propriedade dos materiais que resultam. Assim como eles fizeram durante a migração inicial da nuvem há duas décadas, os CFOs precisam estabelecer um bom controle sobre como a tecnologia está sendo usada na organização e seu efeito nos custos.

CIOs, CTOs, and CDOs are also actively involved in setting up environments for development and experimentation and establishing guidelines for how new GenAI-enabled products or services can begin to be used. They create the organization’s inventory of GenAI technologies and communicate with the workforce on the use (by both business users and developers) of these new tools. They must collaborate closely with the risk, legal, and information security functions.

Chief Legal and Privacy Officers

Legal and privacy executives make sure that the use of GenAI adheres to company standards and privacy regulations and that security practices meet legal and regulatory requirements. They are responsible for data provenance, access, and governance, as well as for governance of GenAI processes that ensure compliance without hindering exploration. They need to stay up to date on new legislation and regulation regarding the use of GenAI products and systems and translate them into practical standards and procedures. Putting in place, updating monitoring, and reporting mechanisms are priorities for confirming that standards and procedures are followed.

Chief Product Officer

Innovation must serve a purpose. The chief product officer makes sure that whatever uses GenAI is put to aren’t just “cool” experiments but add value to products, services, or processes (such as through new customer value propositions or lower costs). The chief product officer also works with the CRO, CISO, and each product owner to ensure that responsible AI and secure-by-design practices are implemented and resourced within each product team. It is critical that metrics and key performance indicators are established to measure the value, impact, security, and responsible deployment of GenAI products.

Chief Marketing Officer

The CMO’s principal security responsibility is ensuring that marketing materials developed using GenAI, whether internally or by outside agencies or contractors, are “clean” and do not use copyrighted content or text, graphics, videos, or other materials that the company may not have the rights to. The risk of misuse or unauthorized use is vastly heightened because virtually anyone can use GenAI tools to generate marketing or communications content without checking for provenance or ownership of the materials that result.

Chief Financial Officer

GenAI promises big benefits in productivity and costs, but these do not come without investment. Much as they did during the initial cloud migration two decades ago, CFOs need to establish a good handle on how the technology is being used within the organization and its effect on costs.

O CFO precisa negociar taxas de contrato, colaborar com o Legal para garantir que os termos do contrato apropriados para segurança cibernética e privacidade estejam em vigor e trabalhem com o diretor de segurança da informação para garantir que os serviços externos sejam examinados por suas práticas de segurança cibernética e privacidade como parte da compra. Como os sistemas Genai requerem recursos significativos de computação e dados, as equipes que os usam precisam entender seus custos e como são alocados. O orçamento rapidamente se tornou uma etapa essencial no processo de desenvolvimento ou aquisição da Genai. Os casos de negócios da Genai Investments devem incluir alocações para integração de práticas de segurança e privacidade de dados. O CFO também precisa solicitar um caso de negócios de investimento ao diretor de segurança da informação sobre os recursos de segurança aumentados necessários para lidar com o novo cenário de Genai. Uma vez realizado o valor de Genai, permitindo o corte de custos ou adicionando novos fluxos de receita, o CFO deve estar pronto para perguntar onde a economia será realocada. Cabe a RH trabalhar com desenvolvedores, TI e segurança implementar essas políticas e fornecer treinamento adequado sobre o uso de soluções genai. Quase 20 anos atrás, o desenvolvimento da nuvem comercial prometeu eliminar a tecnologia CAPEX e reduzir os gastos gerais da tecnologia. A nuvem foi anunciada como o futuro da empresa. As equipes individuais estabeleceram seus próprios arrendamentos em nuvens comerciais, iniciando e fechando as contas do fornecedor, conforme necessário, com pouca consideração pela compatibilidade, sem mencionar a segurança ou outros riscos e implicações. Em alguns casos, a única maneira de a gerência saber quem estava fazendo o que foi analisando as contas. Há muito sobre a tecnologia que não conhecemos. Uma equipe de pessoas com diversas capacidades é uma obrigação para garantir que todas as bases sejam cobertas. A lição da corrida rápida e às vezes irresponsável para a nuvem é que devemos mudar para Genai com responsabilidade, cuidadosamente e com discrição. Estabelecer uma equipe de liderança de IA, apoiada por um centro de excelência bem recursos, é uma maneira de organizar a supervisão. Mas ainda é incumbente de cada membro C-Suite subir a curva de aprendizado de Genai em sua área de responsabilidade, para que os principais executivos possam gerenciar a implementação de maneira informada e atenciosa com a confiança, a resiliência e a segurança da segurança do cliente. Inscreva -se

Chief Human Resources Officer

Training and personnel policies governing use are important for any organization taking on GenAI. It is up to HR to work with developers, IT, and security to implement these policies and provide appropriate training on the use of GenAI solutions.

A Lesson from History

Remember the great cloud migration? Almost 20 years ago, the development of the commercial cloud promised to eliminate technology capex and reduce overall tech spending. The cloud was heralded as the future of enterprise IT.

But the rush to shift both computing capability and data storage to third parties was confusing and sometimes chaotic. Individual teams set up their own leases in commercial clouds, starting up and shutting down vendor accounts as needed, with little regard for compatibility, not to mention security or other risks and implications. In some cases, the only way for management to know who was doing what was by analyzing the bills.

With GenAI, we need to move with deliberate speed, but the emphasis should be on deliberate. There is a lot about the technology that we don’t know. A team of people with diverse capabilities is a must to ensure that all the bases are covered. The lesson of the rapid and sometimes irresponsible rush to the cloud is that we should move into GenAI responsibly, carefully, and with discretion.

---

Because GenAI has so many potential use cases, C-suite leaders need to be aware of all projects, capabilities, data requests, and developments. Establishing an AI leadership team, backed by a well-resourced center of excellence, is one way to organize oversight. But it is still incumbent on each C-suite member to climb the GenAI learning curve in his or her area of responsibility so that top executives can manage implementation in an informed and thoughtful manner with customer trust, resilience, and safety front of mind.