AI is dominating business headlines, from groundbreaking innovations to process efficiencies—especially as AI generativa Tomar o mundo pela tempestade. Aplicativos como o ChatGPT prometem interromper os modelos de negócios e trazer novos recursos para empresas em todos os lugares, incluindo aqueles que anteriormente não eram usuários de IA maduros. Para aproveitar ao máximo o potencial cada vez maior da IA, as organizações estão questionando, experimentando e implantando diversos recursos de IA-geralmente simultaneamente. Esse engajamento só crescerá à medida que as empresas usam a IA para melhorar os esforços de resiliência e otimização de custos diante da incerteza econômica em andamento. Mas para uma organização capturar os benefícios completos da tecnologia e limitar seus riscos, uma pessoa deve garantir que a IA seja usada com responsabilidade: o CEO. Um sistema regulatório em evolução está propondo multas pesadas para falhas de IA, e a experimentação com a IA geralmente traz conseqüências não intencionais para indivíduos e sociedade. Enquanto alguns líderes afirmam que suas empresas ainda não estão implantando seus próprios sistemas de IA, a compra de produtos e serviços incorporados a AI de um fornecedor ainda representa riscos. E os funcionários estão interagindo com a IA generativa e outras tecnologias em seu trabalho diário, introduzindo uma nova complexidade que expõe os negócios a ainda mais riscos. Não há pessoa melhor para responder. As implantações de IA levantam escolhas éticas que nunca são claras, exigindo o tipo de julgamento que geralmente apenas um CEO pode fornecer ou facilitar. Tais opções também devem estar alinhadas com algumas das prioridades mais prementes do CEO, desde orientar o objetivo e os valores da empresa até a definição de sua abordagem geral da inovação e gerenciamento de riscos. AI responsável
AI is taking its place as an important tool in companies’ strategic arsenal, but the technology gives the C-suite plenty to worry about. An evolving regulatory system is proposing heavy fines for AI failures, and experimentation with AI often brings unintended consequences for individuals and society. While some leaders claim their companies aren’t deploying their own AI systems yet, buying AI-embedded products and services from a vendor still poses risks. And employees are interacting with generative AI and other technologies in their daily work, introducing new complexity that exposes the business to even more risk.
Everyone from investors to board members wants the potential downsides of AI under control, and they are looking to the CEO for answers. There is no better person to respond. AI deployments raise ethical choices that are never clear-cut, demanding the sort of judgment that often only a CEO can provide or facilitate. Such choices must also be aligned with some of the CEO’s most pressing priorities, from guiding the company’s purpose and values to defining its overall approach to innovation and risk management.
Responsible AI (RAI) é uma abordagem para projetar, desenvolver e implantar sistemas de IA alinhados com o objetivo e os valores da empresa, enquanto ainda oferece impacto nos negócios transformadores. Um programa RAI inclui a estratégia, governança, processos, ferramentas e cultura necessárias para incorporar a abordagem em uma organização. Por exemplo, a estratégia RAI transmite princípios confirmados por um órgão multidisciplinar que faz parte da governança. A avaliação de risco e um manual de desenvolvimento de produtos estão entre os processos de capacidade, suportados por ferramentas que ajudam as equipes de produtos a detectar riscos de IA, como o viés. As comunicações para todos os funcionários, tanto desenvolvedores quanto usuários da IA, ajudam a instilar RAI como parte da cultura corporativa. Essas empresas estão em desvantagem. Um compromisso duradouro com a RAI - liderado pelo CEO - é a chave para o sucesso das implantações de AI de uma empresa e de seus objetivos de negócios. Rai deve ter um lugar de destaque no
RAI gives leaders a powerful capability to manage AI’s many risks, but we’ve found that most companies have been slow to fully adopt and implement the approach. These companies are at a disadvantage. A lasting commitment to RAI—led by the CEO—is key to the success of both a company’s AI deployments and its business objectives. RAI must have a prominent place on the Agenda do CEO juntamente com questões essenciais como lucratividade e ESG. Somente então se tornará uma parte fundamental do gerenciamento contínuo da empresa de riscos estratégicos e emergentes. A necessidade de se comprometer com o RAI sempre foi alta, mas com a IA generativa se espalhando como incêndio, orientando o uso de tecnologia responsável se tornou ainda mais premente. Por exemplo, o RAI ajuda as empresas a resolver questões éticas complicadas em torno da implantação da IA e decisões de investimento associadas. Essas questões fundamentais só podem ser abordadas nos níveis mais sênior pelos principais líderes de negócios e riscos, o CEO acima delas.
We believe that RAI is a strategic business capability, that the CEO must set the RAI agenda, and that companies need to initiate an RAI program now to gain transformational advantage. The need to commit to RAI has always been high, but with generative AI spreading like wildfire, guiding responsible technology usage has become even more pressing.
Facing the Diverse Risks of AI with RAI
Fully operationalizing RAI goes beyond high-level principles to connect with broader governance and risk management approaches and frameworks. For example, RAI helps firms resolve complicated ethical questions around AI deployment and associated investment decisions. These foundational questions can only be addressed at the most senior levels by key business and risk leaders, the CEO foremost among them.
RAI helps firms resolve complicated ethical questions around AI deployment and associated investment decisions.
Sem RAI no local, as abordagens de gerenciamento de riscos existentes não são suficientes para proteger uma empresa do espectro de riscos únicos que a IA traz. Isso inclui questões relacionadas à confiança dos clientes no uso da tecnologia pela empresa, experimentação com IA dentro da organização, interesse das partes interessadas e riscos regulatórios.
Trust do cliente. Confiança do cliente na IA e na organização que implanta a tecnologia se esgota sempre que ocorre uma falha de IA. Talvez uma pessoa seja negado um empréstimo bancário por causa da IA tendenciosa, ou um cliente cujo pai morreu recentemente recebe sugestões para um presente de dia dos pais com base em um algoritmo de recomendação. Os consumidores de hoje hesitarão em comprar de uma empresa que não parece controlar sua tecnologia ou que não proteja valores como justiça e decência. Como resultado, os executivos geralmente ignoram os usos experimentais e a "AI das sombras", as implantações de baixa visibilidade, em nível de equipe ou individual que aparecem em uma empresa invisível para a supervisão. A experimentação está disparando com a ampla disponibilidade de IA generativa e está mudando da equipe para o funcionário individual, criando mais instâncias de IA das sombras que são ainda mais difíceis de identificar. Mas quando essas implantações contribuem para uma falha de IA, o público e os reguladores não se importam se o incidente envolver um algoritmo experimental, aplicativos de sombra ou soluções compradas de um fornecedor. Uma empresa é responsável pela operação segura e eficiente de todos os seus recursos de IA, independentemente da fonte. Se o CEO não garantir que os negócios gerenciem seus compromissos de IA - incluindo a terceira e a quarta partes usando a IA -, pode haver consequências terríveis. Essas auditorias geralmente abordam como a IA é usada nos produtos e processos de uma empresa. Falhas como algoritmos tendenciosos ou falta de transparência podem prejudicar a credibilidade de um CEO com o conselho se ele não puder explicá -las. E a ausência de RAI pode desligar os investidores, que desejam saber que as implantações de IA estão alinhadas com as declarações corporativas de responsabilidade social. Some of these incidents are obvious, like data breaches, but some are much more subtle. Perhaps a person is denied a bank loan because of biased AI, or a customer whose parent recently died receives suggestions for a Father’s Day gift based on a recommendation algorithm.
Such incidents can be harmful to individuals and society as well as to a firm’s reputation. Today’s consumers will hesitate to buy from a company that doesn’t seem in control of its technology or that doesn’t protect values like fairness and decency. It falls to the CEO to answer to stakeholders for these incidents and their effects on the firm’s brand and financials.
AI Experimentation. Technology innovation moves so fast that what constitutes AI is hard to define. As a result, executives often overlook experimental uses and “shadow AI,” the low-visibility, team- or individual-level deployments that turn up in a company invisible to oversight. Experimentation is skyrocketing with the broad availability of generative AI, and it’s shifting from the team to the individual employee, creating more instances of shadow AI that are even harder to identify. But when these deployments contribute to an AI failure, the public and regulators don’t care if the incident involves an experimental algorithm, shadow applications, or solutions bought from a vendor. A firm is responsible for the safe, efficient operation of all of its AI resources, no matter the source.
In addition, ecosystem partners must operate according to the same RAI standards as the company. If the CEO doesn’t make sure the business manages its AI engagements—including how third and fourth parties are using AI—there could be dire consequences.
Stakeholder Interest. Boards are pushing for equity audits in response to investor interest in firms’ DEI commitments. These audits often address how AI is used in a company’s products and processes. Flaws like biased algorithms or lack of transparency can harm a CEO’s credibility with the board if he or she is unable to explain them. And the absence of RAI can turn off investors, who want to know that AI deployments are in line with corporate social-responsibility statements.
Riscos regulatórios. A lei da UE propõe multas de até 6% da receita anual global de uma empresa para violações. Os CEOs devem evitar essas sanções pesadas e proteger seus negócios de ameaças em constante mudança, enquanto continuam a usar o poder da IA para buscar os objetivos de negócios. Mas esperar é um erro. Investir em processos fundamentais, como boas práticas de governança adaptada à IA, será relevante, independentemente da direção específica que os regulamentos da IA tomam. Além disso, as empresas podem esperar que novos regulamentos surjam entre jurisdições, incluindo governos locais, tornando esses processos muito mais importantes. Ele tem muitos benefícios comerciais, incluindo diferenciação da marca, aumento da lucratividade e confiança elevada do cliente. A RAI foi comprovada para catalisar e salvaguardar a inovação: quase metade das empresas que lideram o uso do RAI relatam que a abordagem acelerou a inovação. O CEO é o agente certo para priorizar o RAI por vários motivos. National and local governments around the world are developing AI regulations and guidelines, including the European Union’s pending Artificial Intelligence Act and the White House Office of Science and Technology Policy’s Blueprint for an AI Bill of Rights. The EU law proposes fines of up to 6% of a company’s global annual revenue for violations. CEOs must avoid such heavy sanctions and safeguard their businesses from ever-changing threats while continuing to use the power of AI to pursue business objectives.
Some organizations are waiting for regulations to solidify before implementing RAI. But waiting is a mistake. Investing in foundational processes, such as good governance practices tailored to AI, will be relevant no matter the specific direction that AI regulations take. Furthermore, companies can expect new regulations to arise across jurisdictions, including local governments, making these processes that much more important.
The CEO Must Take the Lead on RAI
RAI isn’t just a defensive strategy to counter risks seen and unseen. It has many business benefits, including brand differentiation, increased profitability, and elevated customer trust. RAI has been proven to catalyze and safeguard innovation: almost half of companies that lead in the use of RAI report that the approach has accelerated innovation. The CEO is the right agent to prioritize RAI for several reasons.
Investing in foundational processes, such as good governance practices tailored to AI, will be relevant no matter the specific direction that AI regulations take.
A natureza interdisciplinar da RAI exige liderança executiva. O CEO pode enfatizar toda a força de trabalho que a IA implantada sem governança suficiente é um risco material, independentemente de onde seja usada na empresa. A democratização da IA por IA generativa aumenta a importância das mensagens do CEO para instilar Rai na cultura corporativa. RAI se torna parte integrante da estratégia quando os funcionários não vêem a abordagem como um obstáculo ao funcionamento normal dos negócios. O CEO tem a visibilidade e a autoridade para transmitir a mensagem de que o RAI aprimorará os processos e o valor de negócios.
Além disso, a RAI exige o envolvimento direto das funções em toda a organização: risco, conformidade, legal, unidades de negócios, análise e IA, marketing e relações públicas, RH e TI. Somente o CEO pode reunir um grupo tão diversificado de líderes.
RAI é parte integrante dos compromissos corporativos de responsabilidade social. Um foco no RAI impede o uso da tecnologia pela empresa de minar outros esforços baseados em valor nos quais a empresa pode ter investido tempo e recursos significativos. O fornecimento de orientação técnica e experiência no mundo real na política de IA podem ajudar outras organizações a usar a IA com mais eficácia-e aumentará a reputação do CEO. Inscreva -se The CEO is already engaged in many aspects of corporate social responsibility, such as ESG. A focus on RAI prevents the firm’s use of technology from undermining other value-based efforts in which the company may have invested significant time and resources.
Beyond the company’s walls, a CEO who can demonstrate leadership with integrity is well positioned to engage policymakers. Providing technical guidance and real-world experience on AI policy can help other organizations use AI more effectively—and will boost the CEO’s reputation.
Subscribe to our Artificial Intelligence E-Alert.
As decisões sobre IA têm um impacto enorme na cultura da empresa. Muitas vezes, não há resposta certa quando se trata de problemas de IA relacionados aos valores. Nesses casos, o envolvimento do CEO é vital na definição dos valores da empresa para trabalhadores, clientes e público. Às vezes, a opção de usar a IA ética pode significar se afastar da receita potencial ou aceitar custos aumentados. Embora a contribuição dos líderes empresariais seja fundamental, apenas o CEO pode tomar decisões tão conseqüentes. Alguns executivos vão querer esperar para implementar o RAI até ocorrer um lapso em um sistema de IA. Mas a adoção do RAI leva tempo - em média, três anos para implementar um programa totalmente maduro. E com mais funcionários usando IA generativa todos os dias, agora é o momento para os CEOs se comprometer. Colocar o RAI no lugar antes que as escalas de negócios a IA aproveite ao máximo os investimentos em tecnologia de uma empresa. Em nossa experiência, as empresas que escalam o RAI antes de escalar a IA experimentam metade do número de falhas e obtêm mais valor da própria IA. Essas medidas ajudarão a garantir que a RAI seja tecida na cultura e nas operações da empresa, mas a responsabilidade para com o CEO. Quando um líder tem a palavra final sobre o uso da IA, ele sempre terá a capacidade de alinhar qualquer decisão com os princípios da RAI.
Put RAI in Place Today
There’s real urgency to get moving. Some executives will want to wait to implement RAI until a lapse in an AI system occurs. But adopting RAI takes time—on average, three years to implement a fully mature program. And with more employees using generative AI every day, now is the moment for CEOs to commit. Putting RAI in place before the business scales AI will make the most of a company’s technology investments. In our experience, firms that scale RAI before they scale AI experience half as many failures and realize more value from AI itself.
CEOs must take several steps to give an RAI program the momentum and stability it needs. These measures will help ensure that RAI is woven into the company’s culture and operations, but accountability stops with the CEO. When a leader has the final say on AI usage, he or she will always have the ability to align any decision with RAI principles.
In our experience, firms that scale RAI before they scale AI experience half as many failures and realize more value from AI itself.
Verifique se uma estratégia clara existe para alinhar RAI com valores corporativos. O CEO deve descrever como os princípios do uso ético de IA, códigos corporativos de conduta e casos de uso de IA estão alinhados com o objetivo e os valores da organização. Isso significa não apenas declarar princípios de alto nível, mas articular como a empresa operacionalizará o RAI em todos os aspectos da organização, incluindo governança, processos, ferramentas e cultura.
Make a senior business leader accountable for executing RAI. O endosso do RAI do CEO ajuda bastante a acertar a IA. Mas o esforço também deve incluir um líder único e responsável para realizar a estratégia e resolver quaisquer desafios. O CEO é adequado não apenas para dar prioridade estratégica da RAI, mas também para nomear e fornecer recursos adequados ao líder sênior certo para implementar o programa - e responsabilizá -lo por seu sucesso. Os candidatos podem incluir o diretor de risco, o líder da ESG ou o diretor da IA; Como alternativa, o CEO pode criar uma nova função, como o diretor de ética da IA.
Ensure that RAI is part of cross-functional risk/governance processes. Quando a empresa planeja um projeto de IA, os líderes devem buscar informações de uma equipe multidisciplinar para pesar os riscos e definir os corrimãos e a supervisão apropriados. A maioria das organizações criou um grupo especial para abordar os riscos de IA, como um comitê de IA responsável. Mas esse grupo não deve ser divorciado de processos mais amplos de risco/governança. Os membros do Comitê RAI podem servir como especialistas funcionais vinculados aos fóruns existentes, incluindo o Comitê de Risco de Gerenciamento ou o Comitê de Aprovação de Novo Produto. Os processos de governança em toda a empresa devem incluir caminhos claros de escalada que levam ao CEO.
Set the tone for communicating and addressing RAI priorities. O CEO deve enfatizar RAI em discursos, e -mails e outras comunicações. Ele ou ela deve dedicar tempo a Rai na agenda do conselho. O CEO deve explicar os motivos para a RAI as partes interessadas e iniciar comunicações sobre RAI que atingem clientes, parceiros, grupos do setor e reguladores. O endosso executivo ajudará a organização a aproveitar a IA a alcançar um impacto nos negócios transformadores, inovando com responsabilidade. E, além de melhorar as implantações de IA, o compromisso com o RAI promoverá essas outras prioridades e fortalecerá a organização em geral. Jeanne Kwong Bickford
CEO support of an RAI program is as important as CEO support of priorities like ESG, DEI, and cybersecurity. Executive endorsement will help the organization harness AI to achieve transformative business impact while innovating responsibly. And, in addition to enhancing AI deployments, the commitment to RAI will further those other priorities and strengthen the organization overall.
