Regulamento de Inteligência Artificial está ganhando impulso em todo o mundo, com mais de 800 medidas em consideração em mais de 60 países e territórios, bem como na UE. O impulso não é uma surpresa. A IA é uma ferramenta poderosa que pode oferecer benefícios substanciais aos indivíduos e à sociedade, mas também pode ser uma "caixa preta". O funcionamento interno da IA - e os resultados que produz - são geralmente difíceis de compreender totalmente. Os governos têm um interesse claro em proteger contra falhas de IA, como viés em algoritmos ou resultados incorretos (como um erro de diagnóstico médico). As empresas também têm interesse, dado o crescimento que os sucessos de IA podem desencadear - e que as falhas da IA podem amortecer. Sexta anual do BCG
The surprise, then, is that organizational readiness for AI regulation is limited. BCG’s sixth annual Índice de Aceleração Digital (DAI) , uma pesquisa global com 2.700 executivos, revelou que apenas 28% dizem que sua organização está totalmente preparada para a nova regulamentação. Descobrimos que a melhor maneira de as empresas se prepararem para o regulamento de IA é através de um
But how do you prepare for rules that are just starting to take shape and will likely take different forms in different regions? We’ve found that the best way for companies to prepare for AI regulation is through a AI responsável (RAI) iniciativa. No centro do RAI, há um conjunto de princípios que estressem responsabilidade, transparência, privacidade e segurança e justiça e inclusão na maneira como você desenvolve e implanta algoritmos. É uma estrutura para os criadores e usuários da IA - e ajudará os dois grupos a responder a qualquer regulamento que entre no caminho. Mas é realmente um facilitador, um mecanismo de inovação - que melhora o desempenho da IA e acelera o ciclo de feedback. As empresas que entendem isso e tratam a onda próxima de regulamentação como uma oportunidade, e não como um ônus, podem satisfazer os legisladores e acionistas. Mas há ações que as empresas podem tomar para obter uma base de IA firme.
Many companies view RAI as a compliance matter. But it’s really an enabler, an engine for innovation—one that improves the performance of AI and accelerates the feedback cycle. Businesses that understand this and treat the coming wave of regulation as an opportunity rather than a burden can satisfy lawmakers and shareholders alike.
Getting RAI right is especially important given the new layers of complexity that upcoming regulations are likely to add—such as requiring that businesses explain their AI’s decision-making. But there are actions that companies can take to get on a firm AI footing.
O relógio já começou
In addition to the DAI survey, BCG annually asks executives about RAI through its partnership with MIT Sloan Management Review. One of the central findings of the most recent study is that it generally takes three years to make meaningful progress in Desenvolvendo a maturidade da RAI . Embora as principais leis - como a Lei de Inteligência Artificial da UE - ainda estejam no estágio da proposta, as organizações não podem esperar que os regulamentos entrem em vigor antes de começarem a implementar seus próprios programas RAI.
Pressões e oportunidades competitivas aumentam a urgência. A RAI ajuda as empresas a projetar e operar sistemas alinhados com valores organizacionais e padrões amplamente aceitos de certo e errado. Mas também gera impacto nos negócios transformadores. A RAI ajuda as empresas a dimensionar seus esforços de IA, identificar e corrigir problemas com antecedência e aumentar a adoção de IA por clientes, funcionários e outras partes interessadas. Ele facilita a inovação que beneficia a sociedade e os negócios - enquanto minimizam as consequências não intencionais. Mas já, algumas empresas estão à frente de outras. As empresas que classificaram no
RAI maturity, we found, corresponds with digital maturity. The companies that ranked in the Quartil superior do DAI foram quase seis vezes mais propensos a estar totalmente preparados para a regulamentação da IA do que aqueles no quartil inferior. (Veja o Anexo 1.) A parte do campo estava o setor de energia e o setor público. O ranking deste último deve ser preocupante para os legisladores, pois as falhas da IA podem corroer a confiança - e o governo está focado em ganhar confiança, não perdê -la. As empresas da Ásia-Pacífico, por exemplo, são mais propensas do que seus colegas na Europa e na América do Norte a ter um oficial de ética da IA. No entanto, uma maior parte dos executivos da Europa relata que suas organizações estão preparadas para a regulamentação emergente. (Veja Anexo 2.) Esta preparação pode se originar da forte ambição da UE de criar o "efeito de Bruxelas" - um processo de globalização regulatória unilateral causada pela União Europeia de fato externalizando suas leis fora de suas fronteiras por meio de mecanismos de mercado - e estabelecem um padrão global no regulamento de AI, semelhante ao regulamento geral de proteção de dados (GDPR). Há muita incerteza, no entanto, exatamente o que isso significa - e o que é preciso - usar a IA com responsabilidade: 82% dos entrevistados disseram que não tinham clareza sobre a política e as ferramentas da IA. Rai limpa a confusão. Mas, dadas as apostas, os líderes empresariais precisam se envolver ativamente em um esforço de RAI. Ao priorizar este trabalho, eles não apenas demonstram aos legisladores, reguladores e ao mundo que estão agindo com responsabilidade, mas também promovem e evangelalizam a estratégia e a implementação da RAI. Quando os executivos lideram o RAI, eles criam empresas que lideram o RAI. As metas e mercados de negócios variarão - então também os regulamentos da IA. Em 2019, Cingapura instituiu uma estrutura de governança de IA apresentando princípios, mas não penalidades, para o setor privado. A UE, por outro lado, está adotando uma abordagem mais agressiva. Sua legislação proposta proibiria práticas como a vigilância biométrica em massa (como usar tecnologia de reconhecimento facial em espaços públicos) e classificação de crédito com base na pontuação social (por exemplo, analisando a atividade de mídia social de um indivíduo ao calcular sua pontuação). A proposta da UE também imporia penalidades financeiras às empresas que realizam práticas proibidas - até 6% das receitas globais de uma empresa, extraindo de precedentes definidos com o GDPR. Mas descobrimos que as organizações que adotam cinco princípios -chave estão melhor preparados para qualquer regulamentação da IA - e para aproveitar todo o potencial dessa tecnologia poderosa.
More generally, the telecommunications, technology, and consumer sectors reported the highest levels of preparedness. (See Exhibit 1.) Trailing the field were the energy industry and the public sector. The latter’s ranking should be sobering for lawmakers, as AI failures can erode trust—and government is focused on gaining trust, not losing it.
AI preparedness differs among regions as well. Asia-Pacific companies, for example, are more likely than their counterparts in Europe and North America to have an AI ethics officer. Yet a greater share of executives in Europe report that their organizations are prepared for emerging regulation. (See Exhibit 2.) This preparation may originate from the EU’s strong ambition to create the “Brussels effect”— a process of unilateral regulatory globalization caused by the European Union de facto externalizing its laws outside its borders through market mechanisms—and set a global standard in AI regulation, similar to the General Data Protection Regulation (GDPR).
For many companies, these findings should be a call to action. There’s much uncertainty, however, on just what it means—and what it takes—to use AI responsibly: 82% of respondents said they lacked clarity about AI policy and tools. RAI clears the confusion. But given the stakes, business leaders need to be actively involved in an RAI effort. By prioritizing this work, they not only demonstrate to lawmakers, regulators, and the world that they are acting responsibly, but also foster and evangelize RAI strategy and implementation. When executives lead on RAI, they create companies that lead on RAI.
Five Keys to RAI Success
What should that strategy and implementation look like? Business goals and markets will vary—so, too, will AI regulations. In 2019, Singapore instituted an AI governance framework laying out principles, but not penalties, for the private sector. The EU, by contrast, is taking a more aggressive approach. Its proposed legislation would ban practices like biometric mass surveillance (such as using facial recognition technology in public spaces) and credit rating based on social scoring (for instance, looking at an individual’s social media activity when calculating their score). The EU proposal would also impose financial penalties on companies that carry out prohibited practices—up to 6% of a company’s global revenues, drawing from precedents set with the GDPR.
Rules, market dynamics, and company needs and visions related to AI vary widely, so there is no textbook approach to RAI. But we’ve found that organizations that embrace five key principles are better prepared for any AI regulation—and for seizing the full potential of this powerful technology.
Empower RAI leadership. Uma pessoa de ponto no RAI (normalmente um chefe de ética da IA, mas o título pode variar) desempenha um papel crítico em manter iniciativas no caminho certo. Os melhores líderes da RAI são multititalentais: versados em formulação de políticas, requisitos técnicos e necessidades de negócios. Eles são capazes de integrar esses elementos em uma estratégia coesa que gera benefícios da IA, adere aos valores sociais mais amplos da organização e garante a conformidade com os regulamentos emergentes. Os líderes de sucesso da RAI também são colaborativos. Eles se baseiam em uma equipe multifuncional (representando unidades de negócios, bem como departamentos legais de RH, TI e marketing) na criação e liderança de programas RAI. Esses relacionamentos ajudam a permitir os líderes da RAI, fornecendo o mandato e o apoio para implementar programas RAI em toda a organização.
Construa e instile uma estrutura ética de IA. No coração de RAI é um conjunto de princípios e políticas - uma estrutura ética de IA - que as empresas criam e infundem em sua cultura. Isso estabelece uma base robusta para atender a novos requisitos - qualquer que eles assumam - sem prejudicar as metas e investimentos. Considere, por exemplo, os regulamentos que regem o uso de tecnologias de reconhecimento facial. Requisitos como os encontrados na Lei de Privacidade da Informação Biométrica nos EUA e na Lei de Inteligência Artificial da UE proposta variarão. Para uma empresa que opera entre jurisdições, uma estrutura ética de IA - promove o investimento e o uso de soluções de mitigação de viés, forte proteção à privacidade, documentação clara e outras medidas - é mais fácil cumprir as obrigações de diferentes esquemas regulatórios. Isso ocorre porque, em sua essência, todos esses regulamentos compartilham uma meta primordial: garantindo uma abordagem responsável à IA. E uma forte estrutura ética de IA coloca você nesse caminho. Isso inclui a adoção de uma abordagem orientada para a criação de aplicativos de IA: garantir que os designers entendam, desde o início, os objetivos de um sistema e os resultados que ele gera. Outras medidas incluem transparência - por exemplo, informar os usuários como os sistemas de IA utilizam seus dados e tornando os algoritmos menos uma caixa preta. Quando as empresas podem explicar como sua IA funciona, elas criam confiança. Eles também aumentam a adoção de sistemas de IA por clientes e funcionários que os usam. Treinamento eficaz (promovendo a conscientização das práticas e objetivos da RAI em toda a organização) e comunicações (divulgando as principais mensagens sobre RAI para públicos internos e externos) aumentam ainda mais a transparência. As empresas mais maduras digitalmente - que também são as mais maduras no RAI - são quase três vezes mais propensas do que seus colegas de considerar essas práticas altamente importantes e aplicá -las consistentemente em toda a empresa.
Two-thirds of companies in the DAI survey are already taking important steps towards creating such a framework. This includes embracing a purpose-driven approach to building AI applications: ensuring that designers understand, right from the start, the goals of a system and the outcomes it generates. Other measures include transparency—for example, informing users how AI systems utilize their data and making the algorithms less of a black box. When companies can explain how their AI works, they build trust. They also boost adoption of AI systems by customers and employees who use them. Effective training (promoting awareness of RAI practices and goals across the organization) and communications (getting out the main messages about RAI to internal and external audiences) further enhance transparency. The most digitally mature companies—who are also the most mature in RAI—are nearly three times more likely than their peers to consider such practices highly important and consistently apply them across the company.
Accountability, transparency, privacy, security, fairness, and inclusiveness are the core principles of responsible AI.
Traga os seres humanos para o loop da IA. Os regulamentos de IA mais atuais e propostos exigem uma forte governança e responsabilidade humana. Isso se alinha com um princípio central de RAI: envolvimento humano em processos e plataformas de IA, um conceito que tem suporte sólido. Quase dois terços das empresas acreditam que é importante projetar sistemas de IA que aumentam, mas não substituam a capacidade humana-e eles já estão aplicando esse princípio. Mas Como Eles aplicam isso, faz toda a diferença. Loops de feedback, mecanismos de revisão e caminhos de escalada para levantar preocupações devem ser componentes integrais de qualquer programa RAI. Aqui também as empresas mais maduras digitalmente já estão assumindo a liderança: elas têm mais do que duas vezes mais propensas que seus colegas de colocar um alto grau de importância nessas práticas e aplicá -las consistentemente.
Create RAI reviews and integrate tools and methods. Rai abrange o ciclo de vida de um sistema de IA. O objetivo é capturar e resolver problemas o mais cedo possível no desenvolvimento e estar vigilante por meio e depois, lançar. As organizações que podem monitorar os efeitos da IA ao longo do ciclo de vida ganharão confiança de governos e clientes. Isso começa garantindo que os princípios principais do RAI, como transparência e inclusão, estejam incorporados em processos para construir e trabalhar com algoritmos. Em seguida, as empresas devem criar ou adotar uma ferramenta para realizar análises de ponta a ponta, não apenas dos algoritmos, mas também de processos e resultados de negócios. Essas revisões devem ser contínuas: realizadas através de desenvolvimento, prototipagem e implantação em escala.
Participe do ecossistema RAI. quase 9 de 10 empresas da pesquisa da DAI contribuem ativamente para um consórcio ou grupo de trabalho da RAI. Essa é uma estratégia sólida, pois promove a colaboração e o compartilhamento que podem destacar - e espalhar - as melhores práticas em Rai. Pense nisso como crowdsourcing que ajuda você a se preparar para a regulamentação da IA e melhorar o desempenho de seus sistemas de IA. De fato, para jogadores experientes, se envolver pode significar avançar. Através de experiências compartilhadas, o ecossistema pode fornecer informações sobre a mitigação dos riscos e a maximização das recompensas da IA. E é um local para uma colaboração ainda maior: um ecossistema inteiro se unindo para abordar as preocupações da sociedade proativamente. The RAI ecosystem is vast and rapidly growing, a natural place to find partners, customers, organizations, and forums that can help you develop and scale AI use cases. Through shared experiences, the ecosystem can provide insights on mitigating the risks and maximizing the rewards of AI. And it’s a venue for an even greater collaboration: an entire ecosystem coming together to address societal concerns proactively.
Usando AI com responsabilidade e criando valor com a IA Walk de mãos dadas. A maioria das empresas entende que as práticas da RAI são importantes e deseja incorporá -las em seus negócios. Mas a lacuna entre aspiração e implementação é frequentemente ampla. A incerteza sobre o escopo das regras que se destaca não deve ser uma desculpa para atrasar. Rai leva tempo para acertar, mas, começando agora, as empresas podem ajudar a moldar o cenário regulatório, em vez de ficar sobrecarregado por ela. Eles podem melhorar o desempenho de sua IA e minimizar as falhas do sistema-encerrando a confiança e, ao mesmo tempo, crescimento. Inscreva -se
The authors thank their BCG colleagues François Candelon, Sabrina Küspert, and Laura Schopp for their contributions to this article.
