Responsável AI por uma era de regulamentos mais apertados

New Inteligência Artificial regulamentos são iminentes, mas Organizações pode obter um start-start implementando a inteligência artificial responsável ( RAI ) hoje. À medida que as empresas implantam ferramentas transformadoras de IA, elas devem garantir que introduzam essas soluções de maneira responsável, para mitigar quaisquer riscos potenciais para seus negócios e proteger os consumidores. Negligenciar o tratamento de preocupações com RAI expõe as empresas a danos à reputação, ação legal e perda de confiança do consumidor que é difícil de recuperar. Mas o RAI não deve ser visto exclusivamente como uma aposta defensiva - também é uma fonte de valor positivo para as organizações. O potencial comercial do RAI é substancial: pode levar a melhores produtos, maior lucratividade, recrutamento e retenção aprimorados, tomada de decisão mais nítida e uma cultura de inovação mais durável. E há uma lacuna entre onde as organizações pensam que estão em sua jornada de RAI e onde estão realmente: 35% das organizações acreditam que implementaram totalmente um

Despite the promise of RAI and the risks of inaction, many organizations have struggled to put RAI principles into practice in a coherent and comprehensive way. And there is a gap between where organizations think they are in their RAI journey and where they really are: 35% of organizations believe they have fully implemented an Programa RAI , mas, de fato, apenas 16% atingiram a maturidade. (Veja o Anexo 1.) Com a chegada iminente da Lei de AI da União Europeia, uma das primeiras estruturas regulatórias amplas da IA, a falha em implementar com sucesso RAI terá mais grave Implicações. ¹ 1 Comissão Europeia, 2021, “ Proposta para uma regulamentação do Parlamento Europeu e do Conselho estabelecendo regras harmonizadas sobre inteligência artificial (Lei de Inteligência Artificial). ”

Não são apenas organizações baseadas na UE que precisam prestar atenção. O regulamento se aplicará a qualquer provedor que implemente ou desenvolva sistemas de IA na UE ou cujos sistemas de IA produzem saídas usadas na jurisdição da UE, para que afetará muitas organizações baseadas em outros lugares. Além disso, o regulamento, que deve entrar em vigor em 2023, provavelmente terá semelhanças com as regras atualmente sendo elaboradas por outras autoridades governamentais ao longo do Mundo. ² 2 Comissão Europeia, 2021, “ Proposta de estrutura regulatória sobre inteligência artificial ”; relógio de algoritmo, 2021,“ O Conselho Europeu e a Comissão de acordo para restringir o escopo da Lei da AI. ”

Dado o foco maior iminente em novos regulamentos, bem como os potenciais danos financeiros e de reputação resultantes da não conformidade, as organizações precisam urgentemente de adotar medidas que lhes permitam cumprir os requisitos do regulamento emergente da UE. Um programa abrangente da RAI, baseado no plano de líder da IA ​​responsável da BCG, permitirá que eles atuem de acordo com e se adaptem à Lei da AI da UE proposta e a outros regulamentos que inevitavelmente se seguirão (como a Lei de Responsabilidade Algorítmica de 2022 no The the US). ³ 3 Congresso dos EUA, 2022, ” Lei de Responsabilidade Algorítmica de 2022. ” Um programa RAI também os posicionará para mitigar riscos não regulatórios e capturar os benefícios associados da IA. A estrutura pragmática e abrangente da BCG compreende vários componentes integrados: estratégia, governança, processos, tecnologia e ferramentas e cultura RAI. Para se posicionar para começar a construir essa estrutura, as organizações devem executar quatro ações-chave: (1) estabelecer IA responsável como uma prioridade estratégica com o apoio à liderança sênior, (2) configurar e capacitar a liderança do RAI, (3) promover a conscientização e a cultura da Organização e (4) a uma avaliação de Ai da AI. Expandindo rapidamente, permitindo que as organizações em muitas indústrias transformem suas capacidades. De acordo com a Pesquisa Conjunta do BCG e o Instituto de Tecnologia de Massachusetts, Sloan Management Review (MIT SMR),

Putting in place a comprehensive program to implement and operationalize RAI throughout an organization takes time, but significant progress can be made with a few basic steps to secure early wins and build confidence in the organization. To position themselves to begin building this framework, organizations should take four key actions: (1) establish responsible AI as a strategic priority with senior-leadership support, (2) set up and empower RAI leadership, (3) foster RAI awareness and culture throughout the organization, and (4) conduct an AI risk assessment.

The Call for Responsible AI Intensifies

The development and adoption of AI have been expanding rapidly, enabling organizations in many industries to transform their capabilities. According to joint research by BCG and the Massachusetts Institute of Technology Sloan Management Review (MIT SMR), Investimento global em AI atingiu US $ 58 bilhões em 2021.

A pandemia covid-19 contribuiu muito para o aumento do foco na IA, à medida que as organizações reagiram à digitalização de acordos de trabalho e Comportamento do consumidor gerado pela crise. Novos aplicativos e desenvolvimentos floresceram, acelerando a adoção de IA em setores como cuidados de saúde. Um programa RAI é uma maneira de as organizações enfrentarem sistematicamente esses desafios. O BCG define o RAI como o desenvolvimento e operação de sistemas de inteligência artificial que se alinham com os valores organizacionais e os padrões amplamente aceitos de certo e errado, ao mesmo tempo em que alcançar o impacto dos negócios transformadores.

While AI has great potential, it also raises concerns related to accountability, transparency, fairness, equity, safety, security, and privacy. An RAI program is one way for organizations to systematically address these challenges. BCG defines RAI as developing and operating artificial intelligence systems that align with organizational values and widely accepted standards of right and wrong, while achieving transformative business impact.

Organizações que implementam programas RAI efetivamente podem derivar muitos benefícios. A RAI diferencia a marca, fortalece a aquisição e retenção de clientes e melhora o posicionamento competitivo, levando a uma lucratividade a longo prazo a longo prazo. Também auxilia no recrutamento e retenção da força de trabalho, pois os funcionários cada vez mais conscientes que desejam trabalhar para as organizações em que podem confiar e acreditar. Além disso, gera uma cultura de inovação que pode ser sustentada ao longo do tempo. Em geral, o investimento no desenvolvimento de um programa maduro de RAI leva tanto a menos falhas de IA quanto para maior sucesso na escala da IA, que oferece valor comercial sustentável a longo prazo para toda a organização.

Despite the clear potential and burgeoning investment in this field, however, many organizations have struggled to deploy or scale RAI in practice. According to a BCG survey, 85% of organizations with AI solutions have defined RAI principles to shape product development. With few exceptions, though, the good intentions have yet to be translated into rigorous practical outcomes. Only a small fraction (20%) of organizations have fully implemented these principles. Those that fall behind face significant long-term risks.

The widespread failure to implement RAI limits the overall impact of AI, preventing organizations from capturing its full business potential and thus limiting their capacity for growth. Moreover, major risks for organizations, customers, and society at large go unaddressed.

AI is likely to be one of the global developments with the greatest impact during the coming decades. Consequently, there is a widespread and growing expectation within society that AI products should be built in a responsible and ethical way. When the EU’s General Data Protection Regulation (GDPR) took effect in 2018, it generated an awareness about privacy requirements throughout Europe and across the world. Soon, consumers began to demand an ecosystem-wide change with stronger privacy protections in consumer products and services. This development laid the foundations for RAI through requirements such as the right to explanation.

diante de tais expectativas, vários casos de conseqüências preocupantes do uso de IA atingiram as manchetes nos últimos anos, representando o risco de reputação para as organizações envolvidas. Por exemplo, certos algoritmos resultaram em práticas discriminatórias devido a um preconceito subjacente nos dados de entrada. Como resultado, o algoritmo ensinou a si mesmo que os candidatos masculinos eram preferíveis. Quando essas questões foram descobertas, a Amazon parou de usar a solução de IA, de acordo com um relatório de 2018 da Reuters. Verificou -se que o algoritmo era tendencioso em relação a estudantes de escolas mais ricas, e os resultados tiveram que ser descartados. Dois proeminentes são os princípios da OCDE sobre inteligência artificial e o projeto de estrutura de gerenciamento de riscos pelo Instituto Nacional de Padrões e Tecnologia nos EUA. (Veja o Anexo 2.) As leis formais ainda não foram publicadas, no entanto. O foco generalizado do governo agora está tentando corrigir essa situação, impulsionado pelo menos em parte pelos lapsos altamente divulgados dos sistemas de IA e pelos danos que eles podem criar para os cidadãos e a sociedade. Ato da IA. A proposta, que foi revelada em abril de 2021, define regras diferentes, dependendo do nível de risco atribuído a um uso específico de IA e define quatro níveis de risco. Espera -se que a regulamentação entre em vigor em 2023, com um período de transição que se estende para 2024, durante o qual os padrões seriam desenvolvidos e obrigatórios, e as estruturas de governança seriam estabelecidas. No final de 2024, o regulamento pode se tornar aplicável aos requisitos de avaliações de conformidade para validar que os produtos de IA atendem aos requisitos definidos no regulamento. Os pesquisadores acadêmicos já começaram a propor estruturas de avaliação de conformidade, como Capai, para ajudar as organizações a alcançar a conformidade com esses requisitos. Dada a amplitude dos requisitos, as organizações não podem esperar para agir até que a lei entre em vigor. Não são apenas as organizações europeias que devem enfrentar esse desafio regulatório. O regulamento tem um escopo global, porque se aplicará a qualquer provedor que coloque um sistema de IA em serviço na UE ou em qualquer sistema que produza saídas usadas na UE. Vale a pena notar que o GDPR também teve um impacto global, apesar de envolver um escopo geográfico mais estreito, pois era mais fácil para as empresas multinacionais adotarem um único padrão do que tentar gerenciar uma retalhos globais. As organizações podem adotar a mesma estratégia para a Lei da AI da UE. Embora os requisitos ainda estejam evoluindo, vários elementos serão comuns entre as jurisdições, incluindo justiça e confiabilidade e solidez conceitual dos modelos. (Consulte o Anexo 3.) Detalhes da implementação, como as seções específicas a serem incluídas na documentação, podem evoluir, mas os processos e governança fundamentais necessários para garantir que a conformidade não mude e sejam os mais difíceis e demorados para a construção. As organizações precisam começar imediatamente. Depois que um programa RAI é implementado, também reduz os riscos não regulatórios, ajuda a aproveitar as oportunidades de crescimento e garante que a IA incorpore os valores corporativos de uma empresa. Além disso, uma estrutura de conformidade de IA bem definida facilita uma resposta mais mais feminina à mudança e incerteza no ambiente regulatório.

In one case, an algorithm used by Amazon as a recruitment tool was shown to be biased against women because the AI system was observing data submitted by mostly male applicants over a ten-year period; as a result, the algorithm taught itself that male applicants were preferable. When these issues were discovered, Amazon stopped using the AI solution, according to a 2018 report by Reuters.

In a case described by Axios in 2020, students in the UK were unable to take the usual A-level examinations because of the pandemic, so an algorithm was used to award scores instead. The algorithm was found to be biased toward students from wealthier schools, and the results had to be scrapped.

The Advent of Comprehensive AI Regulation

To date, more than 60 countries as well as some international organizations have approved voluntary principles and standards to guide AI usage and development. Two prominent ones are the OECD Principles on Artificial Intelligence and the Draft Risk Management Framework by the National Institute of Standards and Technology in the US. (See Exhibit 2.) Formal laws have not yet been forthcoming, however. Widespread government focus is now trying to rectify this situation, driven at least in part by the highly publicized lapses of AI systems and the harms they can create for citizens and society.

The EU AI Act: The First Broad Regulatory Framework on AI

One consequential development is the proposed EU AI Act. The proposal, which was unveiled in April 2021, sets out different rules depending on the level of risk attributed to a particular use of AI and defines four such risk levels.

The proposed act imposes stiff fines that constitute a material risk to a business, reaching a maximum of 6% of global annual turnover or €30 million (whichever is higher) for those in breach of its provisions.

The regulation is expected to enter into force in 2023 with a transitional period extending to 2024, during which the standards would be developed and mandated, and governance structures would be established. By late 2024, the regulation could become applicable with requirements for conformity assessments to validate that AI products meet the requirements defined in the regulation. Academic researchers have already started proposing conformity assessment frameworks, such as capAI, to help organizations achieve compliance with these requirements.

Leaders need to use this transition period to prepare their organizations for the imminent regulation, working to understand the full range of its implications and taking the necessary steps in response. Given the breadth of the requirements, organizations cannot wait to act until the law goes into effect. It is not just European organizations that must meet this regulatory challenge. The regulation has a global scope because it will apply to any provider that puts an AI system into service in the EU or any system that produces outputs used in the EU. It is worth noting that GDPR also had a global impact even though it involved a narrower geographical scope, as it was easier for multinational companies to adopt a single standard rather than try to manage a global patchwork. Organizations might adopt the same strategy for the EU AI Act.

To satisfy regulatory requirements, organizations will need a comprehensive RAI program. Although the requirements are still evolving, several elements will be common across jurisdictions, including fairness and the reliability and conceptual soundness of models. (See Exhibit 3.) Implementation details, such as the specific sections to be included in documentation, may evolve, but the fundamental processes and governance that are needed to ensure compliance will not change and are the hardest and most time-consuming to build. Organizations need to start right away.

Introducing a Holistic Responsible AI Leader Blueprint

BCG’s approach to implementing RAI is based on a pragmatic yet holistic framework that supports companies’ efforts to comply with the proposed EU AI Act and comparable regulations. Once an RAI program is put in place, it also reduces nonregulatory risks, helps seize opportunities for growth, and ensures that AI embodies a company’s corporate values. Moreover, a well-defined AI compliance structure facilitates a nimbler response to change and uncertainty in the regulatory environment.

O Blueprint Holistic AI líder responsável da BCG consiste em cinco dimensões: estratégia de RAI, governança, processos, tecnologia e ferramentas e cultura. (Consulte o Anexo 4.)

RAI Estratégia. Ele também estabelece uma base baseada em valores sobre a qual os outros componentes do plano de IA podem ser construídos. Ele também descreve como a governança da IA ​​será integrada à estrutura mais ampla de gerenciamento de riscos da organização. Revisão e monitoramento do produto da IA, monitoramento e controles do portfólio e direção geral do programa garantem que os critérios de RAI estejam sendo atendidos. A strategic plan makes the goals of RAI transparent, helping leaders throughout the organization to engage with and support those objectives. It also establishes a values-based foundation upon which the other components of the AI Blueprint can be built.

Governance. A governance structure details clear roles, expectations, and accountability for the design, development, and use of AI. It also describes how AI governance will be integrated with the broader risk management framework of the organization.

Processes. Key procedures operationalize the strategy, ensuring that its goals and principles reach the working teams and are implemented on a practical level. AI product review and monitoring, portfolio monitoring and controls, and overall program steering ensure that RAI criteria are being met.

Tech and Tools. The technical environment also needs to support the RAI strategy. Estratégia de dados , bibliotecas de código e ferramentas de software e diretrizes técnicas devem estar alinhadas com as ambições de RAI de uma organização. A importância do RAI deve ser destacada no código de conduta de AI de uma empresa. (Veja, por exemplo,

Culture. The right culture needs to be instituted throughout the organization so that AI compliance risks can be identified as early as possible and handled effectively. The importance of RAI must be highlighted in a company’s AI code of conduct. (See, for example, Código de Conduta AI da BCG .) Os funcionários precisam se sentir com o poder de levantar abertamente quaisquer preocupações para seus líderes, promovendo uma cultura de "falar". Inscreva -se

Quatro etapas imediatas para implementar e operacionalizar RAI

Para atender aos requisitos do próximo regulamento, as empresas devem traduzir rapidamente o plano de líder da IA ​​responsável em ação. Existem várias ações importantes que as organizações podem tomar agora para proteger seus negócios e assumir uma posição na vanguarda do RAI, mesmo antes da aprovação da Lei da AI da UE. Essas medidas requerem investimentos financeiros e de tempo limitados, mas produzem um impacto substancial - elas posicionam as organizações para começar a implementar e operacionalizar o RAI de maneira eficaz. Aqui estão as quatro próximas etapas recomendadas:

• Estabeleça RAI como uma prioridade estratégica com suporte de liderança sênior. Desenvolva um programa abrangente. Set the tone from the top by communicating RAI priorities across the company and fostering ethical leadership.
• Set up and empower RAI leadership. Identify accountable owners for RAI implementation and give them the power to develop a comprehensive program.
• Promova a conscientização e a cultura da RAI. Avaliação. O chamado efeito de Bruxelas-referindo-se ao impacto global significativo dos regulamentos da UE-continua a lançar seu feitiço. Isso não apenas os protegerá, mas também permitirá que eles aproveitem ao máximo a era da IA. A equipe inclui mais de 800 cientistas e engenheiros de dados que aplicam IA e experiência avançada de análise (por exemplo, aprendizado de máquina, aprendizado profundo, otimização, simulação, análise de texto e imagem) para criar soluções que transformem o desempenho dos negócios. A abordagem da BCG Gamma cria valor e vantagem competitiva na interseção de ciência de dados, tecnologia, pessoas, conhecimento de negócios, processos e maneiras de trabalhar. Para mais informações, visite nosso Create and integrate an AI Code of Conduct with a clear connection to the company’s overall purpose and values, and nurture a speak-up environment in which issues can be identified, raised, addressed, and monitored in a timely manner.
• Conduct an AI organizational-maturity assessment. Review the current starting point of the organization—its AI development and corresponding RAI standards, controls, and tools—to inform the future RAI strategy.

Seizing the First-Mover Advantage

The EU AI Act is likely to be followed by similar regulations throughout the world, all helping to shape the definition and practical implementation of RAI. The so-called Brussels effect—referring to the significant global impact of EU regulations—continues to cast its spell.

To get a jump on the expected raft of forthcoming regulations, organizations looking to be early leaders in this area should implement a holistic and pragmatic RAI governance and compliance framework. This will not only protect them but also enable them to take full advantage of the AI era.