entre as indústrias, AI é o novo epicentro da criação de valor, abastecendo oportunidades e vantagem competitiva. Mas, à medida que seu potencial cresce, o mesmo acontece com as preocupações com isso. Exemplos de IA se comportando mal são comuns e levantaram medos reais em relação a seus efeitos sobre justiça e equidade, privacidade, precisão e segurança. Adicionando à mistura AI generativa (Genai), uma tecnologia transformadora que amplifica o poder e os riscos da IA, apenas aumenta a necessidade de políticas de IA sonoras. Então, como as organizações garantem que possam oferecer os benefícios da IA enquanto mitigam os riscos?
A resposta é uma governança de IA robusta. Estabelecendo, implantando e-de C-suite para baixo-evangelizando um AI responsável (RAI) Programa, as organizações podem realizar todo o potencial da IA, além de criar confiança e cumprir com Regulamentos emergentes . O tempo para começar é agora: nossa pesquisa indica que atingir altos níveis de maturidade da RAI leva de dois a três anos. Esperando que os regulamentos de IA amadurecem não é uma opção. Um novo relatório do Instituto de Inteligência Artificial Responsável e do Boston Consulting Group,
But as business leaders survey the ecosystem of AI governance, they find a confusing hodgepodge of guidelines and frameworks—a lot of mechanisms but not much clarity on how they fit together or which ones are likely to be useful. A new report from the Responsible Artificial Intelligence Institute and Boston Consulting Group, Navegando governança organizacional da IA , fornece informações necessárias sobre esses pontos. (Veja a exposição.) Os princípios da IA-promovidos por órgãos como a Organização para a Cooperação e Desenvolvimento Econômico e o Instituto de Engenheiros de Elétrica e Eletrônica-são declarações aspiracionais de alto nível que fornecem orientação sobre temas como justiça e equidade, privacidade, transparência e responsabilidade. Estruturas de IA - como a estrutura de gerenciamento de riscos de IA desenvolvida pelo Instituto Nacional de Padrões e Tecnologia - atinge o foco da implementação, fornecendo estruturas operacionais, objetivos e definições. Essas regras podem variar muito em jurisdição e escopo. Alguns - como a lei da cidade de Nova York que governam o uso de ferramentas automatizadas de decisão de emprego - o centro em uma capacidade específica. Outros têm um impacto mais amplo. Por exemplo, a Lei de AI proposta pela UE abrange todos os sistemas de IA desenvolvidos, implantados ou usados na UE, independentemente da indústria. As empresas devem entender e rastrear a retalhos emergentes dos regulamentos para garantir que navegassem com sucesso na conformidade. padrões, que podem servir como referência para verificar a conformidade com os requisitos regulatórios; e programas de certificação, que podem demonstrar - aos clientes, parceiros do setor e reguladores - que os processos de IA de uma empresa estão em conformidade com os padrões subjacentes. Para esse fim, descobrimos que algumas práticas recomendadas podem acelerar e suavizar a jornada.
Rules and Recommendations
Each governance mechanism has a distinct scope and purpose. (See the exhibit.) AI principles—promulgated by bodies such as the Organization for Economic Co-operation and Development and the Institute of Electrical and Electronics Engineers—are high-level, aspirational statements that provide direction on themes like fairness and equity, privacy, transparency, and accountability. AI frameworks—such as the AI Risk Management Framework developed by the National Institute of Standards and Technology—turn the focus to implementation, providing operating structures, objectives, and definitions.
Laws and policies establish minimum threshold requirements that businesses must meet. These rules can vary greatly in jurisdiction and in scope. Some—like New York City’s law governing the use of automated employment decision tools—center on a particular capability. Others have a broader impact. For example, the EU’s proposed AI Act covers all AI systems developed, deployed, or used within the EU, regardless of industry. Businesses must understand and track the emerging patchwork of regulations to ensure that they successfully navigate compliance.
Three additional categories round out the list of governance mechanisms: voluntary guidelines, which governments and industry often develop in concert; standards, which can serve as benchmarks for verifying compliance with regulatory requirements; and certification programs, which can demonstrate—to customers, industry partners, and regulators alike—that a company’s AI processes conform with underlying standards.
By understanding the impact and interaction of these mechanisms, organizations can shape their own AI governance more precisely and more effectively. To that end, we’ve found that some best practices can accelerate and smooth the journey.
Obtendo a governança da IA certa
boa governança de IA começa no topo, o que significa que Rai é uma questão no nível do CEO . Ele vai diretamente para a confiança de um cliente em como uma empresa usa a tecnologia e aborda riscos organizacionais e regulatórios. Definir um tom apropriado do C-Suite é vital para facilitar e apoiar uma cultura que priorize o RAI. Uma pesquisa de 2023 por MIT Sloan Management Review e BCG descobriram que organizações cujos CEOs participam de iniciativas RAI recebem 58% mais benefícios comerciais do que aqueles cujos CEOs não são envolvidos. A primeira tarefa do comitê deve ser criar os princípios, políticas e corrimãos que governarão o uso da IA em toda a organização. Esses princípios podem ser de alto nível, mas são essenciais, servindo como uma luz orientadora para o desenvolvimento e o uso adequado da IA. Os princípios mais eficazes vinculam -se à missão e aos valores de uma organização, facilitando a zero nos tipos de sistemas de IA - e quais
We recommend that companies establish a committee of senior leaders to oversee development and implementation of their RAI program. The committee’s first task should be to create the principles, policies, and guardrails that will govern the use of AI throughout the organization. These principles may be high-level, but they are essential, serving as a guiding light for developing and using AI appropriately. The most effective principles link to an organization’s mission and values, making it easier to zero in on which types of AI systems to pursue—and which ones NÃO POSSAR. Com muita frequência, as empresas inadvertidamente criam uma função de risco sombria, mas os vínculos ajudam a evitar isso. Eles também garantem caminhos claros de escalação e autoridade de decisão para abordar problemas em potencial. sobre direitos de propriedade intelectual. É uma rota que vale a pena seguir. Com a governança correta, a IA pode gerar valor e crescimento sem o risco de dirigir.
The next step is to establish linkages to existing corporate governance structures, such as the risk committee. All too often, companies inadvertently create a shadow risk function, but linkages help prevent that. They also ensure clear escalation paths and decision authority for addressing potential problems.
Other best practices include developing a framework to flag inherently high-risk AI applications for greater scrutiny, consulting voluntary guidelines for insights on industry best practices, and monitoring high-profile litigation to get a sense of—and start preparing for—where courts may land on legal issues that are still in flux, such as the impact of GenAI on intellectual property rights.
Building a comprehensive RAI program takes time, but savvy companies can speed the journey. It’s a route worth taking. With the right governance, AI can drive value and growth without driving risk.
