A importância de ser equitativa no design do produto

When a product or service fails certain users because it was not designed with them in mind, everyone involved loses.

Acreditamos que o design de produtos inclusivos e equitativos é essencial. Por um lado, oferecer produtos eqüitativos - bons e serviços livres de preconceitos e podem ser acessados ​​com igual facilidade por usuários de variados grupos raciais, étnicos, culturais, econômicos e sociais - podem expandir a base de usuários de uma empresa e aumentar os resultados. Por outro lado, o desenvolvimento de produtos eqüitativos oferece às empresas um meio tangível de entregar Promessas que muitos fizeram no meio da Covid-19 e o acerto de contas raciais de 2020 para serem mais inclusivos e equitativos. A equidade no desenvolvimento de produtos-análise ou digital, embora o desenvolvimento de produtos digitais esteja aumentando-é um imperativo comercial e uma oportunidade de crescimento significativa que deve ser conduzida pela suite C de uma organização e incorporada no núcleo dos negócios. Ao redefinir o desenvolvimento de produtos de maneira holística, as empresas podem garantir que não introduzam ou perpetuem vieses ou aumentam as barreiras ao acesso e que, em vez disso, maximizam a utilidade e o alcance dos produtos. O primeiro produto digital da paternidade, chamado Spot On, é um aplicativo para períodos de rastreamento e controle de natalidade. Foi intencionalmente projetado para ser neutro de gênero e ser usado por pessoas de qualquer orientação sexual ou identidade de gênero - uma abordagem que está de acordo com o compromisso da organização em fornecer cuidados não julgadores. O aplicativo gratuito foi baixado mais de 1 milhão de vezes. pandemia. Durante a pandemia, o volume total de pagamentos tratado por aplicativos como esses aumentou à medida que os neobanks tornaram possível evitar os obstáculos tradicionais para estabelecer contas bancárias e transferir dinheiro para ajudar amigos e familiares. É importante ressaltar que eles também deram às pessoas tradicionalmente não bancárias acesso às suas verificações de alívio do governo. A automação ajuda as pessoas a evitar os preconceitos conscientes ou inconscientes que podem influenciar os resultados nos encontros presenciais. Mas as soluções digitais não estão necessariamente livres de preconceitos ou desafios. Enquanto os algoritmos de fintech são menos propensos a produzir resultados díspares, os candidatos a latinx e empréstimos negros ainda pagam uma taxa de juros mais alta em hipotecas - uma conseqüência, talvez, de dependência de dados de crédito que fornece uma imagem incompleta de pessoas que tenham menos oportunidade de estabelecer um histórico de crédito tradicional. Embora seja uma proposição desafiadora, vale a pena o esforço. As falhas acionárias baseadas em IA-como aquelas que envolvem software inadequado de reconhecimento facial-são frequentemente abordadas dessa maneira, por exemplo. Por exemplo, o Serviço Digital do Governo do Reino Unido usa essa abordagem para desenvolver produtos digitais que podem ser acessados ​​facilmente por usuários que geralmente são esquecidos. Como parte do esforço, o GDS desenvolveu perfis de persona representativa para testar a acessibilidade dos produtos. Entre as personas: Ashleigh, que tem desafios de visão; Pawel, que tem a síndrome de Asperger, e Christopher, que tem artrite reumatóide. Ele também depende de uma lente mais ampla e possui vários componentes:

Many companies are moving quickly to tap that opportunity, but they should also move thoughtfully. By redefining product development in a holistic way, companies can ensure that they don’t introduce or perpetuate biases or increase barriers to access and that they, instead, maximize the usefulness and reach of products.

The Nascent Generation of Equitable Digital Products

Many organizations have brought equitable digital products to market, giving careful thought to the needs and circumstances of the product users.

Planned Parenthood’s first digital product, called Spot On, is an app for tracking periods and birth control. It was intentionally designed to be gender neutral and to be used by people of any sexual orientation or gender identity—an approach that is in keeping with the organization’s commitment to providing nonjudgmental care. The free app has been downloaded more than 1 million times.

In the fintech sector, mobile-first neobanks, including Venmo and Cash App, have designed options to deliver flexible financial products to unbanked and underbanked people—people whose needs were exacerbated by the pandemic. During the pandemic, the total payment volume handled by apps like these increased as neobanks made it possible to sidestep the traditional hurdles to establishing bank accounts and to transfer money to help friends and family. Importantly, they also gave traditionally unbanked people access to their government relief checks.

In addition, research has shown that fintech algorithms are 40% less likely than in-person lenders to result in disparate outcomes based on racial and ethnic biases. Automation helps people avoid the conscious or unconscious biases that can influence outcomes in face-to-face encounters. But digital solutions are not necessarily free of biases or challenges. While fintech algorithms are less prone to producing disparate outcomes, Latinx and Black loan applicants still pay a higher interest rate on mortgages—a consequence, perhaps, of reliance on credit data that provides an incomplete picture of people who have had less opportunity to establish a traditional credit history.

Developing equitable products is a necessary endeavor that presents a real market opportunity for companies. While it’s a challenging proposition, it’s worth the effort.

Taking a Holistic Approach

Many companies approach the development of equitable products through a narrow lens, merely reacting to instances of inequity when they surface. AI-based equity failures—like those involving inadequate facial-recognition software—are often addressed in this manner, for instance.

A wider lens allows a product developer to consider demographic and social factors—such as race, gender identity or expression, religion, income, and disability—and expand the number of target users for a product. For example, the UK Government Digital Service uses this approach to develop digital products that can be accessed easily by users who are often overlooked. As part of the effort, the GDS developed representative persona profiles to test the accessibility of products. Among the personas: Ashleigh, who has vision challenges; Pawel, who has Asperger’s syndrome, and Christopher, who has rheumatoid arthritis.

BCG’s approach is a framework that allows a product development team to proactively consider equity from all angles. It, too, relies on a wider lens, and it has several components:

• Três princípios cruzados
• Um ciclo de desenvolvimento de produtos de quatro partes
• Metrics for measuring success

The components, and the elements within them, should not be implemented linearly or individually. Rather, a team should continuously apply the principles and measure for success at every stage of the cycle—an iterative process that emphasizes ongoing scrutiny, evaluation, learning, and refinement, all in service to the goal of maximizing equity.

Três princípios cruzados

At every stage of product development, organizations can make sure they are prioritizing equity by considering three fundamental principles that offer high-impact opportunities to intervene if development is veering off track.

Inclusive Design. The product design has to be inclusive to achieve the ultimate goal: an equitable product. To develop products that are inclusive of communities that are often overlooked during the design process, use um design centrado no ser humano Abordagem:

• Envolva e compreenda os usuários. Mantenha um olho constante na experiência geral do produto. Essa entrada ajuda os desenvolvedores a entender impactos inesperados - e oportunidades Start by recruiting a diverse group for research and testing in order to gain a broad and explicit understanding of users, tasks, and environments. Keep a constant eye on the overall product experience.
• Proceed iteratively, driven by feedback. Seek feedback from target users—and even people who are not target users. Such input helps developers understand unexpected impacts—and opportunities - e determine como incorporá -los no design.
• colaborar em várias disciplinas. Lançar uma rede mais ampla. Trazer indivíduos de outras disciplinas funcionais, como The design team naturally includes product developers and testers. Cast a wider net. Bring in individuals from other functional disciplines, such as Diversidade, equidade e inclusão (DEI) ou relações públicas, para explorar o valor de diferentes perspectivas e antecedentes.

Uma arquitetura sem viés. Muitos produtos digitais consistem em um front -end, ou camada de negócios inteligente; uma camada de dados; e um conjunto de integrações importantes para a interoperabilidade da plataforma. Para cada um, considere cuidadosamente se as decisões técnicas aumentam o risco de viés ou exclusão. Essa lógica aumentará ou reduzirá o viés, dependendo das regras, algoritmos e dados usados ​​para construí -lo. Sem atenção adequada, a lógica pode favorecer um certo conjunto de dados demográficos e, inadvertidamente, produzir resultados que destacam os outros. Sem uma camada de dados robusta, a lógica e a análise equitativas podem ser insuficientes para evitar viés para alguns grupos de usuários. Por exemplo, o Redlining Digital foi observado em aplicativos de compartilhamento de viagens: áreas em que a população é predominantemente branca tende a ter tempos de espera mais baixos e informações de coleta mais precisas, mesmo quando a renda e a densidade populacional são controladas. Usuários.

• The smart business layer contains the decision engines that process business logic. That logic will either increase or reduce bias, depending on the rules, algorithms, and data used to construct it. Without proper attention, the logic could favor a certain set of demographics and inadvertently produce outcomes that underserve others.
• The data layer powers functionality such as smart decision engines and machine learning, and it is important for accurate analytics. Without a robust data layer, equitable logic and analysis may be insufficient to avoid bias for some user groups. For example, digital redlining has been noted in ride-sharing apps: areas where the population is predominantly white tend to have lower wait times and more accurate pickup information, even when income and population density are controlled for.
• Connectivity, achieved through APIs and microservices, needs to enable a product to work with third-party applications and devices that are likely to be used by the full roster of target users.

Um ecossistema comprometido. Escolha aqueles que demonstram um compromisso com o DEI. O patrimônio líquido também deve estar subjacente à merchandising: como o produto será acessado? Onde estará disponível? Como será exibido? Consider equity from the perspective of all those who interact with the product throughout its life cycle.

Be equitable in the selection of diverse suppliers, distributors, and investors. Choose those that demonstrate a commitment to DEI.

Ensure that the marketing of a product will prioritize equity in terms of who it will be promoted to and how. Equity must underlie merchandizing as well: How will the product be accessed? Where will it be available? How will it be displayed?

And, of course, enable programs that ensure diversity, equity, and inclusion in the workplace. A diverse workforce is a valuable resource for the holistic and innovative development of equitable products.

A Four-Part Product Development Cycle

Ensure that designing for inclusiveness is a core component of the entire product development cycle, not just the initial build. All new features should undergo rigorous user acceptance testing. Also, a well-structured customer experience feedback loop should be established to ensure that input, especially input related to equity and inclusion, will make its way back to the product development team.

Four key product development phases are continuously iterated through feedback and testing cycles. (See the exhibit.)

avaliar. Determine quem se beneficia, quem pode ser prejudicado e cujas vozes devem estar presentes no processo de desenvolvimento de produtos. Estabeleça uma abordagem para tomar decisões difíceis sobre a dignidade ética. Identifique dependências técnicas e lacunas que precisam ser abordadas. Entenda também as limitações que impediram a equidade no passado. Procure barreiras que possam ser incorporadas devido a decisões ou limitações técnicas. Aproveite isso como uma oportunidade para um exercício de informação da verdade entender as falhas existentes e como abordá-las. Start by evaluating the ethical worthiness of the product concept. Determine who stands to benefit, who may be harmed, and whose voices should be present in the product development process. Establish an approach for making tough decisions about ethical worthiness. Identify technical dependencies and gaps that need to be addressed. Understand, too, the limitations that have stood in the way of equity in the past. Look for barriers that may be built in because of technical decisions or limitations. Take this as an opportunity for a truth-telling exercise to understand existing flaws and how to address them.

Definir. Pergunte continuamente: quem está sendo afetado ou excluído? Quais personas podem estar faltando? Curso correto de acordo. Next, establish the potential new value—to customers and to the business—by identifying and testing product and service opportunities. Continuously ask, Who is being affected or excluded? Which personas may be missing? Correct course accordingly.

Desenvolver. Ao adotar uma abordagem ágil, responsável e centrada no ser humano, as equipes de desenvolvimento podem identificar e mitigar quaisquer fatores que possam impedir o acesso ou o patrimônio a todas as personas. Avalie continuamente a equidade do produto e garanta que os usuários com maior probabilidade de serem impactados por resultados desiguais tenham voz nos testes. Begin to realize the new value by designing, building, and deploying the new product or service. By taking an agile, responsible, human-centered approach, development teams can identify and mitigate any factors that may impede access or equity to all personas. Continuously assess the equity of the product, and ensure that users who are most likely to be impacted by inequitable outcomes have a voice in testing.

Ativar. Garanta a responsabilidade aos usuários do produto e à sociedade em geral. Considere como o produto se integrará aos serviços fornecidos por fornecedores de terceiros. Monitore o progresso e resolva ativamente os problemas à medida que surgem. Essas verificações de responsabilidade não podem ser abordagens fragmentadas. É necessário um processo sustentado e sistêmico. Estabelecer isso exigirá que a organização reconheça e supere vieses inconscientes. Isso não será um empreendimento fácil, mas é necessário garantir que os esforços para desenvolver produtos eqüitativos estejam atingindo seu maior potencial. Aqui estão algumas métricas de amostra: Establish the right people, processes, and technologies to achieve the potential of the product. Ensure accountability to the product’s users and to society at large. Consider how the product will integrate with services provided by third-party vendors. Monitor progress and actively address issues as they arise.

Metrics for Measuring Success

Even state-of-the-art principles and product development cycles need to be monitored and measured. A sustainable pipeline of equitable products requires accountability. These accountability checks cannot be piecemeal approaches. A sustained and systemic process is needed. Establishing it will require the organization to recognize and overcome unconscious biases. This will not be an easy undertaking, but it is necessary to ensure that the efforts to develop equitable products are reaching their greatest potential.

Throughout the product life cycle, check for indicators that the team is creating equitable products. Here are some sample metrics:

• Comunicação com a comunidade de usuários sobre coleta de dados, uso e lacunas é completa, oportuna e transparente. Esses grupos de usuários são continuamente refinados. Equidade.
• All target users—and even people who are not targeted—are included in user-engagement sessions; these user groups are continuously refined.
• The selection of a minimum viable product takes equity into account or explains why any aspects of equity may not be included.
• Measurable commitments to equity—both internal and external—are in place across the ecosystem.
• Each product release includes metrics to assess the customer experience and the product’s equity.
• A organização oferece incentivos para buscar a equidade no design do produto. Produtos equitativos, construídos com o conceito de design centrado no ser humano, aumentam o valor, proporcionando uma melhor experiência do cliente e solidificando a confiança da marca. Eles melhoram a penetração e o alcance do mercado, expandem os mercados -alvo e diversificam o portfólio de produtos. Eles também têm valor "em casa", aumentando o envolvimento dos funcionários. O esforço inicial para incorporar o patrimônio líquido será recompensado. Também há muito a se perder se as organizações não o fizerem, porque produtos equitativos não são apenas um bom de se ter. Pergunte a si mesmo: qual é o custo verdadeiro de

---

Companies that consider the equity of a product only as a postdevelopment fix are missing the opportunity to tap the full potential of equitable products, even beyond the significant value of addressing the current economic and social climate. Equitable products, built on the concept of human-centered design, increase value by providing a better customer experience and solidifying brand trust. They improve market penetration and reach, expand target markets, and diversify the product portfolio. They have value “at home,” too, by increasing employee engagement.

Clearly there’s a lot to be gained by holistically building equity into products. The upfront effort to incorporate equity will pay off. There’s also a lot to be lost if organizations fail to do so, because equitable products are not just a nice-to-have. Ask yourself: What is the true cost of não Incorporando o patrimônio líquido?