Diseño para el bien: explorar (y evitar) los sesgos en el diseño

En una ocasión, dirigí un equipo encargado de diseñar una solución que permitiera a los usuarios comprar un vehículo en línea. La función que estábamos diseñando era una idea relativamente innovadora en ese momento y las partes interesadas estaban presionando para que fuera más difícil encontrar parte de la información financiera fundamental que los clientes necesitaban para ayudarlos a tomar una decisión verdaderamente informada sobre su compra.

El lado oscuro del diseño

A mi equipo de diseño le dijeron que necesitábamos mostrar (pero en realidad ocultar) los enormes aumentos de la tasa anual, los extensos plazos de los préstamos e incluso los costos adicionales asociados con una compra tan importante en lo profundo de la interfaz de usuario, una práctica conocida en la industria como un "patrón oscuro". El público objetivo principal de esta empresa eran, por lo general, minorías, con ingresos limitados o malos historiales crediticios y, a menudo, realizaban esta compra por primera vez con poca experiencia en saber qué buscar al hacer una compra tan grande

En lugar de aprovechar la oportunidad para informar y educar a estos clientes, sentí que mi equipo se estaba viendo obligado a manipular el diseño para sacar provecho de la falta de comprensión de los clientes, lo que a la larga terminaba con los usuarios cargando con un préstamo del que probablemente nunca podrán recuperarse económicamente. En mi opinión, esta práctica parecía muy poco ética, disfrazada por una frase que se decía mucho en la oficina: "Les estamos haciendo un favor al darles crédito cuando nadie más lo haría".

Me di cuenta de que estaba perpetuando "el lado oscuro" del diseño y eso me llevó a cambiar de carrera y a educar a los futuros graduados en diseño para que reconozcan y eviten las estrategias de diseño manipuladoras y aborden los sesgos en el diseño ayudando a los estudiantes a obtener carreras de diseño con un impacto positivo. Los diseñadores rara vez trabajan solos y, por lo tanto, no tienen un control total sobre el resultado de un producto, pero podemos influir y asesorar en gran medida a las partes interesadas para que sigan el camino correcto.

Diseño por definición

Creamos diseños orientados a un propósito definiendo las cosas que hacemos. Sarah Laoyan, que escribe para Asana, lo expresó de la mejor manera: "El proceso de Design Thinking es una metodología que ayuda a abordar problemas complejos al plantear la cuestión de una manera centrada en el ser humano ".

En otras palabras: los diseñadores resuelven problemas y ese proceso rara vez es lineal. Pero es importante pensar en el problema que estamos resolviendo y el impacto que cualquier solución puede tener en aquellos a quienes se dirige.

Cómo evitar sesgos en el diseño

Los sesgos en el diseño representan un obstáculo importante en el proceso de ideación y pensamiento creativo. Todos los seres humanos, incluidos los diseñadores, estamos sujetos a sesgos inconscientes, y es mucho más fácil detectarlos en los demás que en nosotros mismos. Estos sesgos crean puntos ciegos perceptivos. Las prácticas estándar de pensamiento lineal influyen sutilmente en nuestros pasos hacia la resolución de problemas, aunque estas prácticas puedan parecer lógicas e imparciales.

Incluso metodologías como el Design Thinking , que fomentan la apertura mental, no son inmunes al desafío inicial de los sesgos inherentes que pueden distorsionar nuestras perspectivas y, en última instancia, abrirse paso en las soluciones que creamos. El diseño como industria es altamente subjetivo y plantea grandes oportunidades para que los sesgos se descontrolen, y a medida que nos aventuramos en territorios nuevos e innovadores en el diseño orientado a un propósito con inteligencia artificial (IA), realidad virtual (RV) y soluciones de diseño cada vez más sensibles, mantener un punto de vista objetivo se vuelve cada vez más importante.

El sesgo no es inofensivo

Las decisiones de diseño sesgadas pueden tener efectos de largo alcance y a menudo perjudiciales. Un ejemplo notable es el caso de la tecnología de reconocimiento facial. Numerosos estudios, incluido uno realizado por la estudiante de posgrado del Media Lab del MIT Joy Buolamwini en 2018, revelaron sesgos raciales y de género significativos en estos sistemas. Un conjunto de datos que consistía principalmente en personas de piel más clara sesgó la tecnología, lo que llevó a que identificara erróneamente a las personas con tonos de piel más oscuros, especialmente a las mujeres de piel oscura, en tasas significativamente más altas. Este sesgo condujo a acusaciones y arrestos injustificados, lo que demuestra una profunda falta de equidad en el diseño tecnológico y, en última instancia, en la aplicación y el uso final de ese diseño. Las repercusiones se extienden mucho más allá de la mera incomodidad, afectando las vidas y las libertades de las personas y exponiendo sesgos profundamente arraigados en los algoritmos tecnológicos.

Además, un estudio publicado en el Journal of the American Medical Informatics Association en 2019 concluyó que muchos recursos de salud en línea no estaban diseñados teniendo en cuenta a los usuarios mayores , y empleaban tamaños de letra pequeños y estructuras de navegación complejas. Este descuido alejó a una parte importante de su público objetivo: los adultos mayores que dependen de estos recursos para obtener información sanitaria fundamental. La falta de consideración de las necesidades de la población que envejece en el diseño digital dificultó el acceso a información sanitaria importante y perpetuó una forma de discriminación por edad.

Es importante señalar que nunca podremos erradicar por completo los prejuicios, pero comprenderlos nos ayudará mucho a descubrir nuestros puntos ciegos. Y ser muy conscientes de ellos también reducirá la probabilidad de que nuestro trabajo cause daños involuntarios a través de soluciones de diseño más orientadas a un propósito. Tenemos una necesidad cada vez mayor de prácticas de diseño inclusivas e imparciales, lo que obliga a los estudiantes y a los diseñadores en ejercicio a considerar el impacto positivo que pueden tener las carreras de diseño.

Consejos para evitar sesgos en el diseño

1. Autoconciencia: reconozca que tiene prejuicios y considere la posibilidad de realizar una prueba de prejuicios inconscientes. Total Brain ofrece una prueba de prejuicios inconscientes sin costo.
2. Obtenga perspectivas diversas : busque una amplia gama de opiniones para crear productos que ayuden a que un mundo en gran medida disonante sienta una sensación de comunidad abierta y acogedora.
3. Haga siempre esta pregunta: ¿Estoy diseñando un producto para el bien social o podría perpetuar prejuicios?

Diseño para el bien: una serie de tres partes

Comprender cómo utilizar las habilidades de diseño para generar un impacto social, aunque sea de manera superficial, es un tema complejo que encierra un gran potencial para un cambio de mentalidad. La primera parte abordó el lado oscuro del poder que realmente tenemos como diseñadores para hacer que nuestro trabajo en el diseño de productos tenga un efecto social.

A continuación, se presentan las otras dos partes de la serie:

• La segunda parte aborda el diseño de impacto social con un debate sobre cómo crear diseños que sean accesibles e inclusivos para todos y cómo ganar el interés de las partes interesadas en invertir en el diseño de impacto social.

• La Parte 3 (que se publicará el viernes 24 de mayo) es un análisis profundo de algunos proyectos de diseño ambiental y de cómo podemos hacer que nuestro trabajo digital (que aún está lejos de ser sustentable) sea más ecológico.

La serie Design for Good es perfecta si eres:

• Líder de un equipo de diseño
  Considere cómo esta serie de publicaciones de blog podría inspirar a su equipo a transformar su trabajo en una carrera de diseño de impacto positivo.

• Diseñador
  Desafíese a pensar en estas iniciativas como un requisito del cliente en cada proyecto, en lugar de esperar a que el cliente lo pida.

• Estudiante
  o alguien que busca oportunidades de posgrado en diseño: utilice esta serie para aprender más y crecer.