En el contexto de la Semana de Exploración Tecnológica organizado por Área IX (Diseño e Ingeniería) contamos con la visita de Caroline Sinders diseñadora machine learning e investigadora de Wikimedia foundation, experta en las intersecciones del procesamiento de lenguaje natural, la inteligencia artificial, el abuso y acoso en línea y el activismo político en las redes sociales.

Caroline en su charla y taller “Emotional intelligence and Machine learning” nos incorpora a un tema que, si bien escuchamos todos los días, como diseñadores no nos hemos dado cuenta del rol fundamental que nos toca jugar en este contexto. A saber, las tecnologías machine learning son aquellos sistemas algorítmicos que son capaces de aprender dinámicamente a medida que se le ingresan más datos e interactúa con usuarios siendo capaz de identificar patrones complejos en toda la data acumulada de ese proceso, crear predicciones, crear nuevas conexiones o patrones, y responder de determinada manera.

Caroline expone la importancia del diseño de interacción y la investigación en diseño con foco en sistemas técnicos y cómo los algoritmos se pueden concebir como un producto, considerando aspectos tales como estándares de usabilidad y accesibilidad. En un proceso de desarrollo de producto normalmente tenemos estándares y normas que podemos considerar para tener mayor control de los resultados y la experiencia de interacción con el usuario. Sin embargo cuando el sistema es dinámico, y se reconfigura constantemente en la medida que automáticamente aprende, cuál es la usabilidad estándar necesaria? Para Caroline la ética es el marco de usabilidad dentro de los algoritmos, donde la data es clave.

La ética es un elemento fundamental a considerar en el diseño de un sistema machine learning, si el sistema se alimenta a partir de datos sesgados, da respuestas con fallas que de una u otra forma pueden incomodar o perjudicar a los usuarios de estos productos “inteligentes”. Como ejemplo, si realizamos una búsqueda en inglés en Google con los conceptos “unprofessional hair” y “professional hair” encontraremos como resultado una tendencia prejuiciosa que asigna fotos de raza de color al concepto de peinado poco profesional, contrastado con los resultados caucásicos del concepto peinado profesional.

No es que el sistema esté diseñado para ser racista, pero el resultado efectivamente los es. ¿Con qué tipo de datos se alimentó el sistema? ¿Cómo se catalogaron? ¿Es el conjunto de datos lo suficientemente diverso? ¿Quien entrenó al sistema? ¿Quien lo testeó antes de salir a mercado? A diferencia de otros sistemas tecnológicos, en el machine learning hay muchas consideraciones éticas en juego debido a las incertidumbres acerca de cómo los algoritmos responderán a las entradas del usuario, así como el ingreso de datos. La inteligencia de la máquina está determinada por quien define el algoritmo de aprendizaje, y sin un cuidado diseño entrega «fallas» incómodas por decir lo menos.

Es entonces de relevancia el lenguaje y los contextos de uso de éste en relación con el usuario, junto con la manera en que la información es desplegada. ¿Cómo considera un sistema algorítmico el concepto “unsafe” o inseguro en el las interacciones al interior de una red social ? ¿Cómo responde el sistema ante una calificación como ésta acerca de una fotografía que el usuario desea borrar o no quiere ser catalogado? Caroline plantea la pregunta ¿Será posible crear espacios en los que sean los usuarios los que definan un concepto como el de “seguridad”?

Sin duda nada de esto es un problema técnico (y aunque es necesario que el diseñador se sumerja en cómo funciona el machine learning) es una oportunidad donde el rol como diseñadores es pensar en los datos y la ciencia de datos como un problema de diseño y un problema de producto. El diseño puede ayudar a enseñar y refinar el algoritmo a través de la comprensión de la relación de estos datos con el producto (físico o digital) con el que interactúa el usuario, sus funciones, e interfaces. El diseño de Interacción, de Información y/o de Sistemas tiene escenarios de acción en contextos socio-técnicos crecientes, sin embargo poco abordados disciplinarmente. Los grandes desafíos en tecnología no son técnicos, son de adopción, y ahí la cancha para el diseño es gigante.