Formulario de búsqueda

Algo humano: la ética en el diseño de las aplicaciones de voz

Compartir en:

Algo humano: la ética en el diseño de las aplicaciones de voz

  • El ciclo de encuentros VoiceXMeetUp ha celebrado una nueva edición centrada en la ética y el diseño
  • Especialistas en asistentes de voz e inteligiencia artificial han participado en el evento

La primera temporada de VoiceXMeetUp ha entrado en la recta final, en esta oportunidad con un encuentro atravesado por tres ejes centrales en el desarrollo de aplicaciones de voz: la ética, el diseño y la inteligencia artificial.

La máquina es inteligente porque mira, decide, aprende y nos hace recomendaciones

Pero, ¿de dónde viene nuestra ética? ¿cómo se traslada al diseño de interacción entre personas y máquinas? ¿Se puede programar? Esas han sido algunas de las preguntas que han tratado de responder los distintos ponentes de esta edición titulada "Something Human".

Miembro del equipo de Estrategia de la consultora Soulsight, Pedro Enríquez - alias “Furby” - ha invitado a la reflexión al exponer algunas de las conclusiones obtenidas en Wander, un ensayo que, entre otros aspectos, analiza un territorio denomidado "la Máquina en lo Humano”.

Enríquez ha destacado el hecho de que todos somos sensores. “Si llevamos un smartphone en el bolsillo, somos un sensor, y con eso construímos una imagen", ha expresado, para después afirmar que la inteligencia artificial ha llegado para quedarse y ha transformado todo. “Es la nueva electricidad”, ha determinado.

Para el portavoz de Soulshight, la máquina es inteligente porque mira, decide y aprende; nos hace recomendaciones y habla, empieza a conectar con nosotros de una manera diferente. Sin embargo, alerta que en esa dinámica, estamos perdiendo la capacidad de descubrir.

“Nos han cosificado a lo largo de todos estos años, queriendo fundirnos con la pantalla o el teclado, pero qué pasa cuando la voz entra en juego", ha cuestionado, dando a enteder que este elemento transforma la interacción y difumina los límites ente el hombre y la máquina.

Para Enríquez, es necesario que los usuarios sepan cómo se recogen sus datos, y parte de esa responsabilidad puede descansar en la creación de un botmasters, una persona encargada de que esa transacción de datos funcione correctamente. "Tenemos que llevar más a fondo la relación ética. Como diseñadores, tenemos que empezar a ser intermediarios. Nuestro papel como sujetos éticos es entender que tenemos una responsabilidad", ha concluido.

La necesidad de la ética

A continuación César Astudillo, pionero del diseño digital, ha abordado los retos éticos a los que se enfrentan los diseñadores en una charla titulada “Diseño, AI, asistentes de voz ante la ética”.

En ella, ha establecido que existen distintas formas de entender la ética a partir de las consecuencias, las reglas o las virtudes de las personas. Asimismo, ha reconocido que las reflexiones acerca de la ética están relacionadas con la intención de la gente de hacer el bien y con la necesidad de un código deontológico que proteja a los profesionales de la sociedad y de sus propios colegas, capaces de devaluar la profesión, o generar competencia desleal.

La gente habla de ética porque suele tener la intención de hacer el bien

"Como profesionales, interactuamos con muchos actores y, en cada relación, tenemos que preguntarnos si queremos poner reglas que regulen lo que podemos hacer y lo que no. Si no lo hacemos, tenemos que pensar, qué va a pasar”, ha advertido Astudillo.

Como diseñador digital, ha asegurado que la responsabilidad de la profesión es mayor. "Cada vez miramos menos a través del parabrisas y más al GPS”, por ello ha identificado el papel de los diseñadores como mediadores de esa interacción.

A su vez, ha presentado el caso de AI4 People, un foro global en Europa que analiza el impacto social de la inteligencia artificial centrada en una serie de principios, entre ellos la autonomía y la explicabilidad.

Sobre el primero, ha detallado que "para que todo el ecosistema funcione, necesitamos entender las decisiones que toma la inteligencia artificial. Tiene que poder rendir cuentas”, ha mencionado; mientras que para el segundo, ha destacado la necesidad de explicitar y construir principios de confianza, ya que los dispositivos de voz se presentan ante nosotros como agentes, en los caáles es sencillo olvidar su lugar de máquinas.

“Vamos a empoderarnos. Esa es la razón de ser del diseño estratégico”, ha expresado Astudillo, para después advertir que nuestro comportamiento está motivado por los sistemas de incentivo en los que trabajamos, más que por nuestras virtudes, por ello debemos estar alerta.

_alt_

La personificación de los asistentes de voz

Laura Andina, Product Manager del equipo de Tuenti, ha compartido su perspectiva acerca del papel de la mujer en la configuración de los asistentes de voz.

“Hay una idea de que lo esperable es que un asistente sea mujer”, ha señalado, para intentar entender cómo se llega hasta esa situación. "Hay que correr la cortina de la máquina y pensar qué decisiones han tomado los humanos cuando la crearon”, ha definido.

Las voces femeninas hacen que las personas se sientan más cómodas con los asistentes de voz

Según los resultados de un estudio presentado por Andina, lo femenino se percibe como más cálido, positivo e interactivo, frente a lo masculino. Es por ello que las personas se sienten más cómodas con asistentes de voz personificados por mujeres.

Sin embargo, ha señalado que el diseño ya no siempre hace las cosas como son en el mundo real, sino que se puede tomar licencias. "Lo mismo puede hacer con las voces".

A su vez, ha destacado que la falta de mujeres en la sala es la principal causa de que un cambio en este sentido sea posible. “Los equipos más diversos no solo son más interesantes, sino que también dan dinero, porque hacen productos mejores, al tener en cuenta a un mercado más amplio", ha opinado.

Por último María Borbonés, miembro del equipo de inteligencia artificial en IBM, ha hecho referencia a los comentarios de Laura Andina, destacando que Watson, el asistente de IBM, es probablemente el único que lleva nombre masculino. 

Durante su ponencia, ha explicado cómo el trabajo es una combinación de humano y máquina, pero que siempre tiene que estar controlado por un humano. Además, ha retomado el concepto de explicabilidad para mencionar que es uno de los principales retos de las tecnologías de voz.

“Tenemos que entender cómo toman decisiones las máquinas, que no sean cajas negras”, ha expresado y para ello, es importante detectar y mitigar sesgos, sin dejar de reproducir la realidad. "La culpa de los sesgos la tenemos nosotros, porque en los ciclos de creación de modelos intervienen los humanos", ha sentenciado.

Para finalizar, VoiceXMeetUp ha cerrado su última edición con un debate protagonizado por todos los protagonistas de la jornada, y moderado por las especialistas Meritxell Cobet y Marina Guilarte, que han repasado distintas temáticas de engagement, accesibilidad y el reto ético que nos presentan estas nuevas tecnologías.