Taco Bell, Xbox, McDonald's figuran entre los nominados de los primeros AI Darwin Awards, unos premios que reconocerán las iniciativas de inteligencia artificial más cuestionables realizadas a lo largo del último año. Con un profundo carácter satírico, estos particulares galardones distinguirán a personas y empresas cuyo uso de la tecnología no ha contemplado adecuadamente los riesgos o el impacto social y emocional de sus proyectos. 

Los AI Darwin Awards suponen una extensión de los Darwin Awards, una iniciativa impulsada por la diseñadora Wendy Northcutt. Entre 1992 y 2022 estos premios, establecidos irónicamente en honor a Charles Darwin y la teoría de la evolución, reconocieron formas absurdas de morir a nivel internacional. “Los Premios Darwin rinden homenaje a la mejora del genoma humano al honrar a quienes accidentalmente se eliminó de él de forma espectacular”, explican en una web que aún puede consultarse.

Ahora, la comunidad de internautas detrás de ellos ha impulsado una nueva versión, centrada en la inteligencia artificial. Los Premios Darwin de IA continúan el concepto al honrar, como señala el sitio web, "a los visionarios que analizaron la inteligencia artificial —una tecnología capaz de transformar la civilización— y pensaron: ‘¿Saben qué necesita esto? ¡Menos pruebas de seguridad y más capital riesgo!’", se describe. “Estos valientes pioneros nos recuerdan que la selección natural ya no es solo para la biología; se ha digitalizado y llegará para toda nuestra especie. Porque, ¿por qué detenerse en actos individuales de estupidez espectacular cuando se pueden escalar a proporciones globales con el aprendizaje automático?”.

Tal y como se expone, a la hora de proponer candidatos, se han de tener en cuenta ciertos criterios de nominación, siendo el principal la demostración de “un compromiso rotundo para ignorar los riesgos obvios”. Así, los casos deben involucrar obligatoriamente inteligencia artificial; potencial catastrófico; arrogancia; puntos ciegos éticos y ambición global. 

Los ganadores serán seleccionados, según se indica, mediante un proceso democrático que incluye votación pública, paneles de expertos y por los propios sistemas de IA , “porque, ¿qué podría salir mal en dejar que la inteligencia artificial juzgue la estupidez humana?”, exponen.

A la hora de juzgarlos, se tendrá en cuenta el impacto medible, es decir, si el proyecto generó titulares, desplomó mercados o requirió nueva legislación; la destrucción creativa o la puesta en peligro de la humanidad; la estupidez viral y las consecuencias imprevistas. Los organizadores, además, señalan que darán punto a aquellos que redoblaron su apuesta por la IA a pesar de los errores. 

Los nominados a los AI Darwin Awards

La lista de nominados cuenta actualmente con 15 casos, 9 de ellos ya han sido verificados, mientras que 4 ya han sido categorizados como inelegibles. Los otros 2 están pendientes de verificación. Entre las iniciativas elegibles, figuran los de las marcas Taco Bell, Xbox, y McDonald's, aunque hay otras relacionados con el uso de Airbnb. Destacamos sus casos a continuación: 

Taco Bell y el drive-thru

Tal y como señalan los organizadores de los premios, Taco Bell implementó sistemas de pedidos basados ​​en IA de voz en más de 500 locales drive-thru, con la intención de mejorar la eficiencia en la gestión de pedidos. The Wall Street Journal reveló que la iniciativa recibió las quejas de los clientes, se registraron fallos del sistema y los usuarios incurrieron en un mal uso de la tecnología. Esto llevó a la compañía a reevaluar el proyecto. 

“Taco Bell logró la triple victoria en el Premio Darwin de IA: una confianza desmesurada en las capacidades de la IA, un despliegue masivo sin las pruebas adecuadas y la admisión pública de que su tecnología de vanguardia fue derrotada por el simple deseo humano de personalizar los pedidos de tacos”, señalan desde los premios. 

McDonald's y el chatbot Olivia

McDonald's buscó avanzar en el futuro de la contratación con Olivia, un chatbot de IA diseñado para agilizar el proceso de selección. Este entrevistador digital se encargó de evaluar a millones de solicitantes, recopilar su información personal y guiarlos a través de pruebas de reclutamiento. Sin embargo, se descubrió que el sistema estaba protegido con la contraseña predeterminada “123456”; lo que terminó en la exposición de la información personal de 64 millones de solicitantes de empleo.

Además, la herramienta ya había sido criticada por los candidatos, que señalaban su incapacidad de comprender algunas preguntas básicas. “Esto representa la perfecta convergencia del exceso de confianza en la IA y la estupidez tradicional: implementar un sistema de IA para gestionar datos confidenciales y protegerlos con una contraseña que no protegería ni el diario de un niño”, comentan los organizadores de los galardones. “El hecho de que la IA ya fuera famosa por confundir a los solicitantes añade una deliciosa ironía al fallo de seguridad”.

Xbox y el impacto de la IA en el empleo

Tras el anuncio de Microsoft de 9.000 despidos en el mes de julio, Matt Turnbull, Productor Ejecutivo de Xbox Games Studios, comentó en LinkedIn que ChatGPT y Copilot podrían "ayudar a reducir la carga emocional y cognitiva que conlleva la pérdida del empleo". Tanto los empleados como los usuarios en redes sociales calificaron la sugerencia como repugnante e insensible. 

“Esto ejemplifica el principio del Premio Darwin de IA: una confianza espectacularmente equivocada en la inteligencia artificial como solución a problemas fundamentalmente humanos”, comenta la organización. “Sugerir que las personas procesan el trauma de la pérdida de empleo a través de conversaciones con chatbots representa una sordera impresionante o una fe revolucionaria en la terapia de IA, probablemente ambas”.

El periodo de presentación de candidaturas a los AI Darwin Awards permanece abierto, pero aún no hay una fecha para el anuncio de los ganadores.