Instagram se ha propuesto poner coto a los perfiles generados con inteligencia artificial como parte, según ha expresado la plataforma en un comunicado, de su esfuerzos por mejorar la transparencia y ayudar a los usuarios a comprender mejor quién o qué hay detrás del contenido que ven. Las medidas incluyen una nueva etiqueta de identificación y la limitación del alcance de las cuentas.

Instagram ha presentado la etiqueta "AI-generated profile" (Perfil generado por IA) que, en realidad, es un renaming del etiqueta ya existente "AI creator" (Creador de IA); y también ha asegurado que reducirá el alcance de los perfiles que estén generados por inteligencia artificial y no añadan la etiqueta. El objetivo es comunicar con mayor claridad a los usuarios cuando un perfil presenta una figura generada por IA en lugar de una persona real. 

“A medida que la IA generativa se integra cada vez más en la creación artística, hemos constatado que a los usuarios no les gusta ver un perfil que parece humano, solo para descubrir después que la persona que aparece es generada por IA”; explican desde Instagram en un comunicado. “Quieren saber cuándo un perfil presenta a una persona generada por IA”.

La plataforma especifica que los creadores que utilicen herramientas de IA como parte de su proceso creativo no necesitan añadir la etiqueta, y explica que las cuentas que añadieron inicialmente la etiqueta “Creador de IA” verán ahora el nuevo nombre. También invita a los gestores de contenidos creados con IA a revisar la etiqueta, confirmar que sigue siendo adecuada o eliminarla si ya no lo es, pero advierte que limitará el alcance de los perfiles que no se etiqueten correctamente. Esto significa que sus publicaciones no serán recomendadas a usuarios que no sean seguidores a través de Reels o la búsqueda. 

El movimiento de la plataforma responde, entre otras cosas, a la creciente frustración de los usuarios ante el exceso de contenido generado por inteligencia artificial, así como a funcionalidades lanzadas recientemente por Meta. El pasado mes de julio, la compañía lanzó Muse Image, desarrollada por por Meta Superintelligence Labs, su unidad especializada en IA, y que permitía a los usuarios generar imágenes mencionando con las cuentas públicas de Instagram a las que querían hacer referencia. Los usuarios criticaron la herramienta por la facilidad para usar imágenes reales de cuentsa de personas y porque no incluía un sistema de notificación para informar al usuario si sus fotos se habían utilizado. 

Noticias Relacionadas

Jessica Foster, la influencer de IA que pone la propaganda política al servicio de Only Fans

En plena era de la belleza real llega “Miss AI”, el primer concurso para la inteligencia artificial

Además, recientemente The New York Times realizó una investigación que concluyó que en la plataforma, así como en otras redes sociales, existen cientos de perfiles de médicos e influencers de bienestar generados por inteligencia artificial en las redes sociales, que promocionaban los beneficios para la salud de ciertos productos, especialmente suplementos, entre los consumidores estadounidenses. Muchas de estas cuentas tienen apariencia hiperrealista y en sus mensajes prometen soluciones prácticamente milagrosas, pero engañosas y con ambición lucrativa. 

El anuncio de las nuevas medidas por parte de Instagram también tiene lugar tras el acuerdo alcanzado por Meta en Estados Unidos para pagar casi 17.000 millones de dólares de multa para evitar un juicio sobre el impacto negativo de sus plataformas en niños y adolescentes. La compañía, además, se ha comprometido establecer nuevas herramientas para permitir que los padres puedan limitar el acceso de sus hijos a Facebook, Instagram y WhatsApp.