Noticias sobre #Transparencia

Una emisora de radio australiana ha utilizado durante meses un DJ completamente generado por IA para presentar un programa de cuatro horas sin informar a su audiencia. "Workdays with Thy", transmitido por la estación CADA en Sydney (propiedad de ARN Media), presenta música hip-hop, R&B y pop con una locutora creada con la tecnología de ElevenLabs, alcanzando a unos 72.000 oyentes desde noviembre sin levantar sospechas.

"Lo que hemos aprendido es el poder de los locutores que tenemos", comentó Ciaran Davis, CEO de ARN Media, quien a pesar del experimento insistió en que los presentadores con IA "definitivamente no son el futuro".

El caso plantea importantes preguntas sobre transparencia en medios y el futuro de la radio, especialmente cuando la voz de Thy está modelada a partir de una empleada real del departamento financiero de la compañía. Con CADA reduciendo su personal humano y manteniendo a su presentadora artificial, el experimento podría marcar un precedente para otras emisoras, aunque ya se han visto casos similares en Polonia y Estados Unidos que generaron controversia.

Un chatbot de soporte de Cursor inventó una política inexistente que limitaba el servicio a "un dispositivo por suscripción", provocando que usuarios amenazaran con cancelar sus suscripciones. El co-fundador de la empresa reconoció que algo "claramente salió mal" y confirmó que ahora las respuestas de IA para soporte técnico están "claramente etiquetadas como tales".

Este incidente resalta el peligro de la "alucinación" en agentes de IA cuando operan sin supervisión humana, especialmente en roles de atención al cliente donde sus respuestas son consideradas oficiales. Es un recordatorio de que incluso herramientas diseñadas para potenciar la productividad de desarrolladores pueden generar fricción cuando la IA opera sin los controles adecuados.

Cómo ocurrió Todo comenzó cuando un usuario de Reddit notó que sus sesiones de Cursor se cerraban inesperadamente al cambiar entre dispositivos. Al contactar al soporte, recibió una respuesta de "Sam" afirmando que "Cursor está diseñado para funcionar con un dispositivo por suscripción como medida de seguridad". La respuesta parecía oficial y el usuario no sospechó que estaba interactuando con una IA.

La publicación en Reddit desató confusión entre usuarios que tomaron como cierto este cambio de política. Tres horas después, un representante real de Cursor aclaró: "No tenemos tal política. Desafortunadamente, esta es una respuesta incorrecta de un bot de soporte con IA".

La ironía no pasó desapercibida: una empresa que vende herramientas de productividad con IA para desarrolladores fue perjudicada por las alucinaciones de su propio sistema de soporte, justo cuando muchos afirman que los problemas de alucinación ya no son tan graves.