Una consultora timó a Australia con un informe hecho con IA.
Una consultora timó a Australia con un informe hecho con IA. El problema es que la IA se inventó las fuentes y hasta la cita de un juez
- La consultora entregó un informe con más de 20 errores, incluyendo referencias a estudios inventados.
- El sector de la consultoría es uno de los más vulnerables a la penetración de la IA.
Qué ha pasado. El departamento de empleo del gobierno australiano encargó un informe a la consultora Deloitte. Fue publicado el pasado mes de julio y todo iba bien hasta que, tal y como cuentan en AP, un investigador de la Universidad de Sydney alertó a los medios de que el informe estaba plagado de referencias erróneas, incluyendo una cita inventada de una sentencia judicial y referencias a estudios que no existían. La compañía lo retiró y se publicó una versión revisada.
Por qué es importante. La industria de la consultoría es un negocio multimillonario (se estima que en 2024 generó la friolera de 354.000 millones de dólares) y, por su propia esencia y forma de operar, es uno de los sectores vulnerables a la “sustitución por IA”. La IA ya es una tecnología muy usada en el sector para tareas como gran análisis de datos, generación de informes o presentaciones y otras tareas administrativas. El caso de Deloitte es un buen ejemplo de esto, pero evidencia que es necesaria la supervisión humana. Probablemente nos encontremos con más casos así en el futuro.
Consecuencias. El gobierno pagó casi 300.000 dólares a Deloitte por la elaboración del informe, por lo que la firma deberá devolver el importe parcialmente. Sin embargo, Barbara Pocock, senadora del partido de los verdes, cree que deberían devolver el importe completo: “Deloitte hizo un uso indebido de la IA: citó erróneamente a un juez y utilizó referencias inexistentes (...) Son el tipo de cosas por las que un estudiante universitario de primer año se metería en un buen lío”.
