El Senado australiano ha presentado un informe que cuestiona severamente a las empresas tecnológicas Amazon, Google y Meta por su manejo poco claro de datos personales australianos en el entrenamiento de sus modelos de inteligencia artificial (IA). La investigación, encabezada por el senador laborista Tony Sheldon, ha revelado una serie de preocupaciones sobre la falta de respuestas claras de estas empresas respecto al uso de la información de los ciudadanos.

El informe destaca que modelos de IA de uso general, como GPT de OpenAI, Llama de Meta y Gemini de Google, deben ser automáticamente clasificados como de "alto riesgo". Esta clasificación implicaría la obligatoriedad de cumplir con requisitos estrictos de transparencia y responsabilidad para proteger a los usuarios.

Entre las principales recomendaciones del informe se encuentra la creación de una nueva legislación específica para la IA en Australia, buscando modificar las leyes existentes para priorizar los derechos de los ciudadanos sobre los intereses corporativos de las empresas de Silicon Valley. Se ha detectado que Amazon, Google y Meta no han sido claros sobre cómo utilizan los datos de sus usuarios para entrenar sus respectivos productos de IA.
‍

Amazon, por ejemplo, no ha revelado de manera transparente cómo se emplean los datos recabados a través de dispositivos como Alexa, Kindle y Audible. De forma similar, Google se negó a aclarar qué datos de sus usuarios son utilizados específicamente para entrenar sus modelos de IA. Por otro lado, Meta admitió haber recopilado datos de usuarios de Facebook e Instagram desde 2007, pero no pudo explicar cómo se obtuvo el consentimiento de los usuarios para un uso que no existía en ese momento.
‍

El informe también pone de manifiesto el impacto negativo en los trabajadores creativos, recomendando la implementación de mecanismos de compensación cuando sus materiales originales sean utilizados para generar contenido mediante IA. Subraya la necesidad de transparencia en el uso de obras protegidas por derechos de autor en el desarrollo de estos modelos de IA.
‍

Las críticas no se hicieron esperar tras la publicación del informe. La organización de gestión de derechos musicales Apra Amcos respaldó las recomendaciones, afirmando que la IA afecta negativamente a los trabajadores creativos y apoyando la necesidad de nuevas regulaciones. En contraste, los senadores de la Coalición argumentaron que el mayor riesgo de la IA reside en la ciberseguridad y la democracia, no en la economía creativa, y no apoyaron la categorización automática de la IA en el trabajo como de alto riesgo. Por su parte, los Verdes consideraron que el informe no es suficientemente riguroso en comparación con regulaciones en jurisdicciones como el Reino Unido y Europa.
‍

En total, el informe presenta 13 recomendaciones que sugieren la consulta y representación de los afectados antes de la adopción de IA que impacte los derechos laborales, y urge a establecer un marco regulatorio robusto para garantizar un uso ético y transparente de datos personales en Australia.