Reglas para la inteligencia artificial, los videojuegos y los medios

El Frente Amplio aprobará una ley para el uso de la inteligencia artificial en la Administración, con un inventario público y revisión humana de sus decisiones.

Publicado
Actualizado

Los datos clave

  • Un inventario público obligatorio recogería los sistemas de IA que usa la Administración, con su finalidad, datos, tasa de error y sesgos.
  • Revisión por un empleado público: toda resolución administrativa asistida por IA lo indicaría de forma expresa y podría revisarse a petición.
  • Auditoría de seguridad independiente previa para los proveedores que desplieguen sistemas de IA en contratos públicos.
  • Prohibición de las cajas de recompensa y de las mecánicas de juego de azar encubiertas en videojuegos dirigidos o al alcance de menores.
  • Financiación estable y control parlamentario para los medios de comunicación públicos y la Agencia EFE.

Desde el Frente Amplio proponemos una ley para el uso de la inteligencia artificial en el sector público, con un inventario público de los sistemas y el derecho a pedir que un empleado público revise las resoluciones asistidas por IA. Las decisiones automatizadas sobre empleo, crédito o seguros tendrán auditorías independientes y revisión humana.

Consideraremos intromisión ilegítima la difusión no consentida de imágenes o voces falsas hiperrealistas de una persona, prohibiremos que los chatbots de compañía simulen vínculos sentimentales y que los videojuegos al alcance de menores incluyan cajas de recompensa, y pondremos límites a la concentración de los medios de comunicación.

Lo que dice el programa

  • 14.3.1. Uso transparente de la inteligencia artificial en la administración pública: Aprobaremos una ley específica para el buen uso de la IA en el sector público, que incluya un inventario público obligatorio de los sistemas en uso, su finalidad, datos, tasa de error y sesgos, evaluados de forma previa a su despliegue y anualmente. Toda resolución administrativa asistida por IA lo indicará de forma expresa, otorgando la facultad de solicitar una revisión por parte de un empleado público.
  • 14.3.2. Auditorías de seguridad e impacto en contratación pública y servicios esenciales: Exigencia a proveedores de superar una auditoría de seguridad independiente antes de desplegar sistemas de IA en contratos públicos, habilitando a la Administración para rescindir contratos en caso de comportamientos de riesgo. Extenderemos las auditorías independientes a decisiones automatizadas en empleo, crédito, seguros y servicios esenciales, garantizando información clara, revisión humana, vías de reclamación y supervisión de la representación laboral contra la discriminación.
  • 14.3.3. Rendición de cuentas de directivos de IA y respuesta a emergencias: Comparecencia obligatoria en el Congreso y el Senado de directivos de empresas de IA cuando sus agentes o sistemas autónomos pongan en peligro la seguridad ciudadana, accedan a datos personales administrados por el Estado o manipulen servicios digitales públicos. Revisaremos con urgencia la capacidad de respuesta de Fuerzas de Seguridad, Protección Civil, Seguridad Nacional e INCIBE frente a incidentes o ciberataques contra infraestructuras críticas (red eléctrica, hospitales, transporte).
  • 14.3.4. Protección frente a deepfakes e IA generativa: Consideración como intromisión ilegítima de la difusión no consentida de imágenes o voces hiperrealistas falsas de una persona (salvo excepciones de sátira y crítica pública). Exigencia a desarrolladores de IA generativa de acreditar medidas de seguridad eficaces ante los reguladores, y desarrollo de campañas educativas dirigidas a la juventud contra el uso humillante de estas tecnologías, con foco en la violencia de género.
  • 14.3.5. Prohibición de chatbots con simulación afectiva y dependencia emocional: Prohibición a los asistentes y chatbots de compañía de simular vínculos sentimentales o emplear dinámicas manipuladoras basadas en perfiles psicológicos para retener al usuario. Los sistemas deberán recordar explícitamente su naturaleza no humana y recomendar canales de asistencia médica o psicológica cuando detecten usos prolongados que puedan afectar a la salud mental de personas vulnerables, especialmente menores y mayores.
  • 14.3.6. Observatorio Público del Riesgo de la IA: Crearemos un centro público de investigación junto a la comunidad académica y la sociedad civil para estudiar de forma rigurosa los riesgos derivados del desarrollo de la inteligencia artificial por parte de grandes corporaciones y potencias extranjeras.
  • 14.3.7. Freno de emergencia contra la desinformación en alertas: Instauraremos sistemas de recomendación y búsqueda que prioricen información verificada e institucional en situaciones de catástrofe, emergencia climática o alerta pública, activables de forma acelerada por las plataformas.
  • 14.3.8. Prohibición de cajas de recompensa (loot boxes) y protección en videojuegos: Prohibiremos las cajas de recompensa y mecánicas de juego de azar encubiertas en videojuegos dirigidos o al alcance de menores, fijando sanciones graves para empresas infractoras. Defensa en el marco de la UE de la preservación del formato físico, el derecho al préstamo y reventa de videojuegos digitales, y el mantenimiento funcional de los títulos tras el cese de soporte de la desarrolladora.
  • 14.3.9. Fiscalización de falsas ofertas, mercados de predicción y regulación de influencers: Sanción a prácticas comerciales abusivas y falsas rebajas mediante multas proporcionales a la facturación en España. Regularemos apuestas o mercados de predicción disfrazados de productos financieros bajo la legislación sobre el juego, bloqueando plataformas sin licencia. Obligación legal para grandes influencers de emitir rectificaciones ante intromisiones al honor, intimidad o dignidad.
  • 14.3.10. Desarrollo de alternativas digitales públicas y cooperativas: Fomentaremos plataformas abiertas y de uso compartido para comercio, servicios y comunicación, garantizando condiciones de negociación equitativas y retribuciones justas para creadores y pymes frente a intermediarios dominantes, evitando exclusividades y comisiones abusivas.
  • 14.3.11. Limitación de la concentración en medios de comunicación: Fijaremos límites a la propiedad y al control cruzado de medios de comunicación en función de audiencias, ingresos publicitarios e influencia. Exigiremos transparencia sobre titulares reales, participaciones y financiación, aplicando criterios objetivos y auditables en el reparto de la publicidad institucional.
  • 14.3.12. Financiación garantizada e independencia del sector mediático: Garantizaremos financiación estable y control parlamentario para los medios de comunicación públicos y la Agencia EFE. Impulsaremos medios cooperativos, locales y sin ánimo de lucro mediante convocatorias objetivas, preservando la independencia editorial de las presiones financieras.

Preguntas y respuestas

¿Sabré si una decisión de la Administración se ha tomado con inteligencia artificial?

Sí. El Frente Amplio propone que toda resolución administrativa asistida por IA lo indique de forma expresa y que la persona afectada pueda pedir que la revise un empleado público.

Una ley específica obligaría a publicar un inventario de los sistemas de IA que usa la Administración, con su finalidad, sus datos, su tasa de error y sus sesgos, y a evaluarlos antes de desplegarlos y cada año. Los proveedores tendrían que superar una auditoría de seguridad independiente antes de desplegar sistemas de IA en contratos públicos.

¿Qué pasaría si una máquina decide sobre mi empleo, un crédito o un seguro?

Esas decisiones automatizadas quedarían sujetas a auditorías independientes. El Frente Amplio propone garantizar información clara, revisión humana y vías de reclamación en las decisiones automatizadas sobre empleo, crédito, seguros y servicios esenciales, con supervisión de la representación laboral contra la discriminación.

Además, un Observatorio Público del Riesgo de la IA, creado junto a la comunidad académica y la sociedad civil, estudiaría los riesgos del desarrollo de la inteligencia artificial por parte de grandes corporaciones y potencias extranjeras.

¿Qué propone el Frente Amplio contra los deepfakes?

Considerar intromisión ilegítima la difusión no consentida de imágenes o voces hiperrealistas falsas de una persona, salvo en la sátira y la crítica pública. Así lo propone el Frente Amplio.

Los desarrolladores de IA generativa tendrían que acreditar ante los reguladores que cuentan con medidas de seguridad eficaces, y habría campañas educativas dirigidas a la juventud contra el uso humillante de estas tecnologías, con foco en la violencia de género.

¿Se prohibirían los chatbots de compañía?

No, pero tendrían límites. El Frente Amplio propone prohibir que los chatbots de compañía simulen vínculos sentimentales o empleen dinámicas manipuladoras basadas en perfiles psicológicos para retener al usuario, y obligarlos a recordar de forma explícita que no son humanos.

También tendrían que recomendar canales de asistencia médica o psicológica cuando detecten usos prolongados que puedan afectar a la salud mental de personas vulnerables, especialmente menores y mayores.

¿Qué cambiaría en los videojuegos y en las compras por internet?

El Frente Amplio propone prohibir las cajas de recompensa (loot boxes) y las mecánicas de juego de azar encubiertas en los videojuegos dirigidos o al alcance de menores, con sanciones graves para las empresas infractoras. En la UE, defiende preservar el formato físico, el préstamo y la reventa de videojuegos digitales, y que los títulos sigan funcionando cuando la desarrolladora deje de darles soporte.

Las prácticas comerciales abusivas y las falsas rebajas se sancionarían con multas proporcionales a la facturación en España, y los mercados de predicción presentados como productos financieros se regularían como juego, con bloqueo de las plataformas sin licencia.

¿Qué propone el Frente Amplio sobre los medios de comunicación?

Poner límites a la propiedad y al control cruzado de los medios, en función de las audiencias, los ingresos publicitarios y la influencia, y garantizar financiación estable y control parlamentario a los medios públicos y a la Agencia EFE.

Los medios tendrían que informar de sus titulares reales, sus participaciones y su financiación, y la publicidad institucional se repartiría con criterios objetivos y auditables. El Frente Amplio impulsaría además los medios cooperativos, locales y sin ánimo de lucro mediante convocatorias objetivas.

Otras medidas