Regles per a la intel·ligència artificial, els videojocs i els mitjans
El Front Ampli aprovarà una llei per a l'ús de la intel·ligència artificial a l'Administració, amb un inventari públic i revisió humana de les seves decisions.
- Publicat
- Actualitzat
Les dades clau
- Un inventari públic obligatori recolliria els sistemes d’IA que fa servir l’Administració, amb la seva finalitat, dades, taxa d’error i biaixos.
- Revisió per un empleat públic: tota resolució administrativa assistida per IA ho indicaria de manera expressa i es podria revisar a petició.
- Auditoria de seguretat independent prèvia per als proveïdors que despleguin sistemes d’IA en contractes públics.
- Prohibició de les caixes de recompensa i de les mecàniques de joc d’atzar encobertes en videojocs adreçats a menors o al seu abast.
- Finançament estable i control parlamentari per als mitjans de comunicació públics i l’Agència EFE.
Des del Front Ampli proposem una llei per a l’ús de la intel·ligència artificial al sector públic, amb un inventari públic dels sistemes i el dret a demanar que un empleat públic revisi les resolucions assistides per IA. Les decisions automatitzades sobre ocupació, crèdit o assegurances tindran auditories independents i revisió humana.
Considerarem intromissió il·legítima la difusió no consentida d’imatges o veus falses hiperrealistes d’una persona, prohibirem que els xatbots de companyia simulin vincles sentimentals i que els videojocs a l’abast de menors incloguin caixes de recompensa, i posarem límits a la concentració dels mitjans de comunicació.
El que diu el programa
- 14.3.1. Ús transparent de la intel·ligència artificial a l’administració pública: Aprovarem una llei específica per al bon ús de la IA al sector públic, que inclogui un inventari públic obligatori dels sistemes en ús, la seva finalitat, dades, taxa d’error i biaixos, avaluats de manera prèvia al seu desplegament i anualment. Tota resolució administrativa assistida per IA ho indicarà de manera expressa, i s’atorgarà la facultat de sol·licitar-ne la revisió per part d’un empleat públic.
- 14.3.2. Auditories de seguretat i d’impacte en la contractació pública i els serveis essencials: Exigència als proveïdors de superar una auditoria de seguretat independent abans de desplegar sistemes d’IA en contractes públics, i habilitació de l’Administració per rescindir contractes en cas de comportaments de risc. Estendrem les auditories independents a les decisions automatitzades en ocupació, crèdit, assegurances i serveis essencials, i garantirem informació clara, revisió humana, vies de reclamació i supervisió de la representació laboral contra la discriminació.
- 14.3.3. Rendició de comptes dels directius d’IA i resposta a emergències: Compareixença obligatòria al Congrés i al Senat dels directius d’empreses d’IA quan els seus agents o sistemes autònoms posin en perill la seguretat ciutadana, accedeixin a dades personals administrades per l’Estat o manipulin serveis digitals públics. Revisarem amb urgència la capacitat de resposta de les Forces de Seguretat, Protecció Civil, Seguretat Nacional i l’INCIBE davant d’incidents o ciberatacs contra infraestructures crítiques (xarxa elèctrica, hospitals, transport).
- 14.3.4. Protecció davant dels deepfakes i la IA generativa: Consideració com a intromissió il·legítima de la difusió no consentida d’imatges o veus hiperrealistes falses d’una persona (amb les excepcions de la sàtira i la crítica pública). Exigència als desenvolupadors d’IA generativa d’acreditar mesures de seguretat eficaces davant dels reguladors, i desenvolupament de campanyes educatives adreçades al jovent contra l’ús humiliant d’aquestes tecnologies, amb el focus en la violència de gènere.
- 14.3.5. Prohibició dels xatbots amb simulació afectiva i dependència emocional: Prohibició als assistents i xatbots de companyia de simular vincles sentimentals o fer servir dinàmiques manipuladores basades en perfils psicològics per retenir l’usuari. Els sistemes hauran de recordar explícitament la seva naturalesa no humana i recomanar canals d’assistència mèdica o psicològica quan detectin usos prolongats que puguin afectar la salut mental de persones vulnerables, especialment menors i gent gran.
- 14.3.6. Observatori Públic del Risc de la IA: Crearem un centre públic de recerca juntament amb la comunitat acadèmica i la societat civil per estudiar de manera rigorosa els riscos derivats del desenvolupament de la intel·ligència artificial per part de grans corporacions i potències estrangeres.
- 14.3.7. Fre d’emergència contra la desinformació en les alertes: Instaurarem sistemes de recomanació i cerca que prioritzin la informació verificada i institucional en situacions de catàstrofe, emergència climàtica o alerta pública, activables de manera accelerada per les plataformes.
- 14.3.8. Prohibició de les caixes de recompensa (loot boxes) i protecció en els videojocs: Prohibirem les caixes de recompensa i les mecàniques de joc d’atzar encobertes en videojocs adreçats a menors o al seu abast, i fixarem sancions greus per a les empreses infractores. Defensa en el marc de la UE de la preservació del format físic, del dret al préstec i a la revenda de videojocs digitals, i del manteniment funcional dels títols després que la desenvolupadora deixi de donar-los suport.
- 14.3.9. Fiscalització de falses ofertes, mercats de predicció i regulació dels influencers: Sanció de les pràctiques comercials abusives i les falses rebaixes mitjançant multes proporcionals a la facturació a Espanya. Regularem les apostes o els mercats de predicció disfressats de productes financers sota la legislació sobre el joc, i bloquejarem les plataformes sense llicència. Obligació legal per als grans influencers d’emetre rectificacions davant d’intromissions en l’honor, la intimitat o la dignitat.
- 14.3.10. Desenvolupament d’alternatives digitals públiques i cooperatives: Fomentarem plataformes obertes i d’ús compartit per al comerç, els serveis i la comunicació, i garantirem condicions de negociació equitatives i retribucions justes per a creadors i pimes davant dels intermediaris dominants, evitant exclusivitats i comissions abusives.
- 14.3.11. Limitació de la concentració als mitjans de comunicació: Fixarem límits a la propietat i al control creuat de mitjans de comunicació en funció de les audiències, els ingressos publicitaris i la influència. Exigirem transparència sobre els titulars reals, les participacions i el finançament, i aplicarem criteris objectius i auditables en el repartiment de la publicitat institucional.
- 14.3.12. Finançament garantit i independència del sector mediàtic: Garantirem finançament estable i control parlamentari per als mitjans de comunicació públics i l’Agència EFE. Impulsarem mitjans cooperatius, locals i sense ànim de lucre mitjançant convocatòries objectives, i preservarem la independència editorial davant de les pressions financeres.
Preguntes i respostes
Sabré si una decisió de l'Administració s'ha pres amb intel·ligència artificial?
Sí. El Front Ampli proposa que tota resolució administrativa assistida per IA ho indiqui de manera expressa i que la persona afectada pugui demanar que la revisi un empleat públic.
Una llei específica obligaria a publicar un inventari dels sistemes d'IA que fa servir l'Administració, amb la seva finalitat, les seves dades, la seva taxa d'error i els seus biaixos, i a avaluar-los abans de desplegar-los i cada any. Els proveïdors haurien de superar una auditoria de seguretat independent abans de desplegar sistemes d'IA en contractes públics.
Què passaria si una màquina decideix sobre la meva feina, un crèdit o una assegurança?
Aquestes decisions automatitzades quedarien subjectes a auditories independents. El Front Ampli proposa garantir informació clara, revisió humana i vies de reclamació en les decisions automatitzades sobre ocupació, crèdit, assegurances i serveis essencials, amb supervisió de la representació laboral contra la discriminació.
A més, un Observatori Públic del Risc de la IA, creat juntament amb la comunitat acadèmica i la societat civil, estudiaria els riscos del desenvolupament de la intel·ligència artificial per part de grans corporacions i potències estrangeres.
Què proposa el Front Ampli contra els deepfakes?
Considerar intromissió il·legítima la difusió no consentida d'imatges o veus hiperrealistes falses d'una persona, excepte en la sàtira i la crítica pública. Així ho proposa el Front Ampli.
Els desenvolupadors d'IA generativa haurien d'acreditar davant dels reguladors que disposen de mesures de seguretat eficaces, i hi hauria campanyes educatives adreçades al jovent contra l'ús humiliant d'aquestes tecnologies, amb el focus en la violència de gènere.
Es prohibirien els xatbots de companyia?
No, però tindrien límits. El Front Ampli proposa prohibir que els xatbots de companyia simulin vincles sentimentals o facin servir dinàmiques manipuladores basades en perfils psicològics per retenir l'usuari, i obligar-los a recordar de manera explícita que no són humans.
També haurien de recomanar canals d'assistència mèdica o psicològica quan detectin usos prolongats que puguin afectar la salut mental de persones vulnerables, especialment menors i gent gran.
Què canviaria en els videojocs i en les compres per internet?
El Front Ampli proposa prohibir les caixes de recompensa (loot boxes) i les mecàniques de joc d'atzar encobertes en els videojocs adreçats a menors o al seu abast, amb sancions greus per a les empreses infractores. A la UE, defensa preservar el format físic, el préstec i la revenda de videojocs digitals, i que els títols continuïn funcionant quan la desenvolupadora deixi de donar-los suport.
Les pràctiques comercials abusives i les falses rebaixes se sancionarien amb multes proporcionals a la facturació a Espanya, i els mercats de predicció presentats com a productes financers es regularien com a joc, amb bloqueig de les plataformes sense llicència.
Què proposa el Front Ampli sobre els mitjans de comunicació?
Posar límits a la propietat i al control creuat dels mitjans, en funció de les audiències, els ingressos publicitaris i la influència, i garantir finançament estable i control parlamentari als mitjans públics i a l'Agència EFE.
Els mitjans haurien d'informar dels seus titulars reals, les seves participacions i el seu finançament, i la publicitat institucional es repartiria amb criteris objectius i auditables. El Front Ampli impulsaria a més els mitjans cooperatius, locals i sense ànim de lucre mitjançant convocatòries objectives.