ProhibitArt. 5 · Cap. IIVigent · 2 de febrer del 2025
Pràctiques de risc inacceptable. Estan prohibides: no es poden introduir al mercat, posar en servei ni utilitzar.
Reglament (UE) 2024/1689
Etiquetes d’ús del Reglament d’IA
El Reglament no enganxa una adhesiu de color a cada eina. Classifica pràctiques i sistemes per risc, i imposa etiquetes de transparència concretes a l’article 50. Aquí hi ha les dues capes, amb la redacció del Reglament.
Les quatre etiquetes de risc
ProhibitArt. 5 · Cap. IIVigent
Pràctiques de risc inacceptable. Estan prohibides: no es poden introduir al mercat, posar en servei ni utilitzar.
Alt riscArt. 6 y anexo IIIDes del 2027
Sistemes que poden afectar la salut, la seguretat o els drets fonamentals. En educació, l’annex III, punt 3, enumera quatre usos.
TransparènciaArt. 50Vigent
Obligacions de transparència i etiquetatge: informar que s’interactua amb una IA, marcar contingut sintètic i revelar ultrasuplantacions.
Risc mínimArt. 4Vigent
La majoria de sistemes. El Reglament no imposa requisits específics, llevat de l’alfabetització en IA de l’article 4 quan hi ha un responsable del desplegament.
Alt riscArt. 6 y anexo IIIPendent · 2 de desembre del 2027
Sistemes que poden afectar la salut, la seguretat o els drets fonamentals. En educació, l’annex III, punt 3, enumera quatre usos.
TransparènciaArt. 50Vigent · 2 d’agost del 2026
Obligacions de transparència i etiquetatge: informar que s’interactua amb una IA, marcar contingut sintètic i revelar ultrasuplantacions.
Risc mínimArt. 4Vigent · 2 de febrer del 2025
La majoria de sistemes. El Reglament no imposa requisits específics, llevat de l’alfabetització en IA de l’article 4 quan hi ha un responsable del desplegament.
Etiquetes de transparència de l’article 50
Aquestes són les etiquetes que el Reglament anomena de debò. S’apliquen des del 2 d’agost del 2026. Art. 50 (Font oficial)
- Art. 50(1)Proveïdors
Estàs interactuant amb un sistema d’IA
Els sistemes destinats a interactuar directament amb persones físiques s’han de dissenyar de manera que aquestes persones sàpiguen que interactuen amb una IA, llevat que resulti evident per a una persona raonablement informada, atenta i perspicaç, segons el context. No s’aplica a certs sistemes autoritzats per detectar, prevenir, investigar o perseguir infraccions penals.
A l’aula. Un tutor conversacional, un xatbot de secretaria o un assistent al campus virtual ha de deixar clar a l’alumnat que no parla amb una persona. Molts proveïdors ja ho fan; el centre, com a responsable del desplegament, ho ha de comprovar.
- Art. 50(2)Proveïdors (inclosos sistemes d’IA d’ús general)
Contingut sintètic: marcatge llegible per màquina
Els proveïdors de sistemes que generen contingut sintètic d’àudio, imatge, vídeo o text han de marcar les sortides en un format llegible per màquina i detectable com a generat o manipulat artificialment, en la mesura que sigui tècnicament possible. No s’aplica quan el sistema només assisteix una edició estàndard o no altera substancialment les dades d’entrada, ni a certs usos d’investigació penal.
A l’aula. Quan el centre o el docent genera imatges, àudio o vídeo amb una eina, el marcatge l’ha de fer el proveïdor. El docent no ha d’inserir un codi ocult, però sí que ha de triar eines que compleixin i no esborrar el marcatge a propòsit.
- Art. 50(3)Responsables del desplegament
Avís de reconeixement d’emocions o categorització biomètrica
Qui desplega un sistema de reconeixement d’emocions o de categorització biomètrica ha d’informar les persones exposades i tractar les dades personals d’acord amb l’RGPD i normes connexes. En centres educatius, inferir emocions està prohibit (art. 5(1)(f)): no hi ha etiqueta que ho «blanquegi». L’art. 50(3) s’aplica als usos que sí que són permesos (per exemple, motius mèdics o de seguretat, o altres contextos fora de l’aula).
A l’aula. No es pot «avisar i llestos» per mesurar emocions a classe. L’etiqueta de l’art. 50(3) no substitueix la prohibició de l’art. 5.
- Art. 50(4)Responsables del desplegament
Això és una ultrasuplantació / text generat per IA
Qui desplega un sistema que genera o manipula imatge, àudio o vídeo que constitueixi una ultrasuplantació (deep fake) ha de revelar que el contingut ha estat generat o manipulat artificialment. Si forma part d’una obra manifestament artística, creativa, satírica o de ficció, n’hi ha prou amb una revelació adequada que no n’impedeixi el gaudi. Qui publica text generat o manipulat per informar el públic sobre afers d’interès públic ho ha de revelar, llevat de revisió humana amb responsabilitat editorial.
A l’aula. Una foto hiperrealista d’un personatge històric, la veu clonada d’una autora o un vídeo «del director» generat amb IA s’han de revelar com a artificials. Un comunicat del centre redactat amb IA i publicat per informar les famílies s’ha de revelar, llevat que una persona n’assumeixi el control editorial.
La informació dels apartats 1 a 4 es proporciona a les persones físiques de manera clara i discernible, com a tard en el moment de la primera interacció o exposició, i ha de complir els requisits d’accessibilitat aplicables (art. 50(5)).
Tres icones de la UE per descarregar
La Comissió va publicar tres icones opcionals per revelar ultrasuplantacions i cert text d’interès públic (art. 50(4)). Són gratuïtes i no exigeixen atribució. Fer-les servir no equival, per si sol, a complir: cal revelar de manera clara i discernible, com a tard en la primera exposició. Les proves d’usuari van millorar quan la icona anava amb una frase (p. ex. «modificat»). Icones de la UE per a l’etiquetatge (Font oficial)
Les icones són opcionals. L’obligació d’etiquetar, quan s’aplica, no ho és.
AI
Icona bàsica
Quan la IA ha intervingut en un deepfake (imatge, àudio o vídeo) o en un text publicat, o quan s’afegeix una etiqueta de text pròpia o una segona capa interactiva.
A l’aula. Un vídeo de classe amb «veus generades amb» seguit de la icona. És el comodí: gairebé mai no va sola.
AI GENERATED
Totalment generat per IA
Quan tot el contingut (imatge, àudio, vídeo o text) està generat per IA, sense elements creats per una persona ni control editorial humà més enllà del prompt.
A l’aula. Una il·lustració o una locució feta enterament amb un model, o un resum d’actualitat generat i publicat sense revisió editorial.
AI MODIFIED
Parcialment modificat per IA
Quan un original humà es modifica parcialment amb IA i el resultat és un deepfake o un text d’interès públic.
A l’aula. Una foto real del pati amb el cel o un rostre canviat per IA; un retrat històric al qual s’ha afegit un fons sintètic.
Marques d’aigua i marcatge de les sortides
L’article 50 distingeix dues capes que sovint es confonen. El marcatge ocult, llegible per màquina, és obligació del proveïdor (art. 50(2)). La revelació visible —«això és una ultrasuplantació», «aquest text s’ha generat amb IA»— és obligació de qui desplega (art. 50(4)). Un centre no compleix el 50(4) perquè l’arxiu «ja porti marca d’aigua».
- Art. 50(2)Proveïdor
Marcatge llegible per màquina
Qui introdueix al mercat un sistema que genera àudio, imatge, vídeo o text sintètics ha de marcar les sortides de manera detectable per màquina, en la mesura que sigui tècnicament possible. No cobreix la mera edició estàndard ni les alteracions no substancials. Els sistemes ja al mercat abans del 2 d’agost de 2026 tenen termini fins al 2 de desembre de 2026 (Òmnibus).
- Art. 50(4)Responsable del desplegament
Revelació visible
Qui usa el sistema sota la seva autoritat ha de revelar les ultrasuplantacions (imatge, àudio o vídeo) i el text generat per informar el públic sobre afers d’interès públic, llevat de revisió humana amb responsabilitat editorial. Al centre: el docent o l’equip directiu, no el model.
La Comissió va impulsar un codi de pràctiques voluntari sobre transparència del contingut generat per IA. Adherir-s’hi no substitueix l’article 50, però la Comissió i el Comitè d’IA el consideren un instrument adequat per demostrar el compliment del marcatge i la revelació. Anthropic ha signat la secció 1 (proveïdors). Código de prácticas · art. 50(2) (Font oficial)
Documentación del proveedor · no es el Reglamento
Què fa Claude (exemple d’adopció de l’art. 50(2))
Anthropic declara que ha signat el codi de l’art. 50(2) com a proveïdor de models i de sistemes. Els models Claude llançats a la UE a partir del 2 d’agost de 2026 marquen des del primer dia: una marca d’aigua imperceptible teixida en el text, i metadades de procedència signades (estàndard C2PA) en arxius compatibles (.png, .jpg, .svg). S’aplica arreu del món, no només a la Unió. Els models anteriors són en transició. La detecció és en vista prèvia privada: inclou, segons el proveïdor, organitzacions educatives. Centre d’ajuda de Claude (Font oficial)
- Un positiu indica que Claude ha processat el contingut; no prova que Claude en sigui l’autor original (pot haver servit per corregir, traduir o resumir un text aliè).
- Un negatiu no prova que el text sigui humà: models anteriors al marcatge, textos curts, parafraseig fort, captura de pantalla o conversió de format poden esborrar la marca.
- La marca de text pot sobreviure a un copiar i enganxar i a una edició lleugera; no a una reescriptura substancial. Les metadades C2PA es perden en fer una captura o en exportar a un format que no les conserva.
- A l’aula, la marca invisible no substitueix la revelació visible de l’art. 50(4) ni serveix, per si sola, per acusar de plagi. No és una prova concloent.