Art. 3, 4, 26 y 27
El centre com a responsable del desplegament
Un centre que utilitza un sistema d’IA sota la seva autoritat és responsable del desplegament, llevat que l’ús sigui una activitat personal no professional. El professorat que usa una eina com a part de la feina no és un «usuari privat». Els deures d’alt risc dels articles 26 i 27 s’apliquen a partir del 2 de desembre de 2027 per als sistemes de l’annex III; el deure d’alfabetització de l’article 4 s’aplica des del 2 de febrer de 2025.
Qui és qui al centre
Art. 3(3)
Proveïdor
Qui desenvolupa un sistema o un model d’IA d’ús general, o fa que es desenvolupi, i l’introdueix al mercat o posa el sistema en servei amb el seu nom o marca, a títol onerós o gratuït. A l’aula sol ser l’empresa de la plataforma, no el docent.
Art. 3(4)
Responsable del desplegament
Qui utilitza un sistema d’IA sota la seva pròpia autoritat, llevat que l’ús s’emmarqui en una activitat personal no professional. El centre educatiu que implanta una eina, i el personal que l’usa en la seva feina, actuen com a responsables del desplegament. En queda fora l’ús estrictament personal i no professional.
Art. 3(56), 86
Persona afectada
Alumnat, famílies i docents sobre els quals s’usa el sistema. Tenen dret, quan el sistema és d’alt risc i es pren una decisió, a una explicació clara i significativa del paper de la IA i dels elements principals de la decisió (art. 86).
Alfabetització en IA vigent avui
Els proveïdors i els responsables del desplegament de sistemes d’IA adoptaran mesures per promoure el desenvolupament de l’alfabetització en matèria d’IA del seu personal i d’altres persones que s’ocupin, en nom seu, del funcionament i l’ús de sistemes d’IA, tenint en compte els seus coneixements tècnics, experiència, educació i formació, el context d’ús i les persones o grups sobre els quals s’hagin d’utilitzar els sistemes. Aquesta obligació no exigeix garantir un nivell específic d’alfabetització de cada persona.
El deure és de l’organització: adoptar mesures, tenint en compte el coneixement del personal i el fet que les persones sobre les quals s’usen els sistemes sovint són menors. No exigeix certificar cada docent a un nivell determinat. Alfabetització
Deures d’alt risc del responsable (des del 2 de desembre de 2027)
Art. 26(1)
Ús conforme a les instruccions
Adoptar mesures tècniques i organitzatives per utilitzar el sistema d’alt risc d’acord amb les instruccions d’ús.
Art. 26(2)
Supervisió humana competent
Encomanar la supervisió humana a persones físiques amb la competència, la formació, l’autoritat i el suport necessaris.
Art. 26(4)
Dades d’entrada
Si el centre controla les dades d’entrada, han de ser pertinents i prou representatives per a la finalitat prevista.
Art. 26(5)
Vigilància i incidents
Vigilar el funcionament. Si l’ús conforme a les instruccions pot presentar un risc, informar sense demora indeguda el proveïdor i l’autoritat i suspendre’n l’ús. Davant d’un incident greu, informar de seguida.
Art. 26(6)
Registres (logs) almenys sis mesos
Conservar els registres generats automàticament que estiguin sota control del centre, durant un període adequat a la finalitat i d’almenys sis mesos, llevat que una altra norma disposi una altra cosa (en particular, protecció de dades).
Art. 26(7)
Informar el personal (si és el lloc de treball)
Abans de posar en servei o utilitzar un sistema d’alt risc al lloc de treball, informar els representants dels treballadors i els treballadors afectats.
Art. 26(11)
Informar les persones afectades
Si el sistema d’alt risc de l’annex III pren decisions o ajuda a prendre-les sobre persones físiques, informar aquestes persones que estan subjectes al sistema.
Art. 26(8) y 49
Registre a la base de dades de la UE (autoritats públiques)
Els responsables del desplegament que siguin autoritats públiques han de complir les obligacions de registre. Si el sistema no està inscrit, no el poden utilitzar.
Art. 27
Avaluació d’impacte en els drets fonamentals (FRIA)
Abans de desplegar un sistema d’alt risc, els organismes de Dret públic —i les entitats privades que presten serveis públics— han d’avaluar l’impacte sobre els drets fonamentals: processos i context d’ús, període i freqüència, persones afectades, riscos, supervisió humana i mesures si el risc es materialitza.