Al BOE del dia 9 de novembre, s’ha publicat el Reial decret 817/2023 que posa en marxa l’entorn controlat de proves (“sandbox”) del Reglament Europeu d’Intel·ligència Artificial.
L’informem que al BOE del dia 9 de novembre, s’ha publicat el Reial Decret 817/2023 pel qual s’habilita el Ministeri d’Assumptes Econòmics i Transformació Digital, a través de la seva Secretaria d’Estat de Digitalització i Intel·ligència Artificial, a obrir la convocatòria a empreses per participar en l’entorn controlat de proves -sandbox- del Reglament Europeu d’Intel·ligència Artificial.
Cal tenir en compte que actualment el Parlament i Consell europeus estan elaborant un Reglament d’Intel·ligència Artificial.
En aquest context, el Govern d’Espanya, amb la col·laboració de la Comissió Europea, ha posat en marxa el primer entorn controlat de proves per comprovar la forma d’implementar els requisits aplicables als sistemes d’Intel·ligència Artificial (IA) d’alt risc de la proposta de Reglament europeu d’intel·ligència artificial.
Objectiu i entrada en vigor
La norma té per objecte establir un entorn controlat de proves per assajar el compliment de certs requisits per part d’alguns sistemes d’intel·ligència artificial (IA) que puguin suposar riscos per a la seguretat, la salut i els drets fonamentals de les persones. Així mateix, es regula el procediment de selecció dels sistemes i entitats que participaran en l’ entorn controlat de proves.
L’ entorn de proves possibilita la cooperació entre els usuaris i els proveïdors d’ IA. A més, pretén acostar a les autoritats competents les empreses desenvolupadores d’IA.
L’ objectiu de la norma serà anticipar-se a les exigències que previsiblement Reglament europeu d’ IA incorporarà, per tal que, sense necessitat d’ esperar que aquest s’ aprovi, proveïdors, usuaris i autoritats comencin a analitzar i a posar en pràctica els requisits regulatoris que s’ espera que introdueixi. De fet, la norma preveu que aquest Reial decret tindrà una vigència de màxim 36 mesos des de la seva entrada en vigor (10 de novembre de 2023) o, si s’escau, fins que sigui aplicable al Regne d’Espanya el Reglament del Parlament Europeu i del Consell pel qual s’estableixen normes harmonitzades en matèria d’IA.
Àmbit d’ aplicació
La norma és d’ aplicació:
- A les administracions públiques i entitats del sector públic institucional.
- A entitats privades seleccionades en l’entorn controlat de proves d’intel·ligència artificial.
Definicions
En la norma es regulen les definicions, entre les quals podem destacar:
1) «Sistema d’intel·ligència artificial»: sistema dissenyat per funcionar amb un cert nivell d’autonomia i que, basant-se en dades d’entrades proporcionades per màquines o per persones, infereix com aconseguir un conjunt d’objectius establerts utilitzant estratègies d’aprenentatge automàtic o basades en la lògica i el coneixement, i genera informació de sortida, com continguts (sistemes d’intel·ligència artificial generatius), prediccions, recomanacions o decisions, que influeixin en els entorns amb què interactua.
2) «Sistema d’intel·ligència artificial d’alt risc»: sistema d’intel·ligència artificial que compleixi algun dels següents supòsits:
- Un sistema d’ intel·ligència artificial que constitueixi un producte regulat per la legislació d’ harmonització de la Unió especificada en l’ annex VII del present Reial decret es considerarà d’ alt risc si s’ ha de sotmetre a una avaluació de la conformitat per un tercer amb vista a la introducció en el mercat o posada en servei d’ aquest producte d’ acord amb la legislació esmentada.
- Un sistema d’intel·ligència artificial que hagi de ser utilitzat com un component que compleix una funció de seguretat i la decisió o defecte de funcionament del qual posa en perill la salut i la seguretat de les persones o els béns en un producte regulat per una norma harmonitzada de la Unió Europea, si s’ha de sotmetre a una avaluació de conformitat per part d’un tercer amb vista a la introducció en el mercat o posada en servei d’ aquest producte d’ acord amb la legislació d’ harmonització aplicable. Aquest supòsit serà aplicable, encara que el sistema d’ intel·ligència artificial es comercialitzi o es posi en servei independentment del producte.
- Sistemes d’ intel·ligència artificial esmentats a l’ annex II, sempre que la resposta del sistema sigui rellevant respecte a l’ acció o decisió a prendre, i pugui, per tant, provocar un risc significatiu per a la salut, els drets de les persones treballadores en l’ àmbit laboral o la seguretat o els drets fonamentals.
3) «Sistema d’intel·ligència artificial de propòsit general»: sistema d’intel·ligència artificial que, independentment de la modalitat en què es comercialitzi o es posi en servei, fins i tot com a programari de codi obert, està destinat pel proveïdor del sistema a realitzar funcions d’aplicació general, com el reconeixement de text, imatges i de la parla; la generació de textos, àudios, imatges i/o vídeos; detecció de patrons; resposta a preguntes; traducció i altres.
4) «Model fundacional»: és un model d’intel·ligència artificial entrenat en una gran quantitat de dades no etiquetades a escala (generalment mitjançant aprenentatge autosupervisat i/o amb recopilació automàtica de contingut i dades a través d’internet mitjançant programes informàtics) que dona com a resultat un model que es pot adaptar a una àmplia gamma de tasques posteriors.
5) «Proveïdor de sistemes d’Intel·ligència Artificial», en endavant «Proveïdor IA»: Tota persona jurídica privada, entitat del sector públic a Espanya, o organisme d’una altra índole, que ha desenvolupat o per a qui s’ha desenvolupat un sistema d’intel·ligència artificial, i que l’introdueix al mercat o el posa en servei sota el seu propi nom o marca comercial, ja sigui de forma onerosa o gratuïta. El proveïdor IA serà designat de les formes indicades a continuació segons la fase del procés en què es trobi.
- «Proveïdor IA sol·licitant»: proveïdor IA que ha sol·licitat l’admissió en l’entorn controlat de proves.
- «Proveïdor IA participant»: proveïdor IA que ha estat admès en l’ entorn controlat de proves.
6) «Usuari»: les persones jurídiques privades o les administracions públiques i entitats del sector públic institucional a Espanya sota l’autoritat de les quals s’utilitzi un sistema d’intel·ligència artificial. L’ usuari serà designat de les formes indicades a continuació segons la fase del procés en què es trobi.
- «Usuari sol·licitant»: usuari del sistema d’intel·ligència artificial que ha sol·licitat la seva admissió en l’entorn controlat de proves.
- «Usuari participant»: usuari del sistema d’intel·ligència artificial que ha estat admès en l’entorn controlat de proves i que participa juntament amb el proveïdor IA en aquest entorn.
7) «Autoavaluació de compliment»: procediment de verificació del compliment dels requisits, del sistema de gestió de la qualitat, de la documentació tècnica i del pla de seguiment posterior a la comercialització, tots ells detallats en aquest reial decret, realitzats pel proveïdor IA i en el seu cas, per l’usuari, i que pot servir com a referència per a l’avaluació de conformitat que defineix la proposta del Reglament europeu pel qual s’estableixen normes harmonitzades en matèria d’intel·ligència artificial. L’autoavaluació de compliment se circumscriu a l’àmbit d’aquest entorn, sense que suposi l’equiparació a la superació d’avaluacions de conformitat exigides en altres legislacions específiques, en particular en la proposta del Reglament europeu d’Intel·ligència Artificial.
8) «Comercialització»: tot subministrament d’un sistema d’intel·ligència artificial per a la seva distribució o utilització en el mercat de la Unió Europea en el transcurs d’una activitat comercial, ja es produeixi el subministrament de manera onerosa o gratuïta.
Requisits d’ elegibilitat per a la participació en l’ entorn
La norma estableix que la participació en l’entorn controlat de proves està oberta a aquells proveïdors IA i usuaris residents a Espanya o que tinguin un establiment permanent a Espanya, o bé, siguin part d’una agrupació d’entitats, on el representant de l’agrupació o apoderat únic sent integrant d’aquesta, sigui l’entitat sol·licitant i el domicili o establiment principal de la qual es trobi necessàriament en territori espanyol.
Atenció. Podran accedir a aquest entorn, en qualitat d’usuari participant, les persones jurídiques privades i administracions públiques i entitats del sector públic institucional que facin ús d’un sistema d’intel·ligència artificial d’alt risc, sistemes de propòsit general, o models fundacionals, sempre que el corresponent proveïdor IA accedeixi conjuntament a l’entorn amb l’usuari participant.
El proveïdor IA sol·licitant podrà presentar una o diverses propostes de sistema d’intel·ligència artificial d’alt risc, de propòsit general, o model fundacional. Aquests sistemes podran ser nous desenvolupaments o sistemes ja establerts. Alhora, aquests sistemes d’intel·ligència artificial han d’haver assolit un nivell de desenvolupament suficientment avançat com per poder comercialitzar-se o posar-se en servei dins del marc temporal de l’entorn controlat de proves o a la seva finalització. La sol·licitud es rebutjarà si el sistema d’intel·ligència artificial proposat no està prou madur.
Si s’escau, per a aquells sistemes d’intel·ligència artificial que facin ús o tractament de dades personals hauran de complir la normativa de protecció de dades.
Exclusions
Els sistemes d’intel·ligència artificial proposats pels proveïdors IA sol·licitants no podran estar inclosos en els següents supòsits:
a) Sistemes d’ intel·ligència artificial comercialitzats o posats en servei per a activitats militars, de defensa o seguretat nacional, qualsevol que sigui l’ entitat que desenvolupi aquestes activitats.
b) Sistemes d’ intel·ligència artificial que se serveixin de tècniques subliminars que transcendeixin la consciència d’ una persona amb l’ objectiu o l’ efecte d’ alterar efectivament el seu comportament d’ una manera que provoqui o pugui provocar, amb probabilitat raonable, perjudicis físics o psicològics a aquesta persona o a una altra.
c) Sistemes d’ intel·ligència artificial que aprofitin alguna de les vulnerabilitats d’ un grup específic de persones a causa de la seva edat o discapacitat o una situació social o econòmica específica amb l’ objectiu o l’ efecte d’ alterar efectivament el comportament d’ una persona d’ aquest grup d’ una manera que provoqui o pugui provocar, amb probabilitat raonable, perjudicis físics o psicològics a aquesta persona o a una altra.
d) Sistemes d’ intel·ligència artificial que tinguin la finalitat d’ avaluar o classificar persones físiques durant un període determinat de temps atenent la seva conducta social o a característiques personals o de la seva personalitat conegudes o predites, de manera que la classificació social resultant provoqui una o diverses de les situacions següents:
Un tracte perjudicial o desfavorable cap a determinades persones físiques o col·lectius en contextos socials que no guardin relació amb els contextos on es van generar o recaptar les dades originalment.
Un tracte perjudicial o desfavorable envers determinades persones físiques o col·lectius que sigui injustificat o desproporcionat respecte al seu comportament social o la gravetat d’aquest.
e) Sistemes d’identificació biomètrica remota «en temps real» per al seu ús en espais d’accés públic amb finalitats d’aplicació de la llei, excepte i en la mesura que aquest ús sigui estrictament necessari per assolir un o diversos dels objectius següents:
- La recerca selectiva de possibles víctimes concretes d’un delicte, inclòs persones menors desapareguts.
- La prevenció d’ una amenaça específica, important i imminent per a la vida o la seguretat física de les persones físiques, per a infraestructures crítiques, o un atemptat terrorista.
- La detenció, la localització, la identificació o l’enjudiciament de la persona que ha comès o se sospita que ha comès algun dels delictes esmentats a l’article 2, apartat 2, de la Decisió marc 584/2002/JAI del Consell, per al qual la normativa en vigor a l’Estat membre implicat imposi una pena o una mesura de seguretat privatives de llibertat la durada màxima de les quals sigui almenys tres anys, segons determini el Dret d’ aquest Estat membre.
Informe i procediment
Prèvia a la finalització, tant dels proveïdors IA participants com dels usuaris participants, lliuraran un informe a la Subdirecció General d’Intel·ligència Artificial i Tecnologies Habilitadores Digitals.
El contingut de l’ informe anterior s’ indicarà a les guies que ofereixi l’ òrgan competent. Les entitats que hagin completat les fases de l’ entorn controlat de proves rebran un document acreditatiu de la seva participació en el mateix juntament amb un informe de valoració dels resultats obtinguts.
L’ òrgan competent podrà obrir noves convocatòries en el futur.
Quan l’ òrgan competent consideri que l’ entorn controlat de proves ha complert amb l’ objecte indicat en el present Reial decret podrà determinar la finalització d’ aquest i emetrà un comunicat públic a tal efecte en el portal web de l’ òrgan competent.
El proveïdor IA i, si s’ escau, l’ usuari, podran demanar, mitjançant comunicació a l’ òrgan competent a través del canal especificat a l’ article 20.3 del present Reial decret, la retirada voluntària de l’ entorn controlat de proves per motius justificats.
Un cop instruït el procediment, l’ òrgan competent resoldrà la sol·licitud de sortida voluntària de forma motivada en el termini màxim de quinze dies hàbils. Aquesta resolució posa fi a la via administrativa i el sentit del silenci administratiu serà positiu.
En el cas que el proveïdor IA participant o, si s’ escau, l’ usuari participant es retiri de l’ entorn controlat de proves, haurà de mantenir el deure de confidencialitat en els termes previstos en la resolució d’ admissió.
Així mateix, la sortida tant d’ un proveïdor IA participant com d’ un usuari participant no generarà en cap cas dret d’ indemnització ni cap compensació per part de l’ òrgan competent.
L’ òrgan competent, si així ho considera convenient per al resultat de l’ entorn, podrà cobrir la posició alliberada per la retirada voluntària amb la següent entitat que hagués demanat la participació d’ acord amb el que disposa la convocatòria.
Podrà declarar-se la finalització anticipada de les proves en l’ entorn de manera individualitzada, donant per finalitzada l’ experiència sense èxit per a aquest proveïdor IA participant o, en el seu cas, usuari participant, mitjançant resolució motivada de l’ òrgan competent en base a la concurrència d’ alguna de les següents circumstàncies:
a) S’ ha produït un incompliment del règim jurídic en la convocatòria o en la resolució d’ admissió.
b) S’ ha cessat en el compliment d’ algun dels requisits inicials per a l’ elegibilitat per a la participació en l’ entorn controlat de proves.
c) S’ ha produït un incompliment del deure de facilitar informació requerida en el marc de seguiment establert per l’ òrgan competent.
d) S’ han produït incidents greus o errors de funcionament en els sistemes d’ intel·ligència artificial.
e) S’ ha identificat un risc no previst en la memòria tècnica.
f) L‘ entitat no aporta els recursos necessaris per a implantació dels requeriments acordats en el pla d’ implantació.
g) L’ entitat no compleix amb les accions necessàries per superar la declaració de compliment.
h) Qualsevol altra circumstància que es preveiés en la convocatòria.
Una vegada s’ ha identificat alguna de les circumstàncies anteriors, l’ òrgan competent, prèvia audiència amb els participants resoldrà de forma motivada en el termini màxim de 15 dies hàbils. Aquesta resolució posa fi a la via administrativa.
Addicionalment als casos indicats, també es declararà la finalització anticipada de l’ experiència en el cas que el proveïdor IA no realitzés les actuacions que li permetin donar compliment als requisits, descrits a l’ article 11 del present Reial decret, en el termini establert a la convocatòria, deixant de formar part de l’ entorn controlat de proves previ l’ oportú procediment.
En el supòsit que el proveïdor IA participant fos obligat a abandonar l’experiència també ho hauria de fer, en el cas que hi participés, l’usuari del sistema d’intel·ligència artificial.
La finalització anticipada de l’ entorn controlat de proves no donarà lloc a cap indemnització per part de l’ òrgan competent.
L’ òrgan competent, si així ho considera convenient per al resultat de l’ entorn, podrà cobrir mitjançant resolució la posició alliberada per la finalització anticipada de les proves amb la següent entitat que hagués demanat la participació d’ acord amb el que disposa la convocatòria.
Poden posar-se en contacte amb aquest despatx professional per a qualsevol dubte o aclariment que puguin tenir al respecte.
