La Unió Europea ha aconseguit un pas decisiu cap a la regulació de la intel·ligència artificial, arribant a un acord provisional sobre la Llei d'Intel·ligència Artificial també Llei AI. Aquest acord promet establir noves bases normatives, que influeix no només en els estats membres de la UE, sinó també en les polítiques globals d'IA.
L'acord provisional sobre la Llei d'IA: un nou horitzó per a la Intel·ligència Artificial
Després negociacions intenses, Brussel·les anuncia a Acord provisional sobre la Llei d'AI, una iniciativa que podria marcar un punt d'inflexió en la gestió de la intel·ligència artificial a Europa i més enllà. Aquest acord té com a objectiu establir un conjunt complet de normes per regir l'ús de la IA, amb possibles repercussions internacionals.
La nota de premsa destaca els detalls lligams per a sistemes d'IA "d'alt impacte", incloses avaluacions de riscos, proves adversàries, informes d'incidents i molt més. També es requereix transparència a través de la creació de documents tècnics detallats i resums sobre els continguts utilitzats per a la formació, una pràctica encara no adoptada per empreses com OpenAI, creadora de ChatGPT.
Un aspecte crucial és el dret dels ciutadans a presentar queixes sobre sistemes basats en IA i obtenir explicacions sobre les decisions sobre sistemes d'"alt risc" que afecten els seus drets. Tot i que encara no s'han finalitzat els detalls específics, la declaració esmenta un marc per sancions en cas d'incompliment de les normes, variable en funció de la gravetat i la mida de l'empresa.
Les aplicacions prohibides per la Llei d'IA inclouen l'ús d'IA per capturar imatges facials de càmeres de vigilància, categorització basada en característiques "sensibles", com ara raça, orientació sexual, religió o creences polítiques, el reconeixement de les emocions en l'àmbit laboral o escolar, o la creació de sistemes de “puntuació social”. Les normes també inclouen una llista d'excepcions per a l'ús de sistemes biomètrics per part de les forces de l'ordre.
S'espera que s'arribi a un acord definitiu a finals d'any, però probablement la llei no ho farà entrarà en vigor abans del 2025. L'acord actual segueix el primer esborrany de la Llei d'IA de 2021, que tenia com a objectiu definir què és realment la IA i sincronitzar les regles per a la seva regulació entre els estats membres de la UE. Les revisions posteriors van ser motivades per la introducció d'eines d'IA generativa que canvien ràpidament, com ara ChatGPT i Stable Diffusion (per anomenar les dues models lingüístics més estesa).
La regulació de monitorització biomètrica en temps real i models d'IA de propòsit general com el ChatGPT d'OpenAI ha estat divisió. Aquestes qüestions, encara en debat aquesta setmana, van retardar la roda de premsa per anunciar l'acord.
