La tecnologia ha aconseguit fer més del que ens podia imaginar fa una dècada. Des d’imatges generades amb ordinadors a vídeos de llocs completament imaginaris tant reals com els carrers de Barcelona. La intel·ligència artificial -aquella eina que es temia en les pel·lícules de ciència-ficció per la seva proximitat a la intel·ligència humana- ha provat ser una font de coneixement, entreteniment i innovació insaciable, el que ha posat els governs contra les cordes per buscar la manera de controlar-ne l’acceleració; i ho han aconseguit. El Parlament Europeu ha donat llum verda a la nova llei de la intel·ligència artificial. Després de mesos d’esborranys i negociacions el veredicte no ha estat gens ajustat i més de cinc centenars d’eurodiputats han votat a favor d’aquesta nova norma, que serà la primera d’aquest tipus en tot el món. D’ençà que la tecnologia va començar a avançar ràpidament, des de la UE ja es reclamava una manera de poder controlar tota l’activitat, però sense parar-ne el creixement.
Equilibri ha estat la paraula amb la qual s’ha definit la norma, ja que gira entre dos eixos molt importants: la necessitat de continuar innovant i la seguretat dels ciutadans. De fet, tal com ho explica la mateixa nova llei, la innovació és una part clau a conservar i, per tant, cal tenir molt en compte no tallar les ales de les empreses: “La IA Act adreça aspectes relacionats amb la innovació, per fer-la compatible amb els drets digitals en aquest nou marc regulador”, explica la secretària de Polítiques Digitals del Govern, Gina Tost, que assegura que “contempla una mena de segell de qualitat per fomentar la confiança dels usuaris, i de la ciutadania en general i, per tant, enfortir la seva competitivitat a escala global”. Així doncs, el Parlament Europeu veu el text prou madur per posar-lo en pràctica i només falta la ratificació del Consell de la UE per fer-ho possible. Tot i això, l’aplicació definitiva encara haurà d’esperar perquè no serà aplicable fins a dos anys de la seva entrada en vigor que es produirà passats 20 dies de la seva publicació. “D’entrada és una norma bona i necessària, però caldrà veure com es desenvolupa”, explica Xavier Urios, cap d’assessoria jurídica de l’Autoritat Catalana de Protecció de Dades (APDCAT), qui remarca, però que “ha arribat tard” i, en conseqüència, “s’ha volgut concretar massa de pressa”.
El punt d’inflexió d’aquesta norma fou el 20 de desembre, quan el Consell de la UE va sortir a anunciar que hi havia un acord per començar la implementació de la nova llei. Després d’unes 40 hores de negociacions, els països es van acabar comprometent amb el text que posava com a prioritat la seguretat de la societat, però sense posar en perill la innovació empresarial en aquest camp. És per això, que la norma constitueix en una escala dels graus de risc de les accions. Com més arriscada sigui la innovació, més vigilada estarà i, si escau, més de pressa serà eliminada o sancionada. Tal com anuncia la Comissió Europea, hi ha quatre graus de risc, que van des del més lleuger, que podria ser la IA que s’utilitza en els anuncis personalitzats fins a la més complicada de controlar, com és aquella que implica alguna classe de manipulació de la conducta humana.
La nova normativa pivota sobre els principis ètics que s’han anat modelant a mesura que la tecnologia ha anat avançant. D’aquesta manera, la llei engloba tots i cadascun dels riscos per a la seguretat moral de la ciutadania, així com perpetua la protecció de les persones davant decisions que poden prendre les màquines entrenades amb algoritmes poc precisos. Per exemple, aquesta llei regularà els biaixos de les eines de reclutament de personal o les respostes de xatbots que no s’assimilin a la realitat. Tal com ho descriu Tost: “la legislació diu que caldrà fer públiques les dades que s’utilitzen per entrenar els sistemes, i això és rellevant, entre altres coses, perquè es podran identificar aquelles dades que no tenen el consentiment o que tenen drets d’autor”. A més, també controlarà la intervenció d’aquesta classe de tecnologia en diferents àmbits legals, com per exemple en processos judicials o controls fronterers. “Tot i que la normativa tingui en compte el benestar social i la innovació també caldrà que atorgui prou control a les institucions adients perquè puguin fer-la complir”, explica Urios.
ChatGPT i reconeixement facial són les estrelles de la norma
La norma arriba en un moment en què hi ha dues grans qüestions ètiques relacionades amb l’ús de la intel·ligència artificial sobre la taula. La primera és la regulació del ChatGPT, l’eina que ha canviat per sempre la manera de conversar que tenim amb els xatbots i, sobretot, la recerca d’informació. El producte creat per l’empresa americana OpenIA, haurà de passar alguns controls de qualitat i caldrà que quedi molt clar que no utilitza ni esbiaixa la informació d’acord amb els algoritmes i estímuls que rep. En altres paraules, la llei obliga a regular que les respostes del xat siguin fidedignes i contrastades. “Davant d’una realitat tan canviant i modernitzada cal que ens protegim dels possibles riscos que hi ha”, alerta el cap d’assessoria jurídica de l’APDCAT.
La protecció de les dades biomètriques també és una altra qüestió que preocupa cada vegada més a mesura que s’accelera la innovació en tecnologia. D’aquesta manera, un dels punts que més controvèrsia va portar de la llei fou l’ús del reconeixement facial -sense permís dels ciutadans- per algunes gestions governamentals. En aquest cas, la llei ha acabat prohibint la vigilància massiva en espais públics, però permet que es puguin fer servir càmeres d’identificació biomètrica, amb autorització judicial, per qüestions com prevenir una amenaça terrorista o per localitzar i identificar una persona que hagi fet tràfic de persones o explotació sexual. Per tant, l’ús de les dades biomètriques no es podrà fer servir sense el consentiment previ de les persones, a no sé què serveixi a un mal major. Ara bé, Urios també recorda que tot i tenir el consentiment s’ha d’explicar de manera molt clara que es farà amb aquestes dades i on acabaran.
França, la pedra a la sabata de la UE
Els països de la Unió Europea no han estat d’acord en tots els passos de les negociacions, ja que la importància de la llibertat de les empreses més innovadores ha corcat algunes confiances amb la nova llei. El cas que més dur ha estat el de França, que fins a l’últim moment no ha afluixat la corda. El primer moment que es va parlar d’aquesta nova norma, França, Alemanya i Itàlia van demanar que s’alleugerissin alguns dels paràmetres, ja que temien que poguessin repercutir de manera negativa en les seves start-ups d’IA nascudes en sòl europeu, com a Mistral AI (francesa) o Aleph Alpha (alemanya). També Eslovàquia i Àustria van tenir algunes reticències al principi i van demanar més aclariments. Durant els anys s’han anat fent diferents esborranys de la normativa, però la darrera fase es va confeccionar durant la presidència espanyola del Parlament Europeu, on les tensions van créixer fins al punt que Alemanya, Itàlia i França van ajustar molt els terminis, però finalment els dos primers van cedir.
Amb tot, la nova llei ha passat per diferents trams complicats i ha posat contra les cordes a molts països, però el Parlament Europeu s’ha acabat mostrant unit davant la clara necessitat de tenir una norma que reguli el creixement actual de la intel·ligència artificial. Si bé és cert que la IA ja s’ha implementat dins algunes pràctiques quotidianes, encara hi ha marge per regular-la, perquè tal com confirma la secretària de Polítiques Digitals de la Generalitat: “És evident que la nova llei no és una regulació maximalista i no garanteix tots els drets, però és un pas molt important, sobretot pel que fa a l’avaluació dels riscos”.
