La tecnologia avança a un ritme que sovint desborda la capacitat de comprendre-la i la intel·ligència artificial és un dels exemples més evident: una creació humana que, paradoxalment, obliga a repensar què vol dir crear. Una eina que recorda la importància de garantir que la innovació no avanci més de pressa que la reflexió ètica que l’ha d’acompanyar. Carme Torras, doctora en informàtica, investigadora científica i especialista en intel·ligència artificial i robòtica, és la cap del Grup de Percepció i Manipulació Robotitzada, Institut de Robòtica i Informàtica Industrial (CSIC-UPC). Al llarg de la seva trajectòria s’ha centrat en la investigació de robòtica intel·ligent i social; però també ha estat compromesa amb la promoció de la tecnoètica. L’any 2008 va publicar La mutació sentimental una novel·la de ciència-ficció on explorava com la tecnologia canviarà els sentiments humans en el futur. Amb aquesta obra, traduïda a l’anglès per MIT Press, Torras va obtenir, entre d’altres, el Premi Manuel de Pedrolo en ciència-ficció. El 2024 la Generalitat de Catalunya li va atorgar la Creu de Sant Jordi. El 2025 la qüestió de l’ètica en la tecnologia continua més present que mai, una temàtica que s’ha tractat en l’AI Congress Barcelona que ha tingut lloc aquesta setmana a la capital catalana on Torras ha parlat sobre com ha de ser el desenvolupament tecnològic del futur.
Gran part de la seva trajectòria, tant científica com literària, ha estat centrada en treballar la part social de la tecnologia i la intel·ligència artificial. Com pot ser ètica la IA?
L’ètica no és una cosa de les màquines o de la intel·ligència artificial, és una disciplina de les persones; per tant, s’ha de dissenyar de manera que se’n pugui fer un ús ètic. Per això és molt important la formació ètica de les persones, sobretot que desenvolupen les tecnologies, i que després donen la possibilitat als usuaris que també s’han de formar en el seu bon ús, per utilitzar-les correctament i en favor de les persones i de la societat en general. Perquè hi hagi ètica calen aquests dos components: formació per part dels que desenvolupen i formació en els que la usen, i per descomptat la regulació a nivell de les administracions.
Per part de qui desenvolupa aquesta tecnologia, creu que les empreses que ara mateix estan treballant en les eines d’intel·ligència artificial mantenen aquesta ètica?
Les empreses el que volen, sobretot, és guanyar diners; però és veritat que la Unió Europea ha fet un esforç molt gran en regular-ho amb l’AI Act, que qualifica les diferents aplicacions d’intel·ligència artificial en termes de nivells de risc. Amb els riscs més alts, hi ha una prevenció més gran, òbviament, i a nivells més baixos, menys. I ja s’està popularitzant el fet de tenir un segell d’ètica i de bones pràctiques. Crec que a la llarga la majoria d’empreses optaran per aquest distintiu perquè a ciutadania també preferirà confiar en la tecnologia desenvolupada amb aquest segell ètic.
Les tecnologies digitals requereixen una normativa específica d’altres tecnologies. Fins i tot s’està parlant d’adaptar, o estendre, els drets humans a drets humans digitals, i aplicar-los a aquesta nova esfera.
A part de l’ètica del desenvolupador i del paper que juga la regulació, també ha destacat la formació dels usuaris per fer servir aquestes eines. Creu que qui usa les eines d’intel·ligència artificial ho fa amb cert compàs moral?
Crec que les persones, sobretot els joves, no són massa conscients de la dependència en intel·ligència artificial. Les persones adultes i ja formades han après a fer certs processos d’una altra manera, però els joves i els nens són un dels temes que més em preocupen pel que fa a la pèrdua de capacitats humanes per delegació a la intel·ligència artificial, o a les màquines en general.
En delegar tant en aquestes tecnologies es poden deixar d’aprendre determinades capacitats com l’empatia, per exemple. Si no s’interacciona amb amics que tenen una experiència vital important, i només es tenen amics virtuals es poden perdre aquestes habilitats.
Quan vaig escriure la meva novel·la, La mutació sentimental, fa més de quinze anys, ja estava preocupada per aquest tema. En el llibre es veu molt clar com en el futur seria possible que es perdessin aquest tipus de capacitats com la comprensió o l’admiració, tota la part sentimental que és el que ens fa humans, en definitiva. Crec que actualment està passant una mica, i li hauríem de posar remei.
Per no perdre la part humana també s’ha de ser conscient de quin ús es fa d’aquestes eines. Cal més formació en IA per als usuaris de la mateixa manera que s’aprèn d’informàtica?
Completament. La regulació per part de les administracions em sembla molt bé, però la formació em sembla més important encara.
Cal fer-ne un bon ús. Igual que moltes persones han perdut la capacitat de càlcul, perquè es fa amb la calculadora, o de l’ortografia, perquè hi ha el corrector, ara amb eines com ChatGPT i tantes altres que n’hi ha que gairebé pensen per nosaltres, podem arribar a perdre la capacitat de pensar.
Les relacions que tenim ens modelen, i si només ens relacionem amb la tecnologia tot el dia, aquesta ens formarà, ens acabarà canviant el cervell i el que és ser humà. Estem en un moment clau per decidir i adquirir consciència d’on estem i cap a on volem anar, quin futur volem enfocar.
Sobre aquest futur que es dibuixa amb l’ús que es fa de les tecnologies i de la intel·ligència artificial, cap a on es tendeix a enfocar la realitat?
Quan es fa prospectiva per parlar dels escenaris de futur que es plantegen amb la IA normalment se n’anomenen cinc. Hi ha un ventall de possibilitats, des de l’extinció de l’espècie humana superada per les màquines, un futur de desigualtats, un d’utòpic on la IA millora radicalment la vida humana, un altre on es farà una regressió perquè la intel·ligència artificial resulta insostenible energèticament o econòmicament, i la societat torna enrere tecnològicament, o un cinquè que és la posició més intermèdia i d’evolució gradual en la que jo crec. Igual que que hi ha hagut la revolució agrària, la revolució industrial, i va haver-hi una revolució amb internet, ara estem en una revolució de la intel·ligència artificial. Quan sapiguem com utilitzar-ho de la manera correcta s’incorporarà a les nostres vides com ha passat en les altres ocasions.
Crec que és l’evolució natural i seguirem les pautes que s’han seguit al llarg de la història. Però potser m’equivoco. Tot i això, jo crec que la tecnologia pot aportar molt i crec que en sabrem fer un bon ús.
