La crida va arribar de Silicon Valley. Una d’aquelles ofertes que pocs humans es permeten rebutjar. Però una filòsofa va decidir que el seu compromís amb la veritat valia més que un viatge amb tot pagat per als gegants de la Intel·ligència Artificial.
Aquesta decisió, tan valenta com inusual, ha destapat un secret incòmode: les grans tecnològiques busquen legitimar-se, no pas dialogar de veritat. Un error de càlcul que Carmody Grey va saber detectar.
Ella és Carmody Grey, teòloga i filòsofa de la Universitat Radboud. I l’empresa, la coneguda Anthropic, creadora del xatbot Claude. La seva revelació és contundent: la IA ens farà “més sols i babaus”. Una advertència que ningú pot ignorar.
La veritat incòmoda darrere de la col·laboració
Anthropic va contactar amb Grey per convidar-la a San Francisco. Volien que participés en una “col·laboració de recerca amb les tradicions de saviesa” amb l’objectiu d'”orientar la formació moral dels sistemes d’IA”. (Ens sona estrany, oi?).
Després de diverses converses, Grey va dir que no. La seva decisió va sorprendre a molts. Per què una intel·lectual rebutja una invitació així? Ella mateixa ho va explicar en un assaig al Financial Times: era una invitació a porta tancada, en el seu terreny i segons els seus termes.
Per Grey, el que importa no és la seva negativa personal. És la conquesta mundial imparable de la IA. Aquestes empreses, al cap i a la fi, “existeixen per vendre un producte”, subratlla. La seva maquinària de comunicació és sofisticada; saben com muntar un relat de serietat intel·lectual.
El problema no és la IA en si mateixa. És el que ens fa a nosaltres, les persones, i el que li fa al nostre planeta. El focus ha d’estar aquí.
La filòsofa va proposar un diàleg obert i transparent a la BBC, però Anthropic va rebutjar la seva contraoferta. Això ho diu tot. Demostra que no busquen un debat real, sinó una validació d’experts per al seu producte. Un moviment típic del seu sector.
L’agenda oculta de les grans tecnològiques
Les grans companyies d’IA volen parlar amb filòsofs i teòlegs. La versió amable diu que són intel·ligents i s’han adonat que la IA planteja preguntes existencials. Però hi ha una segona lectura, molt menys innocent.
Ells ja han decidit prèviament quines són les preguntes filosòfiques que hem de fer-nos. Preguntes que ens conviden a posar la nostra atenció en el producte. Però, segons Grey, és el focus equivocat.
Les preguntes morals i filosòfiques més urgents no són sobre la IA en si. Són sobre els seus efectes en les persones i el planeta. Sobre la concentració de poder, la difuminació de responsabilitats, l’explotació de la natura i l’apropiació de cultures i llengües.
Cal un canvi de tema. El centre no és la IA, sinó l’ésser humà. La dignitat, el patiment, les vulnerabilitats de les persones. I el que aquesta tecnologia està fent al nostre planeta. Estem segurs que volem que la conversa passi per Silicon Valley?
La gran amenaça existencial no és la IA. És el canvi climàtic i la destrucció de la natura. Si Silicon Valley segueix dominant el relat, morirem per distracció. Serem com el conductor que arreglava el quadre de comandament mentre el cotxe s’estavellava. És una urgència real.
La IA pot fer-nos perdre el sentit de la vida. No ens adonem dels costos d’oportunitat invisibles però devastadors.
Els acadèmics han de mantenir una independència real. Igual que desconfien de les petrolieres quan parlen d’energia, han de desconfiar de les empreses d’IA. No es tracta de no dialogar, sinó de fer-ho en un terreny neutral i amb preguntes que serveixin al bé comú.
El cost Silenciós de la Comoditat Digital
Grey evita els xatbots. Els fa servir molt de tant en tant, només per traduir alguna cosa si no té ningú a mà. La seva postura és clara: l’ús rutinari d’aquestes tecnologies ens fa perdre capacitats.
Imagina un robot que ho fes tot per tu. Poc a poc, perdries les teves habilitats físiques. Molts usos de la IA tenen el mateix efecte sobre el nostre cervell i la nostra capacitat de relacionar-nos. Cada vegada estem més sols i som més babaus, un deteriorament corrosiu i subtil.
Quines relacions no estem tenint? Quins llibres no estem llegint? Quines facultats nostres s’estan morint per manca d’ús? És un cost invisible però demolidor. La vida humana està feta de relació: amb els altres, amb la natura, amb nosaltres mateixos.
Aquestes relacions són la clau de la plenitud. La IA les posa en risc. Hem de tenir una conversa imprescindible sobre com ajudar que aquestes relacions floreixin. És la nostra responsabilitat, no només dels filòsofs.
