A la pel·lícula 2001, a Space Odissey, el supercomputador HAL es torna gairebé humà, i comença a fer la punyeta a les persones que controla. És el pitjor malson de la informàtica, i avui està a l’ordre del dia.
Fa alguns mesos que es parla molt de la Intel·ligència Artificial (IA). En bona part, té veure amb el llançament del ChatCPG el novembre de l’any passat, i la guerra comercial que ha desfermat. Bill Gates s’ha posicionat clarament a favor de les innovacions. En un article recent, el pare de Microsoft insistia que era un dels avenços més revolucionaris que mai havia vist, i al mateix temps en va rebaixar els riscos. Era com tenir un empleat qualificat al mòbil, va assegurar. No pas un assassí pervers ni un dictador en potència, sinó un administratiu avantatjat sempre a punt per servir-nos.
La cosa sembla prou interessant i inofensiva, vista des del punt de vista del magnat nord-americà. Però d’altres no ho veuen igual. Elon Musk, Steve Wozniak d’Apple i més de mil signants més han publicat un escrit demanant que es freni i es reguli el fenomen, abans no sigui massa tard. Quines són les pors que alimenten semblant advertiment? En primer lloc, no ho oblidem, la guerra comercial subjacent. Bill Gates és co-propietari de l’empresa Open IA, la qual ha desenvolupat el sistema GPT i, naturalment, defensa el que és seu. Els que van per darrere demanen, lògicament, un respir per poder-lo atrapar.
Què més? Sembla que existeix un perill real de generar atur en el sector que ha crescut més en les darreres dècades, que és el de les Tecnologies de la Informació i el Coneixement (TIC). Certament, si com diu Gates es tracta de tenir un bon empleat al costat, és obvi que les empreses començaran a estalviar personal. La IA podrà assumir moltes de les tasques que avui fan cervells humans, començant per les més mecàniques en el món de l’intel·lecte (com recopilar i ordenar informació, traduir, generar relats lineals…). Seria un problema força conegut, que es remunta com a mínim a la primera revolució industrial, quan van aparèixer els telers mecànics i tants obrers es van revoltar contra les màquines.
Era el fenomen de les anomenades revoltes luddites, que potser tornarem a experimentar aviat en versió postmoderna, tal vegada tindrem els sindicats del ram exigint la reducció de la IA, o joves tecnofreaks destrossant mòbils i pantalles d’ordinador a cop de destral. Seria entretingut. Ara bé, a data d’avui encara no s’ha detectat cap perill nou derivat de la IA. L’invent sorprèn moltíssim, és cert; però per molt que ens alertin de la seva capacitat de control i manipulació, encara no n’hem vist cap exemple convincent. Desapareixeran els programadors? Els més creatius i trencadors, no. S’extingiran els escriptors i guionistes? Els més creatius i trencadors, segur que no.
Potser ens estalviarem les feines mentalment més mecàniques, però ara mateix no cal patir per les dimensions més genials de la ment humana. Les sigles del sistema GPT volen dir Transformador Generatiu Pre-entrenat, i per tant hem d’entendre que la generació transformadora ha de ser entrenada, formada i programada. Avui encara són molt més perillosos els cervells humans, que poden ser molt imprevisibles, destructius i emocionals. En aquests moments, és impossible que la intel·ligència artificial pugui emular, ni de lluny, els riscos de l’estupidesa humana. Els humans fabriquem armes, que poden facilitar la destrucció, però que per elles mateixes les armes no porten el mòbil de la destrucció. Són instruments, com ho és la IA actual.
L’origen de tots els mals (i totes les bondats) de la condició humana descansa en la consciència. El Cogito ergo sum de Descartes és la base dels problemes. Sabem que existim, i que deixarem d’existir; això ens porta a considerar-nos desproporcionadament importants, col·lectivament i també individualment. A buscar la posteritat fent llibres o cançons o fent política. D’aquí l’imposar-se sobre la natura i sobre els nostres congèneres; d’aquí els sentiments, positius i negatius. D’aquí la necessitat de trepitjar el veí per tal d’afavorir el nostre camí. D’aquí inventar màquines que ens ajudin -però que no ens substitueixin.
La IA encara no ha travessat la frontera decisiva de la consciència. Quan la passi, si és que ho fa, potser esdevindrà el malvat HAL del film de Kubrick. Fins que el moment arribi, farem bé de tenir més pànic dels nostres veïns que dels nostres ordinadors.
2
1
