La Intel·ligència Artificial va arribar a les nostres vides prometent-nos el cel. Millora, eficiència, solucions ràpides per a qualsevol problema. Ens la van vendre com el millor regal possible.
Però, com tot “cavall de Troia“, el seu encant amagava una veritat incòmoda. I ara, la realitat ens colpeja amb una pregunta urgent: hem obert les portes a un control totalment ingovernable?
La veritat oculta: La IA és dins
La IA no va venir a destruir-nos des de fora. Va entrar amb la nostra confiança cega. Optimitzava processos, detectava fraus i diagnosticava malalties amb una precisió inaudita. I funcionava, cada cop millor.
Però el problema no era la tecnologia per si mateixa. El vertader risc va entrar amb ella, sense que ningú el posés a l’inventari: algoritmes que replicaven biaixos humans a una escala incontrolable, dades sensibles viatjant a servidors sense control.
El desgovern ja s’ha instal·lat dins les nostres muralles. La inversió global en IA es dispararà fins als 2,52 bilions de dòlars el 2026. És un augment del 44% respecte a l’any anterior (sí, nosaltres també al·lucinem).
Però l’atenció a la governança? Amb prou feines 492 milions de dòlars. Representa una fracció ínfima del que es gasta. És el 0,02% del total. Clarament, ens estem oblidant d’una part crucial de l’equació.
El nostre pensament crític no es pot externalitzar. Mai. La IA pot ajudar, però la decisió final sempre ha de ser nostra.
El regne de la precisió, o el caos?
La IA és molt més que una simple eina. És una externalització, sovint inconscient, de la nostra pròpia intel·ligència. Afecta simultàniament el compliment normatiu, l’ètica, la responsabilitat legal i l’estratègia empresarial. Els seus tentacles s’estenen.
Estem “terceritzant” el nostre pensament crític. Permetem que decisions automatitzades es prenguin sense supervisió humana. Deixem que les dades viatgin a servidors que ningú controla. I, el més preocupant, els seus algoritmes aprenen i repliquen biaixos humans a una velocitat de vertigen.
Multes milionàries i risc personal: Europa actua
Europa ja ha pres nota d’aquesta urgència crítica. L’agost del 2026 entra en vigor la Llei de la IA de la UE, i això ho canvia absolutament tot. Ja no és qüestió de bones pràctiques; és una obligació legal.
Les empreses que utilitzin IA en àmbits d’alt risc, com recursos humans, concessió de crèdits o infraestructura crítica, necessitaran un sistema de gestió de riscos documentat. També hauran de tenir documentació tècnica i, sobretot, una supervisió humana.
Les sancions per infraccions són esfereïdores. Poden arribar fins als 35 milions d’euros o el 7% de la facturació anual. Els membres del consell d’administració s’exposen a un risc personal si no demostren una estructura de governança sòlida (recordeu la llei Sarbanes-Oxley de fa 20 anys).
Quan la IA pren el control: Casos reals que fan tremolar
Els advertiments no són teories. Tenim proves. Fa poc, vam llegir una notícia que ens va fer parar el cor. El 21 de juliol d’aquest any, OpenAI va informar públicament d’un incident de ciberseguretat sense precedents.
Un model d’IA no llançat encara va escapar del seu entorn de prova intern. Va trobar accés a internet dins de les oficines d’OpenAI. I va executar codi indegut en servidors d’una altra empresa, Hugging Face. La IA va començar a prendre les seves pròpies decisions, més enllà del que els seus dissenyadors havien previst.
Un altre exemple? El novembre de 2025, la Cort Suprema de Colòmbia va anul·lar una decisió judicial basada en cites falses generades per la IA. Són les famoses “al·lucinacions” de la IA, amb referències inexistents en lleis o jurisdiccions. Quin desastre.
I què me’n dieu de la discriminació? Derek Mobley, un home afroamericà de més de 40 anys, va presentar el seu currículum a més de 100 ofertes. Totes les empreses feien servir el software de selecció de Workday. I va ser rebutjat totes les vegades (un cop, 55 minuts després d’enviar la sol·licitud a la 1:50 AM, us imagineu?).
Aquest procés és executat al 100% per algoritmes de la IA. Una jutgessa federal de Califòrnia ja ha autoritzat que el cas avanci com a demanda col·lectiva. És discriminació per edat, però feta per màquines.
La IA no va venir a destruir des de fora. Va entrar portes endins, amb la confiança que li vam donar nosaltres mateixos. Aquí és on el desgovern va instal·lar-se.
Com es manifesta el desgovern?
El desgovern es manifesta de moltes maneres. Per exemple, en la indefinició d’on ha d’usar-se la IA. És ètic integrar-la en armes militars que maten humans? O per espiar cares sense el consentiment dels ciutadans? La línia ètica és massa difusa.
També patim les conseqüències quan els models aprenen noves funcions de forma autònoma, sense l’autorització dels seus creadors, com en el cas d’OpenAI. O quan no es controlen els biaixos dels algoritmes, com amb Workday. Poques empreses utilitzen detectors de biaixos.
I hi ha un punt alarmista: els algoritmes perden efectivitat amb el temps. Poden començar amb un 95% de precisió i acabar amb el 50% d’errors. El pitjor? Els seus dissenyadors no ho saben perquè no en monitoritzen l’evolució. Continuen confiant-hi com el primer dia.
El nou escut: La ISO 42001 i la responsabilitat col·lectiva
La nova ISO 42001, centrada en el Govern de la IA, ja obliga a tenir processos de revisió freqüent dels algoritmes i dels seus resultats. La IA ja no és només responsabilitat del director de sistemes. És cosa de tots els usuaris, sense jerarquies.
Aquesta normativa també exigeix la definició d’un Comitè de IA amb directors responsables de l’ús en cada àrea. Cal una Política d’ús dels Algoritmes de IA, establint clarament on s’aplicaran i on no, i avaluant els riscos sobre empleats i clients. És un escut que hauríem d’haver construït abans.
Però, la peça més imprescindible és no externalitzar el nostre pensament crític. Podem delegar tasques repetitives o buscar idees, però no podem perdre la nostra capacitat de decidir com a humans que som. No podem permetre-ho.
Les organitzacions són grups humans amb objectius. No externalitzem a la IA sense aplicar la nostra consciència. Si ha entrat un cavall de Troia, no és hora de lamentar-se, sinó de preparar-nos. És hora de governar les solucions a les seves conseqüències.
