La intel·ligència artificial promet revolucionar el nostre món, una promesa que va des de cures mèdiques fins a solucions climàtiques que abans semblaven impossibles. Però darrere d’aquesta visió futurista, un dels seus grans artífexs, Bill Gates, ha aixecat la veu d’alarma. No és un tema menor, sinó una qüestió fonamental que podria determinar si aquest futur és una utopia o un autèntic problema.
I quin és, segons Gates, el punt cec que estem passant per alt mentre la IA avança a passos de gegant? La resposta és un autèntic secret a veus que podria canviar-ho tot, un error fonamental amb implicacions que ens afecten directament a nosaltres.
En un discurs contundent durant el Goalkeepers de la Fundació Gates, a Nova York, el cofundador de Microsoft va llançar un diagnòstic directe que va ressonar amb una veritat incòmoda. “No vam saber incorporar els valors humans adequats ni les formes de mantenir el nostre codi moral controlant les IA”, va afirmar Gates. Aquesta frase és una punyent revelació sobre la direcció que ha pres el desenvolupament de la IA fins ara.
Aquesta revelació no és casual. Gates va emfatitzar que la clau per a una IA veritablement beneficiosa resideix en la seva capacitat de mantenir les decisions vinculades als principis i prioritats de les persones. (Sí, nosaltres també pensem que és obvi, però a vegades el més obvi és el més oblidat). Sense aquesta connexió ètica, estem creant sistemes que, tot i ser intel·ligents, podrien operar sense una brúixola moral, generant efectes impredictibles que afectarien el nostre dia a dia i, per extensió, a tota la societat.
Crec que el gran oblidat en el desenvolupament de la intel·ligència artificial és la integració real dels valors humans. Hem de fer que aquestes màquines entenguin què és el correcte, segons nosaltres.
La reflexió de Gates no és aïllada. Sorgeix en un moment en què algunes de les principals companyies del sector estan debatent com gestionar models cada cop més avançats i els seus riscos associats. La Fundació Gates, però, aporta un matís. Mentre molts demanen reduir el ritme, ells defensen la necessitat de regular àmbits com la ciberseguretat o el desenvolupament infantil, però alhora insisteixen que les aplicacions humanitàries de la IA continuïn desplegant-se sense fre. És una solució que equilibra precaució i progrés.
Una IA amb o sense accent humà?
Mark Suzman, el conseller delegat de la Fundació Gates, subratlla que una hipotètica paralització del progrés tècnic no hauria d’aturar els projectes destinats a estendre les eines actuals a comunitats amb accés limitat. Estem parlant de milions de persones que podrien beneficiar-se de la IA en educació, agricultura i salut, àrees on un ús intel·ligent de la tecnologia pot accelerar innovacions vitals i solucionar problemes reals (com detectar dificultats d’aprenentatge o combatre plagues agrícoles).
Aquí és on trobem un altre error crucial que el projecte de la Fundació Gates vol corregir: la escassa representació de nombrosos idiomes i dialectes en les dades utilitzades per entrenar molts models de IA generativa. (Una cosa que, sincerament, no ens havíem plantejat prou, i és un problema latent). Si la IA no entén la diversitat lingüística, tampoc entendrà les nuances culturals, i això és un problema definitiu per a la seva utilitat global.
Per combatre aquest buit cultural, la Fundació Gates ha impulsat una coalició amb 60 organitzacions, incloent-hi gegants com Anthropic, Google i la OpenAI Foundation. L’objectiu és clar: ampliar els recursos lingüístics disponibles per a la IA. Aquesta iniciativa preveu beneficiar més de 3.000 milions de persones durant els pròxims cinc anys, una xifra que, per si sola, ens indica la magnitud de l’impacte potencial.
El perill ocult de les dades esbiaixades
Les conseqüències d’utilitzar conjunts de dades poc representatius són especialment rellevants quan una eina de IA s’aplica en camps tan sensibles com l’educació, l’agricultura o la sanitat. Penseu, per exemple, en el risc que una expressió mèdica utilitzada per una dona embarassada a Malawi per indicar que ha trencat aigües, es tradueixi de forma literal i incorrecta a l’anglès per un sistema de IA. Un error així pot tenir conseqüències gravíssimes.
E.M. Lewis-Jong, consellera delegada de Mozilla Data Collective, ho explica sense embuts: bona part de les dades que entrenen els sistemes actuals provenen d’internet, i aquest material no constitueix una mostra equilibrada de la població mundial ni lingüística ni cultural. És un truc que hem de desmuntar. La solució passa per recopilar informació directament de les comunitats on existeixen aquests buits, assegurant que la veu de tothom tingui cabuda en el futur de la IA.
Google ja s’hi ha posat amb el seu Projecte Vaani, que busca recollir més de 150.000 hores d’àudio de tots els districtes de l’Índia per reflectir la riquesa dels seus dialectes. Anthropic, per la seva banda, ha reconegut les limitacions de les seves eines en nombroses llengües africanes. Amb un compromís de 1.000 milions de dòlars per a iniciatives de IA en salut, educació i agricultura, la Fundació Gates no només assenyala l’error, sinó que també posa els diners per trobar una solució definitiva.
El debat que Bill Gates ha obert és imprescindible: per desenvolupar sistemes més útils i justos, hem de decidir activament quins valors humans han d’orientar el seu comportament. És una qüestió que ens afecta a tots, no només als enginyers. Estem davant la oportunitat única de construir una IA que sigui, de veritat, per a tothom, però només si som capaços d’integrar la nostra humanitat més profunda en el seu codi. Estarem a l’altura del repte?
