Durant l’última setmana, hem assistit sense gran interès o entusiasme a un intent d’induir el pànic per part dels directius de les empreses que hi ha darrere dels grans projectes d’IA nord-americans. Segons les seves afirmacions, ens apropem a un risc real d’exterminació de la humanitat que, com bons doctors Frankenstein, ells mateixos han provocat i, per tant, no queda massa clar quina resposta esperen del públic. Es veu que l’objectiu és persuadir a les autoritats a regular el seu sector, mentre que molts sospiten que es tracta d’un crit d’ajuda per evitar una imminent fallida. Sigui com sigui, l’espectacle és infantil i grotesc i, com és evident, no pot despertar la simpatia de cap persona adulta.
Personalment, em recorda la silenciosa i controlada explosió d’una bombolla que conec molt bé, la de l’e-learning. El 2021, amb la finestra d’oportunitat que obria la COVID, les firmes de capital risc invertiren quasi 17.000 milions de dòlars en el sector. Tres anys després, el 2024, la inversió fou poc més de 2.000 milions de dòlars. Una caiguda estratosfèrica que marca la fi d’una eufòria de dues dècades pel desenvolupament de productes de limitada eficàcia pedagògica amb efectes secundaris altament nocius. Al principi, tothom volia fer una travessa pel cavall guanyador i ningú dubtava dels poders miraculosos que la tecnologia i les pantalles tindrien per accelerar l’aprenentatge. En el procés conegut com a due diligence, no existia el rol d’auditor de qualitat pedagògica del producte. Sols s’estudiava la seva capacitat de produir engagement, de ser addictiu.
Ara, al contrari, els inversors volen conèixer com funciona l’aplicació, els continguts, la metodologia pedagògica i, especialment, el perill regulatori que pot tenir el producte perquè gran part d’això que s’anomena gamificació se sosté sobre la construcció de xarxes socials. L’escenari ha canviat dràsticament a conseqüència de l’experiència de la COVID, que ensorrà tot l’optimisme desbordant al voltant d’aquesta mena de tecnologies i inicià una nova etapa de més precaució i distància que, probablement, els recents resultats del test PISA no faran més que accelerar. Tanmateix, moltes de les firmes de capital risc que invertiren en aquestes companyies d’e-learning forçaren la seva sortida a borsa contra el criteri dels seus fundadors per poder rendibilitzar les seves accions abans que fora massa tard. Si el públic general era coneixedor dels problemes del sector, hi havia el perill de menjar-se la patata calenta.
Per tant, aquesta cançó em sona. Tinc la impressió que els inversos en les companyies d’IA volen sortir a borsa abans que hi hagi massa dubtes sobre la possibilitat de complir les elevadíssimes expectatives de retorn que s’han construït, mentre que els fundadors volen detenir-ho com sigui perquè s’arrisquen a una burxada que faci rodar els seus caps. La promesa dels miracles infinits s’acaba i ningú vol tenir la patata calenta entre les mans quan la música acabi de sonar. És necessari que entrin nous inversos com sigui, però no sembla que hi hagi massa voluntaris. S’han gastat quantitats ingents de diners en dissenyar un elaborat producte que no sosté un model de negoci clar i això és la recepta del fracàs per a les companyies cotitzades.
El pecat original fou la concepció de la IA com una mena d’assistent diví que havia de ser omniscient i omnímode. Sembla com si els enginyers somniaren en construir un Déu totpoderós a qui parlaríem o resaríem per obtenir tot el que desitjàrem. Comercialitzar un geni de la llàntia havia de ser un negoci segur, però al poc els usuaris s’han anat familiaritzant amb aquests productes han descobert que, bàsicament, sols poden fer quatre coses: conversar, generar continguts, analitzar dades i automatitzar tasques. Coses que ja es podien fer abans i que no queda clar si amb les IA es fan millor, amb menys errades o de forma més efectiva.
De fet, el primer xatbot, conegut com a DOCTOR i basat en el sistema ELIZA fou desenvolupat per Joseph Weizenbaum el 1966. La idea del creador era ridiculitzar l’escolta activa, una tècnica terapèutica creada per Carl Rogers, mitjançant la seva emulació informàtica. Els usuaris, que pensaven que s’escrivien amb un psicòleg, comentaven com es trobaven i el sistema parafrasejava les últimes paraules, estratagema coneguda com a mirroring, per formular una pregunta. Weizenbaum esperava que l’experiment oferiria uns resultats grollers, però serví per validar l’escolta activa: els usuaris estaven molt satisfets amb l’experiència i convençuts que el psicòleg els havia ajudat molt.
Des de llavors, als Estats Units es començà a desenvolupar tota una branca de la lingüística dirigida a la construcció de màquines persuasives que, en teoria, ens havien d’ajudar a adquirir hàbits saludables o millorar en el nostre aprenentatge. Les xarxes socials i, avui dia totes les aplicacions, es fonamenten en un grau o un altre en simplificacions d’aquests treballs coneguts com a model HOOKED i la IA pot semblar un salt qualitatiu, però es fonamenta en els mateixos recursos discursius que pseudociències molt populars com la Programació Neurolingüística difonen a les seves formacions per millorar els nostres dots de persuasió i convicció.
Per tant, aquesta faceta d’acompanyant conversacional no és un producte tan revolucionari, però la IA obri interrogants legals molt greus sobre la seva possible addicció o capacitat per induir psicosi per un problema fonamental de disseny. Aquestes màquines operen com sicofantes que construeixen un món paral·lel amb el seu interlocutor on els mecanismes de validació externs són reemplaçats pel mecanisme de satisfacció de l’usuari. En la tensió entre dir-li que no per fidelitat a una realitat extralingüística que la IA no pot conèixer ni experimentar directament o d’agradar al client amb respostes que reben una retroalimentació positiva, les IA opten per gratificar l’usuari per fer-lo entrar en un progressiu deliri d’autoafirmació. És un dilema sense solució que diferents filòsofs del llenguatge com Wittgenstein, de la ciència com Ayer o lingüistes com Jacobson han intentat resoldre sense èxit. En definitiva, un producte altament tòxic que ja s’ha vist confrontat als tribunals amb demandes per danys extracontractuals en casos de suïcidis i psicosi induïda, no sembla la millor idea per construir psicòlegs o professors virtuals, malgrat els forts incentius econòmics.
Respecte de les seves possibilitats com a generador de textos, gràfics i imatges, el potencial és molt alt, però els models generatius oberts no són massa precisos. Poden fer de tot, però no tan bé com altres programes específics que són evolucions de programari que incorpora la IA. És a dir, per a un ús recreatiu o semiprofessional són molt útils, però per als professionals no són ferramentes ideals. El model de negoci, llavors, obliga a centrar-se en subscripcions a usuaris domèstics que, sembla ser, encara tenen un accés lliure i subvencionat. El dubte serà si estaran disposats a pagar el preu real del producte.
Una cosa semblant passa amb el seu potencial d’anàlisi. Per als usuaris domèstics són poderoses ferramentes; però per a les grans empreses cometen massa errors i entren massa cops en fase d’al·lucinacions generatives quan han d’operar en situacions d’incertesa o falta d’informació. Una mancança que s’ageganta si es vol automatitzar tasques complexes. És llavors quan comença la festa i, per això mateix, les empreses de la IA volen comercialitzar el seu producte sense fer-se responsable dels danys que pugui produir. Com és evident, les companyies no compraran ni incorporaran un servei que no estigui assegurat i no pensen assumir els riscos d’un instrument que té el risc potencial de provocar desgavells massius.
De nou, el problema és insuperable. Si aquestes IA han de suposar una reducció de costos i feina important, han de ser capaces d’automatitzar tasques i decisions complexes i, per fer-ho en entorns reals que no són controlables i on no tota la informació es pot simplificar en dades, sols hi ha dues opcions: cada vegada que hi ha un buit d’informació demanen validació externa o generen dades pròpies per compensar els forats i, d’aquest mode, van creant una realitat paral·lela amb les seves al·lucinacions. En el primer cas, la IA no automatitza la feina, sinó que necessita més inspecció i vigilància humana. En el segon, pot abocar una empresa a una tragèdia sistèmica que l’afoni.
Tot açò significa que existeix una ferramenta que no pot transformar-se en un producte comercialitzable que sostingui un model de negoci. Diria que la idea primigènia dels pioners de la IA era crear una mena de Déu que garantís una supremacia inqüestionable a les empreses perquè, llavors, estarien disposades a pagar el que fes falta per disposar dels seus serveis. Tanmateix, sembla que no pensaren que els directius, abans de comprometre’s amb ningú, voldrien saber qui tenia el Déu més gran, perquè no estaven disposades a subscriure’s a un Déu menor. El problema és que ni cap expert ni el mercat podien donar aquesta resposta.
El producte, a hores d’ara, sembla un cotxe esportiu d’alta cilindrada amb conducció automàtica. Ningú s’atreveix a posar-lo en marxa per la destrossa que pot provocar als carrers i, per això, no és capaç de generar valor per a les grans empreses. És útil per als conductors intrèpids que tinguin prou perícia per domesticar-lo i traure-li profit, però les grans companyies encara no saben qui està capacitat per posar-se al volant. Per altra part, els models d’accés lliure de la Xina posen a disposició del gran públic un coneixement que empreses de programari específic poden incorporar per millorar els seus productes tradicionals o faciliten a les grans companyies desenvolupar serveis d’IA que satisfacin les seves demandes. En poques paraules, pocs veuen molt de negoci ací.
