Dario Amodei, conseller delegat d’Anthropic, ha proposat que els grans laboratoris coordinin mesures per “marcar el ritme de la frontera”, reforcin les avaluacions de seguretat i, eventualment, redueixin conjuntament la velocitat amb què desenvolupen sistemes cada vegada més potents. Sam Altman (OpenAI), Elon Musk (xAI) i Demis Hassabis (Google) han rebut favorablement la idea. La cursa per la intel·ligència artificial sembla haver arribat a una situació curiosa quan alguns dels seus principals protagonistes comencen a demanar que els deixin competir menys.
Anthropic ha fet públic recentment que Claude ja lidera el 26% de les tasques d’R+D dels seus futurs models, davant de menys de l’1% al febrer, i participa almenys de manera col·laborativa en més del 90%. La companyia tenia també uns 30.000 agents treballant simultàniament en la seva plataforma interna de recerca. La possibilitat que la IA acceleri la mateixa recerca en IA converteix el progrés tecnològic en potencialment molt més ràpid que fins ara.
El problema econòmic que descriu Amodei no és altre que el clàssic dilema del presoner. Encara que tots els laboratoris preferissin dedicar més temps a comprovar la seguretat dels models, cap no té incentius per frenar unilateralment si pensa que OpenAI, Anthropic, Google, xAI o els seus competidors xinesos continuaran avançant. El benefici de ser prudent és en part col·lectiu, mentre que el cost de quedar-se enrere l’assumeix individualment l’empresa.
Però una cosa és acordar protocols comuns de seguretat, metodologies d’avaluació o estàndards d’interoperabilitat, una altra de molt diferent és coordinar quanta capacitat desenvolupa cada empresa, quan llança el següent model, o a quina velocitat inverteix.
El dret de la competència ho formula de manera explícita. Per exemple, l’article 101 del Tractat de Funcionament de la Unió Europea (TFUE) prohibeix els acords entre empreses que restringeixin la competència i esmenta específicament aquells que limiten o controlen “la producció, els mercats, el desenvolupament tècnic o la inversió”. Les Directrius de la Comissió recorden que la innovació és, igual que el preu o la quantitat, un paràmetre sobre el qual competeixen les empreses.
Aquest és un factor important perquè, en el sector de la IA, el principal dany causat per un acord anticompetitiu podria no aparèixer mai en forma de preus més alts. Podria consistir simplement en models que arriben sis mesos més tard, menys inversió, menys experimentació o una menor probabilitat que aparegui una tecnologia que desplaci els actuals líders, fent els mercats menys dinàmics i disputables.
Hi ha, a més, un risc d’economia política. Els laboratoris que avui són a la frontera disposen dels models més avançats, d’una infraestructura computacional i uns canals de distribució difícils de replicar, en un sector caracteritzat per enormes necessitats de capital. Permetre que siguin ells mateixos qui decideixin col·lectivament quina velocitat és “segura” podria transformar una política de seguretat en una forta barrera d’entrada. Els incumbents quedarien protegits precisament en el moment en què la competència podria qüestionar la seva posició.
Això no significa que la competència resolgui, per si sola, els riscos de la IA. Si desenvolupar un model genera riscos que l’empresa no suporta íntegrament, existeix una externalitat i el mercat pot produir massa risc. Anthropic, per exemple, estima que en una setmana analitzada només aproximadament el 6% del còmput destinat a R+D d’IA es dedicava específicament a seguretat, percentatge que pujava al 12% en la recerca impulsada per IA.
Tanmateix, la resposta natural a una externalitat no és autoritzar els principals productors a limitar conjuntament la competència. És canviar els seus incentius. Avaluacions independents obligatòries, requisits mínims de seguretat, responsabilitat pels danys, transparència sobre incidents o estàndards oberts poden obligar totes les empreses a internalitzar els riscos sense permetre que decideixin conjuntament quant han d’innovar.
La seguretat pot requerir certa coordinació, però el que segur no necessita és un càrtel de la prudència.
