El futur és aquí, i els seus arquitectes ens estan llançant un missatge d’alerta que no podem ignorar. El que fins ara semblava ciència-ficció, l’escenari on les màquines prenen les regnes, ha passat de la pantalla gran a la taula del Consell de Seguretat de les Nacions Unides. És el moment de preguntar-nos: estem preparats per al que ve?
Però no estem parlant de qualsevol advertència llançada per un acadèmic o un teòric de la conspiració. Aquest toc d’atenció, amb una gravetat inaudita, prové directament dels cervells darrere de la revolució de la intel·ligència artificial. Els mateixos que cada dia fan passos de gegant en aquesta tecnologia ara ens demanen que la posem sota control.
Ni més ni menys que Sam Altman, el CEO d’OpenAI (els creadors de ChatGPT), i Dario Amodei, CEO d’Anthropic, han irromput a la ONU amb un missatge clar i contundent. La seva demanda? Que els països del món, units, estableixin controls reals sobre la IA. La seva gran preocupació, i la nostra, és que “podríem perdre el control del futur a mans de la IA” (sí, aquesta frase la va dir l’Altman amb una serietat que glaçava la sang).
La trobada, la primera vegada que el Consell de Seguretat de l’ONU aborda directament les amenaces de la IA, va ser un punt d’inflexió. Amodei va ser encara més explícit, advertint que la IA “podria suposar un risc per a la humanitat en el seu conjunt” si es gestiona de manera deficient. Aquests experts, que viuen i respiren la IA, no parlen a la lleugera: el que reclamen és un marc d’acció definitiu per protegir-nos d’una tecnologia que podria superar-nos en un tres i no res.
La paradoxa del progrés: ¿Renaixement o revolució industrial?
El que ens planteja Altman és una autèntica paradoxa. La IA té el potencial d’impulsar una nova era de prosperitat, quelcom semblant a un “Renaixement” modern, si es concep com una eina per empoderar les persones. Imagineu un món on la creativitat humana i la productivitat es multipliquen gràcies a l’assistència intel·ligent, alliberant-nos de tasques repetitives i permetent-nos enfocar-nos en allò que realment importa.
Però aquesta visió lluminosa té la seva ombra. L’Altman també ens avisa del perill de reproduir les fractures i desigualtats que va portar la Revolució Industrial. Què passa si els sistemes d’IA substitueixen massivament la capacitat de decisió humana, o si la tecnologia s’accelera fins a un punt on ja no podem seguir-la ni entendre les seves decisions? És aquí on la necessitat de salvaguardes i una regulació imprescindible es torna una qüestió de supervivència.
No som els herois d’aquesta història. El nostre paper és confiar en la màgia del talent humà, mantenint les persones al centre de la presa de decisions.
El secret, segons OpenAI, resideix en tres principis rectors clau: mantenir les persones “al centre de la presa de decisions”, orientar el progrés científic i econòmic “per i per a les persones”, i “empoderar cada individu”. Això significa que, fins i tot en el món de la IA, la humanitat ha de ser el pilar fonamental. No es tracta de frenar el progrés, sinó d’assegurar que el camí que prenem sigui el correcte, el que ens beneficiï a tots i no només a uns pocs.
El dilema que la IA planteja als líders mundials
La gran pregunta que plana sobre la taula dels líders mundials és tan simple com aterridores: Qui ha de controlar les decisions de vida o mort? Nosaltres, els humans, o les màquines que estem creant? La IA avançada, amb models capaços de programar-se i millorar-se a si mateixos de forma recursiva, podria accelerar el seu desenvolupament fins a un punt on la nostra capacitat de comprensió i control es vegi totalment desbordada.
Aquesta por no és nova, però la seva materialització en la boca dels màxims exponents de la IA li atorga un pes sense precedents. El secretari general de l’ONU, António Guterres, ja havia alertat el dia abans sobre els “robots assassins” (sí, una frase que sona a pel·lícula, però que els experts europeus asseguren que és una realitat perillosament propera). Ja no són advertències teòriques; són escenaris que els enginyers de la IA veuen com a possibles.
La urgència és palpable. Altman va insistir que les empreses necessiten la guia dels líders mundials per definir marcs tècnics rigurosos. Aquests marcs han de permetre mesurar capacitats, avaluar amenaces, verificar salvaguardes i crear canals internacionals segurs per compartir vulnerabilitats crítiques. És un truc per a la seguretat global que hem de dominar abans que sigui massa tard.
La cooperació global: ¿un camí definitiu?
Altman va fer una crida al consens multilateral, posant èmfasi en la cooperació internacional com a única solució. Ens va recordar moments històrics on països competidors han sabut unir-se per interessos comuns i el bé col·lectiu davant de noves i poderoses tecnologies. El missatge és clar: aquest ha de ser un d’aquests moments. No hi ha espai per a la divisió quan el que està en joc és el control del nostre propi futur.
Aquesta crida a la unió per definir qui tindrà l’última paraula en el desenvolupament i l’ús de la IA és més que una simple reunió diplomàtica; és la fundació d’una nova era. L’error seria pensar que la regulació pot esperar. La història ens ha demostrat que, davant de canvis tecnològics tan profunds, la inacció pot tenir un preu massa alt, i el nostre butxaca, i la nostra societat, ja en paguen massa.
Estem en un punt d’inflexió. Els propis dissenyadors de la IA ens demanen que actuem, que no deixem que el poder de la intel·ligència artificial es concentri en una sola empresa o país. El que decidim, o el que deixem de decidir ara, marcarà el rumb del nostre futur com a societat. Així que, la pròxima vegada que interactuïs amb una IA, recorda que hi ha veus que estan fent sonar l’alarma des dels cims del poder mundial. Estem escoltant?
