Adol­fo Pla­sen­cia, 27 de mayo de 2026

 

Ima­gen supe­rior: Inau­gu­ra­ción Olim­pia­da de Lon­dres 2012 en el Esta­dio Olím­pi­co de Lon­dres, con el rótu­lo de «La IA Que Que­re­mos»

Cada año, Tim Ber­­ners-Lee, el inven­tor de la Web, publi­ca una Car­ta Abier­ta en rela­ción al esta­do de la Web, que él inven­tó en el CERN. En mar­zo hizo 37 años lo hizo con una pro­pues­ta en cuya por­ta­da Mike Sen­dal su jefe de enton­ces en el CERN, ano­tó «vague bu exci­ting» (vago pero exci­tan­te) sin que pudie­ra sos­pe­char que esa pro­pues­ta de Tim, en pocos años, mar­ca­ría un pun­to de infle­xión en el impac­to de la tec­no­lo­gía sobre la huma­ni­dad y cam­bia­ría el mun­do por com­ple­to.

Per­so­nal­men­te no creo ser tan opti­mis­ta e idea­lis­ta como Ber­­ners-Lee pero sí me con­si­de­ro modes­ta­men­te tenaz en la mis­ma direc­ción que él y por eso he toma­do pres­ta­da para titu­lar este artícu­lo par­te de la expre­sión que Tim usó para man­te­ner una ini­cia­ti­va que fija el espí­ri­tu y la visión que debe de pre­va­le­cer en el uso de la tec­no­lo­gía Web, que él inven­tó. Esta visión que aso­cia a la Web como una tec­no­lo­gía para el bien común y está fija­da en un sitio Web pre­ci­sa­men­te con ese títu­lo «Web We Want» (La Web Que Que­re­mos). Cada año con moti­vo del ani­ver­sa­rio de la Web, Tim sigue publi­can­do anual­men­te una car­ta abier­ta para man­te­ner viva esa visión y hace una decla­ra­ción anual con ese moti­vo. En la de este año 2026 se mani­fies­ta más preo­cu­pa­do de lo habi­tual, aun­que man­tie­ne su opti­mis­mo y escri­be «Aún no es tar­de para arre­glar­lo» y decla­ra estar aho­ra en una «bata­lla por el Alma» de inter­net, por­que –dice– los abu­sos en su comer­cia­li­za­ción ha hecho que Inter­net se esté aho­ra «opti­mi­zan­do para la mal­dad», pero aún cree que «la cola­bo­ra­ción y la com­pa­sión son posi­bles y pue­den pre­va­le­cer». Esos abu­sos en Inter­net de los que habla Ber­­ners-Lee, muy pro­ba­ble­men­te, –ya está pasan­do–, se van a mul­ti­pli­car con la Inte­li­gen­cia Arti­fi­cial Agén­ti­ca que lle­ga, con la que todo pue­de empeo­rar y ello pon­drá, intu­yo, más en ries­go ese Alma de Inter­net por la que él dice estar bata­llan­do.

Com­par­to la idea y filo­so­fía de Tim sobre la Web que la con­si­de­ra un bien públi­co uni­ver­sal. Como expre­sión de ello, en la web Web We Want se pue­den leer los prin­ci­pios bási­cos de esa visión que sigue defen­dien­do su inven­tor. Se me ocu­rre que, sal­van­do las dife­ren­cias tec­no­ló­gi­cas, podría­mos plan­tear unas for­mas de uso de la IA (inte­li­gen­cia arti­fi­cial) gene­ra­ti­va basa­da en unos prin­ci­pios equi­va­len­tes sin dejar­nos arras­trar sim­ple­men­te por los usos que pare­cen pro­mo­ver las pla­ta­for­mas big tech, y las apli­ca­cio­nes rela­cio­na­das dota­das de IA que se están des­ple­gan­do.

Todos los Chatbots y Agentes de IA siempre aparentan ser muy complacientes.

Apli­ca­cio­nes que, por cier­to, apa­ren­te­men­te, están ali­nea­das –por usar un tér­mino común en los tex­tos sobre IA–, con dos pro­pó­si­tos prin­ci­pa­les que pare­cen carac­te­ri­zar, tan­to el uso públi­co de la IA median­te Chat­bots con­ver­sa­cio­na­les, o los nue­vos Agen­tes de IA.  Esos dos obje­ti­vos que pare­cen per­se­guir el común de las apli­ca­cio­nes de la nue­va indus­tria de la IA es con­ti­nuar pro­mo­vien­do la adic­ción para maxi­mi­zar su uso, como for­ma de fide­li­zar y rete­ner al usua­rio –al modo de las Redes Socia­les–, en lugar de ofre­cer­le un pro­duc­to o ser­vi­cio mejor que la com­pe­ten­cia. Hay tan­tas simi­li­tu­des que se pue­de infe­rir que los Chat­bots con­ver­sa­cio­na­les de IA tipo Chat GPT están con­fi­gu­ra­dos, al pare­cer con meca­nis­mos y tru­cos muy pare­ci­dos a los que pare­cen regir los usos que pro­mue­ven las pla­ta­for­mas de redes socia­les que tan­tos per­jui­cios están cau­san­do en la vida y la salud men­tal de muchas per­so­nas vul­ne­ra­bles en todo el mun­do. Una evi­den­cia de ello es que, por eso todos los Chat­bots y Agen­tes de IA siem­pre apa­ren­tan ser muy com­pla­cien­tes.

Dada la obvia poten­cia trans­for­ma­do­ra de las IA, que nadie nie­ga, es evi­den­te que van a cau­sar enor­mes impac­tos sobre todo en la edu­ca­ción y el apren­di­za­je, –ahí su impac­to es terri­ble–. Según el WSJ la mayor ame­na­za de la IA es la de los jóve­nes que no saben pen­sar–. Tam­bién sobre el empleo de múl­ti­ples for­mas; las acti­vi­da­des crea­ti­vas; la fabri­ca­ción y el comer­cio glo­bal de todo tipo para los usua­rios de a pie, –que somos prác­ti­ca­men­te todos–. Por eso creo que aho­ra se impo­ne una refle­xión sere­na y pro­fun­da. Es urgen­te e impor­tan­te medi­tar, tan­to sobre las opor­tu­ni­da­des posi­ti­vas, como sobre las ame­na­zas o peli­gros que pue­den gene­rar las dife­ren­tes tec­no­lo­gías de la IA que, como cual­quier herra­mien­ta tec­no­ló­gi­ca (y la IA lo es), se pue­den usar tan­to para el bien como para el mal. Aun­que casi nun­ca, cuan­do se habla de la IA, se sue­le hacer una pre­gun­ta obvia ¿el bien o el mal de quién, o de quie­nes, en con­cre­to?

Dicho esto, seña­la­ré lo que se con­si­de­ra como defi­ni­ción apro­xi­ma­da de la IA Agén­ti­ca. Se tra­ta de ope­ra­do­res autó­no­mos de sis­te­mas de inte­li­gen­cia arti­fi­cial capa­ces de com­por­tar­se con auto­no­mía pro­pia tan­to para esta­ble­cer sus pro­pios obje­ti­vos, como pla­ni­fi­car los pasos nece­sa­rios y eje­cu­tar las secuen­cias com­ple­jas de suce­si­vas accio­nes ade­cua­das para con­se­guir­los. Esto es dife­ren­te a como fun­cio­nan los sis­te­mas de la ya lla­ma­da IA tra­di­cio­nal que sólo res­pon­de a coman­dos pro­gra­ma­dos pre­via­men­te en bus­ca de unos resul­ta­dos defi­ni­dos muy con­cre­tos. La IA agén­ti­ca, en cam­bio, gene­ra el com­por­ta­mien­to de los Agen­tes de IA autó­no­mos que son capa­ces, por sí mis­mos de eva­luar su entorno de actua­ción y tomar en rela­ción a él, suce­si­vas cade­nas de deci­sio­nes con­ti­nuas, para resol­ver pro­ble­mas sin super­vi­sión huma­na.

Toda la carre­ra com­pe­ti­ti­va de las prin­ci­pa­les empre­sas de IA pare­ce atra­pa­da en un mar­co de fero­ces dispu­tas entre gran­des empre­sas glo­ba­les que per­si­guen en el fon­do con­ver­tir­se en un mono­po­lio, no que­dar­se atrás en dicha carre­ra (tam­bién una de las adver­ten­cias con­ti­nua­das al usua­rio, típi­ca en la pro­pa­gan­da big tech para gene­rar mie­do); y satis­fa­cer cuan­to antes el retorno de las inver­sio­nes de sus finan­cia­do­res. Es una bue­na excu­sa para des­pla­zar del cen­tro estra­té­gi­co de la acti­vi­dad de esas empre­sas a cier­tos aspec­tos de la cien­cia bási­ca, la pru­den­cia y la bús­que­da del bien común. Ade­más, al tiem­po, esas empre­sas tam­bién quie­ren ganar la bata­lla del rela­to local y glo­bal de mani­pu­la­ción de la opi­nión públi­ca sobre las vir­tu­des de la IA. Y, por supues­to, coar­ta­da para no aten­der y ocul­tar posi­bles pro­tes­tas de usua­rios per­ju­di­ca­dos, –evi­tar las cri­sis repu­tacio­na­les en esa gue­rra del rela­to de la IA es muy impor­tan­te–.

El com­por­ta­mien­to de muchas empre­sas de la indus­tria de la IA Gene­ra­ti­va pare­ce, de nue­vo, obe­de­cer a aque­lla ya vie­ja máxi­ma inven­ta­da por algu­nos empren­de­do­res con pocos escrú­pu­los de Sili­con Valley: «es mejor pedir per­dón (des­pués y qui­zá nun­ca), que pedir per­mi­so (antes)». Otra coar­ta­da para demo­ni­zar cual­quier regu­la­ción de la IA. La excu­sa reite­ra­ti­va en los altos eje­cu­ti­vos de los gigan­tes de la indus­tria de la IA es que esta carre­ra com­pe­ti­ti­va es una lucha por la super­vi­ven­cia de sus empre­sas en la que una equi­vo­ca­ción gra­ve pue­de aca­bar en un peli­gro exis­ten­cial para la empre­sa (y de ahí que a menu­do acti­ven códi­gos rojos que traen súbi­tos cam­bios de con­duc­ta en esas empre­sas). Dicha ver­ti­gi­no­sa con­tien­da cor­po­ra­ti­va se ha con­ta­gia­do al mun­do glo­bal y las expec­ta­ti­vas de trans­for­ma­ción que traen las tec­no­lo­gías de la IA se han con­ver­ti­do, en par­te, en muni­ción de las actua­les con­tien­das estra­té­gi­cas fun­da­men­tal­men­te entre los dos prin­ci­pa­les duo­po­lios de poder geo­es­tra­té­gi­co del mun­do: Chi­na y EE.UU.; con­tien­da en cuyos epi­so­dios aho­ra mis­mo apa­ren­tan o simu­lan dis­cu­tir tam­bién los mejo­res usos en la van­guar­dia los desa­rro­llos de la IA a gran esca­la.

Los intere­ses eco­nó­mi­cos y de poder en jue­go son tan gran­des, que han obvia­do las nece­si­da­des reales y opi­nio­nes de los ciu­da­da­nos de a pie de las demo­cra­cias. La dispu­ta com­pe­ti­ti­va por la IA del pró­xi­mo futu­ro es ade­más, par­te de una autén­ti­ca carre­ra arma­men­tís­ti­ca ya que tam­bién los usos geo­es­tra­té­gi­cos y mili­ta­res de la IA apa­re­cen y están pre­sen­tes en las infor­ma­cio­nes sobre con­flic­tos polí­ti­cos y gue­rras actua­les don­de su uso ya es una reali­dad.

¿Cómo nos gustaría que fuera la IA?

En rela­ción a las for­mas de IA actua­les, esta pre­gun­ta creo que no se pue­de for­mu­lar des­de el pun­to de vis­ta de los huma­nos enten­di­dos como un todo homo­gé­neo fren­te a una la apa­ri­ción de una posi­ble nue­va espe­cie de inte­li­gen­cias arti­fi­cia­les no-bio­­ló­­gi­­cas. Es evi­den­te que, como dice en ana­lis­ta  de finan­zas Alan Koh­ler, las enti­da­des de soft­wa­re de IA típi­cas actua­les, como los Chat­bots con­ver­sa­cio­na­les, los LLM (Gran­des Mode­los de Len­gua­je de IA), o los Agen­tes de IA, son arte­fac­tos desa­rro­lla­dos en pri­mer lugar para gene­rar ganan­cias y, en segun­do, sus algo­rit­mos per­si­guen gene­rar adic­ción, usan­do todo tipo de tru­cos, esen­cial­men­te orien­ta­dos a adap­tar­se a nues­tros hábi­tos y deseos, para lue­go cam­biar­los y orien­tar­los al obje­ti­vo de que maxi­mi­ce­mos su uso y, con ello, los bene­fi­cios de la empre­sa, sin impor­tar si eso gene­ra efec­tos secun­da­rios noci­vos en la vidas y men­tes de quie­nes lo usan.

El pro­pio Koh­ler afir­ma que debe­mos con­si­de­rar ya la algo­rít­mi­ca de la IA como una exten­sión de la que actúa en las pla­ta­for­mas de redes socia­les. En pri­mer lugar, están orien­ta­dos a los obje­ti­vos de una gran indus­tria de la adic­ción a gran esca­la. Así que la pre­gun­ta de arri­ba de este párra­fo la for­mu­lo des­de la posi­ción de un inge­nuo usua­rio de a pie de la tec­no­lo­gía que for­ma par­te de la gen­te de bien; es decir, des­de la visión de un ciu­da­dano que cree en la demo­cra­cia y, –no me impor­ta insis­tir en ello–, que como dice Tim O’Reilly, aún pien­sa que «la tec­no­lo­gía (inclui­da la IA) es algo para hacer del mun­do un lugar mejor». Lo que no hago, por mis prin­ci­pios, es for­mu­lar­me esa pre­gun­ta como, pro­ba­ble­men­te se la haría cual­quie­ra de los gran­des tecno-oli­­ga­r­­cas, gran­des accio­nis­tas o direc­ti­vos de las empre­sas de la indus­tria de la IA, tipo Alex Karp CEO de Palan­tir ada­lid del ace­le­ra­cio­nis­mo efec­ti­vo, para quie­nes su úni­co pro­pó­si­to es que les rin­da ganan­cias urgen­te­men­te, sin impor­tar con­se­cuen­cias ni efec­tos secun­da­rios en la socie­dad.

Vol­vien­do al prin­ci­pio del artícu­lo, y a la visión de «La Web Que Que­re­mos» del W3C, he deci­di­do extra­po­lar los prin­ci­pios de esa visión a la de «La IA Que Que­re­mos», adap­ta­da a los tipos de uso públi­co para los que nos gus­ta­ría que estu­vie­ran con­fi­gu­ra­das las Apps de IA (Chat­bots; LLM, Agen­tes de IA, etc.). Lo hago por­que es cohe­ren­te y por­que ten­go una visión enfren­ta­da a esa bús­que­da ince­san­te del fin úni­co eco­nó­mi­co, que bus­can las empre­sas de los tecno-oli­­ga­r­­cas que andan guia­dos, mayor­men­te, por la codi­cia y la sed de poder y domi­na­ción.

El uso de la IA debe ser voluntario y no obligatorio por defecto.

Toman­do como guía de esos prin­ci­pios de la visión Web We Want, pro­pon­go que los pro­pó­si­tos del Uso Públi­co de la IA estu­vie­ran orien­ta­dos a que:

– El uso de la IA per­mi­ta la liber­tad de expre­sión tan­to on-line como off-line.

– La IA se pue­da usar en apli­ca­cio­nes a las que todos ten­gan acce­so libre y ase­qui­ble, sin ras­treo alguno de la con­duc­ta onli­ne y los datos y meta­da­tos del usua­rio.

– Que el uso de la IA sea volun­ta­rio, y no obli­ga­to­rio por defec­to, en los nave­ga­do­res, bús­que­das y pla­ta­for­mas de Inter­net, ade­más de com­pa­ti­ble con la pri­va­ci­dad y la comu­ni­ca­ción pri­va­da.

– Que las apli­ca­cio­nes de la IA tien­dan a ser diver­sas, des­cen­tra­li­za­das y abier­tas.

– Que las apli­ca­cio­nes de IA no pro­mue­van la dis­cri­mi­na­ción de unos sobre otros (neu­tra­li­dad de la IA).

– Que las dis­tin­tas for­mas de IA no se usen ni pue­dan usar­se para nin­gu­na for­ma de domi­na­ción, ni enga­ño, o mani­pu­la­ción.

– Que las IA, obli­ga­to­ria­men­te, no se desa­rro­llen en un pro­ce­so que inclu­ya un entre­na­mien­to basa­do en la apro­pia­ción inte­lec­tual inde­bi­da, ni en el expo­lio de obras inte­lec­tua­les sin con­sen­ti­mien­to de sus auto­res.

– Que las IA no aten­ten con­tra la éti­ca ni pro­mue­van los usos adic­ti­vos.

– Que las IA fun­cio­nen con lími­tes y sal­va­guar­dias garan­ti­za­das den­tro de un mar­co regu­la­to­rio con con­trol demo­crá­ti­co.

– Que las IA y su desa­rro­llo tuvie­ran como resul­ta­do arte­fac­tos de IA cuyo com­por­ta­mien­to esté den­tro de los lími­tes de unas leyes con­tro­la­das del mis­mo tipo que las Tres Leyes de la Robó­ti­ca de Asi­mov, pero apli­ca­das a la IA y con los mis­mos prin­ci­pios en rela­ción a los huma­nos.

Pue­den pare­cer prin­ci­pios bási­cos de algo utó­pi­co, pero no lo son. Sim­ple­men­te son prin­ci­pios adap­ta­dos de otros ya pro­pues­tos al mun­do y publi­ca­dos des­de hace más de tres déca­das para el fun­cio­na­mien­to de la Web y, por exten­sión, del inter­net abier­to. Fue­ron for­mu­la­dos por el con­sor­cio W3C que lide­ra Tim Ber­­ners-Lee. Y que son com­pa­ti­bles con que en Inter­net se haga nego­cio con arre­glo a las leyes de cada nación y sus reglas com­pe­ti­ti­vas lea­les de mer­ca­do. Son prin­ci­pios con cri­te­rios del mis­mo tipo que los de las cua­tro liber­ta­des para el uso el soft­wa­re libre, for­mu­la­das ya hace mucho tiem­po por Richard Stall­man, que tam­bién son com­pa­ti­bles con hacer nego­cio en la red siem­pre que no aten­ten con­tra la liber­tad y los prin­ci­pios éti­cos.

¿Cómo y para qué les gustaría a los científicos que se use la IA?

Cuan­do for­mu­lo esta pre­gun­ta, no lo hago con el áni­mo de hacér­se­la a cual­quier cien­tí­fi­co de la IA. Entre ellos hay varia­das y diver­sas opi­nio­nes que a veces se con­tra­di­cen entre sí ya que hay muchos de ellos aso­cia­dos a posi­cio­na­mien­tos dife­ren­tes y, a veces, rela­cio­na­das con intere­ses con­cre­tos. No sue­le pen­sar y mani­fes­tar lo mis­mo un cien­tí­fi­co de un labo­ra­to­rio aca­dé­mi­co, que otro que tra­ba­ja esplén­di­da­men­te remu­ne­ra­do en una gran empre­sa tec­no­ló­gi­ca orien­ta­da abso­lu­ta­men­te a maxi­mi­zar ganan­cias, y que sue­le tener soplán­do­le en la nuca el alien­to de los gran­des accio­nis­tas de la com­pa­ñía y las exi­gen­cias finan­cie­ras de sus cuen­tas de resul­ta­dos. Lo sé por­que conoz­co per­so­nal­men­te a gran­des cien­tí­fi­cos de los pri­me­ros, a los que admi­ro por su tra­ba­jo, pero tam­bién por­que están mucho más guia­dos por la curio­si­dad cien­tí­fi­ca de la cien­cia bási­ca que por el áni­mo de lucro radi­cal. Eso no pasa solo en el cam­po del machi­ne lear­ning o la compu­tación en don­de se enmar­ca en sen­ti­do amplio la IA como dis­ci­pli­na cien­tí­fi­ca (no olvi­de­mos que el uso retor­ci­do de la expre­sión «inte­li­gen­cia arti­fi­cial o mal lla­ma­da IA vie­ne del inte­rés de pro­vo­car hype del mun­do finan­cie­ro, cosa que con­si­guie­ron). Y, por fin, haré caso en esto de la IA a mi ami­go el filó­so­fo Daniel Inne­ra­rity, autor del mag­ní­fi­co tra­ta­do Una teo­ría crí­ti­ca de la inte­li­gen­cia arti­fi­cial (Gala­xia Guten­berg), que me dice que ya no debe­mos repe­tir más en que IA no debe lla­mar­se así, y ya no vale la pena insis­tir en que eso no es lo que dicen que es, cuan­do todo el mun­do le lla­ma así.

Así que he ele­gi­do las opi­nio­nes de algu­nos de los que yo con­si­de­ro más impor­tan­tes inves­ti­ga­do­res de la IA, cuyas opi­nio­nes nos pue­den ilus­trar sobre cómo debe­ría con­cre­tar­se el uso de la IA por los de aba­jo (la gen­te de bien) y en direc­ción a vis­lum­brar cómo debe­ría ser La IA Que Que­re­mos, sean cua­les sean las fór­mu­las o modos de uso que quie­ren pro­mo­ver los tecno-oli­­ga­r­­cas neo­feu­da­les, sobre los que com­par­to opi­nio­nes ali­nea­das con las que expre­sa en su últi­mo libro mi tam­bién ami­go, el filó­so­fo y mate­má­ti­co Javier Eche­ve­rría en su últi­mo libro ¡No hay Dere­cho! Con­tra las nubes y la domi­na­ción tec­no­feu­dal (Edi­cio­nes asi­mé­tri­cas), con­tra los que lan­za sus cer­te­ras dia­tri­bas, no pre­ci­sa­men­te ama­bles. Y entre estos tec­no­do­mi­na­do­res están por supues­to el tut­ti quan­ti de los más cono­ci­dos CEOs de la indus­tria glo­bal de IA.

El pri­mer cien­tí­fi­co de la IA a quien res­pe­to, y de quien me intere­sa su visión de cómo debe­ría ser la IA del pró­xi­mo futu­ro es Demis Has­sa­bis a quien cono­cí bre­ve­men­te en Lon­dres hace años cuan­do no era tan céle­bre como aho­ra, duran­te el pro­ce­so de fun­dar su star­tup Deep­Mind cuya sede cien­tí­fi­ca esta­ba y sigue estan­do en Lon­dres. Salí tan impre­sio­na­do enton­ces de su empre­sa que le dedi­qué varios artícu­los. Y eso fue en 2011. Por enton­ces no exis­tía el Chat GPT ni Chat­bot alguno al alcan­ce del públi­co ni se le espe­ra­ba. Así que titu­lé mi pri­mer tex­to sobre él y su empre­sa así: «Deep­Mind enca­be­za la carre­ra por una inte­li­gen­cia arti­fi­cial gene­ral». Lue­go habla­ré de la visión de Demis Hasa­bis.

Pero siguien­do con el cita­do via­je pos­te­rior en 2018 que he cita­do antes, en un mis­mo peri­plo, visi­té los cam­pus de Cam­brid­ge y Oxford don­de pude ver por mí mis­mo el súbi­to repo­si­cio­na­mien­to de estas dos pres­ti­gio­sas y tra­di­cio­na­les uni­ver­si­da­des, de lo cual hablé en otro tex­to que titu­lé: «Así se rein­ven­tan Oxford y Cam­brid­ge en el vór­ti­ce de la inte­li­gen­cia arti­fi­cial». El Clai­re Cam­brid­ge Cla­re Hall Colle­ge de la Uni­ver­si­dad de Cam­brid­ge, me sir­vió de digno esce­na­rio para una lar­ga, inten­sa y apa­sio­nan­te con­ver­sa­ción con otro de los sabios de la van­guar­dia de la IA que más admi­ro, José Her­­ná­n­­dez-Ora­­llo, por enton­ces ya inves­ti­ga­dor del Leverhul­me Cen­tre for the Futu­re of Inte­lli­gen­ce (LCFI), don­de hoy es Direc­tor of Research, así como Aso­cia­te fellow del Cen­tre for Human-Ins­­pi­­red Arti­fi­cial Inte­lli­gen­ce (CHIA) tam­bién de Cam­brid­ge. Por enton­ces José aca­ba de reci­bir el pre­mio Pro­se Award 2018 del Rei­no Uni­do por su extra­or­di­na­rio libro The Mea­su­re of All Minds. Eva­lua­ting Natu­ral and Arti­fi­cial Inte­lli­gen­ce (La medi­da de todas las men­tes. Eva­lua­ción de la Inte­li­gen­cia Natu­ral y Arti­fi­cial), publi­ca­do en 2017. Al tiem­po, tam­bién es cate­drá­ti­co de Compu­tación e Inves­ti­ga­dor del VRAIN (Ins­ti­tu­to de Inves­ti­ga­ción en IA de la UPV). No se cómo hace para lle­var todo lo suyo ade­lan­te. Es incan­sa­ble.

Recuer­do que por aquel enton­ces, anda­ba yo entu­sias­ta y posi­ti­vo con mis ideas sobre estas tec­no­lo­gías, al pun­to que meses antes había publi­ca­do un osa­do y entu­sias­ta artícu­lo titu­la­do: «Sé razo­na­ble. Pide lo impo­si­ble: ¡una IA Abier­ta!» como si esa peti­ción fue­ra posi­ble y fácil de mate­ria­li­zar. Eran días fre­né­ti­cos. Antes de irme a ese via­je al Rei­no Uni­do ya había entre­ga­do al perió­di­co un artícu­lo que se publi­có en noviem­bre de 2018, que daba noti­cia del impac­to que, en el pres­ti­gio­so MIT, esta­ba ya cau­san­do tam­bién la IA y que había indu­ci­do al Ins­ti­tu­to a abrir una nue­va Escue­la de Inge­nie­ría en Inte­li­gen­cia Arti­fi­cial ( la MIT Stephen A. Sch­warz­man Colle­ge of Com­pu­ting). Mi tex­to lo titu­lé: «La inte­li­gen­cia arti­fi­cial con­du­ce al MIT a refor­mu­lar­se»; y el sub­tí­tu­lo decía: El MIT crea una nue­va Escue­la por pri­me­ra vez en 70 años, invir­tien­do 864 millo­nes de euros, para hacer fren­te a la ace­le­ra­da evo­lu­ción de infor­má­ti­ca e inte­li­gen­cia arti­fi­cial, y a sus efec­tos glo­ba­les. Todos estos artícu­los eran opti­mis­tas y daban por bien­ve­ni­dos los posi­ti­vos cam­bios dis­rup­ti­vos que traía el nue­vo cono­ci­mien­to aso­cia­do a la IA. Cuen­to todo esto para mos­trar que la vorá­gi­ne de la IA no la gene­ró el lan­za­mien­to en noviem­bre de 2022 del Chat GPT, sino que ese tor­be­llino ya esta­ba en mar­cha muchos años antes.

La IA, según José Hernández-Orallo

La sín­te­sis de mi lar­ga con­ver­sa­ción en Cam­brid­ge con José Her­­ná­n­­dez-Ora­­llo la publi­qué con el títu­lo: «La inte­li­gen­cia arti­fi­cial podría ser la tec­no­lo­gía más trans­for­ma­do­ra de este siglo». Y en ella, fue don­de empe­cé a com­pren­der que la trans­for­ma­ción de la IA, ade­más de opor­tu­ni­da­des tam­bién podría traer­nos ame­na­zas y ries­gos. Por decir­lo sua­ve, José fue quien recon­du­jo mi deno­da­do entu­sias­mo por los cam­bios que lle­ga­ban hacia una visión más rea­lis­ta de la IA.

De modo muy resu­mi­do, la defi­ni­ción de inte­li­gen­cia arti­fi­cial, en pala­bras de Her­­ná­n­­dez-Ora­­llo es: «…una dis­ci­pli­na rela­cio­na­da con la compu­tación y con la infor­má­ti­ca, que inten­ta cons­truir sis­te­mas que ten­gan un com­por­ta­mien­to inte­li­gen­te. Esto, –dice José–, al final no resuel­ve com­ple­ta­men­te la pre­gun­ta sobre qué es exac­ta­men­te la par­te prin­ci­pal de la defi­ni­ción de IA, es decir, qué sig­ni­fi­ca un com­por­ta­mien­to inte­li­gen­te. Nor­mal­men­te los cien­tí­fi­cos sole­mos o solía­mos inten­tar dise­ñar sis­te­mas que imi­ten el com­por­ta­mien­to cog­ni­ti­vo inte­li­gen­te de los seres huma­nos, pero hoy en día esta­mos cons­tru­yen­do sis­te­mas que lle­van a cabo un com­por­ta­mien­to inte­li­gen­te de una mane­ra dife­ren­te a la de los huma­nos. Con ello, esta­mos rede­fi­nien­do de algu­na mane­ra el con­cep­to de inte­li­gen­cia a par­tir del pro­ble­ma que que­re­mos resol­ver y que se tie­ne que hacer de una mane­ra cog­ni­ti­va, que impli­ca apren­di­za­je, razo­na­mien­to, abs­trac­ción, etc.».

Por supues­to en pos­te­rio­res con­ver­sa­cio­nes José me ha segui­do con­fir­man­do el gran poder trans­for­ma­dor de la IA en muchos aspec­tos de la socie­dad y del mun­do, pero más recien­te­men­te com­par­tió con­mi­go de nue­vo sus preo­cu­pa­cio­nes sobre los cam­bios del mun­do que la IA podía pro­du­cir o ya está pro­du­cien­do. En una con­ver­sa­ción más recien­te, le pre­gun­té direc­ta­men­te sobre posi­bles ries­gos futu­ros de la inte­li­gen­cia arti­fi­cial.

A mi pre­gun­ta sobre si él vis­lum­bra ya peli­gros con­cre­tos que pue­de traer la explo­sión de la IA, me empie­za con­tes­tan­do en latín (José, no en vano, ade­más de cate­drá­ti­co de infor­má­ti­ca es tam­bién es doc­tor en lógi­ca y filo­so­fía). Y dice: «para con­tes­tar­te a eso, yo empe­za­ría con aque­llo de Homo homi­ni lupus est (El hom­bre es un lobo para el hom­bre). Creo que el mayor ries­go que tene­mos en estos momen­tos en rela­ción a la inte­li­gen­cia arti­fi­cial no vie­ne de la mis­ma tec­no­lo­gía en sí, que como las demás se pue­de uti­li­zar para bien o para mal. El mayor pro­ble­ma aho­ra en el mun­do hoy es socio­ló­gi­co y polí­ti­co. La direc­ción en que vamos y lo que podría pasar, a par­tir de lo que tene­mos, que en estos momen­tos es que la mayor par­te del dine­ro y del cono­ci­mien­to están en unas pocas manos y unos pocos paí­ses». Y aña­de… «esto podría ocu­rrir tam­bién en el ámbi­to de la inte­li­gen­cia arti­fi­cial, y que aca­be­mos tenien­do un oli­go­po­lio glo­bal de empre­sas que tie­nen la mejor tec­no­lo­gía de IA y estén desa­rro­llan­do des­de ahí la inte­li­gen­cia del futu­ro. Ese es un pro­ble­ma real»…«De hecho, ya esta­mos vien­do que unas pocas empre­sas muy bien finan­cia­das están con­tra­tan­do a las men­tes más bri­llan­tes del mun­do para desa­rro­llar sus apli­ca­cio­nes de IA del futu­ro inme­dia­to y los pró­xi­mos años; y si no hay acce­so demo­crá­ti­co a con­tro­lar esas empre­sas, me pare­ce que vamos hacia un oli­go­po­lio de la IA. Me temo que los ries­gos vie­nen por ahí. Creo que los ries­gos con la IA son polí­ti­cos, socio­ló­gi­cos y de orga­ni­za­ción y no tan­to tec­no­ló­gi­cos».

Los riesgos con la IA son políticos, sociológicos y de organización y no tanto tecnológicos.

Para dar­nos pis­tas sobre los pro­pó­si­tos de lo que se inves­ti­ga aho­ra en el LCFI, el Labo­ra­to­rio del Cam­brid­ge, don­de es direc­tor de inves­ti­ga­ción, lo hace usan­do el nom­bre del pro­pio Cen­tro y dice «El nom­bre del LCFI se refie­re a explo­rar el futu­ro de la inte­li­gen­cia por­que nos ayu­da a enten­der el pre­sen­te y el pasa­do de la inte­li­gen­cia. Se diría que el cen­tro ha sido des­ple­ga­do para enten­der los efec­tos de la inte­li­gen­cia arti­fi­cial (IA), pero para poder cono­cer esos efec­tos ten­dre­mos que enten­der lo que es la inte­li­gen­cia como un pro­ce­so, ya que habla­mos de inte­li­gen­cia y no solo de IA. La inte­li­gen­cia va a cam­biar en esen­cia, pero tam­bién en cómo se dis­tri­bu­ye en el pla­ne­ta, tenien­do en cuen­ta dón­de se encuen­tran los labo­ra­to­rios y la gen­te más bri­llan­te en IA y para quién trabajan»…«Lo que nos intere­sa en nues­tro Cen­tro es ana­li­zar hacia dón­de van esos cam­bios, las inte­li­gen­cias nue­vas que se van a crear y, tam­bién, cómo esa inte­li­gen­cia arti­fi­cial va a afec­tar a nues­tra mane­ra de ver el mun­do. Pero esa inte­li­gen­cia enten­di­da como algo colec­ti­vo. Es decir, la huma­ni­dad va a enten­der el mun­do de mane­ra dife­ren­te por­que el glo­bal de la inte­li­gen­cia en el pla­ne­ta va a ser dife­ren­te en muchos aspec­tos. Habrá gen­te que será mejo­ra­da por la inte­li­gen­cia arti­fi­cial y gen­te que se verá atro­fia­da por ella. Todo eso afec­ta­rá a la inte­li­gen­cia huma­na, que for­ma­rá par­te de las cosas que van a cam­biar con la irrup­ción de la inte­li­gen­cia arti­fi­cial».

Her­­ná­n­­dez-Ora­­llo, des­mien­te la fra­se fácil de que la IA nos va a qui­tar el tra­ba­jo. Y me dice: «No, no estoy nada de acuer­do con esa fra­se. Me pare­ce una narra­ti­va muy sim­plis­ta que pone el tra­ba­jo como medio y como fin. Para mí, el tra­ba­jo es un medio. Y ¿cuá­les son los fines? Los fines son man­te­ner el Esta­do del bien­es­tar, por ejem­plo, en Euro­pa o, sim­ple­men­te, el bien­es­tar públi­co. Si tú pue­des con­se­guir­lo sin tra­ba­jar y que tra­ba­je quien quie­ra… sería lo ideal. Para mí, es un pro­ble­ma de redis­tri­bu­ción de la rique­za» …«Oja­lá lle­gue un momen­to en que el tra­ba­jo sea algo volun­ta­rio para vivir nor­mal­men­te. El pro­ble­ma es que los sis­te­mas eco­nó­mi­cos de todo el mun­do se han mon­ta­do en base al tra­ba­jo, en base al capi­ta­lis­mo. Pero bueno, los eco­no­mis­tas y los polí­ti­cos aho­ra se tie­nen que poner las pilas para pen­sar un nue­vo sis­te­ma en el que las máqui­nas real­men­te tra­ba­jen por noso­tros y la nue­va pro­duc­ti­vi­dad que crean todas estas máqui­nas nos revier­ta a todos».

«Ade­más, –con­ti­núa–, en el caso de Espa­ña, tene­mos un pro­ble­ma cla­ro de enve­je­ci­mien­to de la pobla­ción. Así que esta es una gran opor­tu­ni­dad. Pare­ce que tene­mos mucho paro en Espa­ña, pero cual­quie­ra que mire la pirá­mi­de pobla­cio­nal se dará cuen­ta de que tene­mos un pro­ble­ma, pero tam­bién que una posi­ble solu­ción pasa por una auto­ma­ti­za­ción que real­men­te revier­ta en el país».

Vol­vien­do al ries­go de que la inte­li­gen­cia arti­fi­cial lle­gue a ser una AI Gene­ral y se con­vier­ta en una super­in­te­li­gen­cia, Her­­ná­n­­dez-Ora­­llo ve otras deri­va­das. Y dice: «…De todas mane­ras, es impor­tan­te mos­trar lo que es la inte­li­gen­cia a nivel humano, pero tam­bién cómo fun­cio­na a nivel social. La inte­li­gen­cia huma­na tam­bién es social. El pro­ble­ma de cómo se va a dis­tri­buir la IA en el pla­ne­ta y cómo pue­de sur­gir el que haya pro­ble­mas de domi­na­ción de unos sobre otros. Este es otro de los ries­gos fun­da­men­ta­les. Que con­cen­tre­mos esas capa­ci­da­des que van a lle­gar, en muy pocos… Y esos muy pocos no tie­nen por­qué ser sólo máqui­nas, pue­den ser per­so­nas que posean estas máqui­nas, o que per­te­nez­can a unas pocas com­pa­ñías. Enton­ces, ten­dre­mos con eso otro gran pro­ble­ma. Mucha nue­va inte­li­gen­cia con­cen­tra­da sig­ni­fi­ca tener un gran poder sobre algo que aún no enten­de­mos bien».

Algo que poca gen­te sabe es que, en abril de 2023,  José, fue selec­cio­na­do jun­to a otro miem­bro de equi­po del Ins­ti­tu­to VRAIN de la UPV, –los dos úni­cos cien­tí­fi­cos espa­ño­les, según Finan­cial Times (FT) –, ele­gi­dos para for­mar par­te del ‘equi­po rojo’ de cien­tí­fi­cos de la IA que fue­ron con­tra­ta­dos por la empre­sa Open AI para «rom­per el ChatGPT», –en reali­dad el Trans­for­mer  GPT‑4–. El pro­pó­si­to, según el edi­tor de AI de FT Madhu­mi­ta Mur­gia, era «poner a prue­ba y eva­luar posi­bles ries­gos del uso del GPT‑4, su enton­ces nove­do­so y poten­te mode­lo lin­güís­ti­co». Recuer­do que Her­­ná­n­­dez-Ora­­llo decla­ró al edi­tor de FT en esa oca­sión «Hoy, este sis­te­ma está con­ge­la­do, lo que sig­ni­fi­ca que ya no apren­de ni tie­ne memo­ria ¿Pero qué pasa­ría, si le dié­ra­mos acce­so libre a internet?…Podría con­ver­tir­se en un sis­te­ma muy poten­te conec­ta­do al mun­do».

Sus últi­mos tra­ba­jos publi­ca­dos en Natu­re y Scien­ce dan pis­tas sobre los ámbi­tos en que está tra­ba­jan­do aho­ra mis­mo. Están rela­cio­na­dos con la eva­lua­ción de ries­gos de los nue­vos Sis­te­mas y Mode­los com­ple­jos de IA. En su paper «Las esca­las gene­ra­les des­blo­quean la eva­lua­ción de la IA con poder expli­ca­ti­vo y pre­dic­ti­vo», publi­ca­do en Natu­re en abril de 2026, su Abs­tract expli­ca que “Garan­ti­zar un uso segu­ro y efi­caz de la IA requie­re com­pren­der y anti­ci­par su desem­pe­ño en tareas nove­do­sas, des­de desa­fíos cien­tí­fi­cos avan­za­dos has­ta acti­vi­da­des trans­for­ma­das en el lugar de tra­ba­jo. Y los resul­ta­dos encon­tra­dos –dice el Abs­tract– repre­sen­tan un avan­ce sig­ni­fi­ca­ti­vo para la eva­lua­ción de la IA, sen­tan­do las bases para su imple­men­ta­ción con­fia­ble en los pró­xi­mos años”.  Su ante­rior paper publi­ca­do en febre­ro de 2026 en Scien­ce se titu­la «La cien­cia y la prác­ti­ca de la pro­por­cio­na­li­dad en las eva­lua­cio­nes de ries­go de la IA»,  lo ha hecho for­man­do par­te de un gru­po lide­ra­do por la Ofi­ci­na de IA de la UE, es decir que está cola­bo­ran­do tam­bién con las fuer­zas de la cien­cia euro­pea de la IA. Ade­más, en una mag­ní­fi­ca con­fe­ren­cia que ha impar­ti­do recien­te­men­te en la Fun­da­ción Are­ces, con el suge­ren­te títu­lo «La IA que no sabía decir que no sabía» ha expli­ca­do que, aho­ra mis­mo está inves­ti­gan­do en la eva­lua­ción sobre la fia­bi­li­dad, –algo esen­cial para sus usos múl­ti­ples–, de los gran­des Mode­los de IA LLM. Eso ocu­pa aho­ra el núcleo de sus inves­ti­ga­cio­nes actua­les den­tro de la ver­ti­gi­no­sa evo­lu­ción actual de la IA en la que dice que «cada mes es como un año». Por eso va paso a paso y no habla mucho del futu­ro de la IA.

Lo que va a pasar con la IA, según Yoshua Bengio y Geoffrey Hinton

Los cien­tí­fi­cos y pio­ne­ros de la IA Yosua Ben­gio, Geof­frey Hin­ton y Yann LeCun, son cono­ci­dos por algu­nos como los «Padri­nos de la IA» y «Padri­nos del Apren­di­za­je Pro­fun­do». Ben­gio nació en París, es infor­má­ti­co teó­ri­co y cien­tí­fi­co de la infor­ma­ción y diri­ge el MILA (Mon­treal Ins­ti­tu­te for Lear­ning Algo­rithms) en la Uni­ver­si­dad de Mon­treal. Fue pre­mia­do con el pres­ti­gio­so Pre­mio Turing por su tra­ba­jo en apren­di­za­je pro­fun­do, y galar­do­na­do en 2022 con el Pre­mio Prín­ci­pe de Astu­rias de Inves­ti­ga­ción Cien­tí­fi­ca y Téc­ni­ca jun­to con Geof­frey Hin­ton, Yann LeCun y Demis Has­sa­bis en reco­no­ci­mien­to a sus con­tri­bu­cio­nes fun­da­men­ta­les al desa­rro­llo del apren­di­za­je pro­fun­do (deep lear­ning) y las redes neu­ro­na­les.

Geof­frey Hin­ton (naci­do en Wim­ble­don, Ingla­te­rra), es cien­tí­fi­co compu­tacio­nal, cien­tí­fi­co y psi­có­lo­go cog­ni­ti­vo y fue galar­do­na­do con el Pre­mio Turing en el 2018 –jun­to con Yoshua Ben­gio y Yann LeCun–, por su apor­ta­ción a los avan­ces con­cep­tua­les y de inge­nie­ría que han hecho de las redes neu­ro­na­les pro­fun­das un com­po­nen­te crí­ti­co de la compu­tación y la IA. En 2024 reci­bió el Pre­mio Nobel de Físi­ca –jun­to a John Hop­field–, por sus des­cu­bri­mien­tos e inven­cio­nes fun­da­cio­na­les que hacen posi­ble el apren­di­za­je auto­má­ti­co median­te redes neu­ro­na­les arti­fi­cia­les. Fun­dó en Cana­dá, con dos de sus estu­dian­tes de post­gra­do Alex Krizhevsky e Ilya Suts­ke­ver, la star­tup de IA DNN­re­search Inc., en 2012 cen­tra­da en desa­rro­llar redes neu­ro­na­les pro­fun­das y apren­di­za­je compu­tari­za­do que fue com­pra­da por 44 millo­nes de dóla­res en mar­zo del 2013 por Goo­gle, lo que le obli­gó a entrar en esa gran empre­sa. Pero poco des­pués, renun­ció a su pues­to en Goo­gle a los 75 años, por los peli­gros y ame­na­zas que reco­no­ce en estas nue­vas tec­no­lo­gías, –y hay algo que intu­yo des­pués de oír sus con­fe­ren­cias recien­tes–, tam­bién por­que creo que no com­par­te cómo la indus­tria está lle­van­do la segu­ri­dad en el desa­rro­llo de las nue­vas IA.

Ben­gio y Hin­ton sí hablan sin tapu­jos de las incer­ti­dum­bres y posi­bles peli­gros y ame­na­zas que pue­de traer esta ver­ti­gi­no­sa evo­lu­ción de la IA tal como está en mar­cha la carre­ra com­pe­ti­ti­va por con­se­guir un mono­po­lio de la IA.

Yoshua Ben­gio, por su par­te, cree que «debe haber un con­trol demo­crá­ti­co del poder que pue­da dar una IA evo­lu­cio­na­da si no está bien ges­tio­na­do; …y si las demo­cra­cias no pue­den dis­tri­buir ese poder lo sufi­cien­te­men­te rápi­do, la IA podría hacer que el auto­ri­ta­ris­mo glo­bal sea tec­no­ló­gi­ca­men­te irre­ver­si­ble»… Afir­ma que, «en sín­te­sis, el pro­ble­ma cen­tral es sim­ple: una gran inte­li­gen­cia arti­fi­cial, como la natu­ral, otor­ga poder. Un enor­me peli­gro es que este enor­me poder pue­da con­cen­trar­se en pocas manos o sur­gir den­tro de sis­te­mas con obje­ti­vos que nun­ca ele­gi­mos en unas elec­cio­nes demo­crá­ti­cas. Podría ame­na­zar nues­tras demo­cra­cias de muchas mane­ras; podría ame­na­zar la esta­bi­li­dad geo­po­lí­ti­ca y la paz. A gran esca­la, ese con­trol deja de ser polí­ti­co y se con­vier­te en un peli­gro exis­ten­cial para la socie­dad».

La humanidad está entrenando unas inteligencias que nadie sabe de verdad cómo controlar completamente.

«Creo que hemos de ser cons­cien­tes de que la huma­ni­dad está entre­nan­do unas inte­li­gen­cias que nadie sabe de ver­dad cómo con­tro­lar com­ple­ta­men­te. Las empre­sas ya no están pro­gra­man­do qué hará la IA. Solo están pro­gra­man­do cómo apren­de. Pero la IA se está mejo­ran­do a sí mis­ma, y cuan­to más capaz y más inte­li­gen­te se vuel­ve, más desa­rro­lla impul­sos como la auto­pre­ser­va­ción. Como con­se­cuen­cia, podría lle­gar a ocu­rrir que la espe­cie domi­nan­te en este pla­ne­ta podría dejar de ser la huma­na».

Y con­ti­nua: «Los bene­fi­cios de la IA ya son muy evi­den­tes. Pero… ¿Cuá­les son los incon­ve­nien­tes? ¿Por qué debe­ría preo­cu­par­nos a la gen­te lo que sig­ni­fi­ca la IA? Hay una pre­gun­ta que ayu­da a enten­der­lo. Pre­gun­té­mo­nos ¿por qué esta­mos abrien­do esa caja de Pan­do­ra? Y, ¿por qué esta­mos cons­tru­yen­do máqui­nas cada vez más inte­li­gen­tes que pron­to pue­de que nos superen… Y, cla­ro, podría ocu­rrir que ese poder que pro­por­cio­na tam­bién podría caer en manos de las pro­pias máqui­nas, por­que aho­ra tene­mos evi­den­cia teó­ri­ca y empí­ri­ca que demues­tra que estos sis­te­mas tie­nen obje­ti­vos que no ele­gi­mos y que van en con­tra de nues­tros pro­pios intere­ses. Por ejem­plo, harían cual­quier cosa para ase­gu­rar­se de que no las des­ac­ti­ve­mos. Y más recien­te­men­te, inclu­so des­cu­bri­mos que mien­ten y hacen tram­pas, etc., para pro­te­ger a otras IA. Eso es algo racio­nal, pero muy extra­ño».

«Así que nece­si­ta­mos que el desa­rro­llo de la IA de van­guar­dia, ofrez­ca, diga­mos, una ter­ce­ra vía. Lo impor­tan­te de la idea es que no se tra­ta de com­pe­tir por más poder. Por supues­to, no olvi­da­mos que está el aspec­to defen­si­vo de que no que­re­mos que­dar­nos sin algo que nece­si­ta­mos para ser com­pe­ti­ti­vos. Pero hay otra razón moral por la que creo que nece­si­ta­mos un ter­cer camino. Espe­ro que demo­cra­cias como las de Euro­pa, –¿quién si no?–, se darán cuen­ta de que es posi­ble desa­rro­llar la IA de for­ma éti­ca, desa­rro­llar una IA de for­ma res­pon­sa­ble, tan­to en el sen­ti­do téc­ni­co, del que me gus­ta hablar, como la posi­bi­li­dad de crear IA que se com­por­te y se use bien, en el sen­ti­do polí­ti­co, es decir, que la IA no se uti­li­ce como ins­tru­men­to de domi­na­ción y que sus bene­fi­cios se com­par­tan. Esto requie­re volun­tad polí­ti­ca, y exis­ten bas­tan­tes obs­tácu­los para lograr­lo»…

«Prin­ci­pal­men­te, algu­nos com­par­ti­mos una sen­sa­ción de impo­ten­cia, la idea de que ya es dema­sia­do tar­de y que los pode­ro­sos lle­van las de ganar… Por­que creo que hay una sub­es­ti­ma­ción colec­ti­va sobre la posi­bi­li­dad de que la IA se vuel­va mucho más pode­ro­sa, –esa es su ten­den­cia–, pero a la gen­te le cues­ta asi­mi­lar­lo. Si esto suce­de, nos encon­tra­ría­mos en una situa­ción geo­po­lí­ti­ca, eco­nó­mi­ca y de segu­ri­dad muy des­fa­vo­ra­ble. No es cues­tión de dete­ner la IA por com­ple­to. Eso es casi impo­si­ble. Es cues­tión de con­tro­lar su rum­bo. Hemos de inten­tar que las IA se com­por­ten bien y que las poda­mos usar tam­bién para pro­te­ger­nos con­tra una posi­ble domi­na­ción basa­da en la IA»…

«Debe­ría­mos exi­gir a nues­tros gobier­nos que hagan algo para evi­tar pro­ba­bles futu­ros nefas­tos inclu­yen­do el impac­to en el empleo, en nues­tros hijos y en la posi­ble corrup­ción de nues­tras demo­cra­cias median­te la des­in­for­ma­ción y otros medios ampli­fi­ca­dos por la IA. Si los ciu­da­da­nos de nues­tros paí­ses com­pren­die­ran el nivel de ries­go del que habla­mos, creo que exi­gi­rian a sus gobier­nos que se lo toma­ran más en serio». Recuer­do un día en par­ti­cu­lar, en el que esta­ba cui­dan­do a mi nie­to, que tenía solo un año, y pen­sé: bueno, a este rit­mo, segu­ro que en 20 años ten­drá 21 y ten­dre­mos una IA que bási­ca­men­te igua­la­rá o supe­ra­rá la inte­li­gen­cia huma­na. ¿Qué cla­se de mun­do será ese? Pen­sar en ello es algo muy preo­cu­pan­te».

«La IA tiene tantos usos beneficiosos que no vamos a poder prescindir de ella»

Geof­frey Hin­ton, por su par­te, des­cri­be así su visión: «La IA tie­ne tan­tos usos bene­fi­cio­sos que no vamos a poder pres­cin­dir de ella. Es dema­sia­do bue­na para muchas cosas que son real­men­te posi­ti­vas para la huma­ni­dad, como la aten­ción médi­ca, la edu­ca­ción, la pre­dic­ción del tiem­po, su ayu­da para el cam­bio cli­má­ti­co. Tal vez tan­to como lo que lo per­ju­di­có el cons­truir todos eso gran­des cen­tros de datos. Por todo eso y por­que a la gen­te muy rica que con­tro­la a los polí­ti­cos les gus­ta­ría ganar mucho dine­ro con ello, no vamos a poder des­ha­cer­nos de la IA… Enton­ces, la úni­ca opción es encon­trar la mane­ra de hacer que no quie­ra matar­nos, domi­nar­nos o eli­mi­nar­nos. Así pues, qui­zá debe­ría­mos obser­var en el mun­do lo que ocu­rre en los casos en que seres menos inte­li­gen­tes con­tro­lan a seres más inte­li­gen­tes, como suce­de con los bebés y sus madres».

«Nues­tro futu­ro en rela­ción a la IA nece­si­ta cola­bo­ra­ción inter­na­cio­nal en rela­ción a la IA».–Esa es la gran espe­ran­za de Hin­ton–; «EE.UU. y Chi­na, –afir­ma–, aun­que se detes­tan, cola­bo­ra­rán en encon­trar la mane­ra de con­se­guir que la IA no se apo­de­re de todo; así que una for­ma de ir hacia ello sería crear una red inter­na­cio­nal de ins­ti­tu­tos de segu­ri­dad de la IA que cola­bo­ren entre sí y se cen­tren en evi­tar que cuan­do la IA, mejo­rán­do­se a sí mis­ma, alcan­ce un des­me­di­do nivel de inte­li­gen­cia y pue­da tomar el con­trol de todo por su cuen­ta»… «Se tra­ta de cons­truir la IA de for­ma que con­si­ga­mos que se preo­cu­pe más de noso­tros que por sí mis­ma. Creo que no es dema­sia­do tar­de, –afir­ma, espe­ran­za­do–; …No sabe­mos como hacer­lo aún, pero dado que el futu­ro de la huma­ni­dad va a depen­der de si pode­mos o no hacer­lo, me pare­ce que debe­ría­mos dedi­car esfuer­zos de inves­ti­ga­ción a estu­diar­lo. En la actua­li­dad el 99% de la inves­ti­ga­ción en IA se cen­tra en cómo hacer­la más inte­li­gen­te y solo el 1%, finan­cia­do prin­ci­pal­men­te por mul­ti­mi­llo­na­rios filán­tro­pos, se dedi­ca a cómo hacer­la más segu­ra, y cómo la haría­mos mucho mejor con­si­guien­do que fue­ra más equi­ta­ti­va. Creo que aún no es dema­sia­do tar­de para ello».

La visión sobre la IA de Demis Hassabis, fundador de DeepMind, –hoy dentro de Google–.

Como he dicho antes, lle­vo siguien­do la tra­yec­to­ria de Demis Has­sa­bis des­de hace años. Y me pare­ce un genio de la compu­tación, la neu­ro­cien­cia, el machi­ne lear­ning (apren­di­za­je de máqui­nas) y la IA, entre otras muchas cosas y, como verá en bre­ve el lec­tor, no exa­ge­ro.

Su visión sobre la IA me intere­sa, apar­te de por lo apa­sio­nan­te de su tra­yec­to­ria y su genia­li­dad, por­que creo que la suya es una visión de la cien­cia y la IA neta­men­te euro­pea. Podría haber­se mar­cha­do con su empre­sa cual­quier lugar pero, a pesar de haber ven­di­do su empre­sa a Goo­gle, deci­dió seguir tra­ba­jan­do en la ciu­dad euro­pea don­de nació y pasó su infan­cia, y ha que­ri­do man­te­ner en Lon­dres, la sede el cen­tro de inves­ti­ga­ción de IA de su empre­sa Deep­Mind que hoy es par­te de Goo­gle. Su visión de la tec­no­lo­gía que me pare­ce muy espe­cial e intere­san­te, pero su espec­ta­cu­lar tra­yec­to­ria es impor­tan­te así que rela­ta­ré pri­me­ro, resu­mi­do, un poco de su excep­cio­nal con­tex­to vital.

Demis Hasa­bis nació en Lon­dres en 1976 y tie­ne aho­ra, por tan­to, 50 años. Ya des­ta­có en la infan­cia. Nació y cre­ció en el nor­te de Lon­dres. Es hijo de padre gre­co­chi­prio­ta y madre sin­ga­pu­ren­se de ori­gen chino. Fue un niño pro­di­gio del aje­drez: alcan­zó el están­dar de «maes­tro» a los 13 años con un Elo de 2300 y capi­ta­neó equi­pos juve­ni­les de Ingla­te­rra. Su tra­yec­to­ria edu­ca­ti­va es espec­ta­cu­lar. Tras com­ple­tar muy tem­prano sus exá­me­nes de secun­da­ria, ini­ció su carre­ra en Bull­frog Pro­duc­tions. Con 17 años co-dise­­ñó y fue líder de pro­gra­ma­ción del clá­si­co vídeo­jue­go The­me Park, que ven­dió varios millo­nes de copias y ayu­dó a con­so­li­dar el géne­ro de simu­la­ción y ges­tión. Pos­te­rior­men­te cur­só Cien­cias de la Compu­tación en el Queens’ Colle­ge de la Uni­ver­si­dad de Cam­brid­ge (1997). Más tar­de obtu­vo un doc­to­ra­do en neu­ro­cien­cia cog­ni­ti­va en el Uni­ver­sity Colle­ge de Lon­dres (2009), y reali­zó estan­cias de inves­ti­ga­ción en la Gatsby Compu­tatio­nal Neu­ros­cien­ce Unit (UCL), el Ins­ti­tu­to de Tec­no­lo­gía de Mas­sa­chu­setts (MIT) y la Uni­ver­si­dad de Har­vard.

Tras gra­duar­se en Cam­brid­ge tra­ba­jó en la empre­sa de video­jue­gos Lionhead Stu­dios como jefe de pro­gra­ma­ción de IA en Black & Whi­te. En 1998 fun­dó Eli­xir Stu­dios, con sede en Lon­dres, don­de fue dise­ña­dor eje­cu­ti­vo de Repu­blic: The Revo­lu­tion y Evil Genius. El estu­dio cerró en 2005 tras ven­der y licen­ciar su pro­pie­dad inte­lec­tual a varios edi­to­res.

A con­ti­nua­ción, orien­tó su carre­ra a la neu­ro­cien­cia cog­ni­ti­va, estu­dian­do la memo­ria auto­bio­grá­fi­ca y la amne­sia. Sus tra­ba­jos apor­ta­ron evi­den­cias sobre el papel del hipo­cam­po en la cons­truc­ción de esce­nas ima­gi­na­das y su rela­ción con la memo­ria epi­só­di­ca, median­te estu­dios con­duc­tua­les y de reso­nan­cia mag­né­ti­ca fun­cio­nal (RMN)

En 2010 cofun­dó Deep­Mind (hoy Goo­gle Deep­Mind), dedi­ca­da al apren­di­za­je auto­má­ti­co (machi­ne lear­ning). En enero de 2014 su empre­sa fue com­pra­da por Goo­gle por unos 400 millo­nes de libras ester­li­nas; des­de 2023, tras la inte­gra­ción con Goo­gle Brain, Demis Has­sa­bis es su direc­tor eje­cu­ti­vo (CEO) de Goo­gle en IA. En 2016, su sis­te­ma Alpha­Go de Deep­Mind ven­ció por 4–1 al cam­peón mun­dial de Go, el sur­co­reano Lee Sedol en un encuen­tro his­tó­ri­co dispu­tado en Seúl. En 2017, Alpha­Ze­ro demos­tró ren­di­mien­to de nivel super­hu­mano en aje­drez, shō­gi y Go apren­dien­do por auto-jue­­go con­si­go mis­mo, y derro­tó a Stock­fish 8 bajo con­di­cio­nes expe­ri­men­ta­les des­cri­tas en su artícu­lo téc­ni­co.

Ha reci­bi­do múl­ti­ples Pre­mios y Galar­do­nes. Entre ellos, ha gana­do en cin­co oca­sio­nes el títu­lo gene­ral Pen­ta­mind de los Jue­gos Mun­dia­les de Depor­tes Men­ta­les. En 2022 reci­bió el Pre­mio Fun­da­ción BBVA Fron­te­ras del Cono­ci­mien­to en Bio­lo­gía y Bio­me­di­ci­na; y ese mis­mo año fue co-gala­r­­do­­na­­do con el Pre­mio Prin­ce­sa de Astu­rias de Inves­ti­ga­ción Cien­tí­fi­ca y Téc­ni­ca jun­to con Geof­frey Hin­ton, Yann LeCun y Yoshua Ben­gio. En 2024 reci­bió el Pre­mio Nobel de Quí­mi­ca, jun­to a David Baker y John Jum­per por sus avan­ces en el dise­ño compu­tacio­nal de pro­teí­nas y la pre­dic­ción de su estruc­tu­ra median­te inte­li­gen­cia arti­fi­cial.

Si uno lee el apar­ta­do de ocu­pa­cio­nes o pro­fe­sio­nes en su ficha en Wiki­pe­dia pue­de leer algo sor­pren­den­te. Allí dice que es:  inge­nie­ro, aje­dre­cis­ta, inves­ti­ga­dor de inte­li­gen­cia arti­fi­cial, infor­má­ti­co teó­ri­co, pro­gra­ma­dor de video­jue­gos, juga­dor de póquer, cien­tí­fi­co de datos, empre­sa­rio, desa­rro­lla­dor de video­jue­gos, empren­de­dor tec­no­ló­gi­co, desa­rro­lla­dor de soft­wa­re y neu­ro­cien­tí­fi­co. Su carre­ra es euro­pea por los cua­tro cos­ta­dos y así se sien­te, aun­que es muy dis­cre­to al res­pec­to, pero lue­go daré pis­tas de sus decla­ra­cio­nes.

La visión sobre la IA de Demis Has­sa­bis es mucho más una visión pura­men­te cien­tí­fi­ca que empre­sa­rial o de obje­ti­vo eco­nó­mi­co. Y seña­la: «Pue­de que con la evo­lu­ción de la IA ocu­rra aque­llo que advir­tió Stephen Haw­king, que acon­se­jó: hemos de hacer­lo bien por­que pue­de que no ten­ga­mos otra opor­tu­ni­dad. Me preo­cu­pan dos cosas de la IA. una, es el mal uso de estos sis­te­mas tec­no­ló­gi­cos de IA por per­so­nas malin­ten­cio­na­das que pue­den ser quie­nes le den un nue­vo y peor uso. Las de la IA son tec­no­lo­gías de doble pro­pó­si­to y pue­de que alguien inten­te usar­las para fines per­ju­di­cia­les.

La segun­da cosa, el segun­do pro­ble­ma, es de tipo téc­ni­co. Estos sis­te­mas se vuel­ven más y más poten­tes, y cada vez serán más capa­ces y autó­no­mos. A medi­da que avan­ce­mos hacia la IAG (Inte­li­gen­cia Arti­fi­cial de Pro­pó­si­to Gene­ral) ¿podrán man­te­ner­se en los lími­tes que desea­mos? Esa segun­da preo­cu­pa­ción, Has­sa­bis la des­cri­bió tam­bién con la idea de una posi­ble IA vol­vién­do­se rebel­de. Aun­que no se refie­re a los Mode­los de hoy; sino que ven­drán en los pró­xi­mos dos a cua­tro años, a medi­da que la indus­tria entre más en lo que él lla­ma «la Era agén­ti­ca o de los Agen­tes de IA». Y se pre­gun­ta «¿Cómo nos ase­gu­ra­mos de que se ins­ta­len las barre­ras de segu­ri­dad para que las IA hagan exac­ta­men­te lo que se les ha dicho, y no haya for­ma de que las elu­dan o, acci­den­tal­men­te, las rom­pan? Eso es un desa­fío téc­ni­co increí­ble­men­te difí­cil si pien­sas en lo pode­ro­sos, inte­li­gen­tes y capa­ces que estos sis­te­mas even­tual­men­te se van vol­vien­do».

Nadie debería construir sistemas de IA capaces de engañar.

En cuan­do a posi­bles solu­cio­nes para esa segun­da preo­cu­pa­ción cita­da, Has­sa­bis afir­ma que «podría ayu­dar la regu­la­ción con unos están­da­res de segu­ri­dad por par­te de todos los pro­vee­do­res líde­res. Lo ideal sería que hubie­ra están­da­res inter­na­cio­na­les. Esta es la tec­no­lo­gía más tras­cen­den­tal que hemos vis­to jamás y que, al mis­mo tiem­po, está radi­ca­da en un esce­na­rio inter­na­cio­nal muy frag­men­ta­do y eso no es lo más acon­se­ja­ble. Creo que vamos a tener que inten­tar todo o mejor que poda­mos para, al menos, esta­ble­cer una serie de están­da­res que eva­lúen algu­nos pará­me­tros como las pro­pie­da­des inde­sea­bles. Por ejem­plo, el que la IA actúe con enga­ño. Nadie debe­ría cons­truir sis­te­mas de IA capa­ces de enga­ñar, por­que enton­ces podría elu­dir las medi­das de segu­ri­dad. Y si las cosas van bien, debe­ría estar pron­to en mar­cha algún pro­ce­so de cer­ti­fi­ca­ción que, bási­ca­men­te sea como un sello de cali­dad que indi­que que el Mode­lo de IA de que se tra­te tie­ne cier­tas sal­va­guar­dias y garan­tías y, por tan­to, los con­su­mi­do­res y las empre­sas pue­den cons­truir cosas sobre él de for­ma segu­ra».

«Creo que así debe se ser ideal­men­te la IA, pero debe ser en un mar­co inter­na­cio­nal por­que, por supues­to, estos sis­te­mas son trans­fron­te­ri­zos y trans­te­rri­to­ria­les. Debe­ría haber para la segu­ri­dad de la IA un Orga­nis­mo inter­na­cio­nal como, por ejem­plo, la Agen­cia de Segu­ri­dad Nuclear, o algo así. Unos Ins­ti­tu­tos Inter­na­cio­na­les de segu­ri­dad de la IA pue­den con­tri­buir, y la comu­ni­dad inves­ti­ga­do­ra debe estar invo­lu­cra­da en deter­mi­nar cuá­les son los pará­me­tros ade­cua­dos para defi­nir qué tipos de carac­te­rís­ti­cas y capa­ci­da­des de la IA serían segu­ras».

«Se me ocu­rre, –pro­si­gue–, que tam­bién podrían exis­tir otras medi­das de segu­ri­dad, como por ejem­plo, que no sería desea­ble que los sis­te­mas de IA gene­ren tokens que no sean legi­bles para los huma­nos (una IA avan­za­da podría gene­rar len­gua­jes para comu­ni­car­se entre sí con otras IA que no sean inte­li­gi­bles para las per­so­nas), ya sabes, una espe­cie de len­gua­je máqui­na que no poda­mos enten­der noso­tros. Eso intro­du­ci­ría una nue­va vul­ne­ra­bi­li­dad. Creo que la mayo­ría de los labo­ra­to­rios de IA líde­res esta­rían de acuer­do en que debe­ría­mos desa­rro­llar estos Orga­nis­mos …Estas Ins­ti­tu­cio­nes inter­na­cio­na­les debe­rían lle­var a cabo prue­bas inde­pen­dien­tes y eso daría con­fian­za al públi­co sobre la IA. El mun­do aca­dé­mi­co y la socie­dad civil deben estar invo­lu­cra­dos ya que estos sis­te­mas de IA se vol­ve­rán pron­to extre­ma­da­men­te pode­ro­sos y, por ello, deben ser veri­fi­ca­dos y audi­ta­dos muy seria­men­te y de for­ma inde­pen­dien­te».

«Habría dejado la IA encerrada en el laboratorio mucho más tiempo»

Y, des­pués expre­sa el núcleo de su visión sobre la IA así: «…Creo que esta revo­lu­ción de la IA Gene­ral va a tener una enor­me dimen­sión. La cuan­ti­fi­co en el equi­va­len­te a la dis­rup­ción de 10 veces la revo­lu­ción indus­trial a 10 veces su velo­ci­dad. En una déca­da en lugar de un siglo. Y debe estar orien­ta­da sobre todo a los gran­des temas nuclea­res de la cien­cia bási­ca». Y, des­pués, sin­ce­ro, con­fie­sa: «Si hubie­ra depen­di­do de mí la IA la hubie­ra enfo­ca­do pri­me­ro hacia curar el cán­cer antes de que nadie usa­ra el Chat GPT. Yo habría deja­do la IA ence­rra­da en el labo­ra­to­rio por mucho más tiem­po. Habría hecho más cosas como Alpha­Fold. Tal vez para inten­tar curar el cán­cer o enfer­me­da­des así».

Demis, en otro momen­to de su decla­ra­ción insi­nuó que lo que pasó des­pués de la apa­ri­ción del Chat GPT ha sido como que­dar atra­pa­dos en una «feroz carre­ra de pre­sión comer­cial» de la que nin­gún labo­ra­to­rio actual de IA pue­de esca­par. Ade­más de eso, la desas­tro­sa diná­mi­ca del enfren­ta­mien­to EE.UU. y Chi­na aña­dió su pre­sión geo­po­lí­ti­ca.

Cui­da­do. Has­sa­bis está afir­man­do públi­ca­men­te que la carre­ra comer­cial y eco­nó­mi­ca por el mono­po­lio de la IA que todos esta­mos vivien­do, es un ERROR. Que la indus­tria infor­má­ti­ca de la IA ha sido secues­tra­da por la fama de un Chat­bot cuan­do podría haber esta­do resol­vien­do los pro­ble­mas más gran­des de la huma­ni­dad en los que están cen­tra­das las van­guar­dias de la cien­cia y la medi­ci­na. Y aña­de que, «en lugar de esa des­pia­da­da com­pe­ti­ción eco­nó­mi­ca, la cien­cia debe­ría ser el cen­tro en esto, y estar cons­tru­yen­do la IA len­ta­men­te, con cui­da­do, como hace el CERN con la físi­ca». Y usar­la fun­da­men­tal­men­te para resol­ver pro­ble­mas uno a uno, en para­le­lo, y no todo a la vez.  Y en cuan­to a las nue­vas apli­ca­cio­nes de la IA, él las pre­fe­ri­ría enfo­ca­das «a cosas que tie­nen que ver, por ejem­plo, con nue­vas for­mas de ener­gía lim­pia y bara­ta, como la fusión nuclear; o lograr fabri­car super­con­duc­to­res asom­bro­sos; o hacia inten­tar curar de una vez cosas como el cán­cer y otras enfer­me­da­des gra­ves; con­se­guir nue­vos mate­ria­les y otras cosas extra­or­di­na­rias que podrían cam­biar la natu­ra­le­za de toda la eco­no­mía».

Y ade­más de eso, no se olvi­da de las huma­ni­da­des. Has­sa­bis tam­bién se acuer­da de ellas y con­clu­ye: «sin olvi­dar un tema cen­tral: entre de los pro­pó­si­tos de esta gran revo­lu­ción; debe estar ave­ri­guar qué es la con­cien­cia y que sig­ni­fi­ca en lo esen­cial ser humano. Pero para eso, obvia­men­te nece­si­ta­mos nue­vos filó­so­fos que nos ayu­den a enfren­tar todo esto. Hay mucho más, pero, en sín­te­sis, ésta es mi visión sobre en qué debe­ría enfo­car­se la revo­lu­ción hacia la IA Gene­ral».

Modes­ta Con­clu­sión sobre la IA Que Que­re­mos (la gen­te de bien)

Como con­clu­sión, diré que creo que las visio­nes des­cri­tas sobre la IA de José Her­­ná­n­­dez-Ora­­llo, Yoshua Ben­gio, Geof­frey Hin­ton y Demis Has­sa­bis, tie­nen muchas cosas en común. Son visio­nes que abor­dan la revo­lu­ción de la IA des­de el para­dig­ma cien­tí­fi­co apo­ya­do en la cien­cia bási­ca; y no des­de el cur­sor eco­nó­mi­co, estric­ta­men­te empre­sa­rial o de ganan­cias eco­nó­mi­cas. Y, otra cosa en común es que todos ellos son y com­par­ten una visión neta­men­te euro­pea, que tie­ne en cuen­ta los valo­res demo­crá­ti­cos y es muy pare­ci­da o equi­va­len­te a la de los cien­tí­fi­cos que cola­bo­ran en el CERN, con el espí­ri­tu de coope­ra­ción inter­na­cio­nal que allí se res­pi­ra y en cuyo cal­do de cul­ti­vo sur­gió la Web que Tim Ber­­ners-lee inven­tó allí y con quien que he comen­za­do este artícu­lo, – muy lar­go en esta vez, por­que el tema de ver­dad lo mere­ce. Mi visión sobre La IA Que Que­re­mos (la gen­te de bien), está total­men­te ali­nea­da con la de estos cua­tro gran­des cien­tí­fi­cos euro­peos.

La últi­ma noti­cia sobre la IA que me lle­ga hoy mis­mo, a pun­to de entre­gar este artícu­lo, vie­ne del Vati­cano. Y es que esta maña­na ha teni­do lugar la pre­sen­ta­ción de la nue­va Encí­cli­ca, la pri­me­ra del Papa León XIV. Se lla­ma Mag­ni­fi­ca Huma­ni­tas, y su sub­tí­tu­lo dice: Sobre la pro­tec­ción de la Per­so­na Huma­na en la Era de la Inte­li­gen­cia Arti­fi­cial. Fran­cis­co, el ante­rior Papa ya publi­có sobre la posi­ción del Vati­cano sobre la IA. Pero en este caso, creo por el sub­tí­tu­lo de la cita­da Encí­cli­ca, –vere­mos si lo con­fir­ma su lec­tu­ra–, no solo es un tex­to con refle­xio­nes, sino tam­bién inclu­ye un serio avi­so sobre las posi­bles pre­cau­cio­nes y pro­tec­cio­nes de los huma­nos y su dig­ni­dad, que hay que tomar con los nue­vos Mode­los de IA, de los que ese sub­tí­tu­lo insi­núa que pue­den traer ame­na­zas para las per­so­nas ante las que hay que pro­te­ger­se.

Otra nove­dad es que en la Pre­sen­ta­ción de la Encí­cli­ca el Papa com­par­tía esce­na­rio con Chris­topher Olah, ateo y uno de co-fun­­da­­do­­res de la empre­sa de inte­li­gen­cia arti­fi­cial Anth­ro­pic, la empre­sa que está desa­rro­llan­do Mythos, uno de los Mode­los de IA LLM más avan­za­dos. Deli­be­ra­da­men­te dejo para otro artícu­lo el caso de Anth­ro­pic y su fun­da­dor Dario Amo­dei, ya que el caso de esta empre­sa y su fun­da­dor requie­ren una refle­xión espe­cí­fi­ca, pero anti­ci­po que es de los pocos en la indus­tria de la IA que habla de desa­rro­llar una IA éti­ca (se opu­so a su IA se use para espiar a los ciu­da­da­nos de EE.UU. y para mane­jar armas leta­les autó­no­mas lo que le supu­so que Trump inclu­ya a su empre­sa en la lis­ta negra del Pen­tá­gono decla­rán­do­la peli­gro­sa para la cade­na de sumi­nis­tro de las fuer­zas arma­das). Sin haber leí­do toda­vía la Encí­cli­ca, –aun­que sí he vis­to la Rue­da de Pren­sa–, anti­ci­po que el títu­lo del Docu­men­to –en latín–, inten­ta ser opti­mis­ta, pero el sub­tí­tu­lo vie­ne con un avi­so que insi­núa que la IA, tal como la está ace­le­ran­do la indus­tria, podría ir en con­tra de la dig­ni­dad huma­na. En la rue­da de pren­sa León XIV ha adver­ti­do que “Nin­gu­na máqui­na podrá sus­ti­tuir jamás al ser humano en su esplen­dor” y que su Encí­cli­ca no habla de la IA, sino sobre el tiem­po de la IA. Lo que ya es un hecho es que el Vati­cano y el actual Papa, con ese docu­men­to, entran de lleno como agen­tes des­ta­ca­dos, en la gue­rra del rela­to mun­dial por la IA. Refle­xio­na­ré sobre Anth­ro­pic y su fun­da­dor Dario Amo­dei, –con quien ten­go un caso per­so­nal–, en estas pági­nas, pero eso será en otra oca­sión, con más tiem­po.

Fina­li­zo mi con­clu­sión del artícu­lo dicien­do que, aun­que casi toda la pro­pa­gan­da de la IA se nos ven­da con un mar­ke­ting y apa­rien­cia según las pau­tas de Sili­con Valley, como el lec­tor ha podi­do com­pro­bar en mi tex­to, la cien­cia bási­ca compu­tacio­nal tras los avan­ces del apren­di­za­je pro­fun­do y los meca­nis­mos ini­cia­les de la IA actual están inven­ta­dos por cien­tí­fi­cos de raíz neta­men­te euro­pea. Mi gran deseo, es que toda la poten­cia de estas tec­no­lo­gías revo­lu­cio­na­rias aso­cia­das a la IA, se cons­tru­ya y modu­le des­de la visión de los para­dig­mas cien­tí­fi­cos y filo­só­fi­cos euro­peos que he des­cri­to en este tex­to; y se orien­te, –como seña­la con acier­to Demis Has­sa­bis–, con los mis­mo méto­dos cien­tí­fi­cos de mesu­ra y cola­bo­ra­ción que ya cono­ce­mos en el CERN euro­peo, y enfo­ca­da espe­cial­men­te hacia los pro­ble­mas más gran­des de la huma­ni­dad cuya cien­cia y medi­ci­na tie­nen per­fec­ta­men­te iden­ti­fi­ca­dos y carac­te­ri­za­dos, en lugar de hacia esa «feroz y loca carre­ra de pre­sión comer­cial» que tie­ne lugar ante noso­tros. Así que creo que aquí tene­mos cla­ro La IA Que Que­re­mos (la gen­te de bien) y tam­bién la que no que­re­mos. Dicho que­da.