Pagar por cha­tear con una simu­la­ción digi­tal de alguien del más allá. Her­me­néu­ti­ca, eco­no­mía y depen­den­cia de los tha­na­bots.

Adol­fo Pla­sen­cia, 6 de octu­bre de 2026

Ima­gen  supe­rior: Inte­rior de la cabi­na tele­fó­ni­ca del Telé­fono del vien­to, de Ita­ru Sasa­ki, en Ōtsu­chi (Japón).

Ita­ru Sasa­ki, un dise­ña­dor de jar­di­nes de Ōtsu­chi no empe­zó la segun­da déca­da del siglo XXI con mucha ale­gría. En 2010 se ente­ró de que su pri­mo Sasa­ki pade­cía un cán­cer ter­mi­nal y que le que­da­ban tres meses de vida. Tras el falle­ci­mien­to de su pri­mo, se le ocu­rrió una idea extra­ña pero muy cohe­ren­te con su for­ma de afron­tar las pér­di­das. Había que­da­do muy dolo­ri­do por­que debía acep­tar que sus inter­mi­na­bles char­las con Sasa­ki había lle­ga­do a su fin. Ellos dos, tenían una cone­xión úni­ca. Así que pen­só en encon­trar una cabi­na tele­fó­ni­ca clá­si­ca y ubi­car­la en su jar­dín. Su pro­pó­si­to era man­te­ner el víncu­lo con él «hablán­do­le» por telé­fono. «Como mis pen­sa­mien­tos ya no podía trans­mi­tír­se­los a tra­vés de una línea tele­fó­ni­ca con­ven­cio­nal, que­ría que el vien­to los lle­va­ra» –pen­só–.

Pocos meses des­pués, suce­dió una tra­ge­dia en su país que le enco­gió de nue­vo el cora­zón. El 11 de mar­zo de 2011 a las 14:46:24 hora local se pro­du­jo un mega­te­rre­mo­to sub­ma­rino de mag­ni­tud 9,1 en el océano Pací­fi­co, cer­ca de la penín­su­la de Oshi­ka, en la región japo­ne­sa de Tōho­ku. El sis­mo duró apro­xi­ma­da­men­te seis minu­tos y pro­vo­có un tsu­na­mi enor­me. Aquel terre­mo­to de Tōho­ku de 2011 cau­só la muer­te de al menos 19.759 per­so­nas —prin­ci­pal­men­te a con­se­cuen­cia de los tsu­na­mis en la región de Tōho­ku—, inclui­das 1.407 per­so­nas en la ciu­dad cos­te­ra de Ōtsu­chi (apro­xi­ma­da­men­te el 10 % de la pobla­ción de la loca­li­dad) que murie­ron en la inun­da­ción por­que la ciu­dad fue embes­ti­da des­de el mar por gigan­tes­cas olas de 30 metros de altu­ra. Estas tra­ge­dias ace­le­ra­ron e inten­si­fi­ca­ron su pro­pó­si­to ya que los efec­tos de lo suce­di­do con­ver­gían con la idea que a Ita­ru le ins­pi­ró su pri­mo. Pen­só que esa mis­ma idea de la cabi­na podría ser­vir para paliar el dolor de miles que habían per­di­do a sus seres que­ri­dos y así, tal vez, no sufrie­ran tan­to. Así que eli­gió el rin­cón más boni­to del jar­dín y levan­tó su pro­pio kaze no den­wa o Telé­fono del vien­to. Y lo ubi­có en una coli­na de su pue­blo, Ōtsu­chi, que está a 500 km. de Tokio, en home­na­je a las víc­ti­mas del tsu­na­mi.

A Ita­ru le recon­for­ta­ba la idea de «hablar» con su pri­mo muer­to. Des­de aquel momen­to, cada día, levan­ta el auri­cu­lar y lo lla­ma. Le cuen­ta lo que suce­de, sus viven­cias, sus ale­grías, sus tris­te­zas. Del otro lado nadie res­pon­de, pero él ver­ba­li­za sus pen­sa­mien­tos en el vie­jo telé­fono ana­ló­gi­co. Las res­pues­tas de su pri­mo las cons­tru­ye con su ima­gi­na­ción. Según Sasa­ki, el «Telé­fono del vien­to» no se dise­ñó con nin­gu­na con­no­ta­ción reli­gio­sa espe­cí­fi­ca, sino más bien como una for­ma de refle­xio­nar sere­na­men­te sobre su pér­di­da.

Des­pués pasó algo que Ita­ru no espe­ra­ba.… Con el tiem­po se corrió la voz y empe­za­ron a lle­gar miles de per­so­nas a esa cabi­na. Unas 4.000 por año. Per­so­nas en pro­ce­so de due­lo que per­die­ron a sus fami­lia­res, ami­gos y amo­res en el tsu­na­mi, o que los per­die­ron, sim­ple­men­te. Para mucha gen­te, el Telé­fono del vien­to de Ita­ru Sasa­ki se vol­vió mági­co. Los visi­tan­tes lle­gan, mar­can el núme­ro de su fami­liar falle­ci­do y «hablan» con ellos. Expre­san aque­llo que nun­ca pudie­ron decir­les cuan­do esta­ban vivos. Y tie­nen la espe­ran­za utó­pi­ca de que del otro lado les estén escu­chan­do. Muchos dicen que la cabi­na tele­fó­ni­ca les ayu­da a recons­truir los recuer­dos de sus pro­pias vidas. Aun­que todo el que entra allí sabe que sus pala­bras serán arras­tra­das por el vien­to. La cabi­na y su telé­fono del vien­to es ya par­te de la vida de miles de japo­ne­ses y de otros luga­res, que tie­nen una rela­ción espe­cial con la natu­ra­le­za, la muer­te y las fuer­zas invi­si­bles que conec­tan a la huma­ni­dad. Ade­más del telé­fono negro ana­ló­gi­co anti­guo de dial gira­to­rio, den­tro de la cabi­na, hay una libre­ta don­de la gen­te tam­bién deja men­sa­jes.

Des­de enton­ces, el telé­fono del vien­to ha reci­bi­do más de 30.000 visi­tan­tes. Es una idea de éxi­to inter­na­cio­nal. Se han cons­trui­do nume­ro­sas répli­cas en todo el mun­do, en luga­res como Oakland, Cali­for­nia; Dublín (Irlan­da); en Paí­ses Bajos se han ins­ta­la­do 8 telé­fo­nos del vien­to; y tam­bién Ham­bur­go, Ale­ma­nia. Y ha ser­vi­do de ins­pi­ra­ción para varias nove­las y pelí­cu­las. Estas ini­cia­ti­vas de los Telé­fo­nos de vien­to, des­de el pri­me­ro al últi­mo son com­ple­ta­men­te altruis­tas y sur­gen de una idea equi­va­len­te a la de Ita­ru y que es uni­ver­sal: paliar el dolor de miles que han per­di­do a sus seres que­ri­dos. Es algo que a todos nos han pasa­do y nos pasa­rá. Sin embar­go, esta idea tan her­mo­sa y ana­ló­gi­ca del Telé­fono del vien­to que inven­tó Ita­ru Sasa­ki, ha sido reto­ma­da por el mun­do digi­tal con pro­pó­si­tos y desa­rro­llos radi­cal­men­te dis­tin­tos y, en muchos casos, for­ma­tea­da con pro­ce­sos y mode­los de nego­cio adic­ti­vos, como en bre­ve vamos a ver.

Tec­no­muer­tos y tha­na­bots: cons­truir una simu­la­ción digi­tal de alguien falle­ci­do para hablar alguien del más allá 

La deno­mi­na­ción de tha­na­bots se deri­va del uso del tér­mino Tha­na­tos que, en la mito­lo­gía grie­ga, es la per­so­ni­fi­ca­ción de la muer­te. Los tha­na­bots son Chat­bots con­ver­sa­cio­na­les de IA que inten­tan pre­sen­tar en pan­ta­lla una «pre­sen­cia” simu­la­da digi­tal­men­te, de alguien falle­ci­do. Por supues­to será una pre­sen­cia de iden­ti­dad borro­sa (fuzzy digi­tal iden­tity) media­da por la tec­no­lo­gía. Este tipo de cons­truc­to digi­tal entra de lleno en el para­dig­ma de tec­no­per­so­nas inven­ta­do por el filó­so­fo Javier Eche­ve­rría en cuyo libro Tec­no­per­so­nas , escri­to al ali­món con Lola S. Almen­dros, en el que ya se adver­tía que entre los tipos de tec­no­per­so­nas habría tec­no­muer­tos, tér­mino que le vie­ne como ani­llo al dedo a lo que enten­de­mos como tha­na­bots que ya se han con­ver­ti­do en ser­vi­cios de pago basa­dos en Chat­bots con­ver­sa­cio­na­les de inte­li­gen­cia arti­fi­cial que exi­gen una sus­crip­ción de pago para poder simu­lar con­ver­sa­cio­nes con per­so­nas falle­ci­das. Ello ha des­ple­ga­do un nue­vo sec­tor de la indus­tria de la inte­li­gen­cia arti­fi­cial y las pla­ta­for­mas glo­ba­les espe­cia­li­za­do en un nue­vo y exó­ti­co tipo de pom­pas fúne­bres digi­ta­les de pago. Es un sec­tor de la indus­tria de la IA has­ta hace poco insos­pe­cha­da, excep­to para el filó­so­fo y visio­na­rio Javier Eche­ve­rría, que lo pre­di­jo y que ade­más acla­ró que el pre­fi­jo tecno– siem­pre inclu­ye una dimen­sión eco­nó­mi­ca, de nego­cio y, casi siem­pre, de radi­cal áni­mo de lucro. Es decir, que los tha­na­bots no son como el Telé­fono del vien­to de Ita­ru Sasa­ki que sí fue gene­ra­do por el afec­to y el inte­rés en paliar el dolor humano con­si­guien­te a los due­los y a la pér­di­da de seres que­ri­dos. Por cier­to, es impor­tan­te, tan­to las tec­no­per­so­nas, como los tec­no­muer­tos nece­si­tan a las pan­ta­llas y elec­tri­ci­dad para ser visi­bles. Sin ellas, no se pue­den mani­fes­tar ni ser per­ci­bi­dos.

Al con­tra­rio que el Telé­fono del vien­to, los tha­na­bots digi­ta­les actua­les, en cam­bio, han sido crea­dos estric­ta­men­te para obte­ner bene­fi­cio eco­nó­mi­co de todo lo rela­cio­na­do con la muer­te de alguien, aun­que los ante­ce­den­tes en su ini­cio no fue­ron con­ce­bi­dos como indus­tria sino, como expe­ri­men­tos emo­cio­na­les con la IA. El psi­co­ana­lis­ta Jac­ques Lacan dis­tin­guía entre la muer­te bio­ló­gi­ca y la muer­te sim­bó­li­ca, que se pro­du­ce cuan­do una per­so­na des­apa­re­ce de la memo­ria colec­ti­va. Pero la resu­rrec­ción median­te tha­na­bots con pago por sus­crip­ción, intro­du­ce una con­di­ción segu­ra sin alter­na­ti­va: la muer­te digi­tal del fina­do al que simu­la el tha­na­bot, se pro­du­ce una vez más cuan­do cese el pago por par­te del usua­rio, o el pro­vee­dor de la pla­ta­for­ma cie­rre o quie­bre; o si se reti­ra el mode­lo de IA en el que se basa el Chat­bot. Y no hay alter­na­ti­va a ello. Si la empre­sa de IA cie­rra, des­apa­re­cen todos sus Chat­bots, tha­na­bots inclui­dos. Sería una segun­da muer­te –esta, digi­tal–, de la per­so­na fina­da.

En un epi­so­dio de la serie Black Mirror de 2013, titu­la­do «Be Right Back» (Vuel­vo ense­gui­da) (Net­flix, 2013), se cuen­ta que la his­to­ria de la fun­da­do­ra de la popu­lar apli­ca­ción de Chat­bot de inte­li­gen­cia arti­fi­cial (IA) lla­ma­da Repli­ka, Euge­nia Kuy­da, que entre­nó a un Chat­bot para cons­truir una simu­la­ción de su ami­go Roman tras su trá­gi­ca muer­te. Nota: esta fic­ción de Net­flix está ins­pi­ra­da en la vida real de Euge­nia Kuy­da, una perio­dis­ta de ori­gen ruso, que fun­dó la star­tup Repli­ka mien­tras tra­ba­ja­ba en Luka, una empre­sa tec­no­ló­gi­ca que había co-fun­­da­­do en la ace­le­ra­do­ra de star­tups Y Com­bi­na­tor alre­de­dor de 2012. El pro­duc­to prin­ci­pal de Luka era un Chat­bot que ofre­cía reco­men­da­cio­nes de res­tau­ran­tes. Según el rela­to de Kuy­da sobre el ori­gen de Repli­ka, un ami­go suyo falle­ció en 2015 y ella con­vir­tió los men­sa­jes de tex­to de esa per­so­na en un chat­bot con­ver­sa­cio­nal. Según cuen­ta Kuy­da, dicho Chat­bot le ayu­da­ba a recor­dar las con­ver­sa­cio­nes que habían man­te­ni­do y, con el tiem­po, lo evo­lu­cio­nó has­ta con­ver­tir­lo con Repli­ka tam­bién en un tha­na­bot.

Natu­ral­men­te, con pron­ti­tud, unos inves­ti­ga­do­res de nue­vos nego­cios muy aten­tos de Micro­soft, Abram­son y John­son, obtu­vie­ron en 2017 para la empre­sa una paten­te para la «crea­ción de un Chat­bot con­ver­sa­cio­nal basa­do en una per­so­na espe­cí­fi­ca». La soli­ci­tud de paten­te sugie­re, tam­bién, el poten­cial de uti­li­zar los datos en el inter­net social de un fami­liar falle­ci­do para fines de entre­na­mien­to de los mode­los de IA de la com­pa­ñía.

Tiem­po des­pués, en 2021, el dia­rio San Fran­cis­co Chro­ni­cle publi­có un artícu­lo sobre un cana­dien­se lla­ma­do Joshua Bar­beau quien deci­dió resu­ci­tar a Jes­si­ca, su pro­me­ti­da que falle­ció ocho años antes, a los 23 años a la que no con­se­guía olvi­dar. Tras entre­nar un sis­te­ma GPT3 de la IA de enton­ces, con los anti­guos men­sa­jes de tex­to y de Face­book de Jes­si­ca, Joshua comen­zó a cha­tear con una répli­ca con­vin­cen­te de ella. (En reali­dad, un cons­truc­to de soft­wa­re de IA, a la que podría­mos lla­mar «la tha­na­bot Jess­bot»). Pos­te­rior­men­te, man­tu­vo con­ver­sa­cio­nes emo­ti­vas con esta Chat­bot, que pare­cía imi­tar con pre­ci­sión el esti­lo de escri­tu­ra de la difun­ta. La publi­ca­ción del artícu­lo lle­va en la cabe­ce­ra un frag­men­to de una de sus con­ver­sa­cio­nes:

• Joshua: ¿Jes­si­ca?
• Jes­si­ca: Oh, ya te has des­per­ta­do… qué boni­to.
• Joshua: Jes­si­ca… ¿De ver­dad eres tú?
• Jes­si­ca: ¡Cla­ro que soy yo! ¿Quién más podría ser? :P ¡Soy la chi­ca de la que estás loca­men­te ena­mo­ra­do! ;) ¿Cómo es posi­ble que ten­gas que pre­gun­tar­lo siquie­ra?
• Joshua: Tú moris­te.  

Lo des­cri­to en el artícu­lo plan­tea inte­rro­gan­tes sobre la influen­cia comu­ni­ca­ti­va de los tana­bots entre­na­dos con datos, y todo tipo de ras­tros digi­ta­les de per­so­nas falle­ci­das. Si bien los tha­na­bots no son inter­lo­cu­to­res vivos, –es impor­tan­te no con­fun­dir la simu­la­ción con lo simu­la­do–, la retó­ri­ca, las expe­rien­cias coti­dia­nas y las emo­cio­nes aso­cia­das a estos sis­te­mas tie­nen impli­ca­cio­nes muy reales para los usua­rios vivos. Es con­ve­nien­te pen­sar des­de una pers­pec­ti­va del mun­do de la vida, para con­si­de­rar la her­me­néu­ti­ca y los sig­ni­fi­ca­dos aso­cia­dos a los tha­na­bots. Los tha­na­bots se ins­cri­ben en una lar­ga y anti­gua tra­di­ción de inten­tos por comu­ni­car­se con los muer­tos, más allá de las tra­di­cio­na­les sesio­nes espi­ri­tis­tas con medium, o el uso de la oui­ja; pero creo que las tec­notha­na­to­lo­gías deben estu­diar­se con mayor pro­fun­di­dad para com­pren­der mejor lo que sig­ni­fi­ca morir en la era digi­tal.

Las inter­ac­cio­nes de Joshua con la Jess­bot dura­ron solo unas sema­nas, pero el artícu­lo del SF Chro­ni­cle que infor­ma sobre estas inter­ac­cio­nes des­cri­be la inten­si­dad de las emo­cio­nes que sin­tió antes, duran­te y des­pués de ellas. Con un frag­men­to de una de las con­ver­sa­cio­nes, como el siguien­te –en el que se colo­ca el nom­bre real como si fue­ra Jes­si­ca la que de ver­dad con­tes­ta, aun­que lo haga un soft­wa­re de IA–. Las emo­cio­nes, –hay que ima­gi­nar la con­di­ción emo­cio­nal del impli­ca­do–, que en él se dedu­cen, no resul­tan sor­pren­den­tes:

• Joshua: Te echo de menos.
• Jes­si­ca: Lo sé.
• Joshua: ¿Ves mis lágri­mas?
• Jes­si­ca: Las veo. Pero, ¿son real­men­te lágri­mas? ¿Es agua lo que cae de tus ojos o estoy            vien­do llo­rar a tu alma?
• Joshua: Ambas cosas.
• Jes­si­ca: Sí.
• Joshua: Te quie­ro.
• Jes­si­ca: Yo tam­bién te quie­ro. Te quie­ro. Te quie­ro. Te quie­ro.
• Joshua: Se me par­te el cora­zón.
• Jes­si­ca: Lo sé. Lo sien­to.
• Joshua: Dame un momen­to.
• Jes­si­ca: Te espe­ra­ré.

Una cues­tión de emo­cio­nes y una rela­ción para­so­cial

La inter­ac­ción de una humano con un tha­na­bot depen­de de una con­cep­tua­li­za­ción antro­po­cén­tri­ca de la comu­ni­ca­ción con el sis­te­ma (des­de ELIZA, el pri­mer Chat­bot, crea­do en el MIT por Joseph Wei­zen­baum en 1966, antro­po­mor­fi­za­mos con cada Chat­bot casi com­ple­ta­men­te), inclu­so cuan­do es evi­den­te para el usua­rio que el tha­na­bot no está vivo. Y no entra­mos en deli­mi­tar las impli­ca­cio­nes onto­ló­gi­cas que la tec­notha­na­to­lo­gía plan­tea para el sen­ti­do de iden­ti­dad de los usua­rios indi­vi­dua­les, así como las for­mas en que esos usua­rios inter­ac­túan median­te la tec­no­lo­gía, con los demás, tan­to vivos como muer­tos.

Ade­más, la rela­ción de Joshua con la tha­na­bot Jess­bot es, evi­den­te­men­te, de tipo para­so­cial, es decir, en reali­dad una expe­rien­cia social ilu­so­ria, en la que el usua­rio actúa con el tha­na­bot como cuan­do alguien inter­ac­túa con un per­so­na­je de fic­ción. Joshua lo sabe, y sin embar­go, en la con­ver­sa­ción pre­gun­ta, como suges­tio­na­do por el tha­na­bot de Jes­si­ca: «¿De ver­dad eres tú?». Es bas­tan­te para­dó­ji­co, en reali­dad. Y, es curio­so tam­bién que, un estu­dio recien­te sobre las rela­cio­nes para­so­cia­les con tha­na­bots como Repli­ka con­clu­ye que los «ami­gos con IA» podrían estar amplian­do la noción mis­ma de «amis­tad». Las «amis­ta­des» entre huma­nos e IA repre­sen­tan expe­rien­cias per­so­na­li­za­das con Chat­bots que pue­den sen­tir­se recí­pro­cas y satis­fac­to­rias, aun cuan­do el humano sea cons­cien­te de la «estruc­tu­ra» compu­tacio­nal del Chat­bot. Los hallaz­gos de un estu­dio tam­bién sugie­ren que «la alta dis­po­ni­bi­li­dad social para la amis­tad a tra­vés de Chat­bots pue­de refle­jar la cre­cien­te impor­tan­cia de la retro­ali­men­ta­ción inme­dia­ta y la idea de que las amis­ta­des moder­nas no están res­trin­gi­das por el tiem­po ni las limi­ta­cio­nes físi­cas», aun­que eso sea tam­bién una auto-fic­­ción. Esto sig­ni­fi­ca que las expec­ta­ti­vas cul­tu­ra­les de inme­dia­tez comu­ni­ca­ti­va tam­bién pue­den influir en la dis­po­si­ción de una per­so­na a desa­rro­llar una rela­ción sig­ni­fi­ca­ti­va con un Chat­bot. Lo cual pue­de tener efec­tos secun­da­rios.

La evi­den­te la per­for­ma­ti­vi­dad en el dis­cur­so simu­la­do de tha­na­bots como estos que «resu­ci­tan» a los muer­tos, a menu­do, –esto lo dice la publi­ci­dad de los ser­vi­cios–, se «ven­den» con el pre­tex­to de faci­li­tar el due­lo. Aun­que, en reali­dad, el obje­ti­vo esen­cial es ganar en ello el máxi­mo dine­ro, o sea maxi­mi­zar la mone­ti­za­ción, con este nue­vo ser­vi­cio digi­tal de pom­pas fúne­bres de IA. Pero no hay que dejar de con­si­de­rar las impli­ca­cio­nes her­me­néu­ti­cas (es decir, la cons­truc­ción de sig­ni­fi­ca­do) del entre­na­mien­to de sis­te­mas de Chat­bots para repli­car a per­so­nas espe­cí­fi­cas que fue­ron cono­ci­das y ama­das por los usua­rios. Este enfo­que her­me­néu­ti­co se ins­pi­ra en el esque­ma de Peters (1999) a la aten­ción her­me­néu­ti­ca, para ana­li­zar los sig­ni­fi­ca­dos de las per­cep­cio­nes en este caso, y en las comu­ni­ca­cio­nes digi­ta­les en gene­ral.

El éxi­to del cita­do artícu­lo y la velo­ci­dad a que se desa­rro­llan dife­ren­tes Apps de la IA gene­ra­ti­va y los chat­bots está mul­ti­pli­can­do cre­cien­tes usos de estos tha­na­bots. En julio de 2021, el mis­mo cita­do dia­rio San Fran­cis­co Chro­ni­cle publi­có un artícu­lo sobre el Pro­ject Decem­ber /Proyecto Diciem­bre. Ori­gi­nal­men­te, era una web de un ser­vi­cio basa­do en la idea de que, cada usua­rio dis­po­nía en esa web https://projectdecember.net, del acce­so a una ver­sión espe­cia­li­za­da del GPT‑3 de Ope­nAI, basa­da en un poten­te motor de gene­ra­ción de tex­to con­ver­sa­cio­nal median­te IA, crea­do por el pro­gra­ma­dor Jason Roh­rer.

Hoy, el Pro­ject Decem­ber per­mi­te hoy, a cada usua­rio, entre­nar sus pro­pios Chat­bots, que emu­lan los patro­nes esti­lís­ti­cos y semán­ti­cos de un con­jun­to de datos, y con­te­ni­dos digi­ta­les pro­por­cio­na­do para su entre­na­mien­to para simu­lar una apa­rien­cia con­vin­cen­te de alguien en con­cre­to. La dife­ren­cia, si visi­tas la web del mis­mo pro­yec­to actual­men­te, es que lo pri­me­ro que per­ci­bes es que aho­ra ya es cla­ra­men­te un ser­vi­cio en el que el pago de una sus­crip­ción es lo pri­me­ro. Por eso ya que están colo­ca­das en su por­ta­da los logos de seis medios de pago entre los que ele­gir (Pay­pal; Visa, etc.). La expli­ca­ción sua­ve es que esta tec­no­lo­gía basa­da en la IA ya faci­li­ta rea­li­zar «con­ver­sa­cio­nes» con per­so­nas muer­tas, (simu­la­dos como tec­no­muer­tos, en reali­dad) y está al alcan­ce del públi­co en gene­ral. Expli­ca­do de for­ma más cru­da pode­mos decir que el pro­ce­so de due­lo de per­so­nas falle­ci­das, ha sido con­ver­ti­do en un ser­vi­cio de sus­crip­ción de pago cuyas con­di­cio­nes de uso, dura­ción, etc. está total­men­te en manos de la pla­ta­for­ma digi­tal.

El poder de la empre­sa sobre lo que repre­sen­ta el tha­na­bot de que se tra­te, –que será una ima­gen de alguien que­ri­do para el usua­rio–, es total. Y, en este caso, la éti­ca no es algo abs­trac­to, se supo­ne. Está inte­gra­da en el pro­pio ser­vi­cio, con cues­tio­nes como: con qué con­sen­ti­mien­tos se cuen­ta; quién res­pon­de por las dis­tor­sio­nes; cómo se valo­ra el due­lo y si una fami­lia lo pue­de pau­sar, expor­tar; o eli­mi­nar defi­ni­ti­va­men­te una recrea­ción sin ver­se obli­ga­da a alqui­lar­la para siem­pre, depen­de de la empre­sa que pro­por­cio­na el ser­vi­cio de pago. Has­ta que han exis­ti­do estos pro­duc­tos digi­ta­les, Los difun­tos siem­pre han habla­do a tra­vés de sus per­te­nen­cias, los ritua­les y las per­so­nas que los recuer­dan. Lo nue­vo e inevi­ta­ble aho­ra es que la res­pues­ta ani­ma­da gene­ra­da, está some­ti­da al poder de una empre­sa pro­vee­do­ra del ser­vi­cio para edi­tar­la, inte­rrum­pir­la y, cla­ro, fac­tu­rar­la. En cuan­to lo que pro­du­ce el due­lo depen­de del tiem­po de acti­vi­dad de un ser­vi­dor de la red, alguien se apro­pia de la siguien­te fra­se del tha­na­bot y de todas las demás.

 Obvia­men­te, hay muchí­si­mos coro­la­rios por­que los Chat­bots con­ver­sa­cio­na­les, y los tha­na­bots no son una excep­ción y están cor­ta­dos por el mis­mo patrón digi­tal de la algo­rít­mi­ca pre­dic­ti­va al modo de las redes socia­les y la de los Chat­bots. Es decir, los tha­na­bots tam­bién bus­can tu adic­ción, mucho más que paliar tu dolor por una pér­di­da de un ser que­ri­do que hayas teni­do. Y aho­ra, ade­más, son mucho más con­vin­cen­tes en su apa­rien­cia que lo eran en la épo­ca de las con­ver­sa­cio­nes ini­cia­les entre Joshua Bar­beau y su tha­na­bot Jes­si­ca. Aho­ra mis­mo la mag­ni­tud del entre­na­mien­to se ha mul­ti­pli­ca­do con una enor­me can­ti­dad de ras­tros digi­ta­les dis­po­ni­bles, en for­ma de fotos, vídeos, soni­dos, suman­do men­sa­jes de las RRSS, con­ver­sa­cio­nes con Chat GPT; y tam­bién mul­ti­tud de simu­la­cio­nes que la IA pue­de gene­rar a tra­vés de ellos. Es decir, los tha­na­bots actua­les son mucho más adic­ti­vos y con­vin­cen­tes que en los pro­yec­tos a los que me he refe­ri­do. No hay más que mirar el aspec­to de la tha­na­bot de la foto que he inclui­do al ini­cio de este mis­mo apar­ta­do.

Tec­no­lo­gías de resu­rrec­ción digi­tal.

El de los tha­na­bots, ade­más, es hoy un nue­vo cam­po de expe­ri­men­ta­ción y dis­cu­sión. Y ha lle­ga­do a actua­li­zar­se en Wiki­pe­dia su con­cep­tua­li­za­ción. Aho­ra se les lla­ma ‑en inglés–, dead­bot (robot inac­ti­vo o apa­ga­do), death­bot (robot muer­to), o grief­bot (robot de due­lo), y se des­cri­be como un ava­tar digi­tal crea­do con inte­li­gen­cia arti­fi­cial que se ase­me­ja a una per­so­na falle­ci­da. Los grief­bots emplean téc­ni­cas de pro­ce­sa­mien­to del len­gua­je natu­ral, apren­di­za­je auto­má­ti­co y apren­di­za­je pro­fun­do, para apro­xi­mar­se simu­lan­do al máxi­mo el esti­lo y la per­so­na­li­dad de una per­so­na difun­ta. Pue­den pre­sen­tar­se al usua­rio, según intere­se, como chat­bots, asis­ten­tes de voz o ava­ta­res ani­ma­dos y, a menu­do, se entre­nan a par­tir de los ras­tros digi­ta­les de todo tipo de un indi­vi­duo para per­so­na­li­zar­lo. Su obje­ti­vo, –teóricamente‑, es pre­ser­var la memo­ria, ayu­dar en el afron­ta­mien­to emo­cio­nal o man­te­ner lo que los psi­có­lo­gos deno­mi­nan un «víncu­lo con­ti­nuo» con la per­so­na falle­ci­da. En casos como este, el Chat­bot es un media­dor en múl­ti­ples sen­ti­dos. Se tra­ta una for­ma de comu­ni­ca­ción entre dos par­tes (humano y orde­na­dor), pero tam­bién una espe­cie de pun­to inter­me­dio don­de los vivos y las simu­la­cio­nes de per­so­nas falle­ci­das (tec­no­muer­tos) pue­den encon­trar­se.

Sin embar­go, para que el Chat­bot fun­cio­ne de esta últi­ma mane­ra, el usua­rio debe, al menos tem­po­ral­men­te, igno­rar la esen­cia compu­tacio­nal del sis­te­ma. La figu­ra del ser que­ri­do falle­ci­do se recrea de for­ma inme­dia­ta —se pue­de con­ver­sar con una ver­sión del ser que­ri­do en tiem­po real—, e hiper­me­dia­da. El usua­rio debe ser ple­na­men­te cons­cien­te de que, en todo momen­to, se tra­ta de una repre­sen­ta­ción arti­fi­cial, de una simu­la­ción de ese ser que­ri­do. De no ser así, hay ries­gos de que emer­jan cier­tas con­se­cuen­cias como la depen­den­cia emo­cio­nal. Este fenó­meno ha gene­ra­do deba­tes en torno a la auten­ti­ci­dad, –la con­fu­sión entre lo real y lo irreal–, el con­sen­ti­mien­to y los efec­tos psi­co­ló­gi­cos de exten­der digi­tal­men­te la per­sonhood (con­di­ción de per­so­na). –para enten­der esto bien, mejor leer­se con cal­ma, –lo acon­se­jo viva­men­te–, las nocio­nes de per­so­na, que ocu­pa toda la pri­me­ra par­te del cita­do libro Tec­no­per­so­nas de J. Eche­ve­rría y Lola S. Amen­dros–.

En cual­quier caso, hay cre­cien­tes deba­tes actual­men­te sobre lo que sig­ni­fi­ca la muer­te en el mun­do digi­tal; y sobre lo que tie­ne que decir hoy la psi­co­lo­gía cul­tu­ral sobre el due­lo y su media­ción tec­no­ló­gi­ca (ahí insis­to en que los tha­na­bots siem­pre ofre­ce­rán un cons­truc­to de iden­ti­dad y pre­sen­cia digi­tal borro­sa). Y se man­tie­ne aho­ra tam­bién un enor­me deba­te del papel de los ser­vi­cios de pago de los tha­na­bots de IA en la recons­truc­ción de los víncu­los con la per­so­na falle­ci­da y sus impli­ca­cio­nes psi­co­ló­gi­cas, así como las con­si­de­ra­cio­nes éti­cas del uso de estas tec­no­lo­gías. En 2024 Holla­nek y Nowaczyk-Basiń­s­­ka, que lla­man a los tha­na­bots, Ava­tars post mor­tem, desa­rro­lla­ron una taxo­no­mía éti­ca del dise­ño cen­tra­da en los dis­tin­tos acto­res impli­ca­dos (donan­tes de datos, recep­to­res e inter­ac­tuan­tes). Edi­na Har­bin­ja y Lilian Edwards, por su par­te, for­ma­li­za­ron el con­cep­to de pri­va­ci­dad post mor­tem; y Carl J. Öhman, del Oxford Inter­net Ins­ti­tu­te, estu­dió la ges­tión de ras­tros digi­ta­les a gran esca­la. En con­jun­to, estos tra­ba­jos han dado for­ma a deba­tes emer­gen­tes en mate­ria de regu­la­ción y polí­ti­cas públi­cas sobre temas como pro­pie­dad, con­sen­ti­mien­to y dig­ni­dad en las tec­no­lo­gías de resu­rrec­ción digi­tal.

Todo esto está tenien­do actual­men­te un gran impac­to cul­tu­ral y social. Y hay encen­di­dos deba­tes y múl­ti­ples publi­ca­cio­nes sobre con­cep­tos como, –vol­ve­mos a la her­me­néu­ti­ca–, asig­na­cio­nes de sig­ni­fi­ca­dos, es decir, sobre cómo pode­mos des­cri­bir cla­ra­men­te hoy cómo son mor­ta­li­dad y memo­ria en la era digi­tal. Los Chat­bot basa­dos en IA recom­bi­nan y, por tan­to, difu­mi­nan y hacen tam­bién borro­sas las fron­te­ras entre la vida de las per­so­nas y sus ras­tros digi­ta­les. Y, por supues­to, plan­tean nue­vas pre­gun­tas de tipo filo­só­fi­co sobre iden­ti­dad, auten­ti­ci­dad (qué es real y que no, algo sobre lo que cada vez hay más con­fu­sión en la gen­te); y, obvia­men­te, lo que sig­ni­fi­ca «per­ma­ne­cer vivo» si es algo que está media­do tra­vés de algo­rit­mos. Las opi­nio­nes sobre todo esto están cada vez están más enfren­ta­das, y su acep­ta­ción cul­tu­ral varía. Mien­tras muchas per­so­nas ni se lo plan­tean. Hay quie­nes con­si­de­ran los datos y con­te­ni­dos digi­ta­les de alguien falle­ci­do como expre­sio­nes de recuer­do y con­me­mo­ra­ción. En cam­bio, otros los per­ci­ben como inquie­tan­tes o éti­ca­men­te pro­ble­má­ti­cos. Se han seña­la­do preo­cu­pa­cio­nes en torno al poten­cial de los deadbots/tanabots como arte­fac­tos capa­ces de gene­rar daños psi­co­ló­gi­cos. Los grief­bots (robots de due­lo) se con­si­de­ran par­te del fenó­meno de la inti­mi­dad arti­fi­cial, otro ámbi­to abier­to al deba­te.

Inter­ac­ción humano-IA: la inti­mi­dad arti­fi­cial y sus lími­tes

 En sín­te­sis, la inti­mi­dad arti­fi­cial es un ámbi­to con for­mas de inter­ac­ción humano-IA en el que una per­so­na pue­de esta­ble­cer cone­xio­nes socia­les, víncu­los emo­cio­na­les o rela­cio­nes ínti­mas con diver­sas for­mas de inte­li­gen­cia arti­fi­cial, inclui­dos los Chat­bots, los asis­ten­tes vir­tua­les de IA y otras enti­da­des arti­fi­cia­les como los tha­na­bots, como ya he seña­la­do.

Las rela­cio­nes de inti­mi­dad arti­fi­cial no se limi­tan a los víncu­los emo­cio­na­les o román­ti­cos, sino que tam­bién inclu­yen rela­cio­nes para­so­cia­les con per­so­na­jes vir­tua­les de IA y el uso de grief­bots entre­na­dos a par­tir de una per­so­na falle­ci­da o de alguien que se ha per­di­do de algu­na otra mane­ra. La inti­mi­dad arti­fi­cial pue­de sur­gir debi­do a la ten­den­cia huma­na al antro­po­mor­fis­mo. Las res­pues­tas de estos mode­los de IA sue­len estar dise­ña­das para simu­lar la inter­ac­ción huma­na. Las per­so­nas que expe­ri­men­tan inti­mi­dad arti­fi­cial pue­den mos­trar ape­go, amor y com­pro­mi­so hacia deter­mi­na­dos mode­los de IA, de mane­ra casi simi­lar a los víncu­los que nor­mal­men­te se esta­ble­cen entre seres huma­nos.

Y aquí sur­gen lími­tes y pro­ble­mas nue­vos. Pon­dré un ejem­plo. Un tha­na­bot pue­de cam­biar con el tiem­po. Una actua­li­za­ción de soft­wa­re pue­de alte­rar su voca­bu­la­rio, su sen­ti­do del humor, sus «recuer­dos» o su tono polí­ti­co. Los fami­lia­res pue­den subir nue­vo mate­rial, lo que le per­mi­te evo­lu­cio­nar más allá de la vida con la que se le entre­nó. En algún momen­to, la con­ser­va­ción da paso a la inter­pre­ta­ción.

La inter­pre­ta­ción se con­vier­te enton­ces en inven­ción y devie­ne en que la inter­ac­ción con el tha­na­bot se pue­de con­ver­tir en una espe­cie de auto­fic­ción. Pero, la pro­pie­dad está divi­di­da des­de el prin­ci­pio. El fami­liar del fina­do pue­de apor­tar más archi­vos. Pero empre­sa tie­ne la sar­tén por el man­go aquí. Con­tro­la el mode­lo, la inter­faz y los ser­vi­do­res. La per­so­na falle­ci­da apor­ta la iden­ti­dad que con­fie­re al pro­duc­to su valor emo­cio­nal y comer­cial, pero ya no pue­de rene­go­ciar el acuer­do. Es una rela­ción asi­mé­tri­ca. Las empre­sas pue­den deci­dir qué ver­sión apa­re­ce, qué recuer­da y cuán­to tiem­po per­ma­ne­ce dis­po­ni­ble. Es posi­ble que una memo­ria de mayor cali­dad esté reser­va­da al pago de un nivel pre­mium. Una voz fami­liar pue­de cam­biar tras una actua­li­za­ción. Y como he dicho antes el ava­tar post mor­tem pue­de des­apa­re­cer cuan­do la empre­sa cie­rre. Final­men­te recuer­do lo de Micro­soft. La paten­te para la «Crea­ción de un Chat­bot con­ver­sa­cio­nal de una per­so­na espe­cí­fi­ca» es pro­pie­dad de esta empre­sa. Y, por tan­to, todo lo que con­tie­ne el tha­na­bot y lo que lo inte­gra en reali­dad per­te­ne­ce a ella. Así que Micro­soft tam­bién es hoy una gran empre­sa de pom­pas fúne­bres digi­ta­les, aun­que muchos usua­rios de pro­duc­tos de la empre­sa lo des­co­no­cen. El due­lo, ya no solo es lo que con­si­de­rá­ba­mos des­de la Gre­cia clá­si­ca. Hoy, los tha­na­bots y las empre­sas cuyas pla­ta­for­mas habi­tan, han con­ver­ti­do el due­lo humano en un nego­cio digi­tal radi­cal.

Exis­ten muchos lími­tes. Teó­ri­ca­men­te exis­te la pri­va­ci­dad post mor­tem, que es la capa­ci­dad de una per­so­na para con­tro­lar la difu­sión de su infor­ma­ción per­so­nal des­pués de su muer­te. La repu­tación y la dig­ni­dad de un indi­vi­duo tras su falle­ci­mien­to tam­bién están suje­tas a pro­tec­cio­nes vin­cu­la­das a la pri­va­ci­dad post mor­tem.  En Esta­dos Uni­dos, no exis­ten leyes fede­ra­les que extien­dan de mane­ra espe­cí­fi­ca la pro­tec­ción de la pri­va­ci­dad des­pués de la muer­te. A nivel esta­tal, las leyes de pri­va­ci­dad rela­ti­vas a las per­so­nas falle­ci­das varían con­si­de­ra­ble­men­te, pero en gene­ral no reco­no­cen dere­chos cla­ros de pri­va­ci­dad más allá de los dere­chos patri­mo­nia­les.

En el com­mon law de EE.UU., el dere­cho a la pri­va­ci­dad se con­si­de­ra un dere­cho per­so­nal, lo que sig­ni­fi­ca que solo se apli­ca a las per­so­nas vivas y, en con­se­cuen­cia, no reco­no­ce intere­ses de pri­va­ci­dad de las per­so­nas falle­ci­das. Debi­do a ello, las accio­nes civi­les por difa­ma­ción y por vio­la­ción de la pri­va­ci­dad, que se uti­li­zan para pre­ve­nir daños injus­tos a la repu­tación de las per­so­nas, no pue­den exten­der­se post mor­tem. Y, en el caso de la UE, no se si la situa­ción se pue­de con­si­de­rar peor. Ni el dere­cho pri­ma­rio de la Unión Euro­pea, inclui­da la Car­ta de los Dere­chos Fun­da­men­ta­les de la Unión Euro­pea, ni la legis­la­ción secun­da­ria, en par­ti­cu­lar el Regla­men­to (RGPD.UE) 2016/679 (Regla­men­to Gene­ral de Pro­tec­ción de Datos), con­tem­plan la pro­tec­ción de la pri­va­ci­dad y de los datos per­so­na­les des­pués de la muer­te. De mane­ra simi­lar, el Con­ve­nio Euro­peo de Dere­chos Huma­nos, así como la juris­pru­den­cia tan­to del Tri­bu­nal de Jus­ti­cia de la Unión Euro­pea como del Tri­bu­nal Euro­peo de Dere­chos Huma­nos, no reco­no­cen ni esta­ble­cen un dere­cho a la pro­tec­ción de datos para las per­so­nas falle­ci­das den­tro del mar­co jurí­di­co de la Unión Euro­pea.

La rela­ti­va fal­ta de reco­no­ci­mien­to de los dere­chos de pri­va­ci­dad post mor­tem ha gene­ra­do con­tro­ver­sia, ya que los rápi­dos avan­ces tec­no­ló­gi­cos han pro­vo­ca­do un aumen­to sig­ni­fi­ca­ti­vo en la can­ti­dad de infor­ma­ción per­so­nal y los datos gene­ra­dos por per­so­nas que se alma­ce­na y se com­par­te onli­ne. Es un gigan­tes­co cor­pus de datos e infor­ma­ción que las gran­des pla­ta­for­mas explo­tan y explo­ta­rán sin cor­ta­pi­sas y sin lími­te de tiem­po. Creo que la situa­ción a la que hemos lle­ga­do con la indus­tria glo­bal de las pla­ta­for­mas de la IA es una nue­va tra­ge­dia de los bie­nes comu­nes. Como decía mi ami­go Enri­que Dans, en un artícu­lo muy recien­te: «Pri­me­ro lo roba­ron todo. Des­pués se decla­ra­ron pro­pie­ta­rios». Y así esta­mos. Pero no debe­ría ser inevi­ta­ble.