Por suerte o por desgracia, estamos formando parte y asistiendo, a la vez, a uno de los mayores experimentos sociales de la historia, que implica a miles de millones de personas de todo el mundo.

Vier­nes, 15 de mar­zo de 2024

La com­bi­na­ción inte­gra­da de telé­fo­nos inte­li­gen­tes, dis­po­si­ti­vos móvi­les, cone­xión ubi­cua (des­de cual­quier lugar y en cual­quier momen­to), Apps incan­sa­bles reco­lec­to­ras de datos y meta­da­tos, con una algo­rít­mi­ca pre­dic­ti­va de las pla­ta­for­mas glo­ba­les que explo­ta efi­caz­men­te la vul­ne­ra­bi­li­dad emo­cio­nal de los usua­rios de toda edad y con­di­ción inte­lec­tual está pro­du­cien­do un enor­me impac­to social. Todas las cita­das tec­no­lo­gías, y más, cola­bo­ran­do al uní­sono y sin des­can­so (los algo­rit­mos no ‘tra­ba­jan’ en jor­na­das sino sin lími­te), se ha con­ver­ti­do en la más efi­caz y enor­me tram­pa cog­ni­ti­va para los usua­rios conec­ta­dos de una dimen­sión nun­ca vis­ta antes. Vaya­mos por par­tes.

Por suer­te o por des­gra­cia, esta­mos for­man­do par­te y asis­tien­do, a la vez, a uno de los mayo­res expe­ri­men­tos socia­les de la his­to­ria, que impli­ca a miles de millo­nes de per­so­nas de todo el mun­do. No pare­ce pla­nea­do por cien­tí­fi­cos, –que en el inte­rior de algu­nas empre­sas son cóm­pli­ces nece­sa­rios, como bien decla­ró Fran­cis Hau­gen–, sino impul­sa­dos por los gran­des líde­res de las big tech (gran­des tec­no­ló­gi­cas), a los que  Adrien­ne LaFran­ce lla­ma Los dés­po­tas de Sili­con Valley. Pere­cen un nue­vo tipo de mag­na­tes, apli­ca­do­res radi­ca­les del prin­ci­pio acti­vo de Mil­ton Fried­man, que decía que la úni­ca obli­ga­ción de las empre­sas era maxi­mi­zar el bene­fi­cio. Hacia ese obje­ti­vo pare­cen guiar exclu­si­va­men­te el com­por­ta­mien­to de sus empre­sas y tec­no­lo­gías sin escrú­pu­lo alguno sobre las con­se­cuen­cias en las vidas de los usua­rios. A veces piden dis­cul­pas pero hemos com­pro­ba­do que eso no modi­fi­ca en abso­lu­to el com­por­ta­mien­to de sus pla­ta­for­mas, ante los ya visi­bles y evi­den­tes daños cau­sa­dos.

Pero el adve­ni­mien­to de este nue­vo tipo de mag­na­tes se veía venir, no es nin­gu­na sor­pre­sa. Por ejem­plo, para el filó­so­fo Javier Eche­ve­rría que a estos nue­vos capi­ta­lis­tas tec­no­ló­gi­cos, de for­ma visio­na­ria los deno­mi­nó ‘Seño­res del Aire’  (o de La Nube) en un anti­ci­pa­to­rio libro que mere­ció el pre­mio nacio­nal de Ensa­yo en el año 2.000. Dos déca­das y media des­pués el céle­bre Yanis Varou­fa­kis los lla­ma, a su vez, los ‘seño­res de la nube y del tec­no­feu­da­lis­mo’ de los que el común de los mor­ta­les de hoy, según este cono­ci­do eco­no­mis­ta, ya solo somos humil­des sier­vos en pleno siglo XXI.

El nue­vo Gran Her­mano digi­tal

En nues­tro tiem­po, según la ase­ve­ra­ción de Varou­fa­kis, el nue­vo orden que nos rige glo­bal­men­te, sobre todo en nues­tra vida onli­ne, es el de una eco­no­mía tecno-feu­­dal. A este con­cep­to que anti­ci­pó, tiem­po ha, la sabi­du­ría de Eche­ve­rría, le han sali­do muchos sinó­ni­mos. Por ejem­plo, el de la Era del capi­ta­lis­mo de la vigi­lan­cia de la pro­fe­so­ra de Har­vard Susa­na Zuboff, por más que no haya nadie vigi­lan­do, lo cual incum­ple solo en una par­te la fic­ción dis­tó­pi­ca 1984, escri­ta por Geor­ge Orwell en 1948, en la que augu­ra­ba un ‘omni­pre­sen­te y vigi­lan­te’ Gran Her­mano.

Cua­ren­ta años des­pués del momen­to aven­tu­ra­do por la nove­la, no se ha cum­pli­do lo de que habría sobre noso­tros un vigi­lan­te gran her­mano, ya que la algo­rít­mi­ca pre­dic­ti­va lo ha sus­ti­tui­do con efi­ca­cia de otra mane­ra. Pero, en cam­bio, si se cum­ple hoy, el de ‘omni­pre­sen­te’, –el otro atri­bu­to del Gran Her­mano orwe­lliano–. Aun­que no com­ple­ta­men­te, sino sólo los luga­res del pla­ne­ta don­de haya cober­tu­ra móvil y, por tan­to, cone­xión ubi­cua a Inter­net. Y, ade­más, con una con­di­ción obvia, la impres­cin­di­ble pan­ta­lla. Lo vir­tual sólo ‘exis­te’, habi­ta y se per­ci­be, hoy por hoy, siem­pre media­do a tra­vés de una pan­ta­lla, aun­que no solo.

Hay otras coin­ci­den­cias con­cep­tua­les asom­bro­sas con la fic­ción orwe­llia­na, vis­ta hoy, aun­que con dis­tin­tos nom­bres. Por ejem­plo, ocu­rre con la idea de la habi­ta­ción 101, y de aque­lla ubi­cua poli­cía del pen­sa­mien­to y de la neo­len­gua y el Minis­te­rio de la Ver­dad (Mini­true) ima­gi­na­das febril­men­te por Orwell. En la reali­dad actual hay una ver­sión equi­va­len­te que cum­ple de algún modo para­le­lo lo des­cri­to en aque­lla dis­to­pía orwe­llia­na. Ese papel lo ejer­cen unas gigan­tes­cas e insa­cia­bles (en agua, ener­gía y datos), infra­es­truc­tu­ras actua­les de los mega cen­tros de datos. Son las lla­ma­das en la jer­ga tec­no­ló­gi­ca gran­jas de ser­vi­do­res. Su esca­la numé­ri­ca es muy gran­de. Solo en EE.UU. había 5.375 de ellas fun­cio­nan­do en 2023– y en todo el mun­do hay casi 10.000. La mayo­ría de las más gran­des per­te­ne­cen a las pla­ta­for­mas glo­ba­les de redes socia­les que des­de ellas ali­men­tan una ingen­te ciber­né­ti­ca que median­te una com­ple­ja algo­rít­mi­ca usa la esta­dís­ti­ca pre­dic­ti­va de sus algo­rit­mos de machi­ne lear­ning para hacer posi­ble la enor­me mag­ni­tud del cita­do ‘expe­ri­men­to’.

Para poner en con­tex­to tec­no­ló­gi­co y eco­nó­mi­co la dimen­sión de estos Data Cen­ters pode­mos poner un ejem­plo. Sin ellos, no hubie­ra sido posi­ble el entre­na­mien­to del Mode­lo Lin­güís­ti­co LLM que hace ope­ra­ti­vo y acce­si­ble el ChatGPT en cuyo entre­na­mien­to, se le intro­du­je­ron 370.000 millo­nes de pala­bras. Micro­soft puso para ello, a dis­po­si­ción de la empre­sa Open AI, la capa­ci­dad de su infra­es­truc­tu­ra de Data Cen­ters Azu­re que inte­gra 60 regio­nes, y la empre­sa tie­ne ubi­ca­dos por todo el mun­do. Esa ope­ra­ción tuvo un cos­te de más de 10.000 millo­nes de dóla­res para el gigan­te tec­no­ló­gi­co, apor­ta­ción que le ha con­ver­ti­do en accio­nis­ta mayo­ri­ta­rio de Open AI.

El smarpho­ne: una ‘casi’ infa­li­ble tram­pa cog­ni­ti­va

Los telé­fo­nos móvi­les actua­les (aso­cia­dos aho­ra al eufe­mis­mo de ‘inte­li­gen­tes’) inte­gran toda una serie de tec­no­lo­gías, que bien usa­das son mara­vi­llo­sas. Per­mi­ten a las per­so­nas inter­ac­tuar entre sí en modo mul­ti­me­dia como nun­ca antes y de for­ma ubi­cua (des­de cual­quier lugar y en todo momen­to). Per­mi­ten que una abue­li­ta vea y escu­che a su nie­ta que vive o se encuen­tra en otro país sin que la pri­me­ra nece­si­te apren­der nada. Sim­ple­men­te, ha de pul­sar sobre su foto en la mis­ma pan­ta­lla (el ava­tar en ‘su’ WhatsApp), et voi­là!, le apa­re­ce mági­ca­men­te el son­rien­te y tan que­ri­do ros­tro de su nie­ta en la pan­ta­lla y, lo mis­mo, con el res­to de su fami­lia hoy tan dis­per­sa geo­grá­fi­ca­men­te. O, por ejem­plo, con el nie­to mayor estu­dian­te de su fami­lia que está cur­sa­do el pro­gra­ma Eras­mus en una leja­na ciu­dad euro­pea, con el que pue­de ver y hablar por video­con­fe­ren­cia con ella en cual­quier momen­to como si no hubie­ra dis­tan­cias. Cer­ca y lejos en el telé­fono, aho­ra son lo mis­mo.

Todo ello se ajus­ta, si el dis­po­si­ti­vo es bien usa­do, a aque­lla anti­gua fra­se de hace déca­das, –escri­ta mucho antes de que exis­tie­ra esta mara­vi­lla tec­no­ló­gi­ca–, de Arthur C. Clar­ke: “cual­quier tec­no­lo­gía lo sufi­cien­te­men­te avan­za­da es indis­tin­gui­ble de la magia”. Esto lo cum­plen lite­ral­men­te los Smarpho­nes actua­les, con cre­ces.

Pero esas mis­mas mara­vi­llo­sas máqui­nas se con­vier­ten en un peli­gro para la salud –no por ellas mis­mas sino por lo que lle­ga a tra­vés de ellas–, por ejem­plo, para los ado­les­cen­tes cuan­do gene­ran una inte­rrup­ción cons­tan­te de la aten­ción den­tro de un aula; o cuan­do fun­cio­nan conec­ta­das pasa­da la media­no­che en la habi­ta­ción de niños o ado­les­cen­tes, sin super­vi­sión de los padres. Y sus efec­tos se están demos­tran­do muy noci­vos y adic­ti­vos, como mos­tró el infor­me publi­ca­do por Finan­cial Times.

Resul­ta que ade­más de los posi­bles bue­nos usos de estas sofis­ti­ca­das y mara­vi­llo­sas máqui­nas digi­ta­les, alguien ha aña­di­do un lado oscu­ro, ya que se han con­ver­ti­do en el ins­tru­men­to cen­tral del per­ver­so y gigan­tes­co expe­ri­men­to socio­ló­gi­co glo­bal del que habla­ba. Yo he cono­ci­do y usa­do las tec­no­lo­gías de red social que son mara­vi­llo­sas, sin el aña­di­do algo­rít­mi­co que le han incrus­ta­do las empre­sas due­ñas de las pla­ta­for­mas glo­ba­les. Lo han hecho, por­que están muy cen­tra­das en dos obje­ti­vos bási­cos muy sen­ci­llos de expli­car; uno, que los usua­rios nos conec­te­mos al máxi­mo núme­ro de veces por uni­dad de tiem­po vital (cada hora, cada día o cada noche); y dos, que ten­ga­mos absor­ta en su pan­ta­lla nues­tra aten­ción el máxi­mo de tiem­po posi­ble, no impor­ta cuán­to. Todo su des­plie­gue de tec­no­lo­gías en el caso de las pla­ta­for­mas per­si­gue eso. El cómo lo con­si­guen es otro tema, pero, el hecho es que el tiem­po y aten­ción de los usua­rios son las mate­rias pri­mas que ellos mone­ti­zan, como se dice en la jer­ga, o sea, las con­vier­te en mer­can­cía y con ello en bene­fi­cio eco­nó­mi­co.

Las pla­ta­for­mas glo­ba­les de redes socia­les han con­se­gui­do esto con una efi­ca­cia sin pre­ce­den­tes. De ello deri­va que estas empre­sas obten­gan tasas de bene­fi­cios que nun­ca antes habían sido con­se­gui­das por empre­sa ni sec­tor eco­nó­mi­co alguno. Una con­se­cuen­cia no menor es que su tec­no­lo­gía com­bi­na­da con sus bene­fi­cios les ha pro­por­cio­na­do un poder casi omní­mo­do, por enci­ma de cual­quier gober­nan­te demo­crá­ti­co actual. Un tipo de poder que nun­ca soñó ni siquie­ra el cita­do Gran Her­mano orwe­lliano pro­ta­go­nis­ta de las pesa­di­llas dis­tó­pi­cas ima­gi­na­das por Orwell.

Acti­var y alte­rar sin des­can­so el cir­cui­to cere­bral de recom­pen­sa ins­tan­tá­nea

Vamos aho­ra al cómo, que es impor­tan­te. Sí, ¿cómo han con­se­gui­do con enor­me efi­ca­cia las empre­sas que sus pla­ta­for­mas onli­ne Tik­tok, WhatsApp, You Tube, Face­book, Ins­ta­gram, Snap­Chat, etc. y otras, se vuel­van masi­va­men­te adic­ti­vas? …Pues usan­do en su bene­fi­cio algo que poseen todos los huma­nos: sus pro­pias emo­cio­nes; la par­te de su natu­ra­le­za men­tal sobre la que a cual­quier humano le resul­ta más difí­cil impo­ner su auto­con­trol. Por eso, nues­tro lado emo­cio­nal es el que nos hace más vul­ne­ra­bles, sobre todo a eda­des tem­pra­nas. Un niño, o un ado­les­cen­te, es la víc­ti­ma pro­pi­cia­to­ria per­fec­ta para la algo­rít­mi­ca pre­dic­ti­va. Aun­que todos, a cual­quier edad, somos vul­ne­ra­bles, prin­ci­pal­men­te a tra­vés de nues­tro lado men­tal emo­cio­nal. Por ello, nin­gún humano nor­mal conec­ta­do está a sal­vo de ello. Eso hace que la esca­la social de su impac­to con las redes socia­les sea enor­me. Eso es lo que ocu­rre hoy con miles de millo­nes de per­so­nas a cuyas emo­cio­nes apun­ta la algo­rít­mi­ca en sus cone­xio­nes onli­ne.

Para que el lec­tor se haga una idea de la mag­ni­tud social del cita­do impac­to, según Esta­tis­ta, en enero de 2024, había en el mun­do 5.040 millo­nes de usua­rios de redes socia­les. Esa es la mag­ni­tud de per­so­nas invo­lu­cra­das. La algo­rít­mi­ca de las pla­ta­for­mas de red social actúa incan­sa­ble­men­te para aumen­tar lo que en EE.UU. lla­man el ‘enga­ge­ment’ de sus usua­rios. Enga­ge­ment se sue­le tra­du­cir por vin­cu­la­ción o ‘com­pro­mi­so’, pero, en este caso, pre­fie­ro deno­mi­nar­lo en espa­ñol “engan­cha­mien­to” una tra­duc­ción más tos­ca, pero que lo defi­ne mejor.

Vol­vien­do al meca­nis­mo de la tram­pa cog­ni­ti­va. El sofis­ti­ca­do pro­ce­so que ha sido dise­ña­do para que sucum­ba­mos a la ‘adic­ción sin sus­tan­cia’,  –es decir, sin inge­rir sus­tan­cia físi­ca algu­na–, comien­za por regis­trar datos y meta­da­tos (que rela­cio­nan los datos con el quién, dón­de, cuán­do, etc.), median­te dos nue­vas téc­ni­cas: la Acti­gra­fía y la Tap­pi­gra­fía, –que expli­qué en estas pági­nas con deta­lle en una entre­ga ante­rior–. De ello, sur­ge ese sub­ti­tu­lar algo iró­ni­co de “tu smartpho­ne sabe cómo te sien­tes antes que tú–.  

Este com­ple­jo y sutil meca­nis­mo que regis­tra median­te más de 15 sen­so­res dis­tin­tos inte­gra­dos en el móvil, – como, por ejem­plo, los ace­le­ró­me­tros–, des­de los movi­mien­tos de nues­tro cuer­po a lo lar­go del tiem­po y de la geo­gra­fía; o los patro­nes de nues­tras inter­ac­cio­nes y teclea­do (y su inten­si­dad) con la pan­ta­lla del smartpho­ne, has­ta nues­tra infor­ma­ción para-lin­­güí­s­­ti­­ca (volu­men, velo­ci­dad y ento­na­ción del habla) para lo que toman el con­trol del micró­fono de nues­tro telé­fono sin que lo note­mos. Estos pará­me­tros dan pun­tual y con­ti­nua infor­ma­ción a la algo­rít­mi­ca sobre nues­tras esta­dos emo­cio­na­les y men­ta­les de los que hacen esta­dís­ti­ca diná­mi­ca, y, por exten­sión, reali­men­ta la algo­rít­mi­ca de las pla­ta­for­mas, con nues­tros pro­pios datos.

Para ello, aca­ba toman­do el con­trol ‘en segun­do plano’, de una par­te impor­tan­te de su fun­cio­na­mien­to, pri­me­ro del pro­pio Smartpho­ne y su soft­wa­re y des­pués, a tra­vés de ellos, del flu­jo las prio­ri­da­des de la infor­ma­ción de su inter­faz. Así, sutil­men­te, reite­ro, sin que nos aper­ci­ba­mos de ello, influ­yen en nues­tro esta­do emo­cio­nal para modi­fi­car nues­tra con­duc­ta, e inten­tar pro­vo­car una adic­ción de matriz digi­tal con la que ‘puen­tear’ nues­tra volun­tad y capa­ci­dad de deci­sión, y re-orie­n­­tar casi, imper­cep­ti­ble­men­te, ambas y ali­near­las con sus pro­pó­si­tos comer­cia­les, y de áni­mo de lucro, al pere­cer, sin que les impor­ten las con­se­cuen­cias.

Un capi­ta­lis­mo orien­ta­do a lo ‘lím­bi­co’

La for­ma de acti­var el cita­do meca­nis­mo sin que inter­ven­ga la volun­tad del usua­rio ni este se dé cuen­ta de ello es que la algo­rít­mi­ca pre­dic­ti­va de las pla­ta­for­mas de red social, de la que habla­ba apun­ten a lo más emo­ti­vo, que coin­ci­de en lo que ha regis­tra­do ante­rior­men­te como picos de dicha esta­dís­ti­ca que coin­ci­den con los altos y máxi­mos nive­les de inter­ac­ción con la pan­ta­lla o de inten­si­dad de movi­mien­tos del usua­rio (regis­tra­dos por las cita­das Acti­gra­fía y la Tap­pi­gra­fía.

Pre­ten­den y con­si­guen gene­rar un flu­jo de repe­ti­ción adic­ti­va es pre­sen­tar­nos una y otra vez, sin tre­gua, en pan­ta­lla aque­llo que coin­ci­de temá­ti­ca­men­te en nues­tra con­duc­ta ante­rior con lo que ha pro­vo­ca­do nues­tros picos esta­dís­ti­cos, es decir, lo que nos ha hecho reac­cio­nar más inten­sa y emo­cio­nal­men­te y en un mayor núme­ro de oca­sio­nes. Así con­si­guen por acu­mu­la­ción una exa­cer­ba­ción arti­fi­cial del esta­do de exci­ta­ción emo­cio­nal, reali­men­ta­do tam­bién por las carac­te­rís­ti­cas de dise­ño de las inter­fa­ces que bus­can com­ple­tar el pro­ce­so has­ta lle­var­nos a un nivel de adic­ción digi­tal  por enci­ma de nues­tra volun­tad.

Y, es obvio. Si no inter­vie­ne nues­tra volun­tad, tam­po­co lo hace nues­tro modo racio­nal y refle­xi­vo, que es más len­to y nece­si­ta su tiem­po pero no lo encuen­tra, en este bucle con­ti­nuo y cerra­do en la inme­dia­tez que, por ello, ade­más de estar más allá de nues­tra volun­tad, tam­bién lo está de nues­tra capa­ci­dad de deci­sión. En suma, se tra­ta de una ver­da­de­ra auto­ma­ti­za­ción cons­tan­te de acti­var de nues­tro sis­te­ma cere­bral de recom­pen­sa ins­tan­tá­nea que, por acu­mu­la­ción, indu­ce un esta­do de con­cien­cia alte­ra­do, pero casi imper­cep­ti­ble para quien lo sufre.

Esos regis­tros y ese cru­ce con lo que más nos ‘ale­gra’ pues­to ante nues­tros ojos, hace que se cana­li­ce per­so­na­li­za­da­men­te hacia nues­tra pan­ta­lla prio­ri­za­do por los algo­rít­mi­cos, una y otra vez, lo que pro­du­ce a cada usua­rio con­cre­to una acti­va­ción ince­san­te de su sis­te­ma lím­bi­co, ­­–en el sen­ti­do que deno­mi­nó el neu­ró­lo­go y antro­pó­lo­go Paul Bro­ca–.

Por acla­rar­lo, el sis­te­ma lím­bi­co está for­ma­do por varias estruc­tu­ras cere­bra­les com­ple­jas que se ubi­can alre­de­dor del tála­mo y por deba­jo de la cor­te­za cere­bral y es, en sín­te­sis, el prin­ci­pal res­pon­sa­ble de la vida emo­cio­nal y/o afec­ti­va. Dicho sis­te­ma inter­ac­cio­na muy veloz­men­te (y al pare­cer sin que nece­si­ten mediar estruc­tu­ras cere­bra­les supe­rio­res) con el sis­te­ma endo­crino y el sis­te­ma ner­vio­so peri­fé­ri­co y, por ello, no es nece­sa­ria la volun­tad, para que se acti­ve a tra­vés de él, el meca­nis­mo de recom­pen­sa ins­tan­tá­nea que dis­pa­ra tam­bién micro-picos de gene­ra­ción de dopa­mi­na, el neu­ro­trans­mi­sor más rela­cio­na­do con emo­ti­vi­dad y la afec­ti­vi­dad y el meca­nis­mo de recom­pen­sa cere­bral de nues­tro cere­bro, que, por cier­to tam­bién nos refuer­za el repe­tir una con­duc­ta para seguir obte­nien­do más recom­pen­sas ‘men­ta­les’. Así se alte­ra arti­fi­cial­men­te el cir­cui­to natu­ral de este neu­ro­trans­mi­sor de los usua­rios como camino a su adic­ción.

Obvia­men­te, esto no tie­ne el mis­mo efec­to en todas las per­so­nas. Nues­tra natu­ra­le­za y nues­tras acti­vi­da­des huma­nas coti­dia­nas no nos ponen a todos com­ple­ta­men­te a mer­ced de nues­tras emo­cio­nes, des­co­nec­ta­dos de nues­tro racio­ci­nio, ni en el mis­mo gra­do, pero sutil­men­te sí nos afec­tan a todos. Y en mayor o menor gra­do, su alte­ra­ción pue­de modi­fi­car y a veces cam­biar radi­cal­men­te la con­duc­ta de los usua­rios sin que la mayo­ría sean cons­cien­tes de ello.

En el títu­lo he seña­la­do que en el caso del Smartpho­ne la tram­pa cog­ni­ti­va es “casi” y por tan­to no com­ple­ta­men­te infa­li­ble. Bas­ta con que se ago­te la bate­ría del dis­po­si­ti­vo sin posi­bi­li­dad de re-car­­ga­r­­la, o se inte­rrum­pa su cone­xión el tiem­po sufi­cien­te o pase­mos unos días sin cober­tu­ra en una aldea del mun­do rural pro­fun­do sin posi­bi­li­dad de dis­po­ner de cone­xión ubi­cua. Sin elec­tri­ci­dad o cone­xión, la ‘tram­pa cog­ni­ti­va’ des­apa­re­ce por­que no es el pro­pio dis­po­si­ti­vo, sino lo que lle­ga a tra­vés de él lo que repre­sen­ta en muchos casos un peli­gro, si no nos pro­te­ge­mos, y esta­mos a mer­ced del exce­so de infor­ma­ción no desea­da que nos envían sin el tiem­po vital ade­cua­do que nece­si­ta­ría­mos para meta­bo­li­zar­la.

La fala­cia del ‘con­sen­ti­mien­to infor­ma­do’

Pero somos cóm­pli­ces de ello. Otra tram­pa com­ple­men­ta­ria es el dise­ño de la inter­faz que con­vier­te en legal nues­tra com­pli­ci­dad. Gra­cias a su retor­ci­do dise­ño hecho a pro­pó­si­to (segu­ro que por ins­truc­cio­nes de abo­ga­dos) la inter­faz que expli­ca lo que van a hacer con nues­tros pro­pios datos, y para cum­plir la ley es tan farra­go­sa, por­que así saben que nadie le dedi­ca­rá tiem­po a leer dece­nas de pági­nas ya que el legis­la­dor le ha obli­ga­do a infor­mar al usua­rio y que él dé su bene­plá­ci­to, median­te lo que téc­ni­ca­men­te se cono­ce como ‘con­sen­ti­mien­to infor­ma­do’.

Así que los pro­ce­sos cita­dos tam­bién son reali­men­ta­dos, ade­más, por otro fac­tor muy humano: la ‘como­di­dad nihi­lis­ta’ que deja a un lado negar­se a usar los coo­kies al que reco­lec­tan masi­va­men­te los datos de nues­tras accio­nes onli­ne para cerrar el flu­jo de ali­men­ta­ción algo­rít­mi­ca. Por todo lo ante­rior las inter­fa­ces de coo­kies ponen rotun­da­men­te más facil deci­dir que sí, que decir que no y negar­se a acep­tar­las, a pesar de las regu­la­cio­nes que obli­gan al ‘con­sen­ti­mien­to infor­ma­do’ del usua­rio. Hoy en día, ade­más, si te nie­gas a acep­tar­las te pena­li­zan con mil tru­cos más. Así, con­si­guen que demos nues­tra acep­ta­ción a todo lo que hagan con nues­tros datos, pese a que se los se van a apro­piar y van a uti­li­zar, ven­der, etc., en reali­dad, en nues­tro per­jui­cio. Y hacen que parez­ca inevi­ta­ble.

En sín­te­sis y esque­má­ti­ca­men­te, se tra­ta de un sis­te­ma auto­má­ti­co, que vadea nues­tra volun­tad y capa­ci­dad de deci­sión. Meta­fó­ri­ca­men­te, es como si la esta­dís­ti­ca algo­rít­mi­ca le dije­ra a nues­tro cere­bro emo­cio­nal: “…como ten­go la esta­dís­ti­ca de tus accio­nes, ya se lo que te gus­ta y te lo voy a dar…, –una y otra vez–. Así esta­rás más con­ten­to”. Y eso es lo que hace. El resul­ta­do pode­mos com­pro­bar­lo con­ti­nua­men­te en cual­quier calle en las que pode­mos ver a muchí­si­ma gen­te son­rien­do a la pan­ta­lla de su smartpho­ne. Y quie­nes lo hacen ni siquie­ra sos­pe­chan que todas sus son­ri­sas a ‘su’ pan­ta­lla, en reali­dad, son invo­lun­ta­rias.

Ese bucle ins­tan­tá­neo de atracción>recompensa emo­cio­nal imple­men­tan­do social y glo­bal­men­te, ya ha dado nom­bre a un tipo de com­por­ta­mien­to empre­sa­rial y eco­nó­mi­co: el de las pla­ta­for­mas glo­ba­les basa­das en el machi­ne lear­ning pre­dic­ti­vo. Aun­que es una sim­pli­fi­ca­ción, muchos auto­res ya lo lla­man así: “lím­bi­co”.

El pri­me­ro fue David T. Courtw­right que en su libro La Era de la Adic­ción , lo bau­ti­zó como capi­ta­lis­mo lím­bi­co, al que ya en 2019, defi­nía así: “El capi­ta­lis­mo lím­bi­co es un sis­te­ma empre­sa­rial tec­no­ló­gi­ca­men­te avan­za­do, pero social­men­te reac­cio­na­rio, en el que las com­pa­ñías glo­ba­les, a menu­do con la com­pli­ci­dad de gobier­nos y orga­ni­za­cio­nes cri­mi­na­les, ani­man el con­su­mo exce­si­vo y la adic­ción”. A su vez ese mis­mo año yo le deno­mi­né el capi­ta­lis­mo de la inte­li­gen­cia emo­cio­nal, pero aho­ra mis­mo es más ‘lím­bi­co’ que nun­ca e impli­ca a una enor­me can­ti­dad de per­so­nas conec­ta­das a las redes socia­les, es decir, a miles de millo­nes de per­so­nas en el mun­do. Las con­se­cuen­cias a nivel social son de todo tipo, pero ya están emer­gien­do efec­tos socia­les inde­sea­dos y preo­cu­pan­tes en diver­sos ámbi­tos, por ejem­plo, en la salud men­tal de muchas per­so­nas.

Tim O’Reilly este modus ope­ran­di gene­ra­li­za­do de las pla­ta­for­mas en 2021 dicien­do: “…nadie pare­ció dar­se cuen­ta de que Sili­con Valley cele­bra explí­ci­ta­men­te y ense­ña a sus empre­sa­rios a mani­pu­lar el esta­do emo­cio­nal de los usua­rios, –lla­mán­do­lo en la jer­ga “growth hac­king”, o a crear pro­duc­tos, que crean hábi­to” [Engan­cha­do: Cómo crear pro­duc­tos que crean hábi­to ]. Con­clu­ye O’Reilly, “…al pare­cer, nadie se que­ja de estos expe­ri­men­tos. Se con­si­de­ra una bue­na prác­ti­ca expe­ri­men­tar con tus clien­tes siem­pre que sea en bus­ca de cre­ci­mien­to y bene­fi­cios.”

El incre­men­to indu­ci­do de pro­ble­mas socia­les de salud men­tal

El uso por las empre­sas de esta algo­rít­mi­ca ‘con­tra las per­so­nas’ y no a su favor (O’Reilly), está pro­vo­can­do pro­ble­mas socia­les muy serios, has­ta el pun­to de que las auto­ri­da­des y los gober­nan­tes están tenien­do que tomar medi­das drás­ti­cas. El Ayun­ta­mien­to de Nue­va York ya ha decla­ra­do a las redes socia­les un ‘peli­gro para la salud públi­ca’ “por ali­men­tar una cri­sis de salud men­tal juve­nil en todo el país”.

La tram­pa cog­ni­ti­va dis­tri­bui­da en millo­nes de Apps que habi­tan al tiem­po en los Data Cen­ters en los Smartpho­nes es de una efi­ca­cia enor­me y muy sutil, al tiem­po. Es efi­caz en con­du­cir hacia la adic­ción pero tam­bién en obte­ner la com­pli­ci­dad de los anun­cian­tes, –que creen a pies jun­ti­llas esas métri­cas que gene­ran las pla­ta­for­mas–. Anun­cian­tes a los que estas empre­sas han pro­me­ti­do que sus ‘men­sa­jes’ lle­gan direc­ta­men­te a los cere­bros de los usua­rios, pre­via­men­te ultra-seg­­me­n­­ta­­dos, en nichos pre­ci­sos de mer­ca­do, y que son capa­ces de modi­fi­car su con­duc­ta has­ta con­ver­tir­los en com­pra­do­res inten­si­vos de sus pro­duc­tos o ser­vi­cios anun­cia­dos, sin que pue­dan hacer casi nada para resis­tir­se a ello.

Así que otro aspec­to que reve­la la efi­ca­cia de esta enor­me tram­pa cog­ni­ti­va dis­tri­bui­da tam­bién la dan las cifras dine­ra­rias de recau­da­ción obte­ni­da de los anun­cian­tes. Y no son siem­pre para bien. Por ejem­plo las mag­ni­tu­des de un estu­dio de la pres­ti­gio­sa Escue­la de Medi­ci­na de Har­vard publi­ca­do por la agen­cia Asso­cia­ted Press, que seña­la­ba en diciem­bre que las empre­sas de redes socia­les obtu­vie­ron colec­ti­va­men­te 11.000 millo­nes de dóla­res en ingre­sos publi­ci­ta­rios de meno­res en EE.UU. en 2023.

Según el estu­dio de Har­vard, You­Tu­be, la más adic­ti­va, obtu­vo los mayo­res ingre­sos publi­ci­ta­rios de los usua­rios meno­res de 12 años (959,1 millo­nes de dóla­res), segui­da de Ins­ta­gram (801,1 millo­nes de dóla­res) y Face­book (137,2 millo­nes de dóla­res). Ins­ta­gram, por su par­te, obtu­vo los mayo­res ingre­sos publi­ci­ta­rios de los usua­rios de entre 13 y 17 años (4.000 millo­nes de dóla­res), segui­do de Tik­Tok (2.000 millo­nes) y You­Tu­be (1.200 millo­nes).

Cabe seña­lar que en EE.UU. es ile­gal que un menor de 13 años ten­ga cuen­ta en uno red social, pero es públi­co y noto­rio que, por ejem­plo, en Tik­Tok hay niños y niñas influen­cers de 10 años de edad y aún meno­res, inclu­so apo­ya­dos en ello por sus pro­pios padres o madres. A este gra­do de ena­je­na­ción ha lle­ga­do la gen­te con las modas digi­ta­les.

Por­qué, si no, el anta­ño impre­sio­nan­te líder de la inno­va­ción y las tec­no­lo­gías de bús­que­da Goo­gle se ha con­ver­ti­do en un mono­po­lio glo­bal de fac­to del nego­cio de la publi­ci­dad con sus pla­ta­for­mas, gene­ran­do en el camino has­ta un cemen­te­rio de inno­va­ción. Pues está cla­ro, por sus ingen­tes bene­fi­cios. Los ingre­sos tota­les de Goo­gle  en el año fis­cal 2023 ascen­die­ron a 284.000 Millo­nes de euros, con un cre­ci­mien­to inter­anual del 9%. Para poner­lo en con­tex­to esta can­ti­dad es casi tres veces más que todo el gas­to anual en sani­dad de Espa­ña que es de 96.844.4 millo­nes de euros, un 15,28% del gas­to públi­co total espa­ñol. Y este solo uno de los con­glo­me­ra­dos de las pla­ta­for­mas glo­ba­les, el que lide­ra Goo­gle, pero hay muchos más.

Pre­ci­sa­men­te, con­tra otro de los con­glo­me­ra­dos, el de Meta (antes Face­book) que cam­bió su nom­bre por una cri­sis de repu­tación cuan­do el caso Hau­gen–, se han ‘levan­tan­do en armas legal­men­te’ los fis­ca­les gene­ra­les de 41 de los 54 esta­dos de EE.UU. que han deman­da­do legal­men­te a Meta. Según Reuters, el moti­vo de esta enor­me deman­da con­jun­ta es que acu­san a sus redes de ser dañi­nas para los jóve­nes y su bien­es­tar. La mis­ma agen­cia Reuters ya había infor­ma­do sema­nas antes, que en con­cre­to en una de las deman­das se acu­sa a Ins­ta­gram, una de las pla­ta­for­mas de Meta, de que “su uso está vin­cu­la­do a la depre­sión, la ansie­dad y el insom­nio de millo­nes de niños nor­te­ame­ri­ca­nos.”

La mayor tram­pa cog­ni­ti­va des­ple­ga­da en el mun­do vía pla­ta­for­mas de redes socia­les sigue a pleno ren­di­mien­to. A pesar de las deman­das no pare­cen tener inten­ción de cam­biar de acti­tud (y de pro­pó­si­to eco­nó­mi­co). Pero ya se aven­tu­ra que esa tra­ma pue­de aumen­tar en varios órde­nes de mag­ni­tud con la mal lla­ma­da IA Gene­ra­ti­va que será algo más, una meta-tra­m­­pa con el fin de des­ple­gar otra nue­va capa de nego­cio millo­na­rio con el tra­ta­mien­to vir­tual con tera­peu­tas IA de los pro­ble­mas de salud men­tal que ellos mis­mos cau­san. Su nue­vo obje­ti­vo es una ‘auto­ma­ti­za­ción’ del esta­do emo­cio­nal y los tra­ta­mien­tos de salud men­tal en toda regla, como par­te de las nue­vas modas digi­ta­les. Esta nue­va tram­pa cog­ni­ti­va supe­ra­rá a la actual, como digo, en al menos, uno o más órde­nes de mag­ni­tud. Eso segu­ro, ya que este nue­vo nego­cio no sus­ti­tu­ye sino que se super­po­ne a los actua­les de las mis­mas pla­ta­for­mas.

La Comi­sión Fede­ral de Comer­cio (FTC) de EE.UU. pro­pu­so a de diciem­bre cam­bios radi­ca­les en una ley de hace déca­das que se supo­ne que regu­la­ba la for­ma en que las empre­sas onli­ne pudie­ran ras­trear a los niños y enviar­les publi­ci­dad. Pero las pla­ta­for­mas lle­van tiem­po igno­rán­do­la. Aho­ra en la FTC quie­ren ser más drás­ti­cos: los cam­bios pro­pues­tos inclu­yen la des­ac­ti­va­ción por defec­to de los anun­cios diri­gi­dos a meno­res de 13 años y la limi­ta­ción de las noti­fi­ca­cio­nes push (empu­ja­das). Sí, esas noti­fi­ca­cio­nes que se super­po­nen a cual­quier otra cosa en la pan­ta­lla y la inter­faz e inte­rrum­pen cons­tan­te­men­te median­te alar­mas sono­ras, como si lo que lle­ga siem­pre fue­ra urgen­te, –aun­que nun­ca lo es–, y que, lite­ral­men­te, si sue­nan o vibran en el aula aca­ban des­tru­yen­do cual­quier pro­ce­so de apren­di­za­je que requie­ra con­cen­tra­ción.

Aho­ra, la UE, que quie­re ser ejem­plo, saca pecho estos días sobre la IA ya que el Par­la­men­to Euro­peo ha rati­fi­ca­do este miér­co­les la pri­me­ra ley de inte­li­gen­cia arti­fi­cial (IA) del mun­do. Su obje­ti­vo según la UE es vigi­lar y evi­tar los ries­gos “para la salud, la segu­ri­dad y los dere­chos fun­da­men­ta­les”, esta­ble­cien­do para ello, esta­ble­ce unos cri­te­rios espe­cí­fi­cos que per­mi­tan deter­mi­nar cuán­do un pro­gra­ma debe cate­go­ri­zar­se como IA. Está por ver eso cómo lo hacen ya que en reali­dad la autén­ti­ca inte­li­gen­cia arti­fi­cial no exis­te y la IA Gene­ra­ti­va que es a lo que todo el mun­do, ‑no se si inclu­so la UE–, lla­ma “La IA”.

En reali­dad, la regu­la­ción se cen­tra en la pro­tec­ción de datos, como lo hace la regu­la­ción euro­pea de la GPRD, pero no entra en abso­lu­to en la de las per­so­nas, ya que no entra en cómo la algo­rít­mi­ca modi­fi­ca, a dis­tan­cia y onli­ne la volun­tad y la capa­ci­dad de deci­sión de las per­so­nas. Esto no tie­ne con­se­cuen­cias solo para las per­so­nas y su salud men­tal sino tam­bién para su libre albe­drío o capa­ci­dad de deci­dir por sí mis­mo sin ser mani­pu­la­do, es decir, que afec­ta al fun­cio­na­mien­to mis­mo de las socie­da­des demo­crá­ti­cas.

El artícu­lo 18.4 de nues­tra Car­ta Mag­na espa­ño­la habla de la ‘liber­tad infor­má­ti­ca’ y dice que “la ley limi­ta­rá el uso de la infor­má­ti­ca para garan­ti­zar el honor y la inti­mi­dad per­so­nal y fami­liar de los ciu­da­da­nos y el pleno ejer­ci­cio de sus dere­chos”. No sé si el con­cep­to de infor­má­ti­ca al que se refie­re dicho artícu­lo inclu­ye el tipo de infor­má­ti­ca que he inten­ta­do expli­car; y si va a ser­vir para defen­der­nos de la alte­ra­ción del libre albe­drío de las per­so­nas, tam­bién en nues­tro país; –en esto, lo glo­bal no es el extran­je­ro–, que con­si­guen masi­va­men­te las pla­ta­for­mas glo­ba­les con la tram­pa cog­ni­ti­va des­cri­ta en este artícu­lo. Así que, tras leer el lec­tor todo lo ante­rior, espe­ro que saque sus pro­pias con­clu­sio­nes. No creo que los fis­ca­les gene­ra­les de 41 esta­dos de EE.UU. y el Ayun­ta­mien­to de Nue­va York hayan deman­da­do a las pla­ta­for­mas glo­ba­les sin prue­bas o sin que está suce­dien­do algo muy preo­cu­pan­te.

Espe­ro que con este artícu­lo con­tri­buir a mejo­rar la cali­dad del ‘con­sen­ti­mien­to infor­ma­do’ de cual­quier lec­tor, para el caso de que sea usua­rio de algu­na pla­ta­for­ma de red social, a las que la mayo­ría da su apro­ba­ción. Suer­te con ello. Es lo que hay a día de hoy. Segui­re­mos infor­man­do. Para eso esta­mos aquí.