La Terapeuta Guay de IA de Apple. Automatizar el estado emocional (II)

Apple está ya incorporándose al nuevo nicho de negocio del cuidado virtual de la salud y desplegando un servicio de salud y bienestar basado en una IA (Inteligencia Artificial) capaz de detectar las emociones de los usuarios, incluyendo las mías, si yo le dejara, cosa que no haré.

Portada de la reseña sobre State of Mind (Estado de la mente), una App de Apple para rastrear y tratar los estados mentales.

5 de enero de 2024

Apple sigue siendo la empresa más valorada del mundo y que no aparece por ahora en la carrera del desarrollo de los modelos lingüísticos (la de los citados loros estocásticos), pero sí está claro que no quiere quedarse atrás en la IA. Hay ya rumores de que ciertos usos de la nueva inteligencia artificial en productos Apple que se lanzarán en 2024, e incluso que algunos de sus avances podrían estarse usando ya mismo y estarían siendo probados por los usuarios, no solo del iPhone sino también en el reloj iWatch –más adelante mostraré un ejemplo del inicio de ello–.

Automatizar el estado emocional (I) ¿Vas a delegar en tu móvil el cuidado de tu salud mental?

Según Mark Gurman de Bloomberg, además, la empresa planea un servicio de asesoramiento médico basado en IA, un rastreador de estados de ánimo y una App de salud para el iPad. El seguimiento del estado de ánimo y la App de salud para iPad están previstos para iOS 17. Acabo de mirar mi móvil y tiene la versión iOS17.2.1 y yo no le he ‘dicho’ a la App Salud de mi teléfono ni, por ahora, me ha preguntado si quiero compartir mis datos de salud con Apple. Confieso mi incomodidad con esto, ya que soy usuario de Mac casi desde mi tierna infancia, después de documentarme para este artículo. No sé si soy el único. Eso no impide que cuente aquí en detalle mis hallazgos al respecto. Paso a ello.

Así, Apple está ya incorporándose al nuevo nicho de negocio del cuidado virtual de la salud y desplegando un servicio de salud y bienestar basado en una IA (Inteligencia Artificial) capaz de detectar las emociones de los usuarios, incluyendo las mías, si yo le dejara, cosa que no haré. El proyecto es llamado internamente Quartz. Su plataforma virtual está ya en pruebas, –discretamente–. Según el marketing de la empresa, esa App de Salud quiere ‘influir’ a los usuarios para que mejoren sus hábitos alimenticios, y se ‘ejerciten’ físicamente, y si se empieza a usar la App incluso te va a enviar recomendaciones para dormir mejor.

Esa es la parte ‘blanca’ de este tema, pero también hay un lado oscuro. No olvidemos que esta Aplicación móvil (App) como cualquiera de ellas y de este tipo de informática, sirve también para registrar datos y actividad online para en base a ella generar un flujo de publicidad hacia el usuario e incentivar al máximo el consumo y su uso.

En las precisas palabras de Enrique Dans, profesor de la IE University, la actividad que inducen las App combinadas con el uso de las redes sociales está «basada en la administración personalizada de contenidos a los usuarios, con el único fin de averiguar cuantos más datos sea posible sobre los mismos, y poder administrarles publicidad ultra-segmentada relacionada con esos datos.», y añade que, en el caso del uso de redes sociales en el móvil, –como acceden la mayoría de los usuarios–, «es proporcionar contenido capaz de capturar lo más posible nuestra atención, con el fin de que pasemos más tiempo enganchados a ellas, para así obtener más información y poder ponernos más anuncios.» Así, esta actividad crea un registro de métricas y cifras que las plataformas globales venden a los anunciantes a cambio de saturarnos de anuncios.

Automatización del cuidado de la salud mental

Pero hay malos antecedentes sobre automatización de labores humanas. Un servicio de este tipo se probó desde la administración pública en EE. UU. para alimentar una línea de ayuda. Fue un desastre total. La Asociación Nacional de Trastornos de la Alimentación de Estados Unidos (NEDA) no tuvo mejor idea que la de eliminar al personal humano de su línea telefónica de asistencia, sustituyéndolo por un chatbot de IA llamado Tessa, diseñado para trabajar problemas de la salud mental y prevenir trastornos alimentarios que comenzó  mandar masivamente recomendaciones sobre cómo perder peso y otros consejos peligrosos. Ya está retirado.

La Organización Mundial de la Salud (OMS) ha advertido, hace solo unos meses, que en temas de salud mental ha de tenerse extremo cuidado en el uso de Chatbots de IA en la atención médica porque «los datos usados de entrenamiento de estos modelos pueden estar sesgados y generar información engañosa que puede causar daño a los pacientes» y, sobre todo, si no se tiene la conciencia de que los usuarios de una App divertida y que parece algo práctico,  la usan sin darse cuenta que está modificando su conducta y conduciéndola con avisos, consejos y notificaciones enviados mediante su algorítmica para que maximice el uso del móvil, capturando tu atención, ubicuamente, en cualquier momento y lugar donde te encuentres.

Gráfico traducido del Informe de Financial Times sobre la adicción de los adolescentes en EE.UU. a las redes sociales.

El prestigioso Financial Times publicó hace unos meses un demoledor informe titulado: «La crisis de salud mental de los adolescentes: un ajuste de cuentas para las grandes tecnológicas» que subtitula: Cada vez hay más pruebas que relacionan el aumento de la depresión infantil con el uso de las redes sociales. Describe las adicciones ‘sin sustancia’ que están provocando; el empeoramiento de la salud mental de los estudiantes; un gran incremento de los casos enfermedades alimentarias, y el enorme el incremento de los episodios de autolesiones que pueden acabar en cosas peores como el suicidio de menores y adolescentes.

Una tecnología como la de los Smartphones, que bien usada puede ser maravillosa, está convirtiéndose en un auténtico problema social, a gran escala, por los usos de esta tecnología que están imponiendo las grandes plataformas globales y cómo la están aprovechando para su beneficio a muy corto plazo, sin medir las consecuencias a medio plazo. Pero hay noticias preocupantes. Según A. Press, las autoridades de 41 estados de EE.UU. han demandado conjuntamente a Meta y a sus plataformas (WhatsApp, Instagram y Facebook) por daños vinculados a la depresión, la ansiedad y el insomnio en los niños y adolescentes.

Por su parte, La Unesco en su informe trianual del pasado agosto emplazaba a prohibir o limitar el uso de los móviles en las escuelas de primaria y secundaria y hay un clamor para que se regulen estos usos y los de la IA cuento antes. Ese clamor está creciendo y se va a convertir en un problema internacional de primer orden y, si no, al tiempo.

Mientras tanto y en medio de estos acontecimientos, las empresas tecnológicas responsables de estos múltiples problemas los ignoran y siguen a lo suyo presentando sus nuevas versiones tecnológicas y construyendo nuevos modelos y sectores de negocio basado en el problema que ellas mismas crean.

Si en mi anterior entrega de la semana pasada puse el ejemplo de la patente para un ‘Terapeuta virtual basado en IA’ registrado por Microsoft, hoy voy a explicar la nueva apuesta de Apple para el cuidado ‘virtual’ de la salud mental, es decir, la materialización de su visión sobre la automatización del tratamiento de las emociones humanas (con su App Salud) enfocado preferentemente a los más jóvenes.

La terapeuta guay de IA de Apple. Los nuevos negocios del cuidado virtual de la salud mental

Primero un poco de contexto. Instagram y Tik Tok, son dos de las redes sociales, –aunque no solo ellas–, que más se focalizan en el mercado objetivo (tarjet) de usuarios más jóvenes y adolescentes, que son los que más tiempo y atención dedican al uso de los dispositivos móviles. Eso hace de ellos un objetivo específico para estas empresas de plataformas de redes sociales y de su apetito inacabable de beneficios, sin importar el cómo. Ya conté en estas páginas sobre aquella «ansiosa competición» por conseguir la mejor Cara Instagram mediante la moda inducida de los filtros faciales tridimensionales con los que mejorar el aspecto con el que las usuarias muestran su rostro en las redes sociales. Todo esto ha recibido un nuevo impulso con la ‘moda’ de la Inteligencia Artificial Generativa, que está imponiendo un nuevo tipo de canon de belleza (artificial o digital) para la pantalla. Un canon que se está convirtiendo en un auténtico problema social porque conduce a la ansiedad, la frustración, e induce problemas de salud mental sobre todo en usuarias adolescentes. Ya hay pruebas.

El porqué está claro. En un documento normativo (policy paper) de 2020, la Academia Americana de Pediatría señaló que los niños y adolescentes son «especialmente vulnerables a los efectos persuasivos de la publicidad y las modas inducidas debido a su inmadurez en cuanto a capacidad de pensamiento crítico e inhibición de impulsos«.

En este contexto la empresa tecnológica más valorada del mundo, Apple, ya había visto la oportunidad de negocio en temas de salud, y una parte de las ventas de su reloj inteligente (y conectado) iWatch están relacionadas al cuidado del cuerpo. Ahora, ha dado un paso más y ha extendido esa App con nuevas funciones que tienen que ver con ‘el cuidado de los estados de ánimo y la salud mental’.

Gráfico traducido del Informe de Financial Times sobre las tasas de suicidio de jóvenes y adolescentes en EE.UU. y en el Reino Unido, en los últimos años.

Como ya explicó Francis Haugen, le ex-ejecutiva ante el Senado de los EE.UU., las grandes plataformas tecnológicas son conscientes de los problemas que el uso de la tecnología internet que induce su ‘ingeniería social’ que generan estados de ánimo y mentales problemáticos, y en lugar de corregir los efectos negativos de ello han decidido algo mucho más rentable para ellos: ‘automatizar el cuidado de estados de ánimo y mentales’ y generar una moda digital para que sea normal que el ‘terapeuta’ que trate los problemas mentales del usuario ya no sea un psicólogo o psiquiatra humano, sino una App que resida en su propio Smartphone en forma de una ‘Terapeuta impulsada por Inteligencia Artificial’, interactuando como lo haría un ChatGPT, pero con mucha más clase y estilo; y que forme parte de la última moda. Sobre esta sustitución hay muchas dudas, pero no les ha impedido dar el paso.

Para que el lector compruebe el ajuste fino de la cuestión, y para entrar en los detalles, voy a usar ahora la propia explicación de cómo funciona esta App en una revista que promociona las experiencias de estilo Instagram (o sea, lugares, modas, viajes, todo de belleza y perfección estética inalcanzable, pero canónicos en la pantalla). No citaré la publicación canadiense que lo muestra en Internet, para no caer yo mismo en una especie de Efecto Streisand ­–cosa que no me haría ninguna gracia–. Y para una más fácil comprensión citaré sus mismas palabras traducidas.

En el post que da noticia de ello, dirigido sobre todo y de forma obvia a sus lectoras guay, pero con estética cuidadosamente no excluyente, este nuevo paso en la App Salud para iPhone, se explica de hecho como algo perteneciente a una nueva moda a la que hay que adherirse de inmediato para ser más guay que nadie, como si de un boca-a-boca digital se tratara.

Pantallazos de la Interfaz de la State of Mind, la App con IA para cuidado de la salud mental del iPhone de Apple.

El post que lo explica es un texto, bajo la foto de una chica muy atractiva, -ver la foto inicial de este artículo–, luciendo un iWatch y con unos pantallazos de iPhone de la App, se titula ‘Estado de Mente’ y habla de la nueva función del iPhone que «registra tus emociones diarias.» Bajo el título, lo justifica diciendo: «En un mundo cada vez más enfocado en la salud física, donde la atención se centra en hacer ejercicio y mantenerse en forma, la salud mental, a menudo, pasa a un segundo plano.» Sin embargo, la autora que no es psicóloga sino periodista especializada en estilos de vida, belleza, nutrición, etc., aclara que «nuestro estado mental afecta profundamente a nuestra salud general y a nuestra calidad de vida». Y continúa: «Reconociendo este vínculo crucial, Apple ha introducido una función fácil de usar llamada «Estado mental» dentro de su App ‘Salud’. Esta innovadora herramienta, –relata entusiasta– te permite hacer un seguimiento (tracking) de tus emociones diarias, obtener información valiosa sobre tu bienestar mental y acceder a recursos útiles para fomentar una mente más sana y feliz.»

El texto da por hecho que ese tracking es algo natural. Como si fuera deseable que te recopilen, registren y se apropien constantemente los datos del usuario/a sobre estados de ánimo, datos biométricos, ciclos de sueño, tipo e intensidad de los movimiento, aspectos para-lingüísticos como velocidad e intensidad del habla (toda la Aptigrafía), etc. Incluso todo esto parece para la autora lo más normal del mundo y muy útil para quien sea monitorizado. No hay la menor alusión a contraindicación alguna sobre la intimidad emocional o mental. Porque según ella, es guay. ;–)

Y todo en este plan, como diría el gran Paco Umbral. Así que el texto, bajo el epígrafe tracking’ (seguimiento y registro) de tu panorama emocional, explica, tuteando desenfadadamente: «La función Estado de ánimo permite a los usuarios [y usuarias] registrar sus emociones momentáneas y estados de ánimo diarios, sin esfuerzo.» Esto de ‘sin esfuerzo’ es importante, ya que forma parte de lo que yo llamo la ‘comodidad nihilista’: haz lo más cómodo, sin que la consecuencia posterior te importe.

Y continúa «Con unos pocos toques del dedo –se trata de una pantalla táctil–, puedes capturar tu estado emocional actual, ya sea un sentimiento fugaz de alegría, o una sensación persistente de tristeza. Yo creo que esa expresión está ahí porque es una sensación que saben que ahora es frecuente en los usuarios adolescentes y por eso se indica.

«Muchas personas, –continua el relato–, que inician un proceso de reflexión diaria dejan de hacerlo al cabo de unos días o semanas porque se olvidan o porque la vida les resulta demasiado ajetreada para ‘anotar’ sus pensamientos. Sin embargo, esta función de la App Salud les envía notificaciones cuando ‘considera’ que es el momento de registrar su estado de ánimo, de forma similar a la función de medicación de la App Salud. Además, puede documentar su estado de ánimo general del día, lo que proporciona una perspectiva ‘más amplia’ de su bienestar emocional. Es una forma rápida y sencilla de hacer un seguimiento de tus emociones.» Sin comentarios.

Recuerda que todo lo que hago es por tu bien

Naturalmente, a cualquiera que lea con calma, –dado que se trata nada menos que de la salud mental propia–, al leer esta explicación, le surgirán mil preguntas. Pero nada, la descripción es asertiva, no se hace pregunta alguna. Sigue todo el rato en el citado modo ‘comodidad nihilista’, y da por bueno todo lo que haya esta App Terapeuta de IA. El tono de la citada descripción de esta App me recuerda el de aquella frase que les repetía al oído a los fundadores de Google, Sergey Brin y Larry Page, el entonces nuevo CEO Eric Schmidt cuando se hizo cargo de la dirección de la empresa. Les susurraba: «recuerda que todo lo que hago es por tu bien”. Así, según la descripción, es como debemos relacionarnos con esta App Terapeuta en el móvil, como si todo lo que hacen el software y la App lo hicieran por nuestro bien. Me asaltan grandes dudas al respecto.

Dudas que empiezan ya por esa paradoja de que quienes la han desarrollado parece que quieren poner remedio a aquello que la misma App, –como la mayoría de ellas–, causa y, al tiempo, hacer negocio con ello. Y si uno lee la explicación y sus significados en detalle, surgen paradojas, una tras otra. Quien ha redactado el texto da por hecho que el usuario o usuaria, no va a reflexionar porque ‘se olvida’ o porque ‘la vida le resulta demasiado ajetreada’. Pero resulta que los datos estadísticos dicen que, probablemente, los usuarios tienen ‘demasiado ajetreo’ por su uso constante y casi compulsivo de las propias Apps de redes sociales en su móvil, fundamentalmente. No hay más que observar cómo teclean de rápido los adolescentes con los que nos cruzamos por la calle, o vemos en el autobús o en cualquier lado. Sus patrones de tecleado (Aptigrafía) son rápidos, intensos y nerviosos. Y los datos de esa Aptigrafía están siempre siendo registrados por los múltiples sensores del Smartphone para ir luego camino a alguno de los data center de las plataformas y generar un flujo enorme de spam no solicitado de vuelta y propio para cada usuario.

Además, en el entrelíneas del relato sobre la App Terapeuta, se insinúa algo sorprendente, también como si fuera normal. Y es que, en lugar de preguntarte a ti mismo cómo te encuentras o cómo te sientes, …es más ¿fácil? y cómodo que utilices esa App, en forma de Terapeuta Guay de IA -como yo la llamo-, para averiguar lo que tienes en tu cabeza y cómo está tu estado de ánimo y mental. No sé, debe ser como un ‘atajo rápido’ de los de la informática. No es que la App ‘sepa’. Una App no sabe nada ni comprende nada en absoluto. Simplemente es el tentáculo final de una poderosa algorítmica informática que calcula una estadística predictiva personalizada en función de los registros de todo lo que tú mismo has hecho antes. Sus algoritmos predicen el futuro en función del pasado, y «dan por hecho» –también es un decir–, que actuarás de la misma manera dentro de un rango de patrones de comportamiento que la logarítmica tiene almacenados sobre ti, sin pedirte ningún permiso.

 Así que, gracias a dichos patrones que registraron antes de tus parámetros emocionales y mentales, esa algorítmica fluye y hace funcionar la App en tu pantalla. Según la explicación citada, esta App «puede documentar su estado de ánimo general del día, lo que proporciona una perspectiva más amplia de su bienestar emocional». Y añade que «es una forma rápida y sencilla de hacer un seguimiento de tus emociones.»

Estar guay (mentalmente)

Y me pregunto de nuevo: ¿cuál es el fin o el propósito de este seguimiento? Pues según esta web, es muy sencillo. El objetivo es: «Estar guay!». O sea, en realidad, que sigas con tu atención enganchada en su pantalla y usando el móvil más y más, todo lo posible. Ese es el auténtico propósito de esta App, como la de todas las demás. Para eso las han desarrollado. En este caso, es algo más: se trata de un Terapeuta Virtual que, en contraste con los terapeutas humanos que conocemos, es incansable, siempre está listo y dispuesto, 24 horas al día y 7 días a la semana, mientras tu Smartphone tenga instalada la App y disponga de batería y cobertura, para estar online.

Inocentemente, me vuelvo a preguntar,… si has dejado tus estados emocionales y el ‘cuidado’ -es un decir–, de su salud mental en manos de esta App o Terapaeuta guay por IA, ¿para qué necesitas, -como dice el texto explicativo-, tener una ‘perspectiva amplia de tu bienestar emocional’, si ya la tiene tu App de Salud que está radicada en tu teléfono? Respuesta: porque así es mas ‘guay’, eres mas moderna, o moderno, y lo puedes contar y mensajear a tus amigos/as digitales en redes.

La descripción continua: «El verdadero poder de la función Estado Mental reside en su capacidad para transformar los datos emocionales brutos (del usuario o usuaria) en información práctica. Mediante el seguimiento de las emociones a lo largo del tiempo, los usuarios pueden identificar patrones y tendencias en su estado mental. Realizará un seguimiento de cada estado de ánimo que te suceda y creará gráficos de tendencias de tus estados de ánimo. Con el tiempo, podrás ver patrones. Por ejemplo, puede que estés un poco malhumorado cuando te levantas por la mañana, pero que vayas mejorando gradualmente a lo largo del día. Esta valiosa información puede arrojar luz sobre posibles desencadenantes de las emociones negativas y poner de relieve los factores que contribuyen a las positivas.» O sea, se trata de una autoayuda psicológica y psiquiátrica –con lo que eso significa–, vía App de tu Smartphone, en toda regla.

Así que, según la explicación, «más allá del seguimiento y análisis de las emociones, la función Estado de Ánimo es una puerta de acceso a una gran cantidad de evaluaciones y recursos de salud mental. Las evaluaciones rápidas del estado de ánimo ofrecen una comprensión más profunda de tu estado emocional y recomendaciones personalizadas para mejorar tu salud mental.» Pero ya tenemos datos, como he señalado anteriormente, que el uso masivo que se hace de ellas, es hoy una de las mayores fuentes de problemas emocionales y de salud mental en menores y adolescentes, y no solo en ellos. Otra paradoja enorme.

La autora concluye valorando la llegada de esta tecnología: «La introducción de la función Estado Mental supone un importante paso adelante en la tecnología de la salud mental». Pero esa denominación, no si se refiere a la neurotecnología que usan los neurocientíficos que verdaderamente luchan contra las dolencias humanas de salud mental o si se refiere a los productos virtuales que las grandes tecnológicas quieren vender para ‘automatizar’ (sustituir) a terapeutas humanos (psiquiatras y psicólogos) por la algorítmica predictiva que tanto daño en salud mental está causando. Creo que se refiere a lo segundo,

Y tengo mucha curiosidad por saber lo que opinan los Colegios de Médicos y de Terapeutas españoles sobre esta noticia y si también ellos la consideran ‘un paso adelante’, teniendo en cuenta la que está cayendo sobre el uso de los móviles a nivel social, o si la consideran una intrusión o una invasión, –con tecnologías oscuras y poco probadas–, en sus funciones sociales y de lucha contra las enfermedades mentales en la sociedad.

No Comments Yet

Leave a Reply

Your email address will not be published.