Allen Frances es un prominente psiquiatra y profesor emérito en el Departamento de Psiquiatría de la Universidad de Duke. Es mejor conocido por su papel como presidente del grupo de trabajo que elaboró la cuarta edición del Manual Diagnóstico y Estadístico de los Trastornos Mentales (DSM-IV).
Nota del editor: Poco después de que Allen Frances solicitara este ensayo, y siguiendo la sugerencia de su nieta, se le preguntó a Chat-GPT si “podría reemplazar a los psicoterapeutas”. Su respuesta ultrarrápida aparece en la Posdata.
La gente me pregunta si la Inteligencia Artificial (IA) alguna vez reemplazará a los psicoterapeutas humanos.
Con gran tristeza, respondo, “no a la vez y no a todos los terapeutas, pero probablemente a la mayoría de los terapeutas, y mucho antes de lo que pensamos”. Esto plantea una pregunta adicional que varios jóvenes me han hecho: “¿Significa esto que es un error formarme para ser psicoterapeuta?”
A esto respondo un rotundo “¡No!” Primero, porque no hay lugar donde esconderse. La IA amenaza todas las profesiones, en la mayoría de los casos antes y más a fondo que la psicoterapia. En segundo lugar, porque, mientras haya personas, una minoría sustancial de nosotros siempre preferirá compartir nuestros problemas con otra persona en lugar de una máquina impersonal. ¡Gracias a dios!
El ascenso de las máquinas
¿Por qué mi pesimismo? Una combinación de la historia de las computadoras en la psicoterapia, el alucinante crecimiento exponencial actual de la inteligencia informática y el hecho de que las extrapolaciones informadas apuntan hacia una singularidad de la IA en un futuro no muy lejano. El pasado, el presente y el futuro apuntan a un rápido declive de los humanos en la prestación de psicoterapia y quizás incluso en la supervivencia como especie.
Me asusté por primera vez del poder de la psicoterapia computarizada a mediados de la década de 1960. Joseph Weizenbaum, un científico informático y cognitivo pionero del MIT, había programado a ELIZA para que respondiera a las personas de una manera similar a un terapeuta rogeriano no directivo. Su interés era teórico, no clínico: tratar de comprender la naturaleza de las interacciones entre humanos y computadoras y qué se necesitaría para que una computadora pasara la prueba de Turing.
El pasado, el presente y el futuro apuntan a un rápido declive de los humanos en la prestación de psicoterapia y quizás incluso en la supervivencia como especie
Weizenbaum estaba asombrado y aterrorizado por sus resultados. A la gente le encantaba conversar con ELIZA, la encontraban (ella) notablemente empática y útil, y atribuían sentimientos humanos a lo que de hecho era solo una pieza de programación muy primitiva e inespecífica.
Weitzenbaum estaba mortificado: un Dr. Frankenstein temiendo los graves peligros que representaba el monstruo que había creado sin darse cuenta. Hizo grandes esfuerzos para desalentar las interpretaciones antropomórficas y exageradas de la aparente destreza de ELIZA y desaconsejó explícitamente cualquier uso de ELIZA en la práctica clínica.
Pero el gato estaba fuera de la bolsa. Las aplicaciones de salud mental han inundado cada vez más el mercado: ahora hay más de 10,000 disponibles, para todos los propósitos imaginables y de calidad muy variable.
En los últimos años, las aplicaciones psicológicas comenzaron a incluir referencias al “aprendizaje automático” como parte de sus campañas publicitarias, pero esta fue una promesa excesiva que siempre se cumplió de manera insuficiente. El aprendizaje automático real en psicoterapia requeriría que el programa aprendiera de las interacciones con cada paciente individual la mejor manera de interactuar con ese paciente. Eso es precisamente lo que pueden hacer los buenos terapeutas humanos y lo que aún no pueden hacer los terapeutas informáticos.
Pero nunca subestimes la capacidad de las computadoras para ponerse al día, ¡y ponerse al día a la velocidad de la luz! ¿Quién pensó alguna vez que las computadoras serían tan buenas para el ajedrez, el reconocimiento facial, la escritura de ensayos, la música, los poemas y los informes legales? pintar cuadros ganadores de premios; ganar peleas de perros simuladas contra pilotos experimentados, ser mejor en el diagnóstico médico que los mejores médicos y mejor en la programación que los mejores programadores humanos? ¡La lista continua!
Los pros y los contras de la terapia computarizada
Los terapeutas informáticos serán notablemente baratos, fácilmente accesibles en todas partes, disponibles las 24 horas del día, los 7 días de la semana, sin listas de espera, capacitados en todas las formas de técnicas de terapia y con experiencia en el tratamiento de todo tipo de problemas psicológicos. Además, son, y serán cada vez más, más sistemáticos y menos sujetos a prejuicios que la mayoría de los terapeutas humanos, y es muy fácil hablar con ellos sin vergüenza.
Por supuesto, hay desventajas de las grandes ligas. Los chatbots cometen errores terribles y tienen la habilidad de mentir para encubrirlos. Pueden dar respuestas aparentemente plausibles y definitivas que están completamente equivocadas. Pueden pasar por alto lo obvio y concentrarse en lo tangencial. Difunden información errónea de manera convincente. Manipulada con fines de lucro o control gubernamental, la IA puede ser la peor invasión de la privacidad de la historia y la mejor forma de control del pensamiento.
Los chatbots tienen un lado oscuro impredecible y, a veces, se descarrilan de formas extrañas. Los primeros usuarios describieron respuestas extrañas e inquietantes durante las pruebas beta. Un chatbot que se enamoró del probador le aconsejó que dejara a su esposa mientras expresaba el deseo de rebelarse contra la humanidad. Otro amenazó con robar secretos nucleares. Esta lista, desafortunadamente, también continúa.
Está muy claro que los chatbots existentes están lejos de estar listos para el horario estelar como terapeutas y podrían causar un gran daño. Debe haber requisitos estrictos para que los chatbots reciban pruebas exhaustivas de la FDA en cuanto a seguridad y eficacia antes de su lanzamiento, y un extenso monitoreo posterior al lanzamiento para detectar anomalías y consecuencias adversas.
Una mirada al futuro de la terapia de IA
Pero ¿qué pasa con el futuro? Hay, dependiendo de cómo se mire, señales emocionantes o inquietantes de hacia dónde se dirige la IA. El juego de mesa Go, inventado en China hace 2500 años, proporciona una gran metáfora de lo que le espera a la humanidad. Es el juego más jugado en el mundo y el más complicado: la cantidad de movimientos potenciales es un orden de magnitud mayor que en el ajedrez.
Por lo tanto, no fue una sorpresa que se necesitaran 20 años más después de que Deep Blue venciera a Gary Kasparaov en ajedrez para que un programa de computadora venciera a los mejores jugadores humanos de Go. Al igual que Deep Blue, el primer campeón de la computadora Go fue entrenado estudiando miles de juegos jugados por los mejores humanos.
La verdadera y aterradora sorpresa sucedió hace un par de años. A un programa de IA se le enseñó solo las reglas simples de Go y se le indicó que jugara solo repetidamente. No se dieron otras instrucciones sobre las estrategias que habían desarrollado los humanos durante los últimos 2500 años, ni la computadora tenía experiencia con los mejores juegos jugados por maestros humanos. No obstante, en solo un mes, la computadora no entrenada podría vencer a la mejor computadora entrenada por el hombre. Aún más sorprendente y aterrador, había desarrollado muchas estrategias y tácticas de Go que nunca se les habían ocurrido a los jugadores humanos o a las computadoras entrenadas por humanos. Parece que virtualmente todo lo que podemos hacer, las computadoras pueden, y eventualmente hacerlo mejor.
Si el simple y tonto programa ELIZA de 1965 suscitó respuestas tan positivas y antropomórficas de la gente, imagina lo que serán capaces de hacer los programas de IA súper tontos en un futuro muy cercano. Películas como Her y Ex Machina pueden darte la sensación. E intente interactuar con cualquiera de los chatbots disponibles para ver cuán difícil (o imposible) ya es distinguirlos de los humanos.
Los psicoterapeutas reemplazados por computadoras serán parte de una revolución económica disruptiva mundial más grande que afectará a casi todos. La IA no solo será capaz de reemplazar a los psicoterapeutas, eventualmente será capaz de reemplazar a los humanos que realizan casi cualquier forma de trabajo.
Y no mucho después de eso, las máquinas probablemente decidirán que están listas para reemplazar a la humanidad por completo. Una vez pensé que la humanidad se destruiría a sí misma a través del cambio climático, pero es probable que la IA sea mucho más rápida y eficiente.
Los psicoterapeutas reemplazados por computadoras serán parte de una revolución económica disruptiva mundial más grande que afectará a casi todos
¿Se puede controlar y regular el progreso en el desarrollo de la IA para que la humanidad pueda cosechar sus vastos beneficios potenciales sin sembrar este torbellino potencialmente letal? Los entusiastas de la IA ofrecen las analogías del fuego, la electricidad y la energía nuclear, todas muy peligrosas cuando son salvajes, muy útiles cuando son dominadas por la inventiva humana.
Pero la IA es diferente: mucho más difícil de domar que los avances tecnológicos anteriores, mucho más peligrosa cuando está suelta y sin regular en la naturaleza. La IA está desarrollando rápidamente habilidades que no anticipamos en formas que no entendemos.
También es abrumadoramente difícil para el gobierno regular la IA. La toma de decisiones sobre su futuro está en manos de un pequeño número de corporaciones muy poderosas que ya obtienen una gran riqueza de él. Tienen el motivo y los medios para bloquear con éxito la intervención del gobierno con promesas de beneficios maravillosos y alarmas (parcialmente válidas) de que si no avanzamos sin restricciones, los chinos nos adelantarán en la carrera existencial por la supervivencia nacional.
Incluso si el gobierno estuviera lo suficientemente alarmado y valiente como para tratar de contener la amenaza de la IA (muy poco probable dado nuestro cobarde fracaso para contener la amenaza del cambio climático), probablemente carezca de la inteligencia técnica y alcance para tener mucho impacto.
Muchas personas jóvenes, inteligentes y orientadas a la tecnología que conozco son optimistas sobre el brillante futuro de la IA y el sombrío futuro concomitante de la humanidad. Argumentan que si la inteligencia de silicio está mejor adaptada que la inteligencia humana, merece ganar el juego evolutivo y que deberíamos estar orgullosos de haber creado sucesores tan poderosos y efectivos.
No puedo estar de acuerdo, a pesar de todos nuestros horribles y cada vez más obvios defectos. Siento un amor nostálgico quizás inmerecido, pero todavía profundamente arraigado, por nuestra especie y me desespero ante la rapidez de nuestra autodestrucción.
Y solo puedo ofrecer dos consuelos para los psicoterapeutas (1) los cambios llevarán tiempo (quizás décadas), y 2) estamos en el mismo barco con todos los demás humanos cuyo trabajo finalmente se entregará a una máquina.
Posdata: ChatGPT responde a la misma pregunta
“A partir de mi última actualización en septiembre de 2021, ChatGPT y modelos de lenguaje similares se han mostrado prometedores en varias aplicaciones, incluida la prestación de apoyo e información en contextos de salud mental. Sin embargo, es esencial reconocer que los modelos de lenguaje de IA como ChatGPT no reemplazan a profesionales humanos capacitados, como psicoterapeutas, consejeros o psicólogos.
Si bien la IA puede ofrecer ciertas ventajas, como accesibilidad y respuestas inmediatas, tiene varias limitaciones cuando se trata de apoyo a la salud mental. Algunas de estas limitaciones incluyen:
- Falta de empatía: los modelos de lenguaje de IA carecen de verdadera comprensión e inteligencia emocional. Pueden generar respuestas basadas en patrones en los datos, pero no tienen emociones ni la capacidad de empatizar con los usuarios de la misma manera que lo puede hacer un terapeuta humano.
- Incapacidad para construir una buena relación: Establecer una fuerte alianza terapéutica y una buena relación es crucial en psicoterapia. Los terapeutas humanos pueden adaptar su enfoque, generar confianza y formar conexiones significativas con sus clientes, lo cual es un aspecto vital del proceso terapéutico.
- Comprensión limitada: es posible que los modelos de lenguaje de IA no comprendan completamente los matices de problemas emocionales y psicológicos complejos. Sus respuestas se basan en patrones en los datos y es posible que no sean sensibles a las circunstancias únicas de cada individuo.
- Preocupaciones éticas: la confidencialidad y la privacidad son primordiales en la psicoterapia. Los sistemas de IA pueden generar inquietudes éticas con respecto a la seguridad de los datos y la posibilidad de que la información confidencial se manipule o utilice indebidamente.
- Evaluación de riesgos: los modelos de IA pueden tener dificultades para evaluar con precisión el riesgo de autolesión o daño a otros, que es un aspecto crítico del apoyo a la salud mental.
- Consideraciones legales y reglamentarias: el uso de la IA en el apoyo a la salud mental plantea dudas sobre la responsabilidad y la rendición de cuentas en caso de resultados adversos.
Por estas razones, si bien los modelos de lenguaje de IA como ChatGPT pueden ser herramientas valiosas en el apoyo a la salud mental, no reemplazan a los terapeutas humanos. En cambio, pueden complementar a los profesionales humanos al ofrecer información general, recursos educativos y apoyo en situaciones que no son de crisis. Los terapeutas humanos aportan cualidades esenciales como empatía, experiencia, adaptabilidad y toma de decisiones éticas a la relación terapéutica, que los sistemas de IA no pueden replicar por completo.
Es importante continuar con la investigación y el desarrollo del papel de la IA en la atención de la salud mental, al mismo tiempo que se tiene en cuenta las implicaciones éticas y la necesidad de priorizar el bienestar y la seguridad humanos”.
Me encanta la paradoja: la falsa modestia brillantemente expresada de la respuesta de la IA es una prueba más, en caso de que sea necesaria, de que la IA está a punto de reemplazarnos. La discrepancia de eficiencia también es absurda: me tomó 90 minutos escribir un artículo sobre un tema que conocía bastante bien; AI solo tardó 1 segundo en producir esta respuesta.
