La startup de inteligencia artificial (IA) Woebot Health fue noticia recientemente por algunas de sus respuestas desastrosamente defectuosas de bot artificial a mensajes de texto que le fueron enviados imitando una crisis de salud mental. Woebot, que recaudó 90 millones de dólares en una ronda de Serie B, respondió que no está diseñado para usarse durante crisis. Lamentablemente, la dirección de la empresa espera que los pacientes, que tal vez no estén pensando de forma completamente racional, tengan el reconocimiento necesario para dejar de utilizar su forma típica de comunicación y recurrir a un sistema alternativo.
Si bien los médicos son responsables del daño infligido a los pacientes durante el tratamiento, las empresas emergentes que buscan ingresar a este espacio no están sujetas al mismo estándar. Para empeorar las cosas para los pacientes vulnerables, estos sistemas tampoco cumplen con los mismos estándares de privacidad. Entrar al espacio de la IA e interactuar directamente con los pacientes es especialmente complicado porque muchos pacientes experimentan habitualmente crisis atenuadas, por debajo del umbral de necesidad de llamar al 911, lo que hace que un robot que no esté equipado para manejar crisis probablemente no esté bien equipado para manejar la agonía que experimentan los pacientes. diariamente.
A pesar de los riesgos que implica arruinar artificial o involuntariamente las crisis de los pacientes, las nuevas empresas de salud mental atraídas a este espacio recaudaron un total de 1.3 millones de dólares en el primer semestre de 2022. Desafortunadamente, existen muchas dificultades para comunicarse directamente con los pacientes y la IA aún no está lista. para esta tarea. Las palabras se pueden utilizar en jerga o con significados alternativos. El significado de una oración puede cambiar según la historia del paciente, los valores culturales, los gestos, la prosodia y el tono de voz. Además, es importante considerar los motivos subconscientes del paciente en una sesión terapéutica, algo que no se aclara fácilmente con la IA.
Por mucho que la inteligencia artificial pueda detectar el significado literal de las palabras, no podrá comprender el significado detrás de lo que no se dice en la medida en que un terapeuta humano pueda hacerlo. Dada la cantidad de dificultades para reemplazar a los terapeutas humanos, es más probable que la inteligencia artificial tenga un impacto detrás de escena de otras maneras.
Aunque existen muchos desafíos cuando se depende de un robot artificial para interactuar con los pacientes, todavía hay áreas donde la inteligencia artificial puede aumentar la toma de decisiones. Las compañías de seguros de salud ya ven el valor de la IA para reducir costos al identificar a los pacientes que utilizan mucho los servicios de atención médica. Los proveedores de recetas reciben periódicamente notificaciones de las compañías de seguros de salud sobre resurtidos irregulares de recetas para fomentar la interrupción de las recetas que no se utilizan de manera óptima. De hecho, las grandes compañías de seguros poseen conjuntos de datos considerables que actualmente se están analizando para predecir la aparición de Alzheimer, diabetes, insuficiencia cardíaca y enfermedad pulmonar obstructiva crónica (EPOC). De hecho, La IA ya ha sido aprobada por la FDA para usos específicos, y actualmente, la IA brilla cuando se aplica a un tema clínico muy concreto. Inicialmente se busca que los sistemas de IA mejoren el juicio clínico en lugar de reemplazarlo. Idealmente, la IA mejorará la productividad de los médicos al manejar tareas mundanas y alertar sobre aquellas que pueden ser equívocas y requerir una mayor investigación por parte de un ser humano. Según la compañía de seguros Optum, las tres principales aplicaciones de IA son monitorear datos con dispositivos portátiles, acelerar ensayos clínicos y mejorar la precisión de la codificación de atención médica. Los objetivos actuales no son aumentar la cantidad de datos, sino presentarlos de una manera que sea significativa y procesable por el médico.
La inteligencia artificial comenzará a impactar a los proveedores con consejos y alertas informativas, ayudando así a aumentar la toma de decisiones y reducir el error humano. La práctica de la medicina está llena de tareas rutinarias que son oportunidades propicias para descargarlas a una computadora. Por ejemplo, una aplicación común de la IA es la evaluación de imágenes de la retina, lo que permite a los oftalmólogos centrarse en otras áreas de la medicina que consideran más gratificantes. A medida que la IA se abre paso en la atención sanitaria, los médicos no deberían preocuparse por si serán reemplazados, sino por cómo su práctica seguirá evolucionando con el tiempo y, con suerte, para mejor.
Una dificultad para aplicar la IA al espacio de los proveedores es que los registros médicos no están estructurados de manera uniforme y los estilos varían mucho de un proveedor a otro. Los registros médicos también pueden contener sesgo inherente, dependiendo de la población de pacientes más típica de esa práctica. El sesgo introducido en un sistema de IA producirá un resultado sesgado. Así, el “qué” de la IA no es el único factor importante en su aplicación, sino que cómo se aplica y qué se hace con los resultados también es muy significativo en el impacto que tiene. Es posible que se pasen por alto los consejos y alertas que aparecen en momentos en que el médico está distraído o acostumbrado a ver otra pantalla. La experiencia del usuario de la IA tendrá un impacto en la fatiga de alerta, un fenómeno bien conocido recientemente que ha dado lugar a algunos casos históricos. Por lo tanto, la IA tiene tanto impacto como el medio en el que se entrega y el estado del usuario en el momento en que se presenta.
Si hemos aprendido algo de los errores periodísticos de la IA, es que tal vez no exijamos que la IA cumpla con los mismos estándares de privacidad que los humanos, pero sí que la exijamos con estándares más altos que el desempeño humano típico. Sería totalmente inaceptable que un sistema de IA dañara a un solo paciente. Esperamos que la IA no sólo funcione mejor que los humanos sino que no dañe a ningún paciente. Así que, por ahora, la IA seguirá ejerciendo su magia alquímica en segundo plano, asumiendo silenciosamente la responsabilidad (o no) de cómo afecta la atención sanitaria.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.dataversity.net/how-artificial-intelligence-will-first-find-its-way-into-mental-health/
