A medida que la industria farmacéutica sigue adoptando la inteligencia artificial (IA), los organismos reguladores de Estados Unidos y otros países están evolucionando para abordar los desafíos dentro de la industria. Estos incluyen la privacidad, el sesgo, la precisión y el acceso de los datos, así como los usos apropiados de la IA y la incorporación de controles y contrapesos en su uso. El 30 de octubre, el Orden ejecutiva de la Casa Blanca sobre el desarrollo y uso seguro y confiable de la inteligencia artificial (EO) instruyó a las agencias a diseñar planes para el uso apropiado y responsable de la IA en todas las industrias, incluida la carga HHS con el desarrollo de un programa de seguridad. El Congreso respondió a las pocas semanas con una propuesta detallada de IA, mientras que el FDA ha estado trabajando constantemente para abordar la IA.
Debido a que la EO es sólo un modelo, las industrias aún no saben cuáles serán las reglas. La amplitud de la EO tiene sentido según Rafael Rosengarten, cofundador y director ejecutivo de genio y cofundador y director de la junta directiva de Alianza para la Inteligencia Artificial en la Salud (AAIH). “La principal preocupación del gobierno es la seguridad y la protección, como la seguridad pública. De hecho, la mayoría de los equipos y las oficinas a nivel de gabinete son nombrados por su nombre, como los Institutos Nacionales de Tecnología Estándar, el Departamento de Defensa, Seguridad Nacional, etc.”, señaló. A medida que la IA se adopta en diferentes industrias, ha habido una creciente preocupación sobre cómo regular una tecnología horizontal tanto a nivel sectorial como de agencia debido a las posibles brechas entre las competencias de las diferentes agencias, incluidas las industrias farmacéutica y de salud.
La EO exige que el HHS cree un grupo de trabajo con el objetivo de elaborar un programa de seguridad para 2024. Aunque la FDA está evolucionando para regular la IA, Danny Tobey, MD, JD, socio y presidente de AI & Data Analytics en DLA Piper El bufete de abogados cree que el llamado de la EO para crear un grupo de trabajo del HHS contribuirá a la buena gobernanza de la IA en toda la cadena de valor de la atención médica. Señala que todas las agencias tienen las mejores intenciones pero están limitadas por su jurisdicción. "La FDA se centra en una cosa, los CMS se centran en otra y el HHS tiene sus mandatos a nivel de departamento, por lo que me gusta una perspectiva a nivel del HHS sobre esto", dijo. Tobey aclaró además que debido a que el trabajo de la FDA es la seguridad y la eficacia, la FDA seguirá siendo uno de los guardianes más importantes.
Programa de seguridad del HHS
Para el HHS, crear un programa de seguridad dentro de un año es un objetivo ambicioso, especialmente considerando las complejidades de la IA, sin mencionar sus aplicaciones en la atención médica. Richard Marcil, cofundador de ConversaciónSALUD, explicó que los diferentes aspectos del grupo de trabajo deben “definir el alcance de los daños y las prácticas inseguras de la IA en la atención médica, establecer un sistema de informes sólido, determinar mecanismos de investigación y remediación y proporcionar consideraciones legales y éticas claras de la IA en la atención médica”. Señaló que el grupo de trabajo debe colaborar con proveedores de atención médica, investigadores y pacientes para establecer el equilibrio necesario entre innovación y seguridad del paciente.
Sin embargo, esta no es una tarea fácil para una industria que ya es muy consciente de la necesidad de contar con datos precisos y diversos en ensayos clínicos y datos de investigación para el uso eficaz de la IA. Hay muchas incertidumbres sobre cómo el HHS logrará este objetivo y cuáles serán las prioridades del grupo de trabajo. Hay muchos juicios de valor incorporados en la implementación de la IA en el ámbito de la atención sanitaria. La IA puede ser la mayor cura o la mayor causa de inequidad en la atención médica en el futuro porque tiene el potencial de estratificar aún más los resultados de salud según el acceso a la tecnología o de ayudar a democratizar el acceso a la información y la atención médica. Por lo tanto, Tobey señaló que “el grupo de trabajo del HHS va a tener conversaciones difíciles sobre cuestiones filosóficas y compensaciones entre precisión, transparencia, accesibilidad y equidad. Las personas con las mejores intenciones tendrán que tomar decisiones difíciles”. Comunicaciones difundidas por el Instituto Nacional de Estándares y Tecnología (NIST) con respecto a la IA, profundiza en el punto de que cada principio de IA que una industria valora tendrá contrapartidas con otros principios de IA que valora.
Legislación futura sobre IA
El EO es sólo una parte del rompecabezas de la IA. A mediados de noviembre de 2023, un grupo bipartidista de senadores publicó la propuesta. Ley de Investigación, Innovación y Responsabilidad de Inteligencia Artificial de 2023, que es similar al enfoque europeo de la IA. Tobey, que estaba en el proceso de revisar la legislación en el momento de esta entrevista, comentó que si bien la primera mitad es de naturaleza “muy estadounidense”, ya que se centra en promover la innovación, “la segunda mitad trata de definir algunos de los salvaguardias familiares que hemos visto a nivel mundial, como informes de transparencia y certificación, pero podría decirse que para un sector más reducido de sistemas de IA, aunque la convergencia final aún está por verse”. Tobey afirmó que la industria debería esperar que se presenten muchas más propuestas antes de que el Congreso las apruebe. Anticipa que las futuras propuestas legislativas seguirán siendo más consistentes con el enfoque de la Unión Europea y los proyectos de ley en Corea y otros países. A pesar de las diferentes preocupaciones y regulaciones de privacidad de datos de los países, predice que habrá una convergencia global de IA entre Asia, Europa y Estados Unidos porque existe una comprensión de los riesgos, que son menos subjetivos y culturalmente dependientes que la privacidad.
Todo se reduce a los datos
Como en otras industrias, el mayor obstáculo para la industria farmacéutica es obtener suficientes datos de alta calidad en un solo lugar para que la IA sea precisa y lo más imparcial posible. Los datos de atención médica que la industria tiene en este momento se recopilaron con fines de seguros y facturación. No estaban destinados a investigaciones sanitarias ni a fines científicos, sino que se utilizan en el descubrimiento y desarrollo de fármacos. La avalancha de legislación propuesta brinda a los líderes de la industria la oportunidad de guiar a las agencias gubernamentales para crear estándares y procedimientos que modernicen la recopilación de datos al centrarse en los datos apropiados necesarios para la investigación y el desarrollo.
El acceso a datos de calidad es clave para que la industria siga creciendo. Stacie Calad-Thomson, directora de estrategia, Biosimetría y vicepresidente de AAIH, destaca que la legislación debe centrarse en los datos para promover la innovación y la competencia. Ella comentó: “No hay acceso a muchos datos. La gente acapara datos y no los comparte, lo que crea monopolios. También significa que en realidad no estamos compartiendo ni avanzando tan rápido como todos podríamos”. Sin embargo, las lagunas en los datos reflejan problemas fundamentales más amplios, a saber, disparidades en el acceso a la atención médica y prejuicios humanos en la forma en que se tratan estos temas. Rosengarten afirmó: "Reconocer esto arroja luz sobre el problema a nivel de acceso y prejuicio humano en la atención al paciente, [la EO] sólo puede ayudar ahora en términos de exigir la recopilación de datos".
Rosengarten no está seguro de cómo el HHS va a establecer un sistema que haga que el sistema de salud sea más equitativo. Sin embargo, aclaró que imponer mandatos en torno a los dispositivos basados en IA es un buen comienzo, ya que la IA debe cumplir con algún estándar de representación de la población de pacientes en la que está destinada y para la que está destinada. Estos mandatos deberán ampliarse nuevamente a los ensayos clínicos, ya que los ensayos clínicos generalmente recopilan datos de las personas enfermas más sanas para los ensayos y, por lo tanto, no son representativos de la población real de pacientes para un medicamento o diagnóstico. Esto exige un cambio sistemático en la atención sanitaria porque, como afirmó Rosengarten: "Para ser honesto, no creo que el problema sea realmente la recopilación de datos; es lo que sucede debajo de la recopilación de datos".
La preferencia por la calidad de los datos sobre la cantidad es una convergencia que Tobey ha estado observando: “Tanto los tecnólogos como los científicos médicos están llegando casi al mismo tiempo a la conclusión de que los modelos de parámetros más pequeños de dominios específicos podrían ser, en algunos aspectos, más efectivos. Eso es bueno. Me gusta el mayor énfasis en buenos datos en lugar de big data”.
Marcil sugirió que las grandes empresas farmacéuticas pueden tener una ventaja debido a sus extensos conjuntos de datos, pero que la legislación permite una nueva competencia. "Están surgiendo, y seguirán surgiendo, nuevos conjuntos de datos públicos y privados que van más allá de lo que está disponible en el mundo académico". Al mismo tiempo, “una nueva generación de empresas impulsadas fundamentalmente por la IA, que abarca desde la biogenómica hasta los medicamentos personalizados, plantea un desafío competitivo más amplio”, afirmó. "Estas empresas innovadoras operan con modelos de negocio fundamentalmente diferentes y colaboran dentro de un nuevo ecosistema de proveedores y socios de datos".
Indicadores futuros
La IA ofrece innumerables posibilidades para el futuro. El uso responsable de la IA permitirá que la industria prospere. Marcil prevé una combinación armoniosa de humanos y máquinas, en la que la experiencia humana y las capacidades de IA convergerán para crear una bendición para la sociedad. El uso adecuado de la IA permitirá a la industria en su conjunto escalar masivamente la atención preventiva y aguda, desde el acceso inicial hasta el apoyo continuo, dijo Marcil: "La sinergia entre los humanos y la IA es inmensamente prometedora para el futuro de la atención médica".
Lori Ellis es la jefa de conocimientos de Bioespacio. Ella analiza y comenta sobre las tendencias de la industria para bioespacio y clientes. Su atención actual se centra en el impacto en constante evolución de la tecnología en la industria farmacéutica. Puedes contactarla en lori.ellis@biospace.com. Síguela en Etiqueta LinkedIn.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.biospace.com/article/white-house-and-congress-propose-ai-legislation-as-fda-continues-to-act-as-ai-regulatory-gatekeeper/?s=93
