La CCC apoyó tres sesiones científicas en la Conferencia Anual de la AAAS de este año. Esta semana resumiremos los aspectos más destacados de la sesión “.IA generativa en la ciencia: promesas y trampas.Este panel, moderado por Dr. Mateo Turco, presidente del Instituto Tecnológico Toyota de Chicago), destacó Dra. Rebeca Willett, profesor de estadística e informática en la Universidad de Chicago, Dr. Markus Bühler, profesor de ingeniería en el Instituto de Tecnología de Massachusetts, y Dr. Duncan Watson-Parris, profesor asistente en el Instituto Scripps de Oceanografía y el Instituto Halıcıoğlu de Ciencia de Datos de UC San Diego. En la cuarta parte, resumimos la parte de preguntas y respuestas del panel. 

Una sesión de preguntas y respuestas siguió a las presentaciones de los panelistas y el Dr. Matthew Turk inició la discusión. “'Promesas y trampas' está en el título de este panel. Hemos discutido muchas de las promesas, pero no hemos abordado muchos de los obstáculos. ¿Qué le preocupa del futuro de la IA generativa?

"La confiabilidad y confiabilidad de estos modelos es una gran preocupación", comenzó la Dra. Rebecca Wilett. “Estos modelos pueden predecir cosas que son plausibles, pero les faltan elementos clave y destacados; ¿Puedo, como ser humano, reconocer que falta algo allí?

El Dr. Markus Buehler añadió que la predicción real de un modelo puede tardar un segundo, pero el proceso experimental de validación puede tardar meses o un año, o más. Entonces, ¿cómo debemos actuar mientras tanto no hemos verificado los resultados? "También necesitamos educar a la próxima generación de desarrolladores de IA generativa para que diseñen modelos que sean confiables y verificables, y que podamos utilizar conocimientos basados ​​en la física en nuestra construcción de estos modelos".

El Dr. Duncan Watson-Parris se basó en los dos puntos anteriores y dijo: “Debido a que estos modelos están diseñados para generar resultados plausibles, no podemos simplemente mirar los resultados para verificar su precisión. Los investigadores de IA generativa necesitan tener un conocimiento profundo de cómo funcionan estos modelos para poder verificar sus resultados, razón por la cual educar correctamente a la próxima generación es tan importante”.

Miembro de la audiencia: “En ciencia de materiales, sabemos la dirección a seguir para estudiar algunos materiales, pero para otros, como los superconductores a temperatura ambiente, no sabemos cómo avanzar. ¿Cómo crees que será el camino a seguir en el estudio de estos materiales desconocidos? ¿Y cómo debería permitirse este tipo de investigación desde un punto de vista regulatorio?

"Bueno, no soy un experto en investigación de superconductores", dijo el Dr. Buehler, "así que no hablaré directamente sobre eso, pero puedo hablar en general sobre cómo logramos avances en la ciencia de los materiales, específicamente en mi área de proteínas". y desarrollo de biomateriales. La forma en que avanzamos es teniendo la capacidad de ir más allá. Realizamos nuevos experimentos y probamos ideas y teorías extravagantes y vemos cuáles funcionan y por qué. En cuanto a cómo deberíamos permitir esta investigación, necesitamos más modelos de código abierto con acceso colectivo. Animaría a los políticos a no regular excesivamente estas tecnologías, de modo que los investigadores y el público tengan acceso a este tipo de modelos. No creo que sea una buena idea impedir que la gente utilice estos modelos, especialmente cuando podemos colaborar con ideas y desarrollos e introducir conocimientos de diversos campos de la actividad humana. Por ejemplo, cuando se inventó la imprenta, las autoridades intentaron limitar la disponibilidad de esta tecnología para que pocos libros pudieran leerse en masa, pero este esfuerzo fracasó estrepitosamente. La mejor manera de proteger al público es facilitar el acceso a estos modelos de tal manera que podamos desarrollarlos, explorarlos y evaluarlos ampliamente para el máximo beneficio de la sociedad”.

Miembro de la audiencia: “La mayoría de los modelos de IA generativa actuales son modelos de regresión que se centran en simular o emular diferentes escenarios. Sin embargo, el descubrimiento en la ciencia se ve impulsado por las hipótesis y predicciones que ideamos. Entonces, ¿cómo creamos modelos destinados a concebir nuevas predicciones en lugar de los modelos actuales que se utilizan principalmente para experimentación?

El Dr. Buehler respondió primero y dijo: “Tiene razón, la mayoría de los modelos tradicionales de aprendizaje automático a menudo se basan en regresión, pero los modelos de los que hablamos hoy funcionan de manera diferente. Cuando se reúnen sistemas multiagente con muchas capacidades, en realidad comienzan a explorar nuevos escenarios y comienzan a razonar y hacer predicciones basadas en los experimentos que han realizado. Se vuelven más humanos. Usted, como investigador, no ejecutaría un experimento y simplemente lo terminaría; ejecutaría un experimento y luego comenzaría a observar los datos, validarlos y hacer nuevas predicciones basadas en estos datos, para conectar los puntos y extrapolar. formulando hipótesis e imaginando cómo se desarrollaría un nuevo escenario. Experimentaría, recopilaría nuevos datos, desarrollaría una teoría y tal vez propondría un marco integrado sobre un tema de interés particular. Luego defendería sus ideas frente a las críticas de sus colegas y tal vez revisaría su hipótesis cuando se utilice nueva información. Así es como funcionan los nuevos sistemas adversarios multiagente, pero, por supuesto, complementan las habilidades humanas con una capacidad mucho mayor para razonar sobre grandes cantidades de datos y representaciones de conocimiento. Estos modelos ya pueden generar nuevas hipótesis que van mucho más allá de lo que ya se ha estudiado, contribuyendo al proceso científico de descubrimiento e innovación”.

“Yo complementaría eso”, intervino el Dr. Willett, “con el área del descubrimiento de compleción y la regresión simbólica como otra área mucho más orientada a la generación de hipótesis. Hay mucho trabajo en curso en este espacio”.

Miembro de la audiencia: "¿Cómo aumentamos el acceso a este tipo de modelos y superamos obstáculos, como que la mayoría de los modelos se crean para angloparlantes?"

La Dra. Rebecca Willett respondió diciendo: “Mucha gente tiene acceso al uso de estos modelos, pero diseñarlos y entrenarlos cuesta muchos millones de dólares. Si sólo un pequeño conjunto de organizaciones es capaz de establecer estos modelos, entonces sólo un grupo muy pequeño de personas está tomando las decisiones y estableciendo prioridades en la comunidad científica. Y a menudo las prioridades de estas organizaciones e individuos están impulsadas por las ganancias. Dicho esto, creo que el panorama está empezando a cambiar. Organizaciones como la NSF están intentando construir infraestructura a la que pueda acceder la comunidad científica en general. Este esfuerzo se asemeja al desarrollo inicial de las supercomputadoras. Al principio, los investigadores tenían que presentar largas propuestas para conseguir acceso a una supercomputadora. Creo que veremos paradigmas emergentes similares en IA e IA generativa”.

“Estoy de acuerdo”, dijo el Dr. Watson-Parris. "Además, desde el punto de vista regulatorio, no creo que debamos regular la investigación básica, tal vez los espacios de aplicación, pero no la investigación en sí".

Muchas gracias por leer y estad atentos a los resúmenes de nuestros otros dos paneles en AAAS 2024.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• Fuente: https://feeds.feedblitz.com/~/874103807/0/cccblog~CCC-AAAS-Generative-AI-in-Science-Promises-and-Pitfalls-Recap-%e2%80%93-Part-Four/