LEMONT, Ill.–(BUSINESS WIRE)–Se ha formado un consorcio global de científicos de laboratorios federales, institutos de investigación, el mundo académico y la industria para abordar los desafíos de la construcción a gran escala. inteligencia artificial (IA) y el avance de una IA confiable y confiable para el descubrimiento científico.

El Consorcio del Billón de Parámetros (TPC) reúne equipos de investigadores comprometido en la creación de modelos de IA generativa a gran escala para abordar desafíos clave en el avance de la IA para la ciencia. Estos desafíos incluyen el desarrollo de arquitecturas de modelos escalables y estrategias de capacitación, organización y curación de datos científicos para modelos de capacitación; Optimización de las bibliotecas de IA para el presente y el futuro. computación a exaescala plataformas; y desarrollar plataformas de evaluación profunda para evaluar el progreso en el aprendizaje de tareas científicas y la confiabilidad y confianza.

Con estos fines, TPC:

• Construya una comunidad abierta de investigadores interesados ​​en crear modelos de IA generativa a gran escala de última generación destinados en términos generales a promover el progreso en problemas científicos y de ingeniería compartiendo métodos, enfoques, herramientas, conocimientos y flujos de trabajo.
• Incubar, lanzar y coordinar proyectos de forma voluntaria para evitar la duplicación de esfuerzos y maximizar el impacto de los proyectos en la comunidad científica y de IA en general.
• Crear una red global de recursos y experiencia para facilitar la próxima generación de IA y reunir a investigadores interesados ​​en desarrollar y utilizar IA a gran escala para la ciencia y la ingeniería.

Trillones de modelos de parámetros representan la frontera de la IA a gran escala y sólo los sistemas de IA comerciales más grandes se acercan actualmente a esta escala.

La capacitación de LLM (modelos de lenguaje grande) con tantos parámetros requiere recursos informáticos de clase exaescala, como los que se están implementando en varios laboratorios nacionales del Departamento de Energía de EE. UU. (DOE) y en múltiples socios fundadores de TPC en Japón, Europa y otros lugares. Incluso con tales recursos, entrenar un modelo de parámetros de un billón de última generación requerirá meses de tiempo dedicado, algo intratable en todos los sistemas excepto en los más grandes. En consecuencia, dichos esfuerzos involucrarán grandes equipos multidisciplinarios y multiinstitucionales. TPC se concibe como un vehículo para apoyar la colaboración y los esfuerzos cooperativos entre y dentro de dichos equipos.

"En nuestro laboratorio y en un número cada vez mayor de instituciones asociadas en todo el mundo, los equipos están comenzando a desarrollar modelos de inteligencia artificial de vanguardia para uso científico y están preparando enormes colecciones de datos científicos previamente no explotados para capacitación", dijo Rick Stevens, director asociado de computación del laboratorio. , medio ambiente y ciencias de la vida en el Laboratorio Nacional Argonne del DOE. "Creamos TPC en colaboración para acelerar estas iniciativas y crear rápidamente el conocimiento y las herramientas necesarias para crear modelos de IA con la capacidad no solo de responder preguntas de dominios específicos sino también de sintetizar el conocimiento en todas las disciplinas científicas".

Contacto

Cristóbal J. Kramer

Jefe de Relaciones con los Medios

Argonne National Laboratory

Oficina: 630.252.5580

Email: media@anl.gov