CAMBRIDGE, Massachusetts., Agosto 10, 2023 / PRNewswire / - RTX (NYSE: extensión RTX) La división BBN recibió la adjudicación de un contrato para apoyar a DARPA's “En El Momentoprograma. ITM tiene como objetivo desarrollar las bases necesarias para algoritmos en los que se confíe para tomar decisiones de forma independiente en escenarios como la clasificación de víctimas masivas y el socorro en casos de desastre, donde se necesitan decisiones complejas y rápidas en situaciones dinámicas en las que a menudo no existe un consenso humano ni una respuesta correcta clara.

“ITM es más que hacer que la IA proporcione la respuesta correcta en escenarios muy controlados. No estamos hablando de entrenar a la IA en datos etiquetados para ayudar a identificar un tumor canceroso en una radiografía”, dijo Alicia Leung, investigador principal de Raytheon BBN. “Lo que estamos tratando de lograr en cambio es la capacidad de crear sistemas de IA que los humanos permitan tomar decisiones de forma independiente en entornos no controlados. Para lograr esto, necesitamos determinar cómo los expertos humanos toman decisiones realmente difíciles y evaluar si confiar en las decisiones de los demás. Llevaremos a cabo una investigación sobre la toma de decisiones y una investigación sobre la confianza”.

El equipo dirigido por Raytheon BBN, que incluye Kairos Research, MacroCognition y Valkyries Austere Medical Solutions, utilizará una técnica de entrevista cognitiva para comprender cómo los expertos (en este caso, profesionales médicos y socorristas) evalúan la información y hacen concesiones difíciles para actuar con decisión en los puntos críticos de decisión. Esta información cualitativa se utilizará para diseñar experimentos basados ​​en escenarios para estudiar cómo las diferencias en los atributos de toma de decisiones de un individuo pueden explicar sus elecciones, y cómo la alineación de atributos entre dos personas diferentes afecta la voluntad de delegar decisiones en otra. Esto permitirá que la IA se ajuste para que coincida con una población de expertos, o incluso para que coincida con un experto individual.

“Debido a que la forma en que tomamos decisiones varía de una persona a otra, es poco probable que exista un modelo de IA de confianza único para todos”, dijo Leung. “En cambio, en teoría, deberíamos poder crear sistemas de inteligencia artificial que se adapten al usuario y al dominio. Las decisiones son difíciles debido a la incertidumbre y las compensaciones entre objetivos en competencia. Queremos poder ajustar los atributos de una IA, como la tolerancia al riesgo, el enfoque del proceso o la voluntad de cambiar los planes para adaptarse mejor a un usuario o grupo de usuarios”.  

DARPA está reuniendo a varios equipos para colaborar en este programa. Otros equipos se centrarán en el desarrollo de prototipos de tomadores de decisiones de IA que comiencen con un conocimiento básico y luego se puedan ajustar para que coincidan con un conjunto de atributos objetivo. Los productos de investigación de este programa se integrarán y evaluarán para determinar qué tan bien los agentes algorítmicos pudieron tomar decisiones consistentes con los atributos humanos objetivo cuando se enfrentaron a escenarios difíciles. El programa también probará si los expertos humanos confían en estos agentes alineados sobre los agentes de referencia u otros humanos reales. En estas evaluaciones de programas de confianza, a los expertos humanos se les mostrará un registro de decisiones en escenarios difíciles sin saber si quien tomó la decisión fue una IA o un humano.  

El trabajo en este contrato, patrocinado por DARPA y el Laboratorio de Investigación de la Fuerza Aérea, se está realizando en Cambridge, Massachusetts; Dayton, Ohio; y Anniston, Alabama.

Acerca de Raytheon BBN 

Fundada en 1948, Raytheon BBN proporciona investigación y desarrollo de tecnología avanzada con un enfoque en las prioridades de seguridad nacional. Desde ARPANET hasta el primer correo electrónico, Raytheon BBN realiza una transición constante de investigación avanzada para producir soluciones innovadoras para sus clientes. Raytheon BBN asume riesgos y desafía las convenciones para crear soluciones en análisis e inteligencia artificial, redes y sensores, software y sistemas inteligentes y ciencias físicas.

Acerca de RTX

RTX es la compañía aeroespacial y de defensa más grande del mundo. Con más de 180,000 2022 empleados en todo el mundo, superamos los límites de la tecnología y la ciencia para redefinir cómo nos conectamos y protegemos nuestro mundo. A través de empresas líderes en la industria, Collins Aerospace, Pratt & Whitney y Raytheon, estamos avanzando en la aviación, diseñando sistemas de defensa integrados para el éxito operativo y desarrollando soluciones tecnológicas y fabricación de próxima generación para ayudar a los clientes globales a abordar sus desafíos más críticos. La compañía, con ventas en 67 de $XNUMX mil millones, tiene su sede en Arlington, Virginia.

• Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
• PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
• PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
• PlatoESG. Automoción / vehículos eléctricos, Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
• PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
• ChartPrime. Eleve su juego comercial con ChartPrime. Accede Aquí.
• Desplazamientos de bloque. Modernización de la propiedad de compensaciones ambientales. Accede Aquí.
• Fuente: https://www.darkreading.com/operations/darpa-taps-rtx-to-attune-ai-decisions-to-human-values