Logotipo de Zephyrnet

Construyendo una infraestructura compatible con la IA en las escuelas

Fecha:

Llevar la IA al entorno educativo requerirá que los líderes de TI dentro del entorno escolar allanen el camino con el tipo adecuado de infraestructura. Después de todo, cualquier sistema de IA es tan bueno como la tecnología fundamental que lo respalda. Todo esto comienza con los datos.

Es una vieja mentalidad en TI, pero que todavía es válida: ordene sus datos y todo lo demás seguirá. Los modelos de IA simplemente no pueden funcionar eficazmente sin el tipo adecuado de datos de calidad, tanto en la etapa de entrenamiento como cuando los modelos realizan inferencias en el campo. 

Si está buscando implementar modelos de IA en un entorno escolar, estos deberán haber sido entrenados con datos seguros y ajustados para limitar cualquier resultado no deseado. Pero en un nivel más fundamental, las escuelas que quieran utilizar la IA en cualquier capacidad deberán asegurarse de que su mantenimiento de registros digitales sea lo mejor posible para aprovechar al máximo sus servicios de IA.

En términos prácticos, esto significa invertir en una infraestructura de datos suficiente.

Creación de una infraestructura apta para la IA: lo que hay que saber 

Establezca un modelo riguroso de gobernanza de datos que tenga en cuenta las demandas actuales y de corto y mediano plazo sobre sus datos.. Dependiendo del nivel de transformación digital que ya haya experimentado su institución, esto también puede implicar grandes esfuerzos de digitalización, todo lo cual ayudará a facilitar la integración de la IA.

Los datos deben procesarse, etiquetarse para facilitar su uso y almacenarse en un entorno escalable para hacer frente a la futura expansión de datos.. A corto plazo, esto será ideal para cualquier escuela que busque utilizar la IA para obtener información de sus datos mediante análisis de datos. Si surge la necesidad de que una escuela entrene un modelo de IA basado en sus propios datos, para ser utilizado, por ejemplo, en comunicaciones internas, los datos estructurados y anotados adecuadamente ayudarán a los científicos de datos a brindarle al modelo la información más relevante.

Las empresas del sector privado están recurriendo en gran medida a la nube para satisfacer estas necesidades y esto es algo que el sector público también haría bien en adoptar. Uno de los principales beneficios de invertir en infraestructura de nube es que es inherentemente escalable, por lo que puede expandirse o contraerse para adaptarse a las necesidades cambiantes de cualquier organización.

La gestión adecuada de los datos es una alta prioridad dado el tipo de datos que las escuelas recopilarán y almacenarán. Al mismo tiempo que cualquier administrador educativo considera los impactos éticos y los límites del uso de la IA en su escuela, también deberá cuestionar hasta qué punto su solución de almacenamiento de datos actual puede mantener seguros los datos de los estudiantes y el personal. 

Si existe alguna duda sobre la exposición de información confidencial a un tercero con fines de capacitación en IA, los líderes tendrán que agregar protecciones adicionales a su pila tecnológica.. Esto podría significar invertir en tecnologías de mejora de la privacidad (PET), que permiten a las organizaciones analizar datos sin moverlos ni exponerlos y también generar datos sintéticos sobre los cuales se puede entrenar un modelo de lenguaje grande (LLM). En teoría, esto permitiría a una escuela capacitar a un LLM con respuestas de ejemplo en una prueba, por ejemplo, sin exponer las respuestas reales de los estudiantes.

Prepárese para agregar nuevo hardware diseñado específicamente para admitir IA. El hardware de IA tiene una gran demanda en este momento: es difícil ver que las unidades de procesamiento de gráficos (GPU) y las unidades de procesamiento neuronal (NPU) bajen mucho de precio mientras el interés por la IA sigue siendo alto. Afortunadamente, es poco probable que incluso las escuelas más grandes necesiten invertir directamente en hardware de IA y, en cambio, pueden llevar sus datos a hardware especializado a través de la nube.

Los proveedores de servicios gestionados (MSP) también pueden ayudar en este caso, con marcos listos para la IA alojados en la nube y respaldados por aceleradores de hardware creados por empresas como el especialista en IA Nvidia. Los MSP pueden proporcionar capacitación modelo personalizada o necesidades de inferencia según el resultado que busca una escuela y reemplazar el CapEx inicial (un dolor de cabeza para cualquier líder escolar que analiza su presupuesto) con OpEx vinculado al uso real de la IA en el día a día. día.

Tenga en cuenta que la infraestructura de IA preparada para el futuro para cualquier escuela se anticipa a la demanda futura.. Además, si bien las innovaciones actuales en el espacio de la IA pueden hacer que parezca que las escuelas se verán obligadas a mantenerse al día con los cambios constantes y los avances con la tecnología de la IA, esto es poco probable. Los últimos modelos ya están alcanzando un equilibrio entre potencia y tamaño de los parámetros, lo que podría compensar las preocupaciones iniciales de que organizaciones como las escuelas no puedan aprovechar la IA debido a los altos costos de funcionamiento.

En última instancia, si ha elaborado un plan sobre exactamente cómo desea adoptar la IA en su escuela o tiene un esquema de lo que se debe configurar para permitir una adopción futura, en realidad ya está en el camino correcto. 

Una vez que la infraestructura de IA inicial esté implementada, las mejoras de escalabilidad y eficiencia le permitirán realizar mejoras incrementales sin los costos asociados de levantar y cambiar sus sistemas con más regularidad.

punto_img

Información más reciente

punto_img