La amenaza que supone la IA para los estudiantes va mucho más allá de las trampas, afirma Yasmin London, experta global en seguridad online de Qoria y ex miembro de la Fuerza de Policía de Nueva Gales del Sur en Australia.
Cada vez más, en las escuelas de Estados Unidos y otros países, los depredadores utilizan la IA para manipular a los niños. Los estudiantes también utilizan la IA para generar imágenes inapropiadas de otros compañeros de clase o miembros del personal. un informe recienteQoria, una empresa que se especializa en productos de seguridad y bienestar digital para niños, encuestó a 600 escuelas en América del Norte, el Reino Unido, Australia y Nueva Zelanda.
Algunos hallazgos clave incluyen:
- El 91.4% de los encuestados en EE. UU. están preocupados por los depredadores en línea que utilizan IA para engañar a los estudiantes.
- Los niños poseen, solicitan y comparten contenido desnudo en línea desde los 11 a 13 años: el 67.6% de los encuestados en EE. UU. ven este comportamiento, siendo Snapchat la plataforma principal de elección.
- Los padres no están informados ni comprometidos: el 70.6 % de los encuestados en EE. UU. afirmó que existe una falta de conciencia entre los padres cuando se trata de IA y contenido explícito.
El informe demuestra que las escuelas están preocupadas por este problema pero aún no tienen los recursos para responder.
“Había mucha preocupación, pero no mucho conocimiento”, dice London.
A continuación, analizamos más de cerca las amenazas en torno a la manipulación de inteligencia artificial y otras preocupaciones relacionadas con la inteligencia artificial, y lo que las escuelas pueden hacer al respecto.
La manipulación de inteligencia artificial y otros delitos sexuales: posibles peligros que hay que evitar
De la misma manera que los estafadores utilizan la IA para que sus esquemas de phishing sean más eficientes y efectivos, los depredadores sexuales en línea pueden utilizar la IA para dañar a los niños, dice London. Agrega que las escuelas deben ser conscientes de cómo los depredadores pueden utilizar la IA para atacar a una víctima, cómo pueden utilizar la IA para ganarse la confianza de una víctima, cómo pueden satisfacer una necesidad y luego cómo pueden manipularla y aislarla.
Según el informe de Qoria, la IA puede ayudar a los depredadores a atacar a los estudiantes analizando datos, reconociendo patrones en su comportamiento y luego utilizando la IA para crear personajes falsos y convincentes. La IA también puede generar información falsa sobre personas cercanas al niño para generar desconfianza y hacer que el niño se aísle, haciéndolo más vulnerable. Además, las deepfakes se pueden utilizar para chantajear a los niños con la amenaza de revelar información potencialmente embarazosa.
En ese mismo sentido, tecnología deepfake Puede ser utilizado por estudiantes para acosar a otros estudiantes y al personal creando imágenes falsas y explícitas de ellos.
Estas son solo algunas de las formas nefastas en que la tecnología de IA puede usarse de manera dañina y abusiva. Otro ejemplo es la reutilización de herramientas de IA.
“Podría poner una foto mía. Tengo 42 años y mi apariencia cambiaría para parecer una niña de 10 años”, dice London. “El uso de IA para manipular imágenes de niños en muchos contextos diferentes es definitivamente una preocupación”.
Prevención del uso nefasto de la IA
Londres comparte varios pasos que las escuelas pueden tomar para limitar la amenaza que supone para los estudiantes este tipo de uso de IA.
Utilizando la tecnología correctamente. London dice que las escuelas y los distritos escolares deberían revisar sus filtros y sistemas de monitoreo para asegurarse de que sean apropiados para los contextos modernos. “Algunos de ellos pueden ser bastante básicos. Algunos pueden resultar en un bloqueo excesivo, y eso puede ser problemático”, dice. Agrega que las escuelas quieren un filtro que pueda detectar alertas contextuales. “El lenguaje que un joven podría estar usando no necesariamente [será] marcado como explícito, pero una vez que se comprenda cómo un depredador podría hablarle a un niño, eso podría ser algo que se detecte”.
Educar a los padres. Las escuelas entienden que los estudiantes necesitan recibir educación sobre estos temas, pero a veces se olvidan de los padres. “Un hallazgo realmente clave de este informe fue que el 70% de las escuelas dijeron que la falta de concienciación de los padres sobre la IA, el contenido explícito y los depredadores era una barrera clave”, dice London. “Y lo que también descubrimos es que solo el 44% de las escuelas o distritos involucraron proactivamente a los padres en noches educativas o compartieron información. Así que es una victoria muy fácil”. Agrega que esta educación no tiene por qué ser onerosa. “Podría ser compartir algunas comunicaciones regulares sobre algunos riesgos y trabajar con expertos en el área, como la policía local”.
Compartir controles parentales con los padres. “Muchas escuelas y distritos también pueden compartir cosas como herramientas de control parental. Eso ayudará a los padres no solo a administrar el tiempo de sus hijos, sino también el tipo de contenido al que acceden”, dice London. “Cuando usan una herramienta de control parental, pueden ver dónde se ha bloqueado el acceso a su hijo. Esa información es realmente útil para iniciar una conversación al respecto”.
Educar al personal. En el informe de Qoria también se identificó la formación del personal como una necesidad clave en relación con este tema. London afirma que existen medidas de bajo presupuesto y alto impacto que las escuelas pueden adoptar, como contratar a un experto en ciberseguridad de la universidad local para que hable sobre los peligros de la IA o formar grupos de trabajo en torno a estos temas. Añade: “Cuando el personal tiene un buen conocimiento y tiene un enfoque basado en las fortalezas de herramientas como la IA, eso tiene un efecto dominó cuando se trata de cuestiones como la búsqueda de ayuda”.
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://www.techlearning.com/news/ai-predators-what-schools-should-know-and-do
