Los cuentos de advertencia sobre la IA aparecieron en las pantallas de Sundance este año, y no como fantasías de ciencia ficción.

Dos nuevos documentales, El dilema social y Sesgo codificado, profundizan en las trampas de la inteligencia artificial tal como existe actualmente: manipulan nuestras redes sociales, determinan nuestro futuro financiero o profesional, nos vigilan en las calles, y lo que encuentran no es bonito.

De los dos, El dilema social se siente más amplio en alcance. Durante 93 minutos, toca la vigilancia, el capitalismo, la adicción y la polarización; analiza los efectos perjudiciales de las redes sociales en todo, desde la autoestima hasta la democracia; ofrece anécdotas personales y súplicas enfáticas y análisis de datos detallados. Cualquiera de estos temas podría haber sido un documental convincente por derecho propio. Recójalos todos en un solo lugar y El dilema social puede llegar a sentirse un poco difícil de manejar.

Tal vez El dilema social no tiene todas las respuestas, pero es un buen comienzo para resolver las preguntas.

La fuerza de la película radica en la impresionante variedad de entrevistas de cabezas parlantes que Orlowski ha recopilado de expertos y académicos de la industria tecnológica, que incluyen tim kendall, ex presidente de Pinterest y ex director de monetización de Facebook; Tristán Harris, el cofundador del Center for Humane Technology describió en imágenes de archivo de noticias como "lo más parecido que tiene la industria tecnológica a una conciencia"; y Rashida richardson, director de investigación de políticas del AI Now Institute. 

Sus sujetos están claramente informados y apasionados por el tema que han sido seleccionados para abordar y, en algunos casos, están más que un poco horrorizados por el sistema que ellos mismos han ayudado a crear. Cuando estas personas le advierten que la inteligencia artificial empleada por las empresas de redes sociales es más inteligente que usted, o señalan las sutiles opciones de diseño empleadas para hacer que haga clic, o explican cómo se sirvió Pizzagate a los usuarios de las redes sociales que ni siquiera la buscaron, usted estás dispuesto a escuchar.

Menos efectiva es una viñeta ficticia cursi entretejida, siguiendo a un adolescente (Skyler Gisondo) que se engancha demasiado en las redes sociales. (Vincent Kartheiser tiene un triple papel como los “algoritmos” que determinan lo que ve en sus feeds). El diálogo y la actuación tienen la cualidad genérica y forzada de un video educativo, lo que socava la urgencia misma que la narrativa debe enfatizar.

En última instancia, sin embargo, Orlowski se las arregla para construir un caso sólido para simplemente ser conscientes de cómo las redes sociales nos están pirateando y por qué y por qué son importantes. Cuando la película se cortó a imágenes de archivo de Mark Zuckerberg sugiriendo que la solución a los problemas electorales de Facebook en 2016 era más, AI, mi audiencia sabía lo suficiente como para reír burlonamente. Tal vez El dilema social no tiene todas las respuestas, pero es un buen comienzo para resolver las preguntas.

También sirve como un punto de partida ideal, aunque no intencional, para Sesgo codificado. Dirigido por Shalini Kantayya, el documental comienza con la comprensión de Joy Buolamwini como estudiante del MIT de que la tecnología de reconocimiento facial tuvo más dificultades para identificar ciertos tipos de rostros, como el suyo, femenino de piel oscura, y la sigue por la madriguera del conejo para examinar el graves consecuencias de esa molestia aparentemente menor.

Kantayya profundiza en los prejuicios humanos propios de la inteligencia artificial por sus creadores mayoritariamente blancos y masculinos, y los problemas que surgen cuando se asume que estos programas de caja negra son neutrales: las violaciones de los derechos civiles, las decisiones discriminatorias en la contratación, la vivienda, y justicia penal. Lejos de crear un campo de juego más nivelado mediante un juicio imparcial, Sesgo codificado sostiene que la IA tiene el potencial de exacerbar las desigualdades existentes.

notable, Sesgo codificado se basa exactamente en el tipo de personas desfavorecidas por estos problemas de IA.

En particular, la película se basa exactamente en el tipo de personas en desventaja por estos problemas. Casi todos los expertos entrevistados en la película son mujeres, incluidas Armas de Destrucción Matemática autor Cathy O'Neil (que también aparece en El dilema social), Director de Big Brother Watch Seda Carloy futurista Amy Webb. Conocemos a inquilinos de un proyecto de vivienda a punto de instalar un software de reconocimiento facial, a un querido maestro que fue despedido después de que un algoritmo consideró que su desempeño era deficiente, y a una joven que navega por el sistema estatal de crédito social de China.

A través de ellos, el sesgo en la IA se convierte en una preocupación humana concreta, más que en una posibilidad abstracta. Y a través de ellos, se convierte en un tema para movilizarnos. Sin rehuir la enormidad del problema ni sus devastadoras consecuencias, Sesgo codificado Trabaja gradualmente hacia un ambiente casi inspirador, mientras Buolamwini y otros se ponen a trabajar para resolver el problema que han identificado.

Estamos invitados a compartir su triunfo cuando tiene la oportunidad de testificar ante la Cámara que "la justicia algorítmica es una de las mayores preocupaciones de derechos civiles que tenemos", o la de Carlo cuando se une a la política británica Jenny Jones para presentar un desafío legal contra el uso de cámaras de reconocimiento facial por parte de la policía de Londres. 

Estas victorias resultan esenciales para recordarnos que algo podemos estar hecho. No en el vago sentido de "alguien debería hacer algo", sino en la forma más concreta de presionar a los gobiernos para que aprueben leyes que regulen el uso de algoritmos, o denunciando a las corporaciones que utilizan IA defectuosa con fines injustos. Aférrese al espíritu de poder hacer que esas pequeñas victorias engendran, ya que ambos Sesgo codificado y El dilema social le dirá, lo necesitaremos para asumir la enorme cantidad de trabajo que aún queda por hacer.