Silicon Valley selecciona, sin descanso, a los optimistas que creen que controlan sus destinos y los nuestros.
En la imaginación del público, los Amish son famosos por renunciar a la tecnología moderna. En verdad, muchas granjas Amish zumban con máquinas: tanques de leche, agitadores mecánicos, motores diesel y lijadoras de banda neumática se encuentran en sus graneros y talleres.
Los Amish en realidad no se oponen a la tecnología. Más bien, la comunidad debe votar sobre la adopción de un elemento determinado. Para hacerlo, deben estar de acuerdo casi por unanimidad, dice Jameson Wetmore, investigador de ciencias sociales de la Universidad Estatal de Arizona. Mientras que el mundo exterior puede considerar que la innovación es buena hasta que se demuestre lo contrario, los Amish primero deciden si una nueva tecnología podría erosionar los valores de la comunidad que están tratando de preservar. “No son las tecnologías individuales las que nos preocupan”, dijo un ministro Amish a Wetmore, “sino la cadena total”.
Es una idea que está resonando en Silicon Valley en estos días, donde un debate sobre la tecnología y sus posibles consecuencias no deseadas está dividiendo a la industria en campos rivales, cada uno con un titán tecnológico como figura decorativa.
Por un lado está el CEO de Facebook, Mark Zuckerberg, quien ve la tecnología como un bien intrínseco. Cualquier problema social o ético puede manejarse simplemente a medida que surja (preferiblemente sin mucha regulación). Esta es la configuración predeterminada para Silicon Valley, que ve el futuro a través de lentes teñidos de utopía: el problema es el pasado y el futuro no puede llegar lo suficientemente pronto.
Del otro lado está Elon Musk, CEO de Tesla y SpaceX, quien aboga por la cautela cuando se trata de tecnologías como la inteligencia artificial para que los humanos no pierdan el control de sus creaciones, y ha expresado reservas sobre el modelo comercial de vigilancia en línea de Zuckerberg.
Ninguno de los dos rechaza la tecnología; de hecho, ambos insisten en que nuestro futuro depende de un progreso rápido. (Después de todo, Musk está invirtiendo miles de millones en cohetes interplanetarios y en una nueva economía solar). Escándalo de Cambridge Analytica ha dejado al descubierto las divisiones ideológicas entre los dos hombres y las actitudes hacia la tecnología que representan.
Choque de titanes
Musk estuvo entre las deserciones de más alto perfil de Facebook en los días posteriores al estallido del escándalo, optando por remove las páginas de Facebook de Tesla y SpaceX, que habían acumulado un total combinado de aproximadamente 5 millones de seguidores. "Nunca nos hemos anunciado con FB",luego tuiteó. “Simplemente no me gusta Facebook. Me da los pelos de punta. Lo siento." (Él, sin embargo, sigue con su 7 millones de seguidores en Instagram, propiedad de Facebook).
No era la primera vez que Musk y Zuckerberg se peleaban en público. La división entre los dos directores ejecutivos sobre la seguridad de la IA es ahora una de las disputas familiares más vistas de Silicon Valley.
Facebook ha tratado al mundo como un experimento infinito, un juego de pruebas de bajo riesgo y alto volumen que genera ganancias de manera confiable.
Los puntos de vista de ambos hombres sobre los riesgos y las recompensas de la tecnología están incorporados en sus respectivas empresas. Zuckerberg ha adoptado el lema "Muévete rápido y rompe cosas". Eso sirvió bien a Facebook, ya que explotó de un experimento en un campus universitario en 2004 a un agregador de Internet para más de 2 mil millones de usuarios.
Facebook ha tratado al mundo como un experimento infinito, un juego de pruebas de bajo riesgo y alto volumen que genera ganancias de manera confiable, si no siempre progreso. La principal preocupación de Zuckerberg ha sido entregar los frutos de la tecnología digital a tantas personas como sea posible, lo antes posible. “Tengo opiniones bastante fuertes sobre esto”, Zuckerberg ha dicho. "Soy optimista. Creo que puedes construir cosas y el mundo mejora”.
Musk se ocupa de los coches eléctricos y los viajes espaciales, áreas en las que incluso los pequeños errores pueden tener consecuencias desastrosas. Nadie compraría un auto Tesla si el lema de la compañía fuera "Muévete rápido y rompe cosas". Por supuesto, eso no ha disuadido a Musk de tomar riesgos controvertidos, incluso con la vida de las personas.
“Todo se reduce a cuánto riesgo quieres, cuántas consecuencias no deseadas estás dispuesto a soportar”.
Considere la decisión de Tesla de lanza su Autopilot en beta. Eso se volvió trágico en 2016 cuando Joshua Brown estrelló su Tesla Model S contra un camión con remolque a 70 MPH, la primera fatalidad registrada que involucró a Autopilot. La Junta Nacional de Seguridad en el Transporte de EE. UU. culpó al error del conductor y a la excesiva confianza en la automatización del vehículo por el accidente en su investigación, pero error encontrado explícitamente con Tesla por no asegurarse de que los conductores presten atención cuando se mueven a altas velocidades y por no restringir el Autopilot a las carreteras apropiadas.
El tema de la seguridad del piloto automático volvió a ser noticia el 23 de marzo después de otro accidente fatal, en el que Tesla dijo el conductor había quitado las manos del volante durante seis segundos antes de la colisión. La decisión de Tesla de lanzar Autopilot podría verse como una carrera prematura para reunir experiencia en conducción autónoma antes que sus rivales, o un esfuerzo sincero para implementar una tecnología que salve vidas lo más rápido posible.
Filosóficamente, las empresas de Musk están impulsadas por la creencia de que la humanidad necesita una vía de escape. No es casualidad que sus empresas aborden el cambio climático y la exploración interplanetaria, sin mencionar seguridad inteligencia artificial, cerebro-computadora las interfaces ytransporte subterráneo. Él cree que la extinción humana es mucho más probable de lo que pensamos, tanto por los riesgos que la tecnología representa para nuestra especie (ya sea a través de las emisiones de gases de efecto invernadero o robots renegados) como por los desastres naturales como un asteroide perdido.
“La empresa de Mark se basa en cosas que suceden muy rápido y son de bajo valor”, dice un destacado inversionista de Silicon Valley familiarizado con ambas empresas. “Las empresas de Elon se basan completamente en la premisa de que podría ocurrir algo catastrófico. Lo contrario de eso son sus puntos ciegos […] Todo se reduce a cuánto riesgo quieres, cuántas consecuencias no deseadas estás dispuesto a soportar”.
Firmemente en el campo de Zuckerberg están el cofundador de Google, Larry Page, el inventor y autor Ray Kurzweil, y el científico informático Andrew Ng, una figura destacada en la comunidad de inteligencia artificial que anteriormente dirigió la unidad de inteligencia artificial de la empresa china Baidu. Los tres parecen compartir la filosofía de que el progreso tecnológico es casi siempre positivo, en general, y que obstaculizar ese progreso no es solo un mal negocio, sino moralmente incorrecto porque priva a la sociedad de esos beneficios.
Musk, junto a otros como Bill Gates, el difunto físico Stephen Hawking, e inversores de riesgo como Sam Altman y Fred Wilson, no ven todo el progreso tecnológico como un bien absoluto. Por esta razón, están abiertos a la regulación. Después de la elección de Trump, por ejemplo, Wilson le dijo a una audiencia de San Francisco que si bien el retroceso regulatorio esperado probablemente estimularía la innovación, no valía la pena: "Estoy dispuesto a pagar el impuesto que genera una buena supervisión regulatoria en nuestra industria".
En el centro de la división en Silicon Valley está la cuestión de quién, al final del día, está a cargo. ¿Gobernamos la tecnología o ella nos gobierna a nosotros?
La mayoría de las personas en Silicon Valley son como Zuckerberg. El Valle selecciona, sin descanso, a los optimistas que creen que controlan sus destinos y los nuestros. Queda poco espacio para la duda o para insistir en las desventajas de sus creaciones. “No obtendrías Facebook, Microsoft, Google y Apple si sus fundadores no fueran profundamente optimistas de que podrían hacer algo significativo”, dijo el inversionista. “Tienes que creer que algo es posible donde todos piensan que va a fallar. Construyes una cultura y empresas que creen en eso por diseño”.
El Valle selecciona, sin descanso, a los optimistas que creen que controlan sus destinos y los nuestros.
Esta filosofía es lo que impulsa a Facebook al éxito. También está en el centro de por qué Facebook no pudo anticipar las consecuencias de su estrategia de vigilancia y políticas de privacidad, y descarta el riesgo de nuevas tecnologías.
“Me motiva mucho más asegurarme de que tengamos el mayor impacto en el mundo que construir un negocio o asegurarnos de que no fracasemos”, dijo Zuckerberg en su discurso de barbacoa en el patio trasero. “Tengo más miedo en mi vida de que no vamos a maximizar la oportunidad que tenemos que de que arruinemos algo y el negocio salga mal”.
El ajuste de cuentas de la industria tecnológica
Zuckerberg no se equivoca. El optimismo es esencial para el progreso tecnológico. Pero las consecuencias no deseadas que acompañan a las buenas intenciones mantienen a personas como Musk despiertas por la noche. “A veces, lo que sucede es que un científico se concentra tanto en su trabajo que realmente no se da cuenta de las ramificaciones de lo que está haciendo”, Musk les dijo a la Cumbre del Gobierno Mundial en Dubai este febrero.
Hoy en día, los informáticos se preguntan en voz alta si su campo es teniendo su momento de "bomba atómica". En 1945, el físico Robert Oppenheimer, viendo una nube de hongo elevarse sobre el sitio de prueba de Trinity, la primera prueba nuclear del mundo, citó una línea de la epopeya hindú Bhagavad-Gita: “Ahora me he convertido en la Muerte, el destructor de mundos”.
Yonatan Zunger, ex ingeniero de seguridad y privacidad de Google, comparó el poder de los ingenieros de software con el de “niños en una tienda de juguetes llena de AK-47 cargados”. Cada vez es más claro lo peligroso que es considerar la seguridad y la ética electivas, en lugar de fundamentales, para el diseño de software. “La informática es un campo que aún no ha encontrado consecuencias”, el escribe.
Los humanos tienen un pobre historial de anticipación y mitigación de los peligros de las nuevas tecnologías.
No se necesita mucha imaginación para ver cómo la próxima ola de tecnología podría salir mal. Cada aspecto de la vida humana (nuestra comida, nuestro trabajo, nuestras interacciones íntimas, nuestro propio ADN) está, o pronto estará, mediado por la tecnología que adoptamos. Las máquinas ahora pueden reconocer el habla y el texto escrito; las imágenes serán las siguientes. Los algoritmos conocen tu rostro y los rostros de millones de tus conciudadanos. Pueden inferir, con mayor precisión, los ingresos, la salud mental, el género, la solvencia, la personalidad, la sentimientosy más a partir de datos públicos. Algunas posibles invenciones, como algoritmos armados, se han comparado con "armas nucleares, pero peor."
Sam Altman describió el peligro anticipado del momento en una entrevista con Vanity Fair. “Es un momento muy emocionante para estar vivo”, dijo, “porque en las próximas décadas nos dirigiremos hacia la autodestrucción o hacia descendientes humanos que eventualmente colonizarán el universo”.
El problema es que los humanos tienen un pobre historial de anticipación y mitigación de los peligros de las nuevas tecnologías. Cuando se introdujeron los automóviles por primera vez, se les permitió causar estragos durante décadas antes de que alguien reuniera el coraje para imponer reglas. Los estados de EE. UU. finalmente comenzaron a exigir licencias de conducir en la década de 1930, y esfuerzos federales sistemáticos de seguridad de vehículos motorizados como los cinturones de seguridad solo comenzó en la década de 1960.
Es posible que no tengamos tanto tiempo para experimentar y adaptarnos a las nuevas tecnologías que se avecinan Es fácil burlarse de el miedo a la IA cuando los robots aún no pueden abrir las puertas, y Siri lucha por reservar una reserva en un restaurante. Pero si está capacitado para contemplar las consecuencias de una catástrofe de baja probabilidad, después de la cual los parches y las correcciones no son posibles, adoptar una visión más oscura tiene sentido. Es mejor diseñar una botella más fuerte para el genio que dejar que tus creaciones lleguen al mundo.
Los Amish podrían tener algo que decir sobre el tema. Cuando Wetmore visitó diferentes comunidades amish, quiso saber por qué los amish no tenían automóviles. Después de todo, habían aceptado tecnologías como motores diesel. Varias familias Amish compraron autos cuando comenzó la producción en masa en el siglo XX. Pero la comunidad pronto votó para prohibirlos. ¿Por qué?
“'Bueno, mira lo que te hicieron'”, dijo un hombre amish, recuerda Wetmore. “¿Sabes el nombre de tus vecinos? Tan pronto como tenga el automóvil, nunca más hablará con su vecino. Esa no es la sociedad en la que queremos vivir”.
