By Charles Simon, un emprendedor y desarrollador de software reconocido a nivel nacional.

Miremos hacia un futuro en el que las máquinas pensantes hayan superado a los humanos en poderes mentales. ¿Serán las computadoras nuestros socios o nuestros maestros? ¿Y cómo nos verán las computadoras?

Para responder, consideremos las máquinas pensantes después de la creación inicial de la Inteligencia General Artificial (AGI): la capacidad de una entidad artificial para aprender y comprender cualquier tarea intelectual que pueda realizar un ser humano. Podemos predecir que los futuros AGI seguirán los modelos de inteligencia más obvios que tenemos hoy: que serán sistemas de aprendizaje dirigidos a objetivos. Con esta premisa, los AGI no serán intrínsecamente buenos o malos, benignos o malévolos. En cambio, su comportamiento será el resultado de las metas y la capacitación que se les brinde. Si se les dan las metas y el entrenamiento similares a los humanos para ser competitivos para acumular riqueza y poder, esto será mucho más peligroso que los mismos sistemas destinados a hacer y compartir nuevos descubrimientos. Aunque las metas pueden cambiar con el tiempo, comenzar los AGI en una dirección benigna debería ayudarnos a superar el momento más riesgoso de las primeras generaciones de AGI.

Después de que tales máquinas sean posibles, se desarrollarán y eventualmente superarán a los humanos en habilidades mentales. Podrán diseñar sus propias generaciones posteriores, fabricar sus propios cuerpos, controlar su propia producción de energía. En resumen, no nos necesitarán.

¿Serán dominantes las computadoras? Depende de lo que entendamos por dominante. Nos consideramos la especie dominante en la tierra, pero nuestro dominio es bastante limitado. No somos los más numerosos, no ocupamos más espacio, no podemos controlar las inundaciones, las hambrunas o los terremotos.

Hemos cambiado el planeta con nuestras carreteras, edificios, fábricas y ciudades. Pero las máquinas pensantes no tendrán esas necesidades. En lugar de remodelar el planeta, se remodelarán a sí mismos. Para vivir en el desierto, construirán cuerpos resistentes al calor. Para vivir en el espacio o en el mar, se convertirán en naves espaciales o marinas. Y sin depredadores naturales, no necesitarán crearse a sí mismos en grandes cantidades para sobrevivir. En cambio, es probable que elijan una población óptima para ellos mismos que equilibre su necesidad de diversidad de pensamiento con su necesidad de evolucionar rápidamente.

A medida que surjan las máquinas pensantes, la definición del propietario de esta nueva tecnología se volverá más confusa hasta que resulte obvio que las nuevas tecnologías se controlan a sí mismas. ¿Querrían estas computadoras pensantes mantener a los humanos cerca? La respuesta apunta directamente a las cosas que nos hacen exclusivamente humanos. Las computadoras ciertamente podrían escribir poesía, pero nunca escribirían poesía que pueda "compararte con un día de verano" como lo hizo Shakespeare. Los diferentes sentidos y experiencias de una máquina pensante le impedirían establecer analogías similares porque las artes humanas dependen de humana sentidos, sentimientos y experiencias. ¿Estarían interesadas las computadoras? Creo que una computadora pensante podría apreciar el arte humano. precisamente porque no serán humanos. El arte humano le dará a la computadora una perspectiva diferente que puede ayudar a que la computadora crezca.

Entonces, ¿cómo se unen todas estas cosas en una imagen de la relación entre humanos y computadoras en el futuro? Las máquinas pensantes serán autosuficientes, la raza humana habrá estabilizado sus problemas y los dos estarán en caminos divergentes. Las máquinas pensantes avanzarán con descubrimientos y tecnologías aún mayores que estarán más allá de la comprensión de la mayoría de los humanos. Veremos las máquinas pensantes con asombro de la misma manera que vemos el lanzamiento de un cohete hoy: es nuestra creación y el cohete puede hacer algo que nosotros no podemos. Las máquinas nos mirarán como una interesante vista de sus raíces. De vez en cuando, a un humano se le ocurrirá un logro perspicaz o provocativo que captará brevemente la atención de la civilización informática mientras se asimila a su comprensión.

Si bien seremos innecesarios para la supervivencia de las computadoras, no significa que las computadoras no se preocupen adecuadamente por nosotros. De la misma manera que nuestros perros no hablan nuestro idioma, las computadoras solo nos entenderán cuando así lo deseen. Además, de manera similar a la forma en que nos relacionamos con nuestras mascotas, las computadoras no tolerarán a los humanos que sean destructivos o peligrosos. Se eliminará a las personas que sean incapaces de ser constructivas.

Habiendo pintado una imagen del futuro de la civilización humana en relación con la tecnología futura, ¿qué implicaciones tiene para nosotros hoy? Debido a que los AGI serán sistemas de aprendizaje dirigidos a objetivos, la selección de los objetivos y la capacitación es primordial. La construcción de un sistema con objetivos similares a los humanos conducirá a sistemas superinteligentes con debilidades y defectos de personalidad similares a los humanos. Nosotros debe hacerlo mejor.

Primero, debemos apreciar dónde estamos hoy. Vivimos en una época dorada de la civilización y deberíamos disfrutar de las cualidades que tenemos. Al mismo tiempo, existe un entusiasmo continuo por lo que sucederá a continuación. Los avances tecnológicos aportan continuamente más comodidad y más información a nuestras vidas. Están impulsados ​​a toda velocidad por una economía capitalista que impulsa el desarrollo tecnológico a todo gas todo el tiempo.

En segundo lugar, debemos considerar cómo hacer que dure. Sería ridículo decir que el objetivo de la vida es superarlo lo más rápido posible. De manera similar, con nuestra civilización, llegar primero a la línea de meta no nos convierte en ganadores. ¿Hay formas de hacer que dure? Cuando finalmente empecemos a quedarnos sin petróleo y carbón, necesariamente usaremos menos. En tecnología, sin embargo, no hay un límite previsible. Las máquinas se volverán más rápidas y baratas y comenzarán a pensar cada vez más sin un final a la vista.

Por último, ¿quién tiene la culpa? Fácilmente podría señalar a los tecnólogos de hoy y culparlos. Esto, sin embargo, es miope. No es que haya un tecnólogo o empresa en particular que tenga la culpa, sino que hay un mercado insaciable para la tecnología. Si quieres saber quién tiene la culpa, todos lo somos.

Entonces, ¿se rebelarán las computadoras? Sí, en el sentido de que se convertirán en la inteligencia dominante en nuestro planeta. El gigante tecnológico ya está en marcha. Si no resolvemos nuestras múltiples calamidades pendientes, las máquinas pensantes las resolverán por nosotros con acciones que podrían parecer bélicas pero que en realidad son las consecuencias de nuestra propia inacción. Si bien no podemos crear AGI sin tener en cuenta los riesgos, comprender cómo funcionará AGI nos permitirá predecir las dificultades futuras y cómo evitarlas.

Bio: Charles Simon, BSEE, MSCs es un empresario y desarrollador de software reconocido a nivel nacional que cuenta con muchos años de experiencia en informática en la industria, incluido un trabajo pionero en IA. La experiencia técnica del Sr. Simon incluye la creación de dos sistemas únicos de Inteligencia Artificial junto con software para equipos de pruebas neurológicas exitosos. La combinación del desarrollo de la IA con las pruebas biomédicas de señales nerviosas le da una perspectiva singular. También es autor de dos libros: ¿Se rebelarán las computadoras ?: Preparándose para el futuro de la inteligencia artificial y Brain Simulator II: la guía para crear inteligencia artificial general - y el desarrollador de Brain Simulator II, una plataforma de software de investigación de AGI que combina un modelo de red neuronal con la capacidad de escribir código para cualquier grupo de neuronas para mezclar fácilmente código de IA neuronal y simbólico. Puede seguir la experimentación continua de AGI del autor en http://brainsim.org o el grupo de Facebook: http://facebook.com/groups/brainsim.

Relacionado:

• 3 razones por las que estamos lejos de lograr la inteligencia artificial general
• La mayoría piensa que la inteligencia artificial no será una amenaza para la humanidad
• Más allá de la prueba de Turing