Por Lance Eliot, el experto en tendencias de inteligencia artificial
IA fuerte versus débil. O, si lo prefiere, puede indicarlo como IA débil versus fuerte (está bien que aparezca en cualquier orden, pero todavía tiene la misma especia, por así decirlo). Si ha leído mucho sobre la IA en la prensa popular, lo más probable es que haya visto referencias a la llamada IA fuerte y la llamada IA débil y, sin embargo, ambas frases se usan incorrectamente y ofrecen impresiones engañosas y confusas. .
Es hora de dejar las cosas claras.
Primero, consideremos lo que se dice incorrectamente. Algunos hablan de IA débil como si fuera una IA débil y no a la altura de las mismas capacidades que la IA fuerte, incluyendo que la IA débil es decididamente más lenta, o mucho menos optimizada, o de otra manera inevitable e indiscutiblemente más débil en sus capacidades de IA.
No eso no es.
Otra forma de distorsión es usar IA "estrecha", que generalmente se refiere a IA que solo funcionará en un dominio estrictamente definido, como en un uso médico específico o en un uso de análisis financiero particular, y equipararlo con IA débil, mientras presumiblemente, la IA fuerte es más amplia y abarca todo.
No, tampoco es eso.
Para mi marco sobre los autos autónomos de IA, vea el enlace aquí: https://aitrends.com/ai-insider/framework-ai-self-driving-driverless-cars-big-picture/
Por qué este es un esfuerzo de la luna, mira mi explicación aquí: https://aitrends.com/ai-insider/self-driving-car-mother-ai-projects-moonshot/
Para obtener más información sobre los niveles como un tipo de escala de Richter, consulte mi discusión aquí: https://aitrends.com/ai-insider/richter-scale-levels-self-driving-cars/
Para el argumento sobre la bifurcación de los niveles, vea mi explicación aquí: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/
Significado de IA fuerte e IA débil
Regrese a una era anterior de la IA, alrededor de finales de la década de 1970 y principios de la de 1980, un período que se caracterizó como la primera era del florecimiento de la IA, que tal vez conozca como una época en la que los sistemas basados en el conocimiento (KBS) y los sistemas expertos (ES) fueron populares.
La última era, hoy, que algunos consideran la segunda era del florecimiento de la IA, parece haberse conocido como la época del aprendizaje automático (ML) y el aprendizaje profundo (DL).
Usando una metáfora orientada a la temporada, la era actual se describe como la primavera de la IA, mientras que el período entre la primera era y esta segunda era ahora existente se ha llamado el invierno de la IA (lo que sugiere que las cosas estaban inactivas o ralentizadas). como cómo una temporada de invierno puede frenar a través de la nieve y otras condiciones climáticas húmedas).
La primera era consistió en un poco de retorcimiento de manos sobre si la IA se volvería sensible y, de ser así, cómo llegaríamos allí.
Incluso durante esta segunda era, todavía hay discusiones y debates similares que tienen lugar ahora, aunque la primera era realmente parecía tomar el asunto completamente en la mano y una gran cantidad de filósofos se unieron al tren de la IA en cuanto a lo que podría deparar el futuro y cómo la IA podría ser o no ser verdaderamente inteligente.
En esa refriega vino el nacimiento de los apodos de IA débil y IA fuerte.
La mayoría estaría de acuerdo en que la verborrea se originó o al menos se solidificó en un artículo del filósofo John Searle titulado "Mentes, cerebros y programas" (ver enlace: http://cogprints.org/7150/1/10.1.1.83.5248.pdf).
¿Qué era la IA débil y cuál era la IA fuerte?
Son diferencias filosóficas sobre cómo se podría lograr la IA en última instancia, suponiendo que esté de acuerdo con lo que significa lograr la IA (más sobre esto en un momento).
Veamos lo que dijo Searle sobre la definición de la terminología de IA débil: “Según la IA débil, el valor principal de la computadora en el estudio de la mente es que nos brinda una herramienta muy poderosa. Por ejemplo, nos permite formular y probar hipótesis de una manera más rigurosa y precisa ".
Y, además, lo indicó sobre la IA fuerte: “Pero según la IA fuerte, la computadora no es simplemente una herramienta en el estudio de la mente; más bien, la computadora apropiadamente programada es realmente una mente, en el sentido de que se puede decir literalmente que las computadoras con los programas correctos comprenden y tienen otros estados cognitivos ".
Con esta aclaración agregada: “En la IA fuerte, debido a que la computadora programada tiene estados cognitivos, los programas no son meras herramientas que nos permiten probar explicaciones psicológicas; más bien, los programas son en sí mismos las explicaciones ".
El resto de su famoso (ahora infame) artículo procede a indicar que "no tiene ninguna objeción a las afirmaciones de la IA débil" y, por lo tanto, no aborda particularmente el lado de la IA débil de las cosas, sino que su enfoque se centra principalmente en el presagio de una IA fuerte.
En resumen, tampoco tiene mucha fe o creencia de que una IA fuerte sea algo sobre lo que valga la pena escribir a casa. Dice esto: “Según el argumento presentado aquí, solo una máquina podría pensar, y solo tipos muy especiales de máquinas, a saber, cerebros y máquinas con poderes causales internos equivalentes a los del cerebro. Y es por eso que una IA fuerte tiene poco que decirnos sobre el pensamiento, ya que no se trata de máquinas sino de programas, y ningún programa por sí solo es suficiente para pensar ”.
Esto es lo que eso significa, al menos como algunos lo han interpretado.
La IA convencional presumiblemente está condenada a intentar alcanzar la verdadera IA si sigues usando "programas de computadora", ya que esos programas nunca van a funcionar y carecen de las capacidades necesarias para incorporar esas cosas que asociamos con el pensamiento y la sensibilidad.
Los seres humanos y los animales tienen una especie de intencionalidad, que de alguna manera surge del uso de nuestro cerebro, y para aquellos que creen que la verdadera IA requiere esa intencionalidad, estás ladrando al árbol equivocado a través de la búsqueda de "programas de computadora" (son las cosas equivocadas y no puedo subir tan alto en la escala de inteligencia).
Todo esto presupone dos suposiciones o proposiciones clave que establece Seale:
- "La intencionalidad en seres humanos (y animales) es producto de características causales del cerebro ..."
- "La instanciación de un programa de computadora nunca es por sí misma una condición suficiente de intencionalidad".
Si tu objetivo es diseñar un programa de computadora que pueda pensar, estás haciendo un recado tonto y nunca llegarás allí, sin embargo, no es completamente tonto porque es posible que aprendas mucho en el camino y puedas tener algo. resultados e ideas geniales, pero no va a ser un pensador.
Creo que es evidente que se trata de una consideración filosófica profundamente intrigante, digna de los eruditos y otros sobre la que pontifiquen.
¿Hace esto una diferencia para el trabajo diario de la IA por el que aquellos que fabrican sistemas basados en IA como Alexa o Siri o robots que funcionan en una línea de fabricación se preocuparán y perderán el sueño?
No.
Para aclarar, estamos muy, mucho, mucho, muy lejos de crear sistemas de inteligencia artificial que puedan exhibir inteligencia a nivel humano en cualquier significado genuino del alcance, alcance y profundidad de la inteligencia humana.
Eso es una sorpresa para algunos que siguen escuchando sobre sistemas de inteligencia artificial que son tan expertos como los humanos.
Tome una respiración lenta y mesurada y siga leyendo aquí.
Por qué generalmente se evita el pilotaje remoto o la operación de automóviles autónomos, vea mi explicación aquí: https://aitrends.com/ai-insider/remote-piloting-is-a-self-driving-car-crutch/
Para desconfiar de las noticias falsas sobre autos sin conductor, vea mis consejos aquí: https://aitrends.com/ai-insider/ai-fake-news-about-self-driving-cars/
Las implicaciones éticas de los sistemas de conducción de IA son significativas, vea mi indicación aquí: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/
Tenga en cuenta los peligros de la normalización de la desviación cuando se trata de automóviles sin conductor, aquí está mi llamado a las armas: https://aitrends.com/ai-insider/normalization-of-deviance-endangers-ai-self-driving-cars/
Lograr una verdadera IA es la pregunta importante
Anteriormente había mencionado la IA estrecha.
Algunas aplicaciones de IA funcionan aparentemente bien en dominios estrechos, aunque tal vez deberían tener una letra pequeña del tipo Cirujano General que identifique las numerosas advertencias y limitaciones sobre lo que puede hacer esa IA.
Los sistemas de IA de hoy no pueden emprender o mostrar el razonamiento de sentido común, que creo que todos estamos de acuerdo en que los humanos generalmente tienen (para aquellos que se burlan de que los humanos tengan o no razonamiento de sentido común, sí, hay personas que sabemos que a veces parecen tener carecen de sentido común, pero eso no es lo mismo que lo que en general se considera un razonamiento de sentido común y no confunda esos dos en un sinsentido).
Para los conocedores de la IA, las aplicaciones de IA de hoy son una IA estrecha y todavía no son sistemas AGI (Inteligencia General Artificial), que es otro término que se utiliza para eludir el hecho de que la “IA” se ha diluido como terminología y se ha utilizado para todo lo que la gente quiera decir es IA, mientras que otros se esfuerzan poderosamente por llegar a la versión purista de IA, que sería AGI.
El debate sobre la IA débil y la IA fuerte está dirigido a aquellos que se preguntan si algún día seremos capaces de lograr una verdadera IA.
La verdadera IA es un término cargado que necesita algunas aclaraciones.
Una versión de la verdadera IA es un sistema de IA que puede pasar la prueba de Turing, un tipo de prueba simple pero reveladora que implica hacer preguntas a un sistema de IA y hacer preguntas a un ser humano. Son esencialmente dos jugadores distintos en un juego de manejo de inteligencia, de algún tipo, y si no puedes decir cuál es cuál, presumiblemente la IA es el "equivalente" de la inteligencia humana, ya que no se puede distinguir de una inteligencia humana que exhiba inteligencia.
Aunque la prueba de Turing es útil y una herramienta que se utiliza con frecuencia para juzgar los esfuerzos de la IA para convertirse en una verdadera IA, tiene sus desventajas y consideraciones problemáticas (consulte mi análisis en: https://www.aitrends.com/ai-insider/turing-test-ai-self-driving-cars/).
De todos modos, ¿cómo podemos crear IA para tener éxito en la Prueba de Turing y hacer que la IA sea aparentemente indistinguible de la inteligencia humana?
Una creencia es que necesitaremos incorporar en el sistema de IA el mismo tipo de intencionalidad, casualidad, pensamiento y esencia de la sensibilidad que existe en los humanos (y hasta cierto punto, en los animales).
Como nota al margen, el día en que alcancemos la sensibilidad de la IA a menudo se conoce como la singularidad, y algunos creen que inevitablemente se alcanzará y tendremos el equivalente a la inteligencia humana, mientras que otros creen que la IA superará a la humana. inteligencia, y llegaremos a una forma de superinteligencia de IA.
Tenga en cuenta que no todo el mundo está de acuerdo con la condición previa de la necesidad de descubrir y reinventar la intencionalidad artificial, afirmando que, no obstante, podemos llegar a una IA que exhiba inteligencia humana y que lo haga sin tirar al carro esta cosa blanda conocida como intencionalidad y su variantes.
De todos modos, dejando a un lado ese último aspecto, la otra gran pregunta es si los “programas informáticos” serán la herramienta adecuada para llevarnos allí (sea cual sea el existe puede ser).
Esto trae a colación otra consideración de definición. ¿A qué te refieres con programas informáticos?
En el momento en que este debate floreció por primera vez, los programas de computadora generalmente significaban codificación hecha a mano utilizando lenguajes de programación convencionales y algo poco convencionales, ejemplificados por programas como ELIZA de Weizenbaum y SHRDLU de Winograd.
Hoy en día, utilizamos el aprendizaje automático y el aprendizaje profundo, por lo que la pregunta obvia en la mente de aquellos que todavía están reflexionando sobre la inteligencia artificial débil y la inteligencia artificial fuerte sería si el uso de ML / DL constituye "programas de computadora" o no.
¿Hemos progresado más allá de los programas de computadora de antaño y hemos avanzado hacia lo que sea ML / DL, de modo que aparentemente ya no tengamos este albatros alrededor del cuello que los programas de computadora no sean el cohete que puede llevarnos a esta luna deseada?
Bueno, eso abre otra lata de gusanos, aunque es más o menos cierto que la mayoría estaría de acuerdo en que ML / DL sigue siendo un "programa de computadora" en el sentido incluso de la expresión de la década de 1980, así que, si acepta el argumento de que cualquier El uso o una variante de los programas de computadora es insuficiente para llegar a pensar en la IA, todavía estamos en un estado de pesimismo.
Sin embargo, Searle cubre el tema ML / DL hasta cierto punto, ya que menciona que una máquina hecha por el hombre podría pensar si:
“Suponiendo que sea posible producir artificialmente una máquina con un sistema nervioso, neuronas con axones y dendritas, y todo lo demás, suficientemente como el nuestro, nuevamente la respuesta a la pregunta parece obvia, sí. Si puede duplicar exactamente las causas, podría duplicar los efectos. Y, de hecho, podría ser posible producir conciencia, intencionalidad y todo lo demás utilizando algún otro tipo de principios químicos distintos de los que usan los seres humanos ".
Tenga en cuenta que el ML / DL de hoy está muy lejos de ser lo mismo que las neuronas humanas y el cerebro humano.
En el mejor de los casos, es una simulación burda y extremadamente simplificada, que generalmente implementa redes neuronales artificiales (ANN), muy por debajo de cualquier cosa que se acerque a un equivalente biológico humano. Es posible que algún día nos acerquemos más y, de hecho, algunos creen que lograremos el equivalente, pero no contenga la respiración por ahora.
Llevándonos a casa con el argumento sobre la IA débil y fuerte, sin importar lo que hagas en el caso de una IA débil o una IA fuerte, aquí es donde aterrizarás según Searle: “Pero, ¿podría algo pensar, entender, etc.? en virtud de ser una computadora con el tipo de programa adecuado? ¿Podría la instanciación de un programa, el programa correcto, por sí solo, ser una condición suficiente para la comprensión? "
Y su respuesta clara es: "Creo que esta es la pregunta correcta, aunque generalmente se confunde con una o más de las preguntas anteriores, y la respuesta es no".
¡Ay! Eso es inteligente.
No obstante, existe un rayo de esperanza para una IA fuerte, ya que podría convertirse potencialmente en algo que podría lograr la marca pensante de la IA (dice Searle): “Cualquier intento de crear literalmente intencionalidad artificialmente (IA fuerte) no podría tener éxito simplemente diseñando programas, pero tendría que duplicar los poderes causales del cerebro humano ".
Para obtener más detalles sobre las ODD, consulte mi indicación en este enlace aquí: https://www.aitrends.com/ai-insider/amalgamating-of-operational-design-domains-odds-for-ai-self-driving-cars/
Sobre el tema de los automóviles sin conductor fuera de la carretera, aquí está mi obtención de detalles: https://www.aitrends.com/ai-insider/off-roading-as-a-challenging-use-case-for-ai-autonomous-cars/
He instado a que debe haber un Director de Seguridad en los fabricantes de automóviles autónomos, aquí está la primicia: https://www.aitrends.com/ai-insider/chief-safety-officers-needed-in-ai-the-case-of-ai-self-driving-cars/
Espere que las demandas se conviertan gradualmente en una parte importante de la industria automotriz, vea mis detalles explicativos aquí: https://aitrends.com/selfdrivingcars/self-driving-car-lawsuits-bonanza-ahead/
Importancia práctica para hoy
Espero que sea obvio que el significado original asociado con la inteligencia artificial débil y fuerte está muy lejos de lo que la prensa popular tiende a usar hoy en día con esas frases pegadizas. Cuando intentan señalar a las personas que su uso de IA débil y de IA fuerte no está alineado con los significados originales, generalmente se enojan y le dicen que no sea tan riguroso. O te dicen que te quites las telarañas de la mente y te pongas más moderno con la época actual.
Bien, supongo, puedes cambiar el significado si quieres, pero ten en cuenta que no es el mismo que el original.
Esto surge en numerosos usos aplicados de la IA. Por ejemplo, considere la aparición de verdaderos autos autónomos basados en inteligencia artificial. Los verdaderos automóviles autónomos son aquellos en los que la IA maneja el automóvil por sí solo y no hay asistencia humana durante la tarea de conducción.
Estos vehículos sin conductor se consideran Nivel 4 y Nivel 5, mientras que un automóvil que requiere que un conductor humano comparta el esfuerzo de conducción generalmente se considera Nivel 2 o Nivel 3. Los automóviles que comparten la tarea de conducción se describen como son semiautónomos y normalmente contienen una variedad de complementos automatizados que se conocen como ADAS (Sistemas avanzados de asistencia al conductor).
Todavía no existe un verdadero automóvil autónomo en el Nivel 5, que aún no sabemos si será posible lograrlo, ni cuánto tiempo llevará llegar allí.
Mientras tanto, los esfuerzos de Nivel 4 están tratando gradualmente de obtener algo de tracción al someterse a ensayos en caminos públicos muy estrechos y selectivos, aunque existe una controversia sobre si estas pruebas deberían permitirse per se (todos somos conejillos de indias de vida o muerte en un experimento teniendo lugar en nuestras carreteras y caminos, algunos señalan).
Cosas Los medios describen el ADAS semiautónomo como una IA débil, mientras que la IA autónoma es una IA fuerte. Bueno, eso no está alineado con las definiciones originales de IA débil y IA fuerte. Tienes que estar dispuesto a dejar de lado las definiciones originales si estás buscando usar esos términos de esa manera.
Personalmente, no me gusta. Del mismo modo, no me gusta cuando la IA débil y la IA fuerte se utilizan para caracterizar la diferencia entre la IA autónoma.
Por ejemplo, algunos dicen que el nivel 4 es una IA débil, mientras que el nivel 5 es una IA fuerte, pero esto una vez más no tiene sentido en la naturaleza de lo que esos términos pretendían significar.
Si realmente quiere probar y aplicar el argumento a los verdaderos autos autónomos, existe una disputa en curso sobre si los autos sin conductor deberán exhibir “intencionalidad” para ser lo suficientemente seguros para nuestras vías públicas.
En otras palabras, ¿podemos crear IA sin una aparente encarnación de la intencionalidad y, sin embargo, hacer que la IA sea lo suficientemente buena como para confiar en los coches autónomos basados en IA que circulan por nuestras carreteras, caminos y calles cotidianas?
Es un debate complejo y nadie sabe todavía si el dominio de conducción puede considerarse lo suficientemente limitado en su alcance como para que tal intencionalidad no sea una necesidad, además, la pregunta dentro de una pregunta es qué podría ser calificado como seguro o lo suficientemente seguro para que la sociedad se acepte a sí mismo. -conducir coches como compañeros conductores.
Conclusión
Para aquellos de ustedes que quieran profundizar en la maleza sobre este tema, también querrán que les presenten el argumento de la habitación china (CRA), una lámina utilizada en el argumento de Searle y algo que se ha convertido en un famoso saco de boxeo en los pasillos. de IA y filosofía.
Esa es una historia para otro día.
Los profesionales de la IA podrían ver toda esta discusión sobre IA débil y IA fuerte como algo académico y mucho ruido y pocas nueces.
Usa esas frases de la forma que quieras, dicen algunos.
Calma.
Quizás deberíamos prestar atención a las palabras de William Shakespeare: "Las palabras sin pensamientos nunca van al cielo".
Las palabras que usamos sí importan, y especialmente en los objetivos y resultados de alto riesgo de la IA.
Derechos de autor 2020 Dr. Lance Eliot
Este contenido se publicó originalmente en AI Trends.
[Ed. Nota: Para los lectores interesados en los análisis comerciales continuos del Dr. Eliot sobre el advenimiento de los autos sin conductor, vea su columna en línea de Forbes: https://forbes.com/sites/lanceeliot/ y su podcast: http://ai-selfdriving-cars.libsyn.com/website]
