Hubert Dreyfus's views on artificial intelligence - Enciclopedia

Hubert Dreyfus fue un crítico de la investigación en inteligencia artificial. En una serie de artículos y libros, incluyendo Alquimia y AI (1965), ¿Qué no pueden hacer las computadoras? (1972; 1979; 1992) y Cerebro sobre máquina (1986), presentó una evaluación pesimista del progreso de la IA y una crítica de las bases filosóficas del campo. Las objeciones de Dreyfus son discutidas en la mayoría de las introducciones a la filosofía de la inteligencia artificial, incluyendo Russell & Norvig (2021), un texto estándar de IA, y en Fearn (2007), un estudio de la filosofía contemporánea.

Dreyfus argumentó que la inteligencia humana y la experticia dependen principalmente de procesos informales y inconscientes aún por entender, en lugar de la manipulación simbólica matemáticamente elegante o redes neuronales simplistas similares, y que estas habilidades esencialmente humanas no pueden ser capturadas completamente en reglas formales. Su crítica se basó en las ideas de filósofos continentales modernos como Merleau-Ponty y Heidegger, y estaba dirigida tanto a la primera oleada de investigación en IA que intentó reducir la inteligencia a símbolos formales de alto nivel, como a la simulación conectivista de redes neuronales.

Cuando las ideas de Dreyfus fueron presentadas por primera vez a mediados de la década de 1960, fueron recibidas en la comunidad de IA con ridículo y hostilidad abierta. Sin embargo, para la década de 1980, muchas de sus perspectivas habían sido parcialmente redescubiertas por investigadores trabajando en robótica y el nuevo campo del conectivismo—enfoques ahora llamados "sub-simbólicos" porque renuncian al énfasis temprano en IA en símbolos de alto nivel. En el siglo XXI, los enfoques basados en estadísticas en el aprendizaje automático intentan imitar la forma en que el cerebro utiliza procesos inconscientes para percibir, notar anormalidades y tomar decisiones rápidas. Estas técnicas han sido altamente exitosas y se utilizan actualmente ampliamente en la industria y la academia. El historiador y investigador en IA Daniel Crevier escribe: "el tiempo ha demostrado la precisión y agudeza de algunos de los comentarios de Dreyfus". Dreyfus continuó objetando a la IA actual hasta su muerte en 2017.

Crítica de Dreyfus

= Las promesas grandiosas de la inteligencia artificial =
En Alquimia y AI (1965) y ¿Qué no pueden hacer las computadoras? (1972), Dreyfus resumió la historia de la inteligencia artificial y ridiculizó el optimismo desenfrenado que permeaba el campo. Por ejemplo, Herbert A. Simon, siguiendo el éxito de su programa General Problem Solver (1957), predijo que para 1967:

Un ordenador sería campeón mundial de ajedrez.
Un ordenador descubriría y demostraría un importante nuevo teorema matemático.
La mayoría de las teorías en psicología tomarán la forma de programas de computadora.
La prensa informó sobre estas predicciones en informes entusiastas sobre la inminente llegada de la inteligencia artificial.
Notando que los plazos se estaban cumpliendo décadas, Dreyfus sintió que este optimismo no estaba justificado y se basaba en asunciones falsas sobre la naturaleza de la inteligencia humana. Pamela McCorduck explica la posición de Dreyfus:

Un gran malentendido explica la confusión pública sobre las máquinas pensantes, un malentendido perpetrado por las afirmaciones irrealistas de los investigadores en IA, afirmaciones de que las máquinas pensantes ya están aquí, o al menos, están justo a la vuelta de la esquina.
Estas predicciones se basaron en el éxito de un modelo de "procesamiento de información" de la mente, articulado por Newell y Simon en su hipótesis de sistemas de símbolos físicos, y más tarde expandido en una posición filosófica conocida como computacionalismo por filósofos como Jerry Fodor y Hilary Putnam. Creyendo que habían simulado con éxito el proceso esencial del pensamiento humano con programas simples, parecía un paso corto para producir máquinas completamente inteligentes. Sin embargo, Dreyfus argumentó que el trabajo del investigador en IA se basa en un antiguo programa de filosofía racionalista, que nunca logró manejar asuntos humanos en lugar de matemáticos. El cerebro, afirma Dreyfus junto con la tradición de la filosofía continental, no es nada parecido a una computadora digital.

En su último artículo, Dreyfus detalla la historia en curso del "error de primer paso", donde los investigadores en IA tienden a extrapolar wildly el éxito inicial como prometedor, tal vez incluso garantizando, éxitos futuros wild.

= Cuatro hipótesis de Dreyfus sobre la investigación en IA =
En Alquimia y AI y ¿Qué no pueden hacer las computadoras?, Dreyfus identificó cuatro hipótesis filosóficas, al menos una de las cuales considera necesaria para el éxito de la IA. "En cada caso", escribe Dreyfus, "la hipótesis es tomada por los trabajadores en IA como un axioma, que garantiza resultados, mientras que en realidad es una hipótesis entre otras, que debe ser probada por el éxito de ese trabajo".

Dreyfus argumenta que la IA sería imposible sin aceptar al menos una de estas cuatro hipótesis:

La hipótesis biológica
El cerebro procesa información mediante operaciones discretas mediante un equivalente biológico de interruptores de encendido/apagado.
En los primeros días de la investigación en neurología, los científicos descubrieron que las neuronas se disparan en pulsos todo-o-nada. Varios investigadores, como Walter Pitts y Warren McCulloch, especularon con gran confianza que las neuronas funcionaban de manera similar a las puertas lógicas booleanas y, por lo tanto, podrían imitarse por la electrónica en el nivel de la neurona.
Cuando las computadoras digitales se utilizaron ampliamente a principios de la década de 1950, este argumento se extendió para sugerir que el cerebro era un vasto sistema físico de símbolos, manipulando los símbolos binarios de cero y uno. Dreyfus fue capaz de refutar la hipótesis biológica mediante la cita de investigación en neurología que sugería que la acción y el tiempo de disparo de las neuronas tenían componentes analógicos. Pero Daniel Crevier observa que "pocos aún sostenían esa creencia a principios de la década de 1970 y nadie argumentó contra Dreyfus" sobre la hipótesis biológica.

La hipótesis psicológica
La mente puede verse como un dispositivo que opera sobre bits de información según reglas formales.
La refutó mostrando que gran parte de lo que sabemos sobre el mundo consiste en actitudes o tendencias complejas que nos inclinan hacia una interpretación en lugar de otra. Argumentó que, incluso cuando usamos símbolos explícitos, los usamos contra un