Kate Crawford

Atlas de inteligencia artificial demuestra que la IA no es una innovación tecnológica neutral u objetiva ni una fuerza espectral o incorpórea, sino una verdadera industria de extracción global. De hecho, la creación de los sistemas de IA contemporáneos dependen de la explotación de los recursos energéticos y minerales del planeta, de la mano de obra barata y de los datos a gran escala. De manera crítica, advierte cómo la IA altera la forma en que el mundo es visto y entendido, e impulsa un cambio hacia gobiernos antidemocráticos, una mayor desigualdad y enormes daños medioambientales.

Como Pfungst describió en su libro de 1911, no se equivocaban: la postura del interrogador, así como su respiración y expresión facial, cambiaban sutilmente cuando los golpeteos de Hans alcanzaban la respuesta correcta, lo que lo hacía parar justo en ese momento.4 Pfungst probó esta hipótesis más tarde en sujetos humanos y confirmó sus resultados. Para él, la parte deslumbrante de este descubrimiento era que, por lo general, los interrogadores no sabían que le estaban dando pistas al caballo. La solución al enigma de Clever Hans, escribió Pfungst, eran las indicaciones inconscientes de los interrogadores.5

efecto Clever Hans,

también llamado sesgo de expectativa, que describe la influencia que tienen las pistas involuntarias que los investigadores dan a los sujetos de investigación.

Incluso un sistema que parece funcionar de forma espectacular durante las prácticas puede hacer predicciones terribles cuando se le presentan datos nuevos en el mundo real.

Aquí podemos ver dos mitologías distintas. El primer mito es que los sistemas no humanos (sean computadoras o caballos) son análogos a la mente humana. Esta perspectiva presupone que, con el entrenamiento adecuado o los recursos suficientes, una inteligencia parecida a la de un ser humano se puede crear de cero sin tener en consideración las maneras fundamentales en que las personas se encarnan, se relacionan y se ubican dentro de contextos más amplios. El segundo mito es que la inteligencia es algo que existe de forma independiente, como algo natural y separado de las fuerzas sociales, culturales, históricas y políticas. Este concepto de inteligencia ha causado un daño enorme durante siglos y se ha usado para justificar relaciones de dominación desde la esclavitud hasta la eugenesia.7

En una obra posterior, What Computers Can’t Do, Dreyfus señala que la inteligencia y la pericia humanas dependen en gran medida de muchos procesos, inconscientes y subconscientes, mientras que las computadoras requieren que todos los procesos y los datos sean explícitos y estén formalizados.

Se trata de la ideología del dualismo cartesiano en la IA, en la que esta se limita a ser entendida como una inteligencia incorpórea, liberada de cualquier relación con el mundo material.

Stuart Russell y Peter Norvig señalan que la IA es el intento por entender y construir entidades inteligentes. “La inteligencia se ocupa principalmente de la acción racional —aseguran—. De manera ideal, un agente inteligente toma la mejor decisión posible en una situación.”18

De hecho, la IA como la conocemos depende por completo de un conjunto mucho más vasto de estructuras políticas y sociales. Y, debido al capital que se necesita para construir IA a gran escala y a las maneras de ver que optimiza, los sistemas de IA son, al fin y al cabo, diseñados para servir a intereses dominantes ya existentes. En ese sentido, la IA es un certificado de poder.