La Inteligencia Artificial y la fantasía de lo inmaterial

Foto: Solen Feyissa | Unsplash

Cuando ChatGPT apareció pública y masivamente en 2022, la Inteligencia Artificial (IA) había sido nada más que un producto de la mente de escritores de ciencia ficción para la gran mayoría de la humanidad. Se intuía que algo había con respecto a esa tecnología, pero no era un tópico de recurrencia que captara la atención. En solo cuatro años, la IA ha generado una transformación radical de las estructuras de funcionamiento social del mundo, independientemente del grado de relevancia de esos efectos. Y se ha instalado un discurso: el de que la IA lo viene a cambiar todo.

En este marco, la IA se presenta como una herramienta inmaterial a partir de una narrativa que la construye desde una concepción abstracta, inocente, barata, limpia y autónoma. Es decir, que invisibiliza los costos y efectos de esta tecnología. Lo inmaterial se comprende en este ensayo como un proceso de invisibilización que forma parte del modo en que la IA se legitima como tecnología del progreso y como instancia de producción de la verdad. De este modo, se conforma un mecanismo de funcionamiento a su alrededor que la hace parecer particularmente inofensiva en términos económicos, sociales, políticos y culturales. La IA, sin embargo, está lejos de estar flotando libremente en el éter.

Por el contrario, su matriz responde a una infraestructura material en diversos ámbitos, ya sea la conformación de sus propias capacidades tecnológicas, su impacto medioambiental y económico, su conformación política, su marco epistemológico y su incidencia desde el plano antropológico. La IA se presenta inmaterial porque se manifiesta como una tecnología del progreso y porque se inserta como parte de una antropomorfización de la técnica, adquiriendo y tomando las características humanas. 

Sam Altman, CEO de OpenAI y fundador de ChatGPT, dijo que “una inteligencia muy barata para medirla está a nuestro alcance”¹, en referencia a las capacidad de la IA y los beneficios que traería. Estas declaraciones son solo un ejemplo de la inmaterialidad de la herramienta en cuanto fantasía de abundancia. Algunas preguntas surgen, inevitablemente, a partir de la frase de Altman: ¿Qué efectos tendría para la humanidad esa inteligencia barata? ¿Cuáles son los costos económicos, sociales y políticos de la aplicabilidad de esa tecnología? ¿Cómo se llega a la inteligencia barata en términos de recursos? ¿Qué se necesita para lograrlo? ¿Cuál es la distribución de la riqueza que genera esa inteligencia? ¿Cómo afecta a la desigualdad?

No se trata, de hecho, de evidenciar la materialidad de la IA como una cosa física, sino de entender cuáles son los recursos necesarios para su funcionamiento y los efectos que supone la herramienta; cuál es la estructura de poder discursivo que la sustenta y cuáles son las dinámicas culturales que habilitan su existencia. Para discutir esa fantasía no basta con analizar los efectos de la IA, sino que hay que entender y cuestionar cómo hablan de ella quienes la producen. 

Generar dudas, producir ignorancia

Lo que dicen los Chief Executive Officers (CEOs) es, en la actualidad, casi palabra sagrada. Se conforman expertos no solo en el plano empresarial, sino también en el plano cultural, político y social a partir del impacto que tiene el negocio que dirigen en la estructura societal. Se los convoca para dar charlas y para impartir un saber que parece que nadie más que ellos tienen. Y se los escucha. Atentamente.

Su importancia está dada por los valores capitalistas que premian el éxito y la riqueza. Si el CEO llegó hasta ahí, fundando además su propia compañía, por algo debe ser. Y si en el camino impactó en el mundo de una manera que pocos lo han hecho, como con la IA, entonces su palabra ingresa ya en otro ámbito de relevancia, mucho más importante.

Por eso, los CEOs no son solo figuras empresariales; se presentan también como voces autorizadas para atender y explicar el estado del mundo. Su saber no ingresa en la duda, como sí sucede con el de los científicos gracias a la labor de lo que Conway y Oreskes (2018) llaman los mercaderes de la duda: expertos que representan a intereses empresariales y que utilizan su saber para generar choques de posiciones sobre hechos científicamente comprobados. Los casos más evidentes son los de la industria del tabaco (que afirma que el tabaco no hace daño) y el cambio climático (que sostiene que el calentamiento global no existe). La IA también ingresa bajo está lógica para generar confusión con respecto al impacto de la tecnología (que, básicamente, promoverá el fin del mundo o que nos salvará).

Los mercaderes de la duda incorporan a su dinámica discursiva lo que Proctor (2008) llama agnotología, es decir, la producción deliberada de ignorancia. La manifestación de la confusión en torno a la IA es parte de su estructura de funcionamiento, ya que su inmaterialidad se conforma desde un discurso que no es claro y que ni siquiera los expertos logran entender. Sin embargo, sí son capaces de determinar cómo se posiciona esta tecnología: como un avance irreversible del progreso; y como parte de una necesidad vital cuyos costos materiales no son relevantes para el mundo como tal.

En este sentido, se debe destacar el marco moral de la IA, que es clave para pensar la inmaterialidad que la rodea porque, como sostiene Verbeek, quienes diseñan tecnologías materializan la moral (Vallès-Peris, 2022). En la construcción moral del saber hay una intencionalidad que supone un riesgo para la ciencia en tanto productora de conocimiento, ya que determinados grupos de interés definen qué es lo correcto en torno al acceso a la información. 

De hecho, que a una máquina se le sea dada la facultad de inteligencia no hace más que confirmar la antropomorfización de la técnica, en la que el ser humano termina por someterse a los designios de una tecnología que responde a intereses económicos específicos. Estos intereses están enmarcados en la ideología californiana que afirma un potencial emancipatorio de las nuevas tecnologías de la información, naturalizando en el proceso la filosofía política neoliberal. Lo antropomórfico es también inmaterial, porque a pesar de conformarse cuerpo, queda supeditada a la existencia en un plano digital.

Asimismo, los algoritmos y la IA no son meras herramientas, sino que operan como productores de verdad, ya que establecen y definen lo real. Como sostiene Sadin, “lo digital se erige como una potencia aletheica, una instancia consagrada a exponer la aletheia, la verdad” (2020, p. 17). La producción deliberada de la ignorancia, estudiada desde la agnotología, es parte vital de este proceso. En la actualidad, de hecho, no se crea verdad sin crear al mismo tiempo ignorancia. Tal es el avance del progreso.

Esto hace pensar en la expresión de Cedric Price: “La tecnología es la respuesta, pero ¿cuál era la pregunta?”. El progreso se presenta como lo evidente, como aquello a lo que hay que adaptarse. La tecnología configura la realidad desde una intencionalidad concreta. La inmaterialidad forma parte de toda este esquema de funcionamiento que se viene detallando ya que la agnotología, la verdad, la moral o la generación de la duda se subordinan a un discurso técnico y abstracto en el que el relato no es nada más que uno de carácter teleológico en torno al progreso. Lo que viene a partir de la IA se conforma desde un tecno optimismo que no hace más que reproducir lo invisible de los efectos de la herramienta, así como su inevitabilidad.

En este sentido, Morozov afirma que una de sus preocupaciones es que Silicon Valley nos meta a “todos en una camisa de fuerza digital fomentando la eficacia, la transparencia, la certeza y la perfección” y que al hacerlo elimine “sus contrapartes negativas: la fricción, la opacidad, la ambigüedad y la imperfección” (2015, p. 16). El marco de lo inmaterial también reproduce este tipo de valoraciones de orden más cultural.

La inmaterialidad tiene lugar en diversos campos de la existencia y va mucho más allá de la mera fisicalidad de la tecnología. Analizar el discurso que la sustenta es clave para comprender el poder que la estructura y la hace funcionar.

La IA no flota en la nada: construcciones discursivas totalizantes

Altman sostiene que la IA y los LLM son herramientas que aprenden y mejoran “cuanto más capacidad de procesamiento y datos haya disponible”². Esto haría, según el empresario, que mejore la calidad de vida de los seres humanos. Para ello, considera que es necesario “construir más y mejores infraestructuras” con el fin de que la IA no se convierta en una “herramienta para gente rica”³. La infraestructura, que podemos entender como una materialidad estricta en el sentido de que es una cosa física, es presentada aquí como una necesidad ineludible para la democratización de la herramienta.

Amodei dice algo similar: se trata de una tecnología que ayudará a la humanidad y afirma que una IA poderosa puede “resumirse en un país de genios en un centro de datos”⁴, lo cual es interesante porque permite comprender el marco en el que se estructura la inmaterialidad, que no existe, a su vez, en la nada misma. Se encuentra en el marco físico del centro de datos, temática que aparece en el discurso de los empresarios eventualmente porque permite y habilita a la construcción del imaginario invisibilizado.

En realidad, son la capacidad de procesamiento y los datos los que aparecen estructurados como parte de una dinámica que circula alrededor de lo inmaterial. La infraestructura es simplemente una necesidad que habilita el discurso de lo inmaterial, que está subordinada a aquello que hace de la IA la mejor herramienta posible: la inteligencia y la prosperidad. El relato de lo inmaterial es teleológico en el sentido de que se estructura en el marco del resultado final y no desde las causas iniciales.

Lo que queda invisibilizado es el costo, aún a pesar de que en muchos casos haya habido un discurso (por ejemplo, del propio Altman) en torno al peligro de la IA con respecto a que suplante a seres humanos en su trabajo. A pesar de esto, el fundador de ChatGPT considera que “una característica definitoria de la IA será una masiva prosperidad”⁵. Esta afirmación es otro ejemplo de la inmaterialidad de la IA, en tanto oculta los efectos y los caminos para llegar a esa prosperidad inaudita. No se explica a quién afectará ni cómo, ni en qué proporciones. ¿Beneficiará solo a los países ricos? ¿O tendrá efectos en el Sur Global? Y dentro de cada país, ¿cómo se distribuirá esa riqueza?

En este sentido, Altman llegó a comparar lo que se precisa para alimentar un centro de datos, con la alimentación y el agua que requiere “entrenar a un ser humano”⁶. El uso de la palabra entrenar no es casual, porque refleja justamente el sentido del humano en tanto trabajador. El desarrollo de una persona se mide por su capacidad como elemento productivo, lo que permite compararlo con la IA ya que esta se conforma como un elemento disruptivo para la productividad. Medir esto en términos tan específicos desnuda no solo una visión antihumanista, sino también hace evidente la construcción inmaterial del valor de un trabajador con respecto a su capacidad de producción.

Lo que se aprecia es una agnotología de lo inmaterial, en tanto el ser humano aparece reducido a un entrenamiento, a costos, beneficios, procesos. Se produce ignorancia con el discurso con el fin de equiparar al humano con la máquina, la que incluso lo superará. De esta forma, no hay manera de luchar contra lo inmaterial: es el progreso de lo inevitable, que arrasa todo a su paso, como bien explicitó Walter Benjamin con su Angelus Novus. Lo mismo podría decirse de la inteligencia, ya que en el discurso de la IA se la abstrae y se la deja fuera del cuerpo, de la historia, del trabajo o de la cultura, reduciéndola a una mera conjunción de procesos algorítmicos.

Hassabis, director ejecutivo de Google DeepMind, ejemplifica bien el punto tecno optimista y del solucionismo tecnológico, así como la relación entre progreso y tecnología, cuando sostiene que “la tecnología es en sí misma algo neutral”⁷. Esta afirmación evidencia la construcción de poder de la tecnología, ya que efectiviza su invisibilización. Al estar en todas partes todo el tiempo, la tecnología no es en sí misma una cosa que tome partido, por lo que su uso correcto (es decir, moral) queda supeditado a la decisión de la persona. Esto se relaciona, a su vez, con una concepción profundamente capitalista en torno al individualismo; cada uno decide su propia suerte.

La inmaterialidad de la IA queda enmarcada de este modo en su manifestación como una herramienta que es capaz de producir verdad. La tecnología no es neutral y su no neutralidad no depende de la moral. Va mucho más allá que una mera decisión de turno: tiene que ver con una construcción epistemológica, que la hace ingresar en un determinado mecanismo de funcionamiento, en ciertas lógicas que le habilitan a conformarse aparentemente neutral. Como dice Verbeek, quienes hacen tecnología materializan la moral, razón por la que volverla inmaterial es tan relevante. No debe notarse el camino a seguir, ni qué llevó a la humanidad a su momento actual, porque eso sería cuestionar un orden que permite esa reproducción y su existencia.

Para ello, se la presenta como progreso porque eso permite definirla como verdad. Su capacidad de procesamiento de información, su velocidad, su potencia, su supuesto talento resolutivo y su gestión de los datos la posiciona como una herramienta que puede develar lo oculto, como dice Sadin. Es decir, no hay marco que no logre captar, no hay respuesta que no pueda dar.

Esto sucede, en parte, porque la IA lo que hace es reproducir las mismas estructuras de poder y verdad que el marco epistemológico fomenta. Se inserta en la maquinaria capitalista, es funcional a una racionalidad sistémica que premia no solo su existencia, sino su valor socioeconómico, cultural y epistemológico. En ese contexto, su conformación inmaterial se da a partir de un discurso que no niega necesariamente su materialidad, sino que la oculta.

Notas al pie

1. Ver: The gentle singularity.

2. Ver: The Intelligence Age.

3. Ver: The Intelligence Age.

4. Ver: The adolescence of technology.

5. Ver: The Intelligence Age.

6. Ver: AI energy efficiency comparisons ‘unfair’ bleats Sam Altman, citing amount of energy needed to evolve, then train a human — one ‘takes like 20 years of life and all of the food you eat during that time before you get smart’ he argues.

7. Ver: Transcription from an interview with Demis Hassabis.

Referencias bibliográficas

Conway, E.M. & Oreskes, N. (2018). "Introducción". En Mercaderes de la duda (pp. 7-21). Capitán Swing.

Morozov, E. (2015). La locura del solucionismo tecnológico. Clave Intelectual, Katz Editores.

Proctor, R. (2008). «Agnotology. A missing term to describe the cultural production of ignorance (and its study)». En R. Proctor & L. Schiebinger (eds.). Agnotology: The making and unmaking of ignorance (pp. 1-36). Stanford University Press.

Sadin, É. (2020). La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical. Caja Negra Editora.

Vallès-Peris, N. (2022). Retos tecnocientíficos (PID_00287295). Fundació Universitat Oberta de Catalunya.