Tomás Balmaceda: �las recomendaciones algorítmicas degradaron la conversación pública�

Tomás Balmaceda es doctor en Filosofía por la Universidad de Buenos Aires, profesor universitario y escritor. Cofundó GIFT (Grupo de Inteligencia Artificial, Filosofía y Tecnología), un espacio interdisciplinario de investigación crítica sobre el impacto de la inteligencia artificial en la sociedad. Su trayectoria académica se enfoca en las intersecciones entre tecnología, política y pensamiento filosófico.

Autor de varios libros sobre la materia, recientemente publicó junto a Miriam de Paoli y Juan Marenco Los últimos humanos. Una apuesta para resistir el fin del mundo común. En este ensayo, los autores sostienen que los algoritmos de recomendación de plataformas como TikTok, Instagram y X han fragmentado irremediablemente el espacio público.

En esta conversación con Política Argentina, Balmaceda profundiza sobre la paradoja del aumento de la productividad, el rol de los multimillonarios como modelos culturales y la propuesta de reivindicar la lentitud.

¿De qué manera te parece que el cruce entre inteligencia artificial y redes sociales transformó el debate público?

Hace diez, doce años atrás, aparecieron las redes sociales como promesa de una plaza pública. Si se cumplió o no es otra discusión, pero la promesa era que cualquier persona podía enunciar algo y que eso iba a ser escuchado. Las cosas se pusieron más complejas con la aparición de los algoritmos de inteligencia artificial, sobre todo con los algoritmos de recomendación. Una tendencia que introduce por primera vez TikTok bajo el formato de lo que se llama el "For You" o el "Para ti", esa pestaña en la cual dejamos de ver lo que publican las personas que seguimos para ver aquellas cosas que un algoritmo entiende que es mejor para nosotros, que nos va a gustar más. Y la métrica para entender está basada en las interacciones. Muchas veces, las interacciones se generan mucho más por contenidos polémicos, extremos, polarizantes, que por contenidos del término medio. Eso que surgió en TikTok, que la volvió muy innovadora y atractiva - e incluso adictiva - provocó que las otras compañías copiaran ese sistema. Hoy es casi imposible encontrar un feed estrictamente cronológico. Incluso X, que promete que vos podés cambiar esa configuración, no la cumple. Finalmente te muestra aquellas cosas que el algoritmo detecta como más relevantes para vos.

¿Qué consecuencias generó ese cambio?

El nivel de la conversación pública se degradó. Es más difícil escuchar y poder ser oído. Sobre todo, lo que sucede es que las decisiones de por qué yo veo ciertos contenidos y no veo otros están siendo súper opacas. En las bases de estos nuevos algoritmos de machine learning o de inteligencia artificial está lo que se denomina la «caja negra», que básicamente es la hechura interna, los mecanismos internos detrás de esos procesos son opacos para el usuario. Yo no sé por qué veo un tuit de un referente político o de un usuario X y no puedo ver el de mis amigos. Entonces, de alguna manera, se debilita la conversación pública y empieza a aparecer - que es un poco la tesis de nuestro libro, Los últimos humanos - una degradación del mundo común. Es decir, la manera en la que todos podíamos conversar de lo mismo, esa cosa pública, empieza a fragmentarse en distintos feeds y es más difícil pensar que todos los que estamos en esa red social estamos hablando sobre lo mismo. Posiblemente estamos hablando sobre lo que sucede en cada una de nuestras islas, en este archipiélago que arman los algoritmos de recomendación.

¿Qué implica que en el entorno digital la política se convierta en una gestión de la atención?

En esta nueva realidad que podemos pensar, en donde nuestra vida digital y nuestra vida offline o analógica están unidas, es muy difícil no imaginarse como seres anfibios, en donde nuestro espacio de intervención pública sucede en la vida analógica y también en las redes y plataformas. La economía de la atención parece ser una de estas grandes reglas en la que nos preguntamos cómo hacer que las personas, que están con muchísimos estímulos a la vez, le presten atención a una. Es el bien preciado, un bien escaso que hoy de golpe cobra mucha mayor notoriedad. Ahora, para poder llamar la atención por encima del ruido, las técnicas tradicionales de apelar a la racionalidad, a un espacio reflexivo, a poder conversar o imaginar, pierden frente a las maneras básicas de que logremos atención, que hoy tienen que ver con lo emotivo.

¿En qué sentido lo emotivo?

Puede ser lo emotivo en términos de furia, de enojo, puede tener que ver con lo sensible en términos de algo que me haga reír mucho, que me haga llorar mucho o que despierte algo de la empatía. Y obviamente en eso perdemos la sofisticación, que es parte de la conversación humana y también de la conciliación de las diferencias. Uno tiene que pensar al mundo político como el mundo en donde el conflicto es gestionado. Ahora, si ese conflicto, que es parte natural de nuestra manera de vivir en sociedad, solo está regido por aquello que llama mayor la atención o que justamente hace que el resto de de las cosas queden por debajo de ese ruido o se conviertan en ruido y eso me interese más, finalmente lo que termina pasando es esta realidad polarizada. Y es una realidad polarizada que muchas veces desde la Argentina pensamos que es propio de la coyuntura que tenemos, pero cuando empezamos a mirar a otros vecinos en América Latina, a Estados Unidos o Europa, vemos que efectivamente empieza a extenderse esta idea de que los puntos medios parece que no tienen razón de ser.

¿Por qué hacen un llamado a reivindicar la lentitud?

Estamos en un tiempo donde los chatbots de inteligencia artificial generativa, como ChatGPT, Gemini o Copilot, nos responden todo rápido y de manera complaciente. Eso muchas veces se explica con un término de la psicología que se llama “psicofancia”, que es esta idea de querer agradar todo el tiempo. Fueron creados para alentarnos: “¡Qué buena pregunta!”, “¡Qué genial eso que me decís!”. Cuando se equivocan y se lo marcamos te responde: “No, no, acá perdoname, disculpame, me equivoqué”. En estos tiempos lo que sucede es que hay una transformación, desde hace muy pocos meses con la popularización de estos chatbots, en la que aparece esta idea de que necesito todo con una rapidez increíble. No hace mucho hubiésemos dicho que si hay algo que tengo que pensar, que tengo que razonar, en el cual tengo que ponerle esfuerzo, eso requería tiempo. Parecía que iban de la mano, que el pensamiento, por ejemplo, y la lentitud iban de la mano. Si yo decía “tengo que pensar esto” significaba que me voy a tomar un tiempo, me retiro a otro espacio, apago la música y presto atención, me tomo unos días para hacerlo.

¿Y ahora?

Todo eso se rompió. Esta vorágine general que vivimos todos los días ahora se acercó a algo que históricamente no era rápido, que era este tipo de pensamiento más reflexivo. A mí me divierte cuando se cae algún servidor de ChatGPT o de Anthropic, voy a ver las redes sociales de mis amigos programadores y están como corriendo en círculos, porque se olvidaron aparentemente de cómo programar. No es que se olvidaron, estaban muy acostumbrados a hacerlo con esta herramienta y ahora no lo hacen. Eso nos marca algo de que esta idea de querer la respuesta inmediata refleja lo que finalmente parece ser el objetivo de estas herramientas de inteligencia artificial generativa, que es la productividad, ser más eficientes. Eso parece ser la base de todo y no lo tenemos tan en la superficie, no estamos pensando que efectivamente eso sobre estas plataformas que son de propósitos generales.

¿A qué te referís con propósitos generales?

Es interesante, son plataformas que uno usa en la facultad, en el trabajo, para programar. Hay gente que la usa para criar a sus hijos y hacerle preguntas sobre eso. Hay, cada vez más en América Latina, estudios que indican que la gente lo usa para preguntar a quién votar. O sea, la delegación de muchas decisiones parece ser completa hacia estas herramientas. Y lo que estas herramientas ofrecen son respuestas rápidas, eficientes, productivas. Entonces la pregunta que nos tenemos que hacer es si todos los ámbitos de nuestra vida tienen que estar regidos por la eficiencia y la productividad.

¿Qué te respondés a eso?

En mi caso, como docente, el aula nunca fue pensada como algo en donde necesito máxima productividad de mis alumnos. No necesito la eficiencia total de mis recursos cognitivos como docente ni de los de mis alumnos y alumnas. Entonces, creo que hay algo de recuperar la lentitud, que nosotros ponemos en el libro como una especie de propuesta de resistencia que puede sonar en principio romántica o inocente, pero yo cada vez más veo que va creciendo. Es difícil saber si eso va a ser simplemente una pose de este momento o no, pero cada vez más se escuchan personas que se sienten cansadas, que se sienten hartas de este tipo de verdaderas tiranías algorítmicas, en el sentido de que casi todos nosotros estamos produciendo más. Yo siempre invito a mis alumnos, estudiantes, o cuando doy conferencias a las personas, a que piensen cuánto producían y cómo lo hacían antes de la pandemia y cómo lo hacemos ahora. No importa el ámbito en el que estés - sea un comercio, un trabajo intelectual o uno de oficina - la verdad es que estamos generando mucha más productividad. Pero cuando vemos los números y comparamos los sueldos, no solo en la Argentina y en la región sino en todo el mundo, con los previos a la pandemia estamos cobrando menos. Entonces, hay una mayor productividad. Nuestra sensación es que estamos haciendo más, estamos cansados, pero al final del mes parece que no nos alcanza para cubrir todo lo que tenemos. Entonces, quizás esta máxima productividad no termina de tener estas ganancias supuestas que se van repartiendo.

¿Ahí aparece la cuestión de la distribución de la riqueza?

Cuando hay debates, por ejemplo, acerca de un ingreso universal, de qué pasaría si estas máquinas novedosas pueden realizar tanto nuestro trabajo que eventualmente no sería necesario tanta labor humana, creo que ahí falta reconocer que efectivamente la distribución de la riqueza es una problemática central en Occidente en en el siglo XXI y de lo cual no se termina de conversar del todo. Por primera vez, tenemos a personas que tienen riquezas increíbles, que tienen riquezas por encima de lo que podemos incluso imaginar en términos numéricos. Y eso se junta con un clima cultural en donde - y eso también lo veo en la Argentina - estas personas son consideradas como modelos a seguir. Y es interesante que estas personas no tienen miedo, por ejemplo, de estar en redes sociales, contar sus opiniones y mostrar a veces actos de ignorancia de temas que no dominan y, en ocasiones, hasta mostrar cierta crueldad. Podemos pensar en Elon Musk, en Sam Altman que de alguna manera también se está volviendo una especie de nuevo villano en las redes sociales, pero también muchos empresarios en la Argentina, ¿no? Marcas, una fábrica de termos que de golpe discute cosas, dueños de unicornios que van a comentar cosas de las que quizás no saben. Entonces, creo que de alguna manera cuando pensamos en por qué valorar la lentitud no es simplemente una visión ludita de querer frenar el progreso por el progreso mismo. Lo que estamos haciendo, como hacían los luditas originalmente, es discutir la distribución de esa ganancia, a quién benefician estas nuevas herramientas. Hay una especie de tormenta perfecta porque, en el clima actual, muchas personas encuentran en los multimillonarios figuras a seguir porque generan dinero, no por otra cosa.

Para no ser “los últimos humanos”, ¿qué hacer?

Creo que la respuesta no es única y no es universal, pero tiene que ver con cultivar el criterio. Me parece que es una habilidad clave. Criterio ¿para qué? Para casi todo. Para entender el criterio de qué quiero delegar y qué no, qué cosas necesito que la IA haga por mí y qué cosas las tengo que hacer yo. Por un lado, reconocer cuáles son nuestras habilidades y cuáles son las cosas en donde queremos que nos asistan. Entender cuáles son también mis aportes originales. Uno a veces le agarra falsa humildad y cree que no tiene ningún aporte original para hacer. Y no, todas las personas, de alguna manera, hacemos nuestro propio aporte. Con mis alumnos trato de reivindicar mucho las cosas que nos gustan hacer. Quizás una IA es muy buena para cierta tarea que puede ser repetitiva o automatizable, pero que a nosotros nos encanta hacer. Y también comprender que, en muchas ocasiones, esa delegación puede volverse comprometedora si efectivamente hay instancias en las cuales después no puedo hacer esa acción sin ayuda de una plataforma. Para mí esa es una de las maneras de evaluar criterio y utilizarla. Si a partir de usar esa plataforma no me queda otra que seguir utilizándola de acá para siempre, me parece que es una señal de alerta. Estamos en una instancia, además, donde todos estos chatbots están súper subsidiados. Están veinte dólares por mes la versión pro y es realmente una fracción de lo que efectivamente deberían costar si no estuviesen “subsidiados” por las mismas empresas.

¿Eso qué implica?

Tenemos que preguntarnos qué va a suceder cuando cuesten 40, 50 o 200 dólares y de golpe toda nuestra información esté ahí adentro. Qué va a pasar si me conviene agarrar dos, tres trabajos porque los resuelvo con inteligencia artificial cuando eso sea un costo más elevado. Creo que son señales de cómo nosotros tenemos que mantener esto que hoy se llama - y hay que ver si el término se instala - una especie de soberanía cognitiva. Esta posibilidad de seguir reclamando para nosotros mismos la posibilidad de seguir pensando, de seguir teniendo una opinión. Quizás alguien escucha esto y piensa que estoy siendo súper apocalíptico, o que es una exageración, una fantasía. Pero genuinamente creo que muchas de las habilidades que tenemos se parecen a los músculos, que si las dejamos de usar esos músculos se van debilitando. No creo que se atrofien, somos muy buenos los humanos para volver a aprender cosas después de un tiempo de haberlas olvidado. Pero sí es cierto que ese pasaje puede ser doloroso si efectivamente, a partir de la confianza de estas herramientas, cambiamos nuestro entorno. Me parece que la clave, para decirlo de una manera muy sencilla pero que no deja de ser poderosa, es: no tanto piloto automático sino más bien alguien que nos acompañe, un copiloto. Creo que lo que caracteriza al humano es justamente eso, entre otras cosas, poder ser quien forje ese destino. Obviamente con un montón de otras fuerzas alrededor, pero tener el criterio para determinar cuándo usar estas plataformas y cuándo no usarlas me parece que es relevante y que es algo que cada persona tiene que hacer por sí misma reconociendo, insisto, sus habilidades, sus puntos de mejora y entendiendo qué es lo que pretende para su futuro.

Podés leer, escuchar o ver todas nuestras entrevistas.