“En la IA, de prometer curar el cáncer pasaron a ofrecer contenidos eróticos”

Esteban Magnani lleva casi tres décadas analizando desde la academia y el periodismo la relación entre ciencia, tecnología y sociedad como licenciado en Ciencias de la Comunicación (UBA) y Magister en Medios y Comunicación (London University). En sus investigaciones intenta disipar el humo del marketing con el que se suele maquillar a las nuevas tecnologías al venderlas y buscar inversores. En su último libro, “La mano invisible del algoritmo ¿Qué queda cuando se disipa el humo tecnológico?” –Prometeo Editorial--, plantea un vínculo creciente entre la lógica financiera y la forma en que se están desarrollando las tecnologías digitales presentadas como “inevitables” o “el futuro”, y que a la vez solo pueden ser rechazadas desde una lógica ludita. Los CEOs high tech saben cómo presentar títulos irresistibles sobre la “revolución inminente” de una determinada novedad y muchas veces eso se acepta de manera acrítica por falta de tiempo y desconocimiento. La tesis central es que detrás del tsunami tecnológico –blockchain, Metaverso, ChatGPT, DeepSeek— hay una narrativa de un mundo mejor y una ganancia de tiempo libre para la humanidad, pero cuando baja la espuma trabajamos cada vez más por menos; y los más ricos se enriquecen de manera estrastosférica con nuestros datos. Magnani propone detenerse a pensar cuáles fueron las promesas originarias de esas tecnologías y ver en qué resultaron, para entender la lógica que dirige la mano invisible detrás del algoritmo.

--¿Cuáles son las formas en que el desarrollo tecnológico se somete a una lógica financiera?

--Eso se ve en que cada empresa que surge asegura que será el próximo Google o Facebook, sin mucha evidencia. Es cierto que esas corporaciones, en su momento, encontraron la forma de ganar muchísimo dinero en internet, algo que al principio parecía incierto o casi imposible por la arquitectura abierta de la red. Esas big tech son excepciones entre una mayoría de empresas que fracasaron, como sucedió con la explosión de las empresas puntocom en 2001. Sin embargo, un puñado de corporaciones logró pegar un pleno, actuando como mediadoras sociales y vendiendo publicidad u otros productos y servicios. Lo hicieron gracias al poder de su tecnología, pero también usando viejas prácticas monopólicas. Después de eso, las novedades tecnológicas se transformaron en una especie de casino en el que todos te prometen la “próxima gran cosa” con la que de nuevo harán saltar la banca. Los inversores no quieren perderse al próximo Google y apuestan sus excedentes.

--¿A qué tecnologías se refiere?

--Es lo que pasó con la fiebre de blockchain, ese registro digital descentralizado, inmodificable y en teoría transparente que almacena datos en bloques encadenados criptográficamente, eliminando la necesidad de intermediarios como un banco central. La inviolabilidad matemática de esa tecnología permitió prometer criptomonedas controladas por “la gente”. Esa arquitectura técnica de control entre pares -nos decían- permitiría que nadie controlara a las monedas como Bitcoin. Pero ahora, cuando tenés el 50% de esa criptomoneda en manos del 0,1% de los tenedores, está claro que si acuerdan entre ellos, pueden hacer subir o bajar su valor. De esa promesa surgieron miles de kiosquitos usando blockchain la cual, en teoría, permitió a cada quien crear su propia moneda y luego salir a convencer a “la gente” de que se iba a enriquecer con eso. Pero de repente esa burbuja explota y todo se desmorona. Lo que pasó con $Libra y la estafa presidencial en Argentina ocurre hace años. Y la complejidad técnica de blockchain se utiliza para ocultar y desmerecer críticas, diciendo que son resultado de simple ignorancia. Y que quienes critican no entienden lo técnico y entonces no pueden opinar. El marketing es tan grande que todos los “emprendedores digitales” se suben a la ola y le ponen la etiqueta de blockchain a lo que sea: así surgen los jueguitos play to earn -jugar para ganar dinero- que supuestamente permitían a los filipinos alimentarse ganando plata con jueguitos online durante la pandemia. Los jugadores ganaban puntos que valorizaban a unos personajes digitales. Ese valor se infló en la medida en que entraron más jugadores creyendo que iban a ganar dinero fácil. Era otro esquema Ponzi y los últimos en entrar perdieron todo cuando explotó la burbuja. Algo parecido pasó con los NFT -Token No Fungible- que son un certificado digital único e irrepetible registrado en una blockchain que acredita la propiedad y autenticidad de un activo digital específico. Esto, supuestamente, iba a dar de comer a los artistas: permitirían registrar la propiedad del arte digital en blockchain. Era un delirio obvio, pero le pusieron tanto marketing que durante un tiempo pareció que funcionaba. Otro ejemplo, el Messiverso. Con esa palabra iban a vender una edición limitada de imágenes digitales de Messi a 500 dólares, que serían una reserva de valor: prometían que la cotización iba a subir. Pero ahora no encontrás ninguna noticia de alguien que use esas imágenes de Messi y las venda o las use de alguna manera. Son un registro de números en blockchain que no le interesa a nadie. No fue el reaseguro de nada. Lo mismo con muchas criptomonedas: iban a servir para la democratización financiera, pero millones de personas que no salen en los diarios perdieron sus ahorros. Sam Bankman-Fried, el dueño de la exchange FTX, salió en la tapa de Forbes como un genio filántropo que iba a salvar el mundo. Y a los 6 meses estaba preso por estafar a millones de personas. Es una suerte de cositortización del tecnocapitalismo que actúa como velo para generar la fantasía de que hay una solución tecnológica a problemas sociales mucho más profundos.

--Su libro analiza el Metaverso de Mark Zuckerberg. ¿Por qué falló?

--En 2021 Facebook estaba complicado por haber alcanzado un techo de usuarios, más la amenaza de TikTok que atraía a los jóvenes. Ademas se produjeron las filtraciones de Frances Haugen revelando que la empresa sabía que estaban provocando depresión en las niñas y adolescentes y no hacían nada porque era buen negocio. Entonces, para distraer, Zuckerberg salió a prometer la nueva internet inmersiva Metaverso a la que se accedería mediante cascos de realidad virtual. Los costos y dificultades técnicas para hacer eso eran enormes y tampoco se entendía mucho el sentido. Ahora Meta está terminando de liquidar ese proyecto que había sido presentado como la “próxima gran cosa”. No cayeron solo los giles en esa promesa: Disney, Walmart y otras empresas corrieron a anunciar inversiones millonarias para sumarse al Metaverso. ¿Hoy alguien se acuerda de esa promesa? Casi nadie, a pesar de que solo cuatro años atrás, todos los medios y redes la presentaban como una genialidad inevitable, a pesar de que era inviable técnicamente y muy costosa. ¿A Zukerberg le sirvió? Sí: a un costo altísimo con miles de millones dilapidados en el proyecto, pateó para adelante el problema del amesetamiento de su negocio e hizo olvidar las filtraciones. Ahora, cuando ChatGPT hizo estallar el interés por la IA Generativa, Meta se subió a ese tren y mantuvo el entusiasmo de los inversores. Meta está poniendo los miles de millones que ahorró durante años con su modelo publicitario, dentro de lo que parece una apuesta a todo o nada en la IA Generativa. Si les sale mal...

--La IA Generativa es la gran promesa a la que todos apuestan y como avance científico es deslumbrante, pero no aparece su modelo de negocio y se teme que las “apuestas” multimillonarias fracasen. Para colmo en China los copiaron a muy bajo costo.

--Claro: Sam Altman alcanzó fama mundial cuando OpenAI lanzó ChatGPT. Ni ellos se esperaban tanto interés. Entonces aprovechó para exagerar el potencial de esa forma particular de IA Generativa basada en una gran capacidad de procesamiento y que iba a resolver desde el cáncer hasta el calentamiento global. Con eso juntó miles de millones de dólares para seguir construyendo data centers cada vez más grandes. Los resultados mejoran pero a costos siderales. Los sostienen con negocios circulares donde Nvidia se asocia con OpenAI e invierte los excedentes que le generan los procesadores muy demandados por la idea de que el futuro es “IA o muerte”. Altman muestra los millones que consiguió a otros inversores; esos inversores se suman y le dan plata para construir más centros de datos. Entonces están todos: Meta, OpenAI, Google, Musk, Microsoft y Oracle corriendo para construir más data centers. Eso se traduce en más demanda para los procesadores de Nvidia que aumentan las ganancias de esa empresa, para seguir prestándole a OpenAI y sostener la demanda. En los diarios salen los miles de millones que se invierten en esa carrera loca y todas las empresas quieren implementar IA Generativa, sin entender bien para qué les va a servir. Mientras se infla la burbuja, funciona. Pero ahora Sam Altman usa esa tecnología supuestamente ultrapoderosa para poner contenido erótico en ChatGPT y ganar más. La IA Grok de Elon Musk la usa para crear desnudos fake. Si esta tecnología es tan poderosa, ¿por qué no la usan para revolucionar la productividad de las fábricas o, como decían, curar el cáncer en vez de ganar unos pesos con pornografía como tantos otros?

--La IA Generativa tiene un potencial inimaginable. Más aun, considerando que recién arranca y mejorará.

--Sí: bien usada puede servir para muchas cosas, pero para estos modelos que están desarrollando eligieron solo el camino de la escala: más procesadores, más energía y más parámetros. Eso lo explica Karen Hao en su libro Imperios de IA. Es una herramienta estadística tremendamente poderosa pero no tiene nada que ver con la inteligencia o el razonamiento, como advierten los científicos que no trabajan para esas empresas. Por eso los mismos empresarios aceptan que lo que se llama “alucinaciones” --en realidad son resultados estadísticos improbables-- no se van a resolver. Eso lo dijo Sundar Pichai –CEO de Google-- y después quiso venderlo como que en verdad eso las hacía creativas. Pero ellos conocen esta limitación. Sin embargo prometen que de la estadística falible surgirá una IA General más poderosa que los humanos, incluso una conciencia. Eso es humo porque la IA Generativa no accede al mundo: no lo conoce, no lo siente y no sabe nada de él, sobre todo porque no piensa, no tiene conciencia, no tiene sensaciones ni –según se ve-- tampoco las tendrá. Solo arroja afirmaciones de manera estadística –o sea por probabilidades-- en base a restos de inteligencia humana condensada en datos. Y como estos modelos necesitan cada vez más datos, toman cualquier cosa de la web que está llena de basura. Lo más llamativo es que, si bien estos empresarios aceptan los límites de este tipo de IA Generativa, insisten en que sirve para aplicarla a la salud, la guerra, la recaudación de impuestos, la justicia y la detección de inmigrantes ilegales, que son áreas en las que cometer errores es muy peligroso. Encima esos errores se producen en una caja negra que no se puede auditar. Lo que pasa ahí es que la IA Generativa sirve para instalar un proyecto político que busca, justamente, despolitizar las decisiones del Estado y transformarlas en una cuestión estadística, supuestamente neutral. Pero la ideología está embebida en los algoritmos: con retocarlos un poco la podés hacer decir lo que vos quieras.

--¿Cómo la IA Generativa es parte de un proyecto político?

--Es lo que está ocurriendo en EE.UU. mediante crecientes contratos con empresas privadas que automatizan todo tipo de tareas. Palantir, una empresa que utiliza grandes cantidades de datos para automatizar tareas, fue fundada por Peter Thiel, un ultraderechista que financió a J.D. Vance, el vicepresidente de EE.UU. Las herramientas de gestión que le ofrece al Estado norteamericano le permiten a esa empresa ganar dinero, pese a los costos brutales que tiene. Eso lo explica muy bien la investigadora Francesca Bria registrando los contratos entre el Estado y empresas como Palantir. Ellos venden por cifras millonarias herramientas tecnológicas de IA que automatizan todo tipo de tareas con mínima supervisión. Esto aumenta la fortuna de Thiel y, sobre todo, “despolitiza” las decisiones. Alguien puede decir que la IA Generativa produce falsos positivos de inmigrantes ilegales y verlo como que hace mal su trabajo. Pero en cambio, si pensás que gracias a eso el gobierno genera terror en la población, tiene una función política. Nadie sabe bien por qué le toca la deportación a unos sí y a otros no. Es lo mismo que hace la policía del ICE en Mineápolis que agarra a cualquiera que ande por ahí, le pega y después vemos. La investigadora Sophia Goodfriend lo resume así: “Donde la IA falla técnicamente, cumple ideológicamente”. ¿Qué va a pasar con el próximo presidente de EE.UU? ¿De dónde va a sacar gente para poner a funcionar de nuevo un Estado cuando la gestión esté en manos de herramientas automatizadas de una empresa privada dirigida por un multimillonario de ultraderecha? El libro de Shoshana Zuboff “Capitalismo de la vigilancia o democracia” desarrolla cómo las empresas se plantearon primero como una defensa frente al totalitarismo del Estado, luego dividieron a la población y ahora ellos pueden imponer su propio proyecto político y económico.

--¿Cuál es la contracara valiosa de la IA Generativa?

--Hay investigaciones con código abierto –o sea de uso libre para todos y modificable por quien guste-- con datos bien seleccionados que sirven como un gran insumo para la toma de decisiones supervisadas por humanos. Si vos, garantizando la privacidad de los datos, cargás las historias clínicas de millones de personas, podés encontrar interacciones medicamentosas que nadie imaginó o evoluciones de enfermedades que no parecían relacionadas. Esos cruces los tendrás que chequear para ver si hay una relación causal: necesitás reflexión, método científico y razonamiento. La estadística te señala probabilidades, pero no alcanza. También me imagino una IA Generativa aprendiendo a gestionar semáforos en zonas de mucho tránsito según los horarios. Pero no tengo mucha esperanza de que el poder de la IA Generativa se use para cosas beneficiosas para la mayoría: la experiencia muestra que el dinero, los mejores algoritmos, el mejor hardware y los mejores cerebros de las últimas dos décadas se usaron sobre todo para que la gente haga click en publicidades y compras impulsivas. Porque es mejor negocio. Y eso no es culpa de la tecnología sino de un mercado en el que la única variable que importa es la ganancia.

--Usted se centra en los grandes unicornios estadounidenses. ¿Y por China cómo andamos?

--Es difícil saber realmente qué ocurre en China: la información que llega es muy sesgada. Parecería que las grandes corporaciones tienen sus objetivos económicos subsumidos a los objetivos políticos del Estado y están siendo empujadas a mejorar la calidad de vida de las mayorías. Desde Occidente se insiste con la hipervigilancia china sobre la ciudadanía y eso parece ser así. Pero por otro lado, en cualquier parte del mundo, cuando hay movilidad social ascendente, el nivel de conflictividad disminuye. Y esto pasa en China. Entonces es difícil saber qué es lo que prima. Pero está claro que las grandes corporaciones chinas, cuando hacen algo incompatible con los objetivos superiores marcados por el gobierno, éste las regula. Cuando Ant Group empezó a usar su aplicación para dar préstamos a cualquiera con tasas usureras, le pusieron un freno y su dueño, Jack Ma, apareció luego donando plata para luchar contra la pobreza, seguramente por exigencia estatal. El TikTok chino --Douyin, de la misma empresa, ByteDance-- promueve contenidos educativos y no cualquier cosa como en Occidente. Allá, cuando los menores pasan mucho tiempo con los juegos en red, les ponen un límite de tiempo frente a la pantalla. ¿Eso es vigilancia o políticas públicas? Desde el punto de vista occidental es vigilancia. ¿Pero disminuyen los efectos secundarios más nocivos de esas herramientas tan poderosas? Parecería que sí.

--¿La forma de desarrollar la IA Generativa de las grandes corporaciones es sostenible en términos económicos y ecológicos?

--No lo parece. Ya lo dicen analistas de diarios financieros más el banco de Inglaterra y el Deutsche Bank. Los ingresos de esas empresas aumentan porque más gente encuentra usos a la IA Generativa, aún con sus límites, sabiendo que el margen de error existe. Pero esos ingresos no aumentan lo suficiente en relación a los costos de aumentar la potencia de la IA Generativa. Si cobraran lo que realmente les cuesta el entrenamiento y el uso por parte del público, nadie la usaría: sería carísima. Lo que hacen es, como con otras plataformas, trabajar a pérdida con la expectativa de que un día sea rentable. El problema es que aquí el déficit es mucho más grande que en casos anteriores y no hay perspectivas de que la brecha entre ingreso y costo se revierta. Entonces no les alcanzará con algunos millones de usuarios más que paguen un abono: necesitan una revolución en la productividad con impacto global. Y aun así, tendrían que lograrlo antes de agotar los recursos del planeta, porque el daño energético de estas plantas de procesamiento de datos es brutal por el costo eléctrico y el gasto de agua para enfriar millones de servidores. Como resultado, en EE.UU. aumenta el precio de la energía para todos los usuarios y se mantienen abiertas plantas de generación de combustibles fósiles, las cuales se estaba planeando cerrar. En lugares en los que hay poca agua y esta se usa para refrigeración, la gente no tiene qué tomar. Es decir: también está el costo ambiental que no siempre se tiene en cuenta, menos con la ultraderecha en el poder. Ya hay advertencias de analistas conservadores y varios bancos de que la mayor parte del crecimiento económico de EE.UU. se debe a la inversión en data centers y que si eso explota -o “cuando explote”- el país va a entrar en recesión. Ya se están preguntando qué se podrá aprovechar de esa infraestructura delirante, cuando los data centers no se usen para IA Generativa porque no es rentable. En el 2001 los cables de fibra óptica instalados sirvieron para dar velocidad a internet, pero la mayor parte de la inversión se perdió cuando las empresas quebraron y sus desarrollos no tuvieron viabilidad económica. Eso lo explica Nick Srnicek en Capitalismo de plataformas. La apuesta de la IA Generativa es mucho mayor que la de la burbuja puntocom. Pero, incluso si “sale bien”, generará desempleo masivo. Entonces ese resultado también parece un delirio en un contexto de pobreza y desigualdad global, capaz de hacer estallar el sistema político. Si se invirtiera ese dinero en inteligencia humana -educación, capacitaciones, investigación científica- podrías tener un plan Marshall para el desarrollo, y no para que un puñado de tipos se jueguen a la ruleta la riqueza del planeta, a ver quién hace saltar la banca.

--Su libro concluye con una reflexión a partir del concepto de “realismo capitalista” de Mark Fisher. ¿Hay alternativa?

--Fisher describe la sensación generalizada de que el capitalismo no solo es el único sistema político y económico viable, sino que además resulta ya imposible siquiera imaginar una alternativa coherente a él. La tecnología es parte de ese paquete que no debe discutirse. Con el concepto de “realismo capitalista” también marca la diferencia entre lo que se supone que es el capitalismo y cómo se lo vive efectivamente. Un ejemplo es el de los call center: te atiende un bot, parece rápido, efectivo, pero lo cierto es que resulta casi imposible que ese bot logre resolverte algo mínimamente complejo. Es lo mismo que pasa con muchas de las tecnologías que te prometen mejorarlo todo: con las redes sociales vas a tener un montón de amigos, pero lo cierto es que tenemos una crisis de salud mental y soledad entre los jóvenes. O te dicen que vamos a tener más tiempo libre gracias a la practicidad del home banking, Google maps y los trámites online. ¿Dónde está ese tiempo que nos ahorramos? ¿Quién lo tiene? Yo veo a la gente cada vez más estresada. El mito del capitalismo es que dar un buen servicio mejora el negocio y eso no siempre es cierto. Hace poco se supo por un juicio contra Google que en un momento la empresa empeoró los resultados de las búsquedas a propósito, para que la gente buscara más veces y mostrarles más publicidades. El sistema de búsqueda de Google es casi un monopolio y ya pocos saben que existen otros buscadores. En ese caso, dar un peor servicio es mejor para el negocio. Muchos de estos modelos podrían servir para mejorar la vida de la gente, pero si la única variable es la económica, es muy probable que esa mejora no ocurra.

--Sus libros analizan la relación entre tecnología y sociedad. ¿Cómo ha cambiado esa relación en los últimos años?

--Las cosas van cambiando aunque las tendencias que se consolidaron ya estaban. Mi primer libro sobre el tema, Tensión en la red, de 2014, discutía sobre hardware y software libre y la posibilidad de la soberanía tecnológica frente al avance de las big tech. Argentina lanzaba satélites y Brasil discutía el marco civil de internet. En 2019 publiqué La jaula del confort para explicar los síntomas de que el modelo de negocios de las grandes corporaciones basado en Big Data permitía acceder a una suerte de inconsciente colectivo, como explica Byung Chul-Han en Psicopolítica: al acumular tantos datos, se sabe qué preocupa a la gente, con quién se relaciona, qué lee, qué le interesa, qué la hace actuar. Shoshana Zuboff dice que esos datos permiten hacer perfiles para saber cómo estimular a la gente para que haga determinadas cosas. Eso crea lo que llama “un mercado de comportamientos futuros” que se usa para vender cosas o para que la gente vote a alguien. El poder nunca es total, pero si tenés los datos, sabés quiénes son los influenciables y cómo reaccionan a distintos estímulos. Las redes son un gigantesco laboratorio para mejorar esas técnicas. Esa investigadora anticipaba el peligro de creer que los algoritmos de las aplicaciones eran inocuos para los niños. Y se decía que el que se oponía a eso no entendía a las nuevas generaciones. Ahora tenemos a Ofelia Fernández en su documental “¿Cómo ser feliz?” explicando que su generación está muy dañada por la lógica de los algoritmos que generan ansiedad, intolerancia al aburrimiento y contenidos que son un pésimo alimento cognitivo. Esos algoritmos buscan nuestros puntos débiles para atarnos a las pantallas y ubicar más publicidad. Esas herramientas son poderosas: se supo con el escándalo de Cambridge Analytica. Por otro lado no se entienden estos fenómenos solo por la tecnología. Claramente el contexto es determinante. Si la gente hubiera estado contenta con sus vidas y las instituciones, no habría votado a un Donald Trump que prometía patear el tablero, por más Cambridge Analytica que se contratara. Los algoritmos detectan influenciables y cuando la gente está furiosa, confundida y frustrada, es más manipulable.