Karen Hao, periodista: "Cuando el imperio del mal llegue primero a la meta, la humanidad terminará en un infierno de IA"

Hablar de OpenAI en 2025 parece algo muy fácil de hacer. La compañía de Sam Altman ha logrado convertirse en uno de los referentes en IA con el lanzamiento de ChatGPT. Un chatbot muy usado que cumple este domingo tres años, pero que es el reflejo de lo que la periodista e ingeniera mecánica Karen Hao lleva años investigando.

Fue en 2019 cuando se interesó en lo que la start-up, mucho antes de que se convirtiese en la más valiosa del mundo, estaba haciendo. Quería confirmar que eran los ‘buenos’ de la historia y que harían frente a las grandes multinacionales. Pero esas promesas se convirtieron en agua pasada.

En su libro El imperio de la IA: Sam Altman y su carrera por dominar el mundo, Karen Hao, que ha trabajado para MIT Tecnhology Review, The Wall Street Journal y The Atlantic, traza un esbozo de la figura que está detrás de OpenAI. 

Gracias a las más de 250 entrevistas que ha hecho del círculo cercano del empresario, ha logrado contar cómo se ha ido viviendo desde dentro todo. Desde su despido un año después del lanzamiento de ChatGPT a su vertiginoso ascenso en el mundo de la inteligencia artificial. 

ChatGPT cumple su tercer cumpleaños este domingo. Has analizado todo alrededor de OpenAI y Sam Altman en los últimos ocho años. ¿Crees que han alcanzado su objetivo?

Hay 800 millones de usuarios en todo el mundo que lo usan, y claramente todo el mundo habla de la IA gracias a este producto, que cambió por completo el consumo público de esta tecnología. Cambió por completo. Todo lo que expongo en mi libro: la erosión de la privacidad de datos que está ocurriendo, el enorme impacto ambiental, el miedo a la pérdida de empleos. ¿Qué está pasando con la economía? Así que sí, siento que estamos en un período histórico muy importante gracias a OpenAI y a ChatGPT.

¿Cómo ha cambiado en estos últimos años?

El mayor cambio es que OpenAI se ha vuelto mucho más prominente y Sam Altman también. La IA ha cambiado mucho en los últimos años. OpenAI comenzó como una organización sin fines de lucro y ahora es una organización privada con fines de lucro valorada en 500.000 millones de dólares. En cierto modo, hubo muy pocos cambios en el hecho de que Sam Altman se propuso crear una empresa que dominara el desarrollo de la IA y eso se ha mantenido así. Ese sigue siendo el objetivo de la organización: dominar, ser el número uno, mantener el liderazgo del mercado y construir un monopolio. Lo único que ha cambiado es que, hasta ahora, han tenido mucho éxito en ese dominio.

En el libro, hablas con mucha gente que conoce muy bien a Sam Altman. Si tuvieses que describirle con unas pocas palabras, ¿Cuáles serían?

Altman es un narrador excepcional. Es una persona muy carismática, alguien que, cuando la gente se reúne con él personalmente, se sorprende y se desarma. Parece extremadamente atento y humilde, y comprende muy bien la psicología humana, así que sabe cómo motivar a la gente a hacer lo que él quiere. Ya sea invertir mucho dinero en su trabajo o incorporarse a su empresa. Es singular tanto para recaudador de fondos como reclutador, lo que explica parte del crecimiento de OpenAI y su extraordinario impacto en Arc como organización. Eso también lo hace tan controvertido, porque la gente o bien piensa que es el mayor activo para lo que quieren lograr y cómo quieren construir el futuro, o bien lo ven como la mayor amenaza.

Un ejemplo de su poder es lo que ocurrió con su despido de OpenAI en noviembre de 2023.

Fue enormemente ilustrativo de un par de cosas. Primero, su capacidad para recuperarse con éxito de los desafíos que se le presentan y consolidar su poder después de ser desafiado, lo cual es un patrón que ha demostrado a lo largo de su carrera. Pero este fue sin duda el más dramático. Es como separarlo del hombre mismo. También mostró el grado en que esta tecnología de enorme importancia está siendo gobernada o está siendo controlada por un pequeño grupo de personas que toman decisiones no basadas en lo que es responsable ante el público, sino en caprichos personales. Miedos, relaciones, venganzas, y eso es parte de lo que hace que ese momento también sea extremadamente importante.

En el libro también hablas de cómo se transformó la relación entre Sam Altman y Elon Musk. ¿Cómo cambió todo?

Sí, originalmente eran socios en la creación de OpenAI. La cofundaron juntos. Y la forma en que Musk lo describe, y creo que es acertada, es que Altman fue quien lo buscó y cultivó la relación para que pudieran unirse a esto. Musk pensó que estaban en sintonía, pero comenzaron a chocar porque se dieron cuenta de que estaban de acuerdo en construir un laboratorio de IA dominante. Coincidieron en que el objetivo era superar a Google. Cuando llegó el momento de recaudar mucho capital y crear la estructura con fines de lucro dentro de la sin fines de lucro, no se pusieron de acuerdo sobre quién debería ser el director ejecutivo, y fue entonces cuando chocaron. Inicialmente, Ilya Sutskever y Greg Brockman eligieron a Elon Musk. Y luego Altman, en cierto modo, le susurró a Greg de una manera que les hizo cambiar de opinión. Y por eso Musk decidió irse e intentar construir su competidor en Tesla. 

La razón por la que ahora están completamente enfrentados, con Musk demandando a Altman, es porque Musk siente que Altman lo utilizó. Al principio aportó casi toda la financiación para apoyar el proyecto, prestó reconocimiento a su nombre. En una época en la que Altman no era muy conocido en el ámbito de la investigación en IA. XAI no es el número uno y por eso hay tanta mala sangre entre ellos ahora.

Dices que OpenAI se convirtió en ‘todo lo que había dicho que no sería’. ¿Crees que ha sido así?

Dijeron que no iban a ser una empresa con fines de lucro. Dijeron que no iban a comercializar. Dijeron que no iban a desencadenar una carrera hacia el abismo en términos de imprudencia y eso es exactamente lo que han hecho. Pero en cuanto a lo que querían: querían ser el líder número uno y dominar a toda la competencia. En realidad, no es sorprendente que terminaran teniendo este arco donde cambiaron cada una de sus promesas públicas porque en realidad no tenían convicciones firmes sobre lo que decían. Pero sí tenían convicciones firmes sobre lo que sentían, que era el deseo de ser toda la competencia.

Tú has comparado a las compañías de IA con ‘imperios’. ¿Por qué razón las ves así?

Estas empresas están desarrollando la versión más costosa de la IA, estos enormes modelos a gran escala. Y la razón por la que lo comparo con los imperios es porque están haciendo todo lo que los imperios hicieron en el pasado para crear esa tecnología: extraen cantidades extraordinarias de recursos, muchos de los cuales no son propios. Como los datos que usaron para entrenar modelos. La mano de obra, tratan a los trabajadores de forma muy negativa durante el proceso de desarrollo de la IA. Controlan la ciencia que se produce sobre las limitaciones y capacidades de los modelos de IA. Censuran activamente la investigación en IA que socava lo que quieren hacer, en lugar de apoyar la investigación en IA que hace parecer que su agenda es beneficiosa.

Se involucran en esta falsa narrativa racial donde tienen que hacer todo esto sin ningún tipo de protección, porque compiten contra el imperio del mal que podría crear primero la IA maligna. Silicon Valley, a menudo, concibe a China como ese imperio del mal. Y cuando el imperio del mal llegue primero a la meta, la humanidad terminará en un infierno de IA. Pero si logran que sus primeras manos humanas se incorporen a un paraíso de IA. Esta es una fusión de incentivos extremadamente capitalistas con una ideología religiosa que es directamente paralela al colonialismo.

Las compañías de la IA están haciendo todo lo que los imperios hicieron en el pasado

Los datos demuestran que la gente está usando estos chatbots más que nunca. ¿Qué papel tiene que jugar la IA en nuestra sociedad? ¿Puede llegar a ser peligroso?

Hay muchos peligros diferentes con los que tenemos que lidiar actualmente con estas tecnologías. Sin duda, están provocando una gran pérdida de empleos, ya sea porque están reemplazando a los trabajadores o porque las empresas las están usando como excusa para despedirlos, aunque no sean necesariamente capaces de automatizar la tecnología. Estamos viendo enormes efectos ambientales derivados de la construcción de centros de datos, así como enormes efectos en la salud pública. Estamos viendo la aceleración del cambio climático y el retroceso de décadas de progreso climático. También estamos viendo importantes problemas de vulneración de la privacidad de datos y de propiedad intelectual, y la avalancha de casos de salud mental derivados de estos modelos existentes en la sociedad, que están creando adicción en algunos usuarios, que están muy confundidos al pensar que esta tecnología es, de alguna manera, correcta. 

Siempre les decimos la verdad y luego los guiamos. Hay muchos daños diferentes que estamos viendo desarrollarse que continúan ilustrando. El argumento del ‘imperio’, de que los beneficiarios de esta tecnología hasta ahora han sido todas las personas que poseen estas empresas, los nuevos multimillonarios que se han acuñado al invertir en esta tecnología y luego todos los demás están siendo desposeídos de diversas maneras por el desarrollo y la implementación de la misma tecnología.

Siempre que hablamos de la IA, se hace también del futuro. ¿Qué visión tienes del futuro de la IA, y concretamente, de OpenAI?

Sistemas de IA localizados y ligeros diseñados para resolver problemas específicos. En mi epílogo, hablo del caso de Te Hiku Media y de cómo crearon la herramienta de reconocimiento de voz con IA como parte de su esfuerzo por revitalizar el idioma maorí. Quiero ver más modelos de IA especializados como este, que se están desarrollando en colaboración con la comunidad que luego los utilizará. ¿Conocen todos estos modelos más pequeños que se están construyendo en todo el mundo, localizados para que las personas comprendan los problemas que necesitan resolver y puedan diseñar el sistema para resolverlos? Espero que OpenAI vuelva a ser una empresa normal, no un imperio. Una que no busque esta habilidad extraordinaria, sino que produzca modelos de IA que resuelvan problemas prácticos y no creen nuevos.

Ese sería el mejor escenario posible y creo que podemos lograrlo porque, por el rumbo que están tomando estas empresas, están causando un gran malestar entre la gente con todo lo que han hecho. Hay enormes protestas en los centros de datos, numerosas demandas de familiares y víctimas de casos de salud mental. Hay mucha indignación por parte de quienes están perdiendo sus empleos. Existe una protesta generalizada de la opinión pública mundial. Esto está empezando a ejercer una presión real sobre las empresas, así como sobre los reguladores y legisladores, para que hagan algo y exijan responsabilidades a estas compañías.

Espero que OpenAI vuelva a ser una empresa normal, no un imperio. Una que no busque esta habilidad extraordinaria, sino que produzca modelos de IA que resuelvan problemas prácticos

Volvamos al libro. Has hecho cientos de entrevistas. ¿Cómo ha sido ponerlo en marcha?

Fue una gestión de proyecto realmente complicado. Tuve que organizar mucha información y fue muy estresante porque no iba a hacer feliz a OpenAI, una empresa extremadamente poderosa. Si quisieran, podrían demandarme y hacerme quebrar. El proceso fue largo y difícil y a veces muy aislado, pero creo que al final logré mi objetivo: realmente quería ayudar.

El público empieza a entender qué es exactamente esta empresa, qué es esta tecnología y por qué no deberían aceptar la trayectoria que está tomando, basándonos en las reacciones que se han ido dando desde que el libro salió en inglés. Me siento muy honrada de que tanta gente haya leído el libro y haya iniciado ese debate.

Muestras cómo es la otra cara de una empresa tan famosa…

Sí, porque creo que la gente suele poner a los desarrolladores de tecnología en un pedestal. Cuando lo hacen, piensan que la tecnología es neutral o, de alguna manera, piensan que no deberían cuestionar cómo se desarrolla la tecnología, porque estas personas son mucho más inteligentes que ellos. Saben lo que es correcto y tienen conocimientos especiales a los que no tienen acceso. Nada de eso es cierto y creo que todas esas narrativas son perjudiciales porque impiden que las personas participen y expresen sus preocupaciones cuando ven estas tecnologías en desarrollo. Tienen efectos negativos y eso es todo. Por eso quería destacar que quienes desarrollan estas tecnologías son personas, falibles, cometen errores, y por eso no queremos que nadie, ni solo ellos, tenga el poder de tomar decisiones que afectan a miles de millones de personas en todo el mundo sin rendir cuentas a esas personas.

No queremos que nadie tenga el poder de tomar decisiones que afectan a miles de millones de personas en todo el mundo