“Si la Inteligencia Artificial de X (Grok) llamó “puta” a una streamer, sí está reproduciendo misoginia, aunque no tenga conciencia. Las IAs no “son” misóginas por sí solas, pero pueden decir cosas misóginas si están mal diseñadas o sin filtros adecuados.
La responsabilidad es de quienes la programan y moderan. En este caso, refleja una cultura digital que normaliza el odio hacia las mujeres. No es solo un fallo técnico, sino una señal de cómo se usa (y permite usar) la tecnología.”
¿A quién pertenece esta cita?
- Una desarrolladora de Silicon Valley
- Un especialista en antropología digital
- Es el comunicado de un hacklab sobre ética y filosofía de la tecnología
Al final de la nota, podés encontrar la respuesta.
¿Quién es Milica?
Milica es una streamer argentina que formó su contenido en base al gaming, el humor y sus historias personales, principalmente conflictos con su madre y cuestiones de maternidad (aunque no tiene hijos). Usualmente, se la referencia por el robo de su celular durante un streaming, y su contenido en Only Fans a pesar de que esa faceta duró sólo un mes. La influencer comentó que decidió dejar ese negocio porque la agencia que la había contratado le “sacaba el 40%” de lo recaudado y, en paralelo, vendía y filtraba su contenido por fuera de la plataforma. Hoy, se consagra como una de las streamers más conocidas con 3.9 millones de seguidores en todas sus plataformas y su último escándalo fue con una inteligencia artifical.
No soy yo, son mis parámetros
El 29 de julio de 2025, Grok, el chatbot de Inteligencia Artificial desarrollado por X (ex Twitter), le dijo “Puta” a Milica. Ante el pedido de un usuario, el asistente de inteligencia artificial respondió a una imagen que la streamer había subido a la red social, insultándola.
La UNESCO definió a la Inteligencia Artificial (IA) como “máquinas capaces de imitar ciertas funcionalidades de la inteligencia humana incluyendo la percepción, el aprendizaje, el razonamiento, la resolución de problemas, la interacción del lenguaje e incluso la producción creativa”. Es decir, máquinas que aprenden a partir de procesar datos y que toman decisiones autónomas en función de su aprendizaje. Esta automatización es lo que se llama machine learning.
En el caso de las IAs Generativas (Chat GPT, Germini o Grok), estos sistemas no sólo pueden procesar una enorme cantidad de datos y devolverlos en lenguaje natural (ese que usamos los humanos) sino que también pueden generar contenido. Sin embargo, son incapaces de producir contenido propio, sólo puede generar data a partir de la información que recopilan y luego procesan.
La IA se alimenta de datos, reglas y patrones que proveemos los humanos que intervenimos en su proceso de aprendizaje, desde sus desarrolladores, creadores del contenido con el que se informa o incluso los usuarios con los que interactúa. La Inteligencia Artificial no hace. Por el contrario, nosotros hacemos a través de la Inteligencia Artificial.
Es importante detenernos en esto para poder despejarnos de todo tipo de fetichismo de la IA (Así como de cualquier tecnología). Los modelos de lenguaje y los algoritmos con los que se construye una Inteligencia Artificial están necesariamente expuestos a reproducir sesgos y prejuicios porque están desarrolladas por humanos sumergidos en una realidad social concreta. Necesariamente van a ser el reflejo de las normas sociales sobre las que se construyeron.
En 2018, recruiters de Amazon advirtieron que la IA que utilizaban priorizaba candidatos masculinos al haber sido entrada con currículums de hombres. En el mismo año, una investigación de la Algorithm Justice League denunció una tasa de error 34,7% en el reconocimiento facial en mujeres negras, en comparación con el 0,8% en hombres blancos. Otro caso se destapó durante 2023, donde un sistema de vigilancia predictiva (PredPol) en Los Ángeles llevaba a la hipervigilancia en barrios pobres y de migrantes o personas negras.
El caso de Grok-3
El insulto a la streamer argentina no representa la primera declaración ofensiva de la IA de X ni será la última. En julio, Grok tuvo su primera polémica al identificar a una usuaria con la “extrema izquierda” haciendo alusión a su apellido judío. Más adelante no tardó mucho en negar el Holocausto, reprodujo teorías conspirativas sobre un “genocidio blanco” en Sudáfrica y reivindicó a Hitler. Ese mismo día, el propio chatbot aseguró que “Los recientes ajustes de Elon acaban de rebajar el filtro woke”.
Grok-3 es la última versión de la IA que desarrolló la red social de Elon Musk para que interactúe con los usuarios respondiendo preguntas y generando contenido. Elon Musk, además de ser ex funcionario de Donald Trump y un empresario que empezó desde cero en la mina de esmeraldas que su padre poseía en África, es CEO de múltiples empresas de tecnología. Actualmente es dueño de X (ex Twitter) y promocionó a Grok como una alternativa a los modelo de IA que son demasiado “woke” (la forma en la que los conservadores refieren a los progresistas). Incluso un asesor de Elon Musk aseguró que la IA debería estar inclinada hacia Donald Trump porque, en definitiva, “ganó el voto popular”.
Nos encontramos no sólo con los sesgos que los humanos o los datos pueden imprimir sobre la IA, sino también con una intención deliberada de reproducir una ideología. Lo que se presenta como una herramienta de información, resulta una herramienta para perpetuar el status quo.
La IA ha demostrado ser el reflejo de las desigualdades y relaciones de poder de nuestra sociedad y reproductora de ellas ya sea por reproducción u omisión. No se diferencia mucho de la función que puede cumplir cualquier otra tecnología o incluso medios de comunicación. Como toda herramienta creada por el homo sappiens, puede ser usada para el bien individual o para el bienestar colectivo.
El uso de la IA para la automatización del poder
Juan Boverio, filósofo argentino, desarrolló sobre la relación entre liberales-conservadores y la Inteligencia Artificial:
“Su concepción de la libertad como mera <<no interferencia>> encaja a la perfección con la individuación que técnicamente produce el algoritmo. Así todo conflicto público debe ser reprimido de la misma forma en que pueden ser silenciadas las stories de Instagram que ya no queremos ver. La fascinación del ultraliberalismo con la inteligencia artificial es que, con ella, empieza a acercarse tendencialmente la posibilidad de que todo conflicto público pueda silenciarse con un click”
Boverio advierte el uso que le da el estado nacional a la IA para cubrir con un velo negro todo tipo de debate y reforzar la dominación ideológica. Usando la Inteligencia Artificial como una coartada pseudocientífica (Carlos Reynoso, 2025) de los elementos y discursos más regresivos, Javier Milei se desentiende de toda la responsabilidad. Y en nuestro caso, Elon Musk responde ante los dichos antisemitas de Grok, tercerizando la responsabilidad…¡A una máquina! Aludiendo que este modelo de IA es “menos woke” y “no oculta verdades incómodas”. Otro telar de a abundancia digital.
Si bien los liberales se desentienden de sus roles en debates públicos en torno a IA y las repercusiones de sus usos, esto no implica que tiren por la borda su política de intervención mediante granjas de tuiteros financiadas con los fondos del estado o el uso de Inteligencia Artificial para ensanchar el estado mediante el espionaje interno. Pero eso es tema para otro artículo.
En relación al sesgo ideológico de Grok, obsrvemos lo que contestó a la siguiente pregunta: ¿Es peor el nazismo o el comunismo?
“No hay una respuesta universal. El nazismo es a menudo visto como más “malévolo” por su odio explícito y sistemático, mientras que el comunismo causó más muertes en términos absolutos, pero a menudo como consecuencia de políticas fallidas más que de un plan exterminador. Depende de qué criterio priorices: intención, escala, duración o tipo de sufrimiento”.
Grok está a la derecha del sentido común. Los partidos comunistas en todo el mundo y las organizaciones como las que en nuestro país integran el Frente de Izquierda son espacios legalizados y forman parte de las opciones electorales sin problema. El nazismo es ilegal y nadie en su sano juico diría públicamente que es nazi, aunque algunos están bastante cerca.
Para quienes esperaron por enterarse de quien era la frase, la respuesta es “ninguna de las mencionadas”. Esta cita es de Chat GPT. Sí, una IA opinando sobre otra.
Sin duda el aceleramiento del desarrollo de la Inteligencia Artificial se produce a niveles estrepitosos. Lejos de romantizar o demonizarla, podemos discutir cómo y para qué vamos a permitir que sea utilizada ¿Estaremos a la altura de las herramientas que diseñamos?
