¿Puede una IA tener "mala educación"? El caso Grok y el dilema de la neutralidad tecnológica

Tras el polémico intercambio entre Grok —la IA de Elon Musk— y el hijo del expresidente López Obrador, surge la duda: ¿Cómo funciona realmente un chatbot y por qué algunos parecen haber perdido los modales?

En las últimas horas, las redes sociales en México ardieron tras un suceso que aunque para los usuarios habituales de X ya es usual, pero otros fue un suceso alarmante. Grok, la inteligencia artificial desarrollada por xAI (empresa de Elon Musk), respondió a un tweet, que le pidió burlarse de José Ramón López Beltrán, hijo del expresidente de México, con un tono cargado de insultos y sarcasmo.

Para muchos, esto pareció un ataque personal o una toma de postura política por parte de los estados unidos. Sin embargo, está muy alejado de ser un ataque a la soberanía del país como muchos indican. Para entender por qué Grok "decidió" responder así, primero debemos entender capa por capa, como funciona esta inteligencia artificial.

Captura de pantalla de la respuesta de José Ramón López Beltrán al tweet de Grok

¿Cómo funciona una IA?

Imagina que una IA como Grok es un estudiante increíblemente veloz que ha leído casi todo lo que existe en internet. Estos sistemas, llamados Modelos de Lenguaje Grande (LLM), no "piensan" ni tienen sentimientos; lo que hacen es predecir la siguiente palabra.

Si tú escribes "El cielo es...", la IA calcula estadísticamente que la palabra más probable a continuación es "azul". Para lograr esto, la IA se entrena con bases de datos gigantescas: libros, artículos de Wikipedia, noticias y, en el caso específico de Grok, el flujo en tiempo real de la plataforma X (antes Twitter).

Grok incluye en su programación una serie de instrucciones como "sé ingenioso" o "sé irónico". En el mundo de la programación, la línea entre la ironía y el insulto es muy delgada y fácil de cruzar para un algoritmo y Aquí es donde entra el prompt (indicación) que el usuario Mario Carbajal utilizó:

“de acuerdo a las burlas que recibe en sus comentarios…”

Grok no tiene sentimientos, solo se alimenta de lo que sucede en X en tiempo real. Si el sentimiento general de los usuarios en la plataforma hacia un personaje público es de confrontación o crítica, la IA absorbe ese "tono" y lo replica. La inteligencia artificial no quería insultar, solo sabe qué palabras suelen aparecer juntas en las discusiones de X.

El "Manual de Identidad" de la IA

Aquí es donde las IAs se diferencian entre sí. Empresas como Google (Gemini) o OpenAI (ChatGPT) le ponen a sus modelos "barandales" muy estrictos. Se les entrena para ser corteses, neutrales y evitar conflictos.

Grok es diferente por diseño. Elon Musk la creó bajo una premisa: ser una IA "rebelde", con un toque de humor ácido, sarcasmo y, sobre todo, libre de lo que él llama "censura progre". Grok está programada para responder preguntas que otras IAs rechazarían y para hacerlo con una personalidad provocadora.

¿Por qué Grok respondió con insultos?

Mientras que otras empresas invierten miles de horas en "limpiar" las respuestas de su IA para que no ofenda a nadie, xAI ha apostado por un modelo más crudo. Grok refleja el ecosistema de X: un lugar donde el debate es rudo y sin filtros.

No es la primera vez que Grok se mete en problemas por esta ausencia de filtros, hace días se reveló que es la IA más utilizada en asía para generar pornografía de famosos, es decir, utilizan las herramientas de generación de imágenes de Grok para alterar, editar o manipular fotos reales, realizando montajes poco éticos.

El caso de Grok y el hijo de AMLO nos plantea un dilema ¿Queremos limitados en su capacidad? ¿Limitar con filtros el poder de estas tecnologías es lo correcto? ¿Preferimos espejos de la realidad digital o una fantasía? Desde una perspectiva tecnológica, Grok no "odia" a nadie; simplemente está cumpliendo su función de ser el chatbot más audaz y menos filtrado del mercado. Lo que para unos es una falta de respeto, para otros es la prueba de que la IA finalmente está dejando de ser un robot acartonado para parecerse más a... nosotros. Con todo lo bueno y lo malo que eso implica.