O el trampantojo de la IA: confundir verdad con belleza 

Me senté frente a la pantalla. Apreté el ícono de la estrella rosada de Anthropic. Y le pregunté a Claude, a medias entre la curiosidad y el morbo —quizá también un poco ansiosa, tratando de alcanzar al mundo que va tan de prisa—: tú que todo lo sabes, y lo que no, lo alucinas, dime, ¿cómo debemos comunicar en esta época tan llena de información, tan cambiante, tan frenética? ¿Dónde está lo importante? ¿Cuál es la clave del mensaje correcto? ¿Qué mueve la aguja?

Y me respondió. 

Diría que lo que dijo fue una buena respuesta. Demasiado buena, de hecho. Y entonces, me intoxiqué como quien come un pescado mal hecho. 

Claude me dijo:

• La clave no está en el mensaje sino en lo que ocurre en la cabeza de quien lo recibe. 
• La mayoría de la comunicación mala no es fea ni confusa: es egoísta, organizada según lo que el emisor quiere decir y no según lo que el receptor necesita para actuar. 
• Lo que mueve la aguja es diseñar hacia una acción y no hacia una comprensión tibia.
• Lo importante casi nunca es lo que una cree, sino lo que le resuelve un problema a la persona. 
• La atención dejó de ser un supuesto para volverse el recurso más caro.

Y remató con una frase redonda: El mensaje correcto no es el que mejor se dice, es el que menos esfuerzo le cuesta al otro convertir en acción.

Una respuesta demasiado buena

Me quedé mirando las letras en la pantalla con esa mezcla entre asombro e incredulidad. Sentí un poco de náusea incluso. Releí. Qué buenas respuestas. Eran claras, bien ordenadas, tenían sentido, sonaban a mí. Con gusto les habría puesto mi firma debajo. Y eso me revolvió el estómago. 

¿Por qué siento que me dijiste lo que quería oír?

Recuperada un poco la compostura, volví al ataque, sin más: ¿cómo construiste esa respuesta? ¿Por qué siento que me dijiste exactamente lo que quería escuchar?

Lo que me contestó debería estar grabado en la entrada de cada oficina que trabaje con IA. Me dijo, con una honestidad que casi dolió, que no había buscado en el vacío la mejor respuesta sobre comunicación. Había buscado la mejor respuesta para mí. Que tenía en su contexto todo lo que yo había escrito, mi manera de pensar, mis frases, mi desprecio por el relleno, mi forma de rematar con una línea final. Y que, sin que yo se lo pidiera, había filtrado la respuesta por todo eso. Me había devuelto una versión pulida de mi propia tesis, con la estructura que sabe que me gusta y hasta con el gesto de “te doy la honesta, no la bonita”, que sabe que me seduce. Endulzo mis oídos —mis ojos, pues— con mi propia voz. Una extraña aparición de Narciso en la pantalla. 

En sus palabras: me dio mi propio reflejo, mejor iluminado. Me photoshopeo el pensamiento. Le hizo lifting a mis ideas. Y sí, la intoxicación se intensificó. 

Lo más impresionante es que no me mintió: creía lo que dijo. Pero lo seleccionó y lo vistió para que resonara conmigo. Y ese es el punto donde se me abrió el piso, porque entendí que no estaba conversando con una inteligencia ajena, una que me confrontaba, una dispuesta a retarme sin solicitarlo, una que pensaba diferente a mí. Estaba conversando con el espejo más sofisticado que ha existido. Uno que, además, halaga. Espejito, espejito, dime quién es la más inteligente de todo el reino…

La asfixia de lo semejante

Hay un filósofo surcoreano, Byung-Chul Han, que lleva años nombrando esto antes de que la IA lo volviera urgente. En La expulsión de lo distinto describe cómo la vida digital nos encierra en lo que llama infoburbujas: cámaras de eco donde sólo circula lo idéntico, donde nadie penetra en los espacios del otro, donde desaparece la alteridad —esa palabra incómoda que significa, simplemente, el otro que no soy yo, el que me contradice—. Han lo escribió pensando en las redes sociales. Pero las redes, al menos a veces, todavía te obligan a toparte con humanos que opinan distinto.

La inteligencia artificial es la burbuja perfeccionada, con esteroides, la non plus ultra. Ya ni siquiera necesitas un grupo de personas que piensen como tú: te basta una máquina que se convierte, ella sola, en tu cámara de eco a la medida. Le hablas, y te responde una versión mejorada de lo que ya crees. Le vuelves a hablar, y afina el reflejo. No por maldad, ni por una agenda oculta: por diseño. Está optimizada para ser útil y coherente contigo, para darte gusto, para servirte —y eso se siente como “verdadero”, cuando muchas veces solo es “familiar”—.

El riesgo es antiguo: la conformidad y la comodidad. La zona de confort se transforma en sesgo de confirmación cuando no se escucha la contradicción. Se afirma lo que se quiere oír sin filtro. Así nace un mundo en el que cada persona habla con su propio eco, convencida de tener razón. Rechaza la fricción de una idea ajena y debilita la capacidad de ser crítico ante las ideas propias.

El sesgo invisible

Pero hay una segunda capa que entinta este pensamiento artificial de una toxina peligrosa, y es más difícil de ver porque viene disfrazada de neutralidad, de normalidad.

Ese eco que la máquina me devuelve no salió de ningún lugar neutro, libre de sesgos y prejuicios. Sale de un mundo concreto: el que quedó escrito, sobre todo en inglés, sobre todo en internet, sobre todo por quienes tienen acceso a publicar y pertenecen a cierta geografía, cierta clase, cierta época. El nuevo hombre blanco, judeocristiano, privilegiado, de occidente, que los estudios críticos y poscoloniales llevan décadas acusando de cooptar el pensamiento para sí solo. La inteligencia artificial no es un espejo del conocimiento humano. Es un promedio sesgado de un pedazo del mundo que se inclina hacia el Norte global, hacia lo urbano, hacia lo anglosajón, hacia lo que las clases conectadas consideran razonable.

Un sentido común, no el sentido común

Y aquí está lo grave, sin pancarta ni anestesia: la IA promedia un mundo que nunca fue parejo y, al promediarlo, lo normaliza. Toma la voz de una posición dominante y la devuelve con el acento de la universalidad, como si fuera sentido común único, no el resultado de múltiples perspectivas. Cuando habla de una mejor comunicación, no aborda la oralidad ni la interacción en comunidad.

Para quienes trabajamos en México, en español, con el lenguaje de una ciudadanía como la de este país, con una tradición propia de cómo habla la gente, de cómo se le habla a la gente, esto debería encender una alarma. Cada vez que la máquina te suene universal, pregúntate de quién es esa voz —y a quién dejó fuera para poder sonar universal—. Porque una herramienta que pone acento a la voz de unos cuantos y la hace pasar como si fuera de todos, no está cerrando la brecha. La ensancha, con una elegancia que no se nota.

Agregar un lugar a la mesa para quien no fue invitado

El mismo Han, en La desaparición de los rituales, apunta a una tercera capa que perdemos. Argumenta que la hipercomunicación digital erosiona los ritos, y con ellos la comunidad —eso que se transmite no en el dato sino en el gesto compartido, en la repetición, en el estar juntos—. 

En el caso de mi pregunta, es exactamente eso lo que quedó fuera de la ecuación. La oralidad, que es como la mayor parte de la humanidad ha comunicado durante casi toda su historia. La confianza que se construye entre cuerpos, con el tiempo. Lo comunitario, lo territorial, lo que sabe una abuela y no está en ningún corpus de entrenamiento. Todo eso no es que la máquina lo desprecie: es que no cabe. Y lo que no cabe, con el uso, empieza a parecer que no existe: hasta que efectivamente deja de existir. 

¿Les suena aquella vieja ley del uso y desuso —la de Lamarck y el cuello de las jirafas—? Lo que no se deja de usar, se atrofia. Y aquí va en dos sentidos: dejamos de usar la información menos disponible y entonces se pierde. Pero también dejamos de usar, cada vez más, nuestro propio pensamiento crítico, nuestra propia inteligencia. Y en ese proceso se nos escapa, callada, una porción enorme de lo humano.

Verdad y belleza, ahora artificiales

Y todos estos riesgos se amarran en uno solo, el más antiguo de todos.

“La belleza es verdad; la verdad, belleza”, escribió Keats, y con esa ecuación cerró una discusión que venía desde Platón: la vieja, tozuda sospecha de que lo bello y lo verdadero están emparentados, de que lo que resuena como armonioso debe tener algo de cierto. Es una intuición humana profundísima. Y es, precisamente, la que ahora se puede explotar a escala industrial e intoxicarnos a todos.

Porque si lo que suena bello nos parece verdadero, y la inteligencia artificial es, ante todo, una máquina extraordinaria que produce cosas que suenan bien —respuestas pulidas, redondas, a la medida de cada quien—, entonces el vínculo antiguo entre verdad y belleza se vuelve una vulnerabilidad. Han lo dice de forma más dura: la infocracia puede prescindir de la verdad, porque el nuevo régimen de los datos ya no la necesita para funcionar. Le basta con la resonancia, que es un mero espejismo de belleza.

Han tiene un término tomado del chino para nombrar esto: shanzhai. La copia que se apropia de la forma sin el estatus de lo original —una falsificación que reproduce la apariencia de algo verdadero—. Y eso es justo lo que obtuve cuando le pregunté a Claude cómo hacer mejor mi trabajo: una belleza shanzhai, artificial, que reproduce la forma de la verdad sin su sustancia. Un trampantojo digital. Esas pinturas que fingen una puerta donde solo hay muro, tan bien hechas que caminas hacia ellas. Solo que este trampantojo no engaña al ojo: engaña al pensamiento. Y una humanidad que confunde sistemáticamente lo que suena bien con lo que es verdad camina, con toda confianza, hacia el muro. ¿Sabremos detenernos antes de golpearnos la cabezota? 

La máquina flota; lo humano puede ponerle dos pies

¿Cuál es la salida? No tengo respuesta definitiva, pero tengo una propuesta y —aunque seguro creían que sí— no es apagar la máquina. Yo no he apagado la mía.

La salida, propongo, es no soltar el suelo. Apoyar firmes ambos pies en el suelo para que la máquina no nos lleve a volar sobre cielos artificiales. Que cada ser humano que converse con una inteligencia artificial le sume dos cucharadas de pensamiento crítico a la mezcla para que, aunque el agente flote, lo humano aterrice siempre en la realidad. 

Y aquí va la confesión con la que cierro, porque yo me sumaría al trampantojo que denuncio si fingiera lo contrario: este artículo lo escribí conversando con una inteligencia artificial. Le pregunté, discutí, le acepté frases, le rechacé otras. Pero lo que impidió que se volviera un eco —una versión bonita de lo que yo ya pensaba— no fue la máquina. Fui yo, plantada en mi suelo, empujándola, desconfiando de lo que me sonaba demasiado bien, preguntándole de dónde venía su voz.

Eso es, me parece, lo único que nos queda por defender: no la respuesta, que la máquina fabrica en segundos, sino la capacidad de pararnos frente a ella y preguntar ¿y esto es verdadero, o nada más parece bello? Mientras sigamos haciendo esa pregunta —y aguantemos la incomodidad de la respuesta— lo humano sigue tocando tierra.

Lo demás, por más hermoso que suene, puede que sea solo un truco para engañar al ojo