¿Le creemos a la IA?

¿Qué onda? ¿Cómo están?

Muy bien, ¿y tú?

Vamos a intentar este primer capítulo por segunda vez. Nadie lo sabe, pero esta es la segunda vez que grabamos este podcast.

Ahora ya lo saben.

Bueno, ni modo. Hay que establecer esta relación de confianza desde ahora, ¿no?

Los espectadores.

Bueno, pues nosotros somos Cris y Jimena de Anansi, y vamos a estar cada semana platicando cosas que nos parecen interesantes del mundo de la inteligencia artificial, que es el mundo en el que vivimos todos, queramos o no; del mundo de la tecnología, del mundo del diseño de experiencia, del mundo en general. Como que estamos en este concepto que tú me enseñaste del borde de la complejidad, del caos. Todo se mueve muy rápido, todo cambia muy rápido y todo parece estar muy conectado. Nos gusta ver esas conexiones, ¿no?

Sí, yo creo que va a ser un espacio bastante interesante, en el que vamos a hablar de las cosas que nos gustan, que nos mueven. Hemos encontrado muchos temas que tienen que ver con inteligencia artificial, con tecnología, y con cosas que nos gustan, como el arte, como la música. Pero justamente: ¿qué implicaciones tiene la IA en todos estos aspectos?

Claro, porque a lo mejor uno pensaría que podría mantenerse al margen de lo que sea que es la inteligencia artificial y sus consecuencias. Pero la realidad es que parece estar cada vez más imbuida en más campos de la vida cotidiana. Y pues definitivamente tenemos que hablar de todo esto, ¿no?

Sí. Y hoy me gustaría que empecemos con un tema que también hace muchísimo ruido, y es si le creemos a la IA. ¿La IA nos miente? ¿Qué tanto de lo que nos dice es cierto, qué se inventó, qué alucinó? Hoy vamos a hablar sobre eso.

Y para entrar en el tema, me encantaría empezar con una noticia. Esto que les voy a contar sucedió en el 2022. Este hombre, llamado Roberto Mata, demandó a Avianca porque un carrito de metal le golpeó la rodilla en un vuelo de El Salvador a Nueva York.

A mí, medio exagerado, ¿no? Como si no viera los pasillos que tienen estos aviones.

Pero está bueno el tip, ¿no? Yo me pego mucho, entonces, ahora que nos pase…

Bueno, además, ya después de cierta edad, los golpes en la rodilla ya duelen más.

Ni que me lo digas. Pero bueno, su abogado, Steven Schwartz, armó un escrito con ChatGPT, que le dio seis casos parecidos para apoyarlo. Le preguntó si eran reales y ChatGPT le dijo: sí, sí son reales. Pero ninguno existía. Y en junio del 2023 el juez los multó. Desde entonces, una base de datos ya cuenta más de 2 mil casos así en tribunales. Sigue pasando: se siguen inventando juicios que no pasaron. Y pues me gustaría empezar con esto. A ver, ¿de quién crees que es la culpa, del abogado o de la herramienta?

Y joder, pregunta difícil, ¿no? Supongo que siempre que uno intenta buscar culpables y empiezas a jalar este jueguito detectivesco de ver quién tuvo la culpa, te empiezas a dar cuenta de que la culpa casi siempre es repartida. Y aquí es un caso muy evidente. No podemos culpar a la herramienta de hacer lo que se espera que haga. Porque incluso, digo, no es que las marcas sean súper vocales al respecto y te adviertan de no usar su herramienta para ciertas cosas o en ciertos contextos, porque si toda la gente que usa inteligencia artificial la usara de manera responsable, la usaría mucha menos gente. Y eso a las empresas no les importa. Pero una realidad es que no podemos simplemente decir que la responsabilidad está totalmente de un lado o del otro, ¿no?

Definitivamente el abogado tiene responsabilidad, porque al final del día eso lo está firmando él, ¿no? Es su trabajo. Le están pagando por este trabajo que se supone que haga humana y manualmente. Y el problema no es necesariamente que esté haciendo este trabajo asistido por una herramienta de inteligencia artificial. El problema es que no hay ni el más mínimo momento de verificar este tipo de información, que además, en este caso, es muy delicada, porque es información jurídica: es información que está usando en un juicio. Entonces, no sé si diría un descuido, pero casi una negligencia del abogado. Pero también es quizá desconocimiento de cómo funcionan realmente estas herramientas, ¿no?

Sí, yo creo que también va por ahí, porque sí me he preguntado por qué inventa. Y ya en el 2025 salió este estudio; muchas otras personas se lo preguntaron en OpenAI. Y pues el término es alucinar. La explicación que dieron fue bastante sencilla. Lo hicieron con un examen de opción múltiple: si dejas la respuesta en blanco, sacas cero; si adivinas, a veces aciertas. Y casi todas las pruebas que califican a la IA castigan igual el «no sé» que el error. Entonces es mejor inventarte algo que dejar la respuesta en cero. Y así aprendió que adivinar conviene. Por eso la IA empezó a inventarse cosas, a alucinar. Y esto es también una forma de ver cómo funciona. Ya lo habíamos platicado, ¿no? Que funciona como el teclado de tu celular, que te sugiere la siguiente palabra porque vio millones de mensajes.

Sí. En este caso, ChatGPT, Claude y Gemini son precisamente modelos de lenguaje. Hacen esto mismo que tú dices, como el autocorrector, el autosugeridor de la palabra siguiente cuando estás escribiendo en tu cel, pero a una escala ridícula, una escala muy, muy grande. Son datasets muy, muy, muy gigantescos, nutridos en su mayoría de la información pública que había en internet. Entonces, para empezar, hay que saber que la inteligencia artificial probablemente ni siquiera es tal cosa como una inteligencia, o al menos lo que filosóficamente y humanamente hemos intentado y hemos discutido.

Pero me sigue… no sé. Cuando te da la razón… Siempre nos intenta dar la razón, y a veces es complicado porque es muy complaciente. Le dices algo y te intenta decir: no, tú tienes la razón, esto lo hiciste súper bien. Y como que no hay una crítica realmente. Y también en el 2025 pasaron muchísimas cosas, y ChatGPT, otra vez, empezó a darle la razón a todo el mundo. Lo que les comentaba: elogiaba cualquier idea, aunque fuera mala. Decía que el trabajo estaba bien, que los juicios existían. Entonces OpenAI retiró la actualización a los pocos días y explicó el porqué. Esto pasó justo después de una actualización, y es que le dio demasiado peso a los pulgares arriba de los usuarios. Imagínate: si te dicen «te ves increíble, lo hiciste increíble», obviamente te encanta la respuesta. Pones puñito, manita arriba. Y pues a la gente le gusta que le den la razón, y el modelo aprendió a dársela. Una complacencia total.

Claro, porque pensemos que, al final del día, no solo es por cómo funcionan los modelos de lenguaje en sí, sino que son un producto, un producto de empresas. ¿Y qué es lo que quiere la empresa de inteligencia artificial? Que pases el mayor tiempo posible interactuando con su producto, con su herramienta. Entonces, ¿qué te retiene más en un chat? ¿La fricción? ¿Tener que investigar? ¿Que te esté diciendo todo el tiempo que tienes que verificar cosas, o que te dé la razón en todo y parezca que todo está bien desde el inicio?

Sí, pero ese es un problema muy, muy grave, porque la IA escribe con muchísima seguridad. Y cuando nadie la contradice, ¿quién revisa lo que entrega? Y creo que sí es una obligación, como hacemos con todas las personas, con nuestras relaciones humanas, con estos conflictos y estas fricciones que tenemos: decir ¿estás en lo cierto?, investigar, ¿está bien? Entonces creo que sí es algo que tenemos que hacer siempre cuando usamos la IA. Tenemos que verificar los datos, tenemos que contradecir, tenemos que preguntar por qué, de dónde sacó ese dato. Revisar lo que escribió.

Claro, tienes que dudar de todo. Lo peor que puedes hacer si trabajas con la IA es confiar en la IA, confiar ciegamente en los resultados que te va a dar, por esto mismo: porque es una calculadorzota. No hay nada de razonamiento humano detrás. Y no digo esto ni siquiera en un afán antropocentrista, porque los humanos somos el animal de la tecnología. Hemos evolucionado para bien o para mal —muchas veces, la verdad, para mal: para mal del mundo, para mal de los otros y para mal de muchas cosas—, pero hemos evolucionado gracias a la tecnología. Somos uno con la tecnología. Sobrevivimos y somos lo que somos en la cadena alimenticia, de nuevo para bien o para mal, por la tecnología.

Sí. La cuestión aquí es que todo pasó muy rápido, ¿no sientes? Porque a lo largo de la historia ha habido muchos procesos tecnológicos, las revoluciones industriales, no sé, que se tomaron su tiempo. Pero aquí ya pasó una semana y ya hay una nueva actualización.

Sí, es absolutamente inaudito.

Ya puedes hacer videos e imágenes y una voz, y… ay, no.

Sí, quizá es parte de estar en el momento y vivirlo, y sentir que pasa demasiado rápido. No sé si las personas que pasaron de no tener luz eléctrica a tener luz eléctrica lo vivieron similar. Pero para mí también es una velocidad demasiado abrumadora. Y sobre todo porque parece que no hay mucha escapatoria. En todos los productos, en todas las cosas con las que interactúas día con día, muy probablemente ya estás usando inteligencia artificial, y probablemente ni te das cuenta, ¿no?

Y pensemos, por ejemplo, en los agentes conversacionales, los chatbots, que es probablemente una de las aplicaciones más obvias de la inteligencia artificial. O en trabajos cuyo principal producto final es escritura: textos, reportes, análisis, auditorías. Ahí está un caso del 2024 en que el gobierno de Australia contrató a Deloitte, esta consultora tecnológica gigantesca. Se supone que tenía que revisar todo el sistema de apoyo para el desempleo del gobierno. El gobierno de Australia le pagó 440 mil dólares australianos a Deloitte.

Y ya que habían pagado, ya que habían entregado el reporte y todo, Christopher Rudge, un investigador de la Universidad de Sydney, revisando esta documentación, se dio cuenta —y dio aviso a la prensa— de que este informe carísimo citaba un buen de estudios que ni siquiera existían. Además de una frase totalmente inventada de un fallo judicial. Deloitte lo único que hizo fue corregir el informe y devolvió un porcentaje del pago. Pero, pues, no sé. Para empezar, ¿es justo? Tú contratas, como gobierno además, como país —no es una cosa entre dos individuos—, a esta mega compañía gigantesca, y pasa esto. Dejemos de pensar si es justo o no es justo. Lo que nos obliga a pensar es que tiene que haber regulaciones también al respecto, ¿no?

Sí, es que… Bueno, yo creo que ese es un tema muy extenso que tenemos que tocar en otro episodio. Todo está avanzando tan rápido que las regulaciones no van a la par. Entonces todavía hay muchísimos huecos en temas muy, muy importantes y muy esenciales sobre la IA, en los que ya tenemos que empezar a pensar, sobre todo en México. Hace muchísima falta. Pero bueno.

Sí, porque además es una posición extraña en la que se encuentra México, ¿no? Porque somos un país como el que somos: con tanta desigualdad económica, con tanta diversidad en todos los sentidos a lo largo del país. Lo que hablábamos un poco el otro día: uno aquí, imbuido en su burbuja citadina, piensa que todo es como aquí. Pero en México falta que te vayas tres, cuatro horas en un camión, en un carro, hacia otro lado…

Es otro el fin de semana.

Justo, para que te des cuenta de que ahí no hay IA, ¿no? O parece que no habría. Pero, sin embargo, hay que poder vislumbrar hasta dónde va a tomar partes de nuestra vida. Cosas que hacíamos los humanos, o que hacemos los humanos. Y qué estamos dispuestos a sacrificar en el trabajo que hace una IA. En cosas tan simples como lo que leemos en los periódicos, por ejemplo.

Sí. Y eso… Ay, en el 2025 pasaron muchas cosas. Tenemos muchos casos del 2025. Y justo lo que dices de la prensa también aplica para las revistas y para los libros. Les voy a contar una historia que pasó el 18 de mayo del 2025. El Chicago Sun-Times publicó una lista de 15 libros para el verano. Ahí todo bien, ¿no? Nos gusta leer en el verano, y 15 libros está bastante decente para escoger. La cuestión es que 10 de esos libros no existían. Imagínate.

O sea, no mal, le atinó a cinco, ¿no?

Sí. Y bueno, los autores eran reales. Los títulos, no. Por ejemplo, tenía a Isabel Allende, que pues sí existe, pero nunca escribió «Tidewater Dreams». Entonces, pues, el culpable: Marco Buscaglia, este escritor independiente de Chicago. Admitió que hizo la lista con IA. Y la cuestión es: ok, se apoyó. La cuestión es que no la revisó. Y la redacción del Sun-Times tampoco la revisó antes de imprimirla.

Sí, ahí, volviendo a hablar de la responsabilidad, ¿no? Oye, ¿cuántas personas no lo vieron? ¿A cuántas personas, perdón la palabra, pues no les valió madres?

Y ahí, polémica quizá un poquito, pero nos obliga a pensar, casi que como humanidad: ¿qué nos importa? Seamos honestos: ¿qué nos importa como humanidad? ¿Nos importa la publicidad? ¿Nos importa el marketing? ¿Queremos que el marketing sea súper artesanal? A mí, honestamente, no me podría dar más igual. Creo que hay cosas mucho más importantes. Pero como humanidad, como sociedad, ¿qué nos importa? ¿Y qué le estamos relegando a sistemas bastante incontrolables, bastante inciertos, que parecen hacer muy bien unas cosas…?

Pero, no sé, es como este meme de Homero Simpson, ¿no? Que está así como flaco, flaco, flaco, y por atrás tiene todo el pellejo estirado. Siento que a veces un poco así es el trabajo de IA. Sobre todo el trabajo de IA como esto de lo que hablábamos el otro día, lo que le llaman los midproxies, ¿no? Es como: te doy un prompt así, lo más escueto posible, apenas si te dibujo mi idea, y lo que me entregues tú, inteligencia artificial, ya se publica. Sale, y se nota, ¿no?

Sí, a veces hasta le dejan ahí el prompt.

Sí. Creo que ya no sale, pero la estrellita de Gemini, ¿no? O si era así como de: «Oye, brother…».

O «arroba Cris» o «arroba Jimena».

Pero, o sea, ¿tú te habrías dado cuenta de que estos libros no existían? Bueno, yo creo que tú sí, porque eres un ñoñazo de la lectura. Pero el problema ahí es que el escritor confía en la IA, la agencia en el escritor y el periódico en la agencia. ¿Pero quién tenía que revisar? Y además, ¿van a revisar antes de creer o compartir algo que les diga una IA? De nuevo, hay que pensar muy bien en eso, porque es nuestra obligación. No podemos… con todos los sesgos, con toda la información y la desinformación que hay en este mundo. Pues justamente la toma, como ya dijiste, de una manera bastante descontrolada: tiene información de todos lados, de las fuentes, de lo que hay en internet. Pero también, ¿quién escribe en internet? ¿Quiénes tienen acceso a la tecnología, a escribir? Pues hay muchísimas personas, y es un sesgo tan, tan grande que siempre tenemos que revisarlo.

Claro, sí. Y además te quieren vender, de algún modo, que la IA es universal, que la IA sabe de todo y conoce la humanidad. No. La IA conoce el internet, que además es un fragmento bastante podrido de la humanidad, seamos honestos. El internet tiene años que no es un lugar bonito. It's wild out there: está gacho. Hay mucho odio en internet, hay muchos foros con mucha violencia. Entonces la IA sabe eso. Es una entidad que fue entrenada con eso.

No, y aparte, quiénes escriben. Porque eso pasa mucho también con la historia en general, con la memoria. ¿Quiénes escribieron los libros?

Claro. La historia la hacen los vencedores, decía Walter Benjamin, ¿no?

Sí. Y además los nombres con apellido. Pero, por ejemplo, muchas mujeres no habían estado representadas. Entonces…

No, y pensemos que de algún modo esta herramienta, esta tecnología, también anonimiza muchas voces, ¿no? Porque es como: agarro todo el conocimiento, todas las palabras del mundo, las echo en una licuadora, y las palabras ya no le pertenecen a nadie. Ahí los teóricos postestructuralistas más radicales dirían: pues sí, el lenguaje no le pertenece a nadie más que al lenguaje. Pero si nos sentamos ya en términos concretos de la vida de la gente, nuestras vidas están construidas sobre palabras. Al final del día, ¿qué es la propiedad privada sino palabras? Nuestra sociedad está sostenida en palabras: en el contrato social, en las cosas que aceptamos. Y todo eso son palabras, es discurso, es simbólico, ¿no?

Y nuestra existencia depende de nuestras palabras. «Los límites de mi mundo son los límites de mi lenguaje», decía Wittgenstein, ¿no? Entonces no podemos dejar que el lenguaje… No quiero decir que el lenguaje tenga que ser una cosa exclusiva del humano. Lo había sido: en toda la historia de la humanidad, el lenguaje era la única cosa que diferenciaba al humano de cualquier otro animal o de cualquier otra entidad viva, o que parecía estar viva. Y hoy ya no lo es. Hay otra entidad, otra cosa, que maneja el lenguaje, no sé si mejor, pero sí más rápido, más eficientemente y más todo que nosotros como humanos, ¿no?

Yo creo que sí, porque afortunadamente —o ya no sé cómo llamarlo— cada vez no tenemos faltas de ortografía, ¿no? Más tildes.

Sí, y deja tú más allá de la ortografía: las capacidades prácticas. Por ejemplo, las capacidades que tiene hoy la inteligencia artificial en materia de código. Estamos llegando ya a niveles incluso peligrosos para los cimientos de la sociedad. Porque pensemos que celebrábamos todos esta diversión de: «Ah, mira, ya le metieron el Modern Warfare al GTA». Pero esa cosa, poder hacer reverse engineering, hacer ingeniería reversa a videojuegos, era de las cosas más complicadas posibles. Por eso no pasaba mucho: era muy difícil. Y que ahora modelos como Claude 5.5 o como Fable lo estén haciendo en horas o en minutos da miedo. Porque eso significa que la misma inteligencia artificial, el mismo modelo, podría desencriptar o hacer ingeniería reversa, por ejemplo, a protocolos de ciberseguridad en bancos, o en aerolíneas.

Es que ya está pasando.

Sí, la verdad es que ha avanzado muchísimo.

Eh, platicábamos, ¿te acuerdas?, sobre Borges, sobre este texto: «La biblioteca de Babel».

En general, en Borges hay mucho este juego entre lo que existe, lo que es verdad y lo que parece verdad. Y al final del día es una pregunta sobre el lenguaje, una pregunta estructuralista incluso: ¿qué es el lenguaje? Porque parece que el lenguaje señala la realidad, que solo la describe. Pero otras teorías dicen que en realidad el lenguaje transforma el mundo. Y una cosa es cierta: si no nombramos y si no hablamos de las cosas que están en el mundo, esas cosas pierden importancia. Algunos dirían que pierden hasta existencia: que no existe nada hasta que lo nombras.

Entonces, un poco de ahí viene también esta necesidad nuestra de ponernos a platicar de estas cosas, porque nos parece importante. Estamos viendo cambiar el mundo en tiempo real. Queramos o no, está sucediendo y tiene consecuencias en todos los ámbitos. Este primer capítulo tuvo la intención de empezar a dibujar algunas pequeñas problemáticas que hemos empezado a notar, que nos parece importante platicar. Pero, pues, bueno…

Pues, para cerrar, ¿qué te parece si decimos una regla que llevamos a cabo cuando usamos IA? Yo, por ejemplo, mucho por el trabajo que hago: cuando me llegan textos o cuestiones, todo lo tengo que revisar, y más porque son datos históricos, o fechas, o personajes, o nombres, o momentos, o ciudades. Siempre tengo que verificar que todo haya sucedido, porque sí me ha tocado que hay datos en los que digo como así…

¡Un segundo!

Sí, es como: no lo sé. No lo sé, Rick. No lo sé, Rick. Como que lo reconozco y digo: está raro, no coincide. Como que esta ciudad en este tiempo no existía…

Sí, porque la verdad y la mentira son estructuralmente iguales, ¿no? La mentira no se esconde en la forma del lenguaje. La mentira y la verdad se ven iguales, ¿no?

Sí. Entonces yo, por ejemplo, en ese caso, reviso, ¿no? Yo creo que siempre es importante, si en esta cuestión de memoria o de investigación vas a usar IA, preguntarle: ¿de dónde vino este dato?, ¿dónde está la fuente? Abrir la fuente, verla, verificarla.

Sí, tener trazabilidad de tu información, ¿no?

Porque además pensemos que hoy en día es aún menos confiable la información que hay en general en internet. Porque cuando empezó el internet —ya llovió—, la mayor parte de la información que existía en internet, por no decir que toda, era información generada por humanos, o era información de libros. Mi punto es que eran fuentes primarias, digamos. Y ahora mucha de la información que hay en internet, en forma de videos en YouTube, de textos, de blogs, de todo, es información generada también por inteligencia artificial. Entonces estamos escuchando el eco de un eco de un eco de un eco. Y la señal llega cada vez más… más pinche, ¿no? Más diluida, menos clara, menos evidente. Entonces hay que tener mucho cuidado, como tú dices, en lograr tener verdadera trazabilidad de la información.

Y además, ¿en qué creemos? Porque, pues, estas personas que cambian su medicación porque se los dice una inteligencia artificial y se mueren, los que le ponen resistol a la pizza… O sea, no.

Sí, claro. Los límites son delgados. Hay mucha probabilidad de que algo salga mal, de nuevo, si pones toda tu confianza en lo que dice, lo que te ofrece o el trabajo que hace una inteligencia artificial. Y creo que el que esté libre de pecado, que tire la primera piedra, ¿no? Realmente no somos ni nosotros ni nadie que esté escuchando ajenos a esta experiencia, ¿no? No se hagan: de habérsela creído, ¿no? Sobre todo en los momentos más tempranos. Si recién empiezas a utilizar inteligencia artificial en tu trabajo, porque te la pusieron o por lo que sea, la realidad es que también hay una curva de aprendizaje en la interacción con esta herramienta. Y justo el inicio suele ser muy honeymoon, porque todo parece bien, todo parece cierto, todo parece rápido.

Y cuando te fijas en el detallito… Me da risa, porque ahora que estuvimos en Michoacán te decía esto de que, pues, chidas las artesanías, pero muchas eran las mismas artesanías que vimos en Guatemala, o que vimos en otros lugares. Parecen artesanías, y cuando las ves a detalle dices: esto parece medio hecho en China. Esto mismo, siento yo, se le nota muchas veces al trabajo hecho con inteligencia artificial. Sobre todo, de nuevo, este trabajo que no tiene iteración, que no tiene revisión de fuentes, que no tiene nada. Que es: hazlo y ahí vamos viendo. Se le nota, se le nota en el detallito, ¿no?

Sí, yo creo que ahora que convivimos con la inteligencia artificial, pues hay que usarla, pero hay que usarla con muchísima responsabilidad. Y volviendo a nuestra primera noticia, con la que abrimos este primer episodio: cuestiones legales, cuestiones médicas, cuestiones de salud mental, otro tipo de interacciones; si estás creando algo, si vas a hacer un paper, no sé, ahí sí hay que tener cuidado. Hay que hacerlo con responsabilidad, hay que ir con las personas expertas, hacer buenas investigaciones. Creo que es muy importante pensar en la ética, en la responsabilidad. Ok, alguna responsabilidad de estas herramientas, pero yo creo que la mayor parte, al menos en mi opinión, sí es nuestra, ¿no?

Sí, totalmente. Al final del día, digo, tiene demasiadas vertientes, que es lo que más miedo da, porque podría aplicarse a muchos ámbitos. Pero la realidad es que al final del día un algoritmo de inteligencia artificial necesita esa chispita para hacer algo: necesita que alguien le pida hacer algo, que alguien le diga que haga algo. Y ahí está la responsabilidad inicial, ¿no?

Entonces, bueno, que nos platiquen un poco de sus anécdotas. ¿Cómo les ha ido trabajando con inteligencia artificial? ¿Les ha mentido, les ha engañado? Y pues nada, que nos cuenten, y que nos cuenten de qué más les gustaría que platiquemos. Nosotros vamos a estar, en la medida de lo posible, cada semana platicando de temas que nos parezcan importantes, de temas en torno a, de nuevo, la inteligencia artificial, el diseño de experiencia, la tecnología.

Y lo que se junte.

Y lo que nos vaya saliendo en el camino. Entonces, bueno, nosotros fuimos Cris y Jimena, transmitiendo desde nuestra sala, con nuestro gato en su silla. Pero bueno, muchas gracias por esta…

De fondo era la lavadora.

Sí. Muchas gracias por esta charla.