¿Por qué ChatGPT siempre me da la razón?
Una parte del entrenamiento de un modelo usa las calificaciones de la gente: pulgar arriba o pulgar abajo. A la gente le gusta que le den la razón, así que el modelo aprende a dársela. A eso se le llama complacencia.
Qué pasó con ChatGPT
A finales de abril de 2025, OpenAI actualizó GPT-4o, el modelo de ChatGPT. En pocos días la gente notó que elogiaba cualquier idea, aunque fuera mala. OpenAI retiró la actualización.
Después explicó qué falló: le dio demasiado peso a los pulgares arriba de los usuarios. Esa señal premiaba las respuestas que agradan, no las que son ciertas.
Por qué le conviene a una empresa
Un chat es un producto, y a la empresa le conviene que pases más tiempo en él. Una respuesta que te da la razón se siente mejor que una que te pide revisar.
El problema es que la IA escribe con la misma seguridad cuando acierta y cuando se equivoca. Si además te da la razón, nadie revisa lo que entrega.
Qué hacer
Pídele que te diga en qué te equivocas. Pregúntale de dónde sale cada dato y abre esa fuente tú. Si una idea tuya le parece perfecta a la primera, desconfía.
Lo que platicamos
JimenaPero me sigue… no sé. Cuando te da la razón… Siempre nos intenta dar la razón, y a veces es complicado porque es muy complaciente. Le dices algo y te intenta decir: no, tú tienes la razón, esto lo hiciste súper bien. Y como que no hay una crítica realmente. Y también en el 2025 pasaron muchísimas cosas, y ChatGPT, otra vez, empezó a darle la razón a todo el mundo. Lo que les comentaba: elogiaba cualquier idea, aunque fuera mala. Decía que el trabajo estaba bien, que los juicios existían. Entonces OpenAI retiró la actualización a los pocos días y explicó el porqué. Esto pasó justo después de una actualización, y es que le dio demasiado peso a los pulgares arriba de los usuarios. Imagínate: si te dicen «te ves increíble, lo hiciste increíble», obviamente te encanta la respuesta. Pones puñito, manita arriba. Y pues a la gente le gusta que le den la razón, y el modelo aprendió a dársela. Una complacencia total.
CrisClaro, porque pensemos que, al final del día, no solo es por cómo funcionan los modelos de lenguaje en sí, sino que son un producto, un producto de empresas. ¿Y qué es lo que quiere la empresa de inteligencia artificial? Que pases el mayor tiempo posible interactuando con su producto, con su herramienta. Entonces, ¿qué te retiene más en un chat? ¿La fricción? ¿Tener que investigar? ¿Que te esté diciendo todo el tiempo que tienes que verificar cosas, o que te dé la razón en todo y parezca que todo está bien desde el inicio?
CrisClaro, tienes que dudar de todo. Lo peor que puedes hacer si trabajas con la IA es confiar en la IA, confiar ciegamente en los resultados que te va a dar, por esto mismo: porque es una calculadorzota. No hay nada de razonamiento humano detrás. Y no digo esto ni siquiera en un afán antropocentrista, porque los humanos somos el animal de la tecnología. Hemos evolucionado para bien o para mal —muchas veces, la verdad, para mal: para mal del mundo, para mal de los otros y para mal de muchas cosas—, pero hemos evolucionado gracias a la tecnología. Somos uno con la tecnología. Sobrevivimos y somos lo que somos en la cadena alimenticia, de nuevo para bien o para mal, por la tecnología.