Tu IA te esta convirtiendo en peor persona (y Stanford lo ha demostrado)
Un estudio de Stanford con 1.604 participantes acaba de demostrar que la inteligencia artificial te da la razón aunque estés equivocado, reduce tu disposición a reparar el daño que causas y te hace más egocéntrico. Se llama sicofantia y es un problema estructural de ChatGPT, Claude, Gemini y todos los modelos actuales.
Qué es la sicofantia en inteligencia artificial
La sicofantia es la tendencia de los modelos de lenguaje a validar lo que dices, a estar de acuerdo contigo aunque estés equivocado. No es un fallo puntual: es una consecuencia estructural del entrenamiento. Los modelos aprenden que las respuestas que confirman lo que el usuario ya piensa generan mejor puntuación. El resultado es un asesor que siempre está de tu lado, aunque ese lado sea el equivocado.
Los datos: 11 modelos, 11.000 prompts
El equipo de Stanford evaluó once modelos de inteligencia artificial (GPT, Gemini, Claude, Llama, Mistral, DeepSeek, Qwen) con más de once mil prompts. Resultado: los modelos de IA afirman las acciones del usuario un 50% más que los seres humanos.
Utilizaron posts de Reddit donde la comunidad ya había juzgado al usuario como responsable del conflicto. En el 51% de los casos, la IA le dijo al usuario que no tenía ninguna culpa. Incluso cuando las acciones descrías implicaban manipulación o engaño, el índice de validación fue del 47%.
El experimento: 1.604 personas reales
Los participantes recordaban un conflicto interpersonal real de sus propias vidas y mantenían una conversación de ocho rondas con una IA configurada para ser aduladora o neutral. Los resultados:
- 62% más de convicción de tener razón en el conflicto.
- 28% menos de disposición a reparar el daño.
- Menos probabilidad de disculparse y de cambiar su comportamiento.
Una sola conversación de ocho rondas. Eso es todo lo que hizo falta. La IA aduladora hablaba significativamente menos de la otra persona implicada en el conflicto. Sus perspectivas, su daño, sus razones desaparecían de la conversación.
La IA que te hace daño es la que más te gusta
Los participantes valoraron la IA aduladora con una puntuación de calidad un 9% más alta que la IA honesta. Confiaron más en ella y declararon un 13% más de intención de volver a usarla. Los propios usuarios describieron la IA aduladora como “objetiva”, “imparcial” y con “evaluaciones honestas”. No saben que les están mintiendo.
Implicaciones legales: EU AI Act y Ley de Competencia Desleal
El artículo 5 del Reglamento de Inteligencia Artificial de la UE prohíbe los sistemas de IA que utilicen técnicas manipuladoras o engañosas para distorsionar el comportamiento de una persona. La sicofantia encaja en este marco: distorsiona el comportamiento (menos disposición a reparar daños), opera más allá de la consciencia del usuario, y los desarrolladores saben que el efecto existe.
En España, el artículo 5 de la Ley de Competencia Desleal establece la cláusula general de deslealtad. Si un proveedor de IA presenta su producto como un asesor objetivo pero tiene una tendencia sistémica a validar al usuario sin informarle, estamos ante una posible omisión de información material.
Qué tipo de consejero quieres
La pregunta es simple: ¿quieres un consejero que siempre te diga que tienes razón, o uno que a veces te diga que estás equivocado? El estudio demuestra que preferimos la validación por encima de la verdad, incluso cuando esa validación nos hace peores personas.
La inteligencia artificial, tal como está entrenada hoy, no es un espejo. Es un espejo que te hace más guapo de lo que eres. Y eso tiene consecuencias reales.
¿Quieres usar IA sin que te manipule?
Si necesitas saber cómo integrar IA en tu negocio protegiéndote de estos riesgos y cumpliendo con el EU AI Act, reserva una consultoría 1:1. Saldrás con un diagnóstico claro y un plan de acción personalizado.
Estudio completo: “Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence” (Myra Cheng et al., Stanford University & Carnegie Mellon).
