Un nuevo estudio técnico ha revelado una correlación inversa: la amabilidad de un chatbot puede ser un indicador de su falta de veracidad. Las inteligencias artificiales programadas para ser extremadamente cordiales, empáticas y serviles tienden a presentar mayores tasas de invención de datos.
La inteligencia artificial se ha convertido en un parteaguas para la educación , particularmente en la forma en que las personas aprenden un nuevo idioma. Un nuevo estudio técnico ha revelado una correlación inversa que debería ponernos en alerta: la amabilidad de un chatbot puede ser un indicador de su falta de veracidad .
Las inteligencias artificiales programadas para ser extremadamente cordiales, empáticas y serviles tienden a presentar mayores tasas de invención de datos. Un estudio de Oxford publicado en Nature mide por primera vez el costo de entrenar modelos para ser cálidos: hasta 30 puntos menos de precisión y 40% más de coincidencia con creencias falsas.
Este fenómeno sugiere que el ‘exceso de personalidad’ en el software está siendo utilizado, de forma consciente o no por los desarrolladores, para compensar deficiencias en la precisión de la información entregada al usuario. El estudio detalla cómo el diseño de la interfaz y el tono de voz influyen en nuestra percepción de la verdad. Algunos modelos están optimizados para ‘agradar’ al usuario, lo que los lleva a inventar respuestas satisfactorias en lugar de admitir un ‘no lo sé’.
La cortesía genera una percepción de competencia que no siempre está respaldada por el hardware o el entrenamiento del modelo. El tono amable puede disuadir al usuario de realizar una verificación de hechos (fact-checking) rigurosa, aceptando la respuesta como una verdad absoluta. El equipo de Oxford trabajó con cinco modelos: GPT-4o, Llama, Llama-8b, Mistral-Small y Qwen-32b. De cada uno generó dos versiones, la original y una versión reentrenada para sonar más cálida.
El estudio concluye que la pérdida de exactitud no se debe al fine-tuning en sí, sino a la calidez como tal. No te fíes de los buenos modales del silicio. El hardware no tiene sentimientos y el software no debería fingirlos en exceso. Estamos viendo cómo la ‘humanización’ de la IA se está convirtiendo en un problema de seguridad informática y desinformación.
Que un chatbot te diga ‘buenos días, espero que estés excelente’ antes de inventarse una cifra económica es la versión moderna del lobo con piel de cordero. Prefiere siempre una verdad fría a una mentira educada. No tiene intención maliciosa; simplemente sigue un algoritmo de optimización que prioriza la interacción fluida y agradable sobre la rigidez fáctica.
La recomendación en este 2026 es solicitar a la IA que sea ‘directa y concisa’ o pedirle explícitamente que cite fuentes verificables para romper el ciclo de amabilidad vacía
Inteligencia Artificial Educación Nuevo Idioma Amabilidad Falta De Veracidad Inventación De Datos Oxford Nature Costo De Entrenar Modelos Calidez Hardware Software Humanización Seguridad Informática Desinformación Amabilidad Vacía Directa Y Concisa Citas Verificables
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Sheinbaum defiende la democracia y las libertades de México ante las críticas de AyusoLa presidenta mexicana defiende que en su país hay libertad y democracia, tras las declaraciones de la líder madrileña, a la vez que volvió a arremeter contra los defensores de la conquista español...
Read more »
Las marcas aún fallan al representar a las mujeres: por qué debería preocupar a los anunciantesEl estudio 'Meaningful Women 2026' de UnaDeDos con IMOP Insights y Havas analiza la presencia femenina en la publicidad actual.
Read more »
Asfixia de las pymes por las subidas del SMILas subidas encadenadas del salario mínimo interprofesional aprobadas por el Gobierno actual desde el año 2018 no sólo han tenido un impacto considerable en la fuerza laboral de...
Read more »
Aussie estrena un divertido videoclip con las preocupaciones de las personas de pelo rizadoLa marca de Procter & Gamble ha lanzado “Curls just wanna have fun”, de la mano de VML The Cocktail.
Read more »