Alucinaciones y sesgos: la cara oscura de la IA

Una de las primeras cosas que debes aprender al usar IA es que puede mentirte con total seguridad. Se llama alucinación: el modelo genera información que suena coherente, está bien escrita, y es completamente falsa.

¿Por qué pasa? Porque los LLMs no consultan una base de datos, predicen la siguiente palabra basándose en patrones. Si el patrón "suena correcto", lo dirán aunque sea inventado.

A esto se suman los sesgos. La IA aprende de texto humano, y el texto humano contiene prejuicios de género, raza, clase y cultura. El modelo los absorbe y los repite.

Reglas de oro: - Verifica datos, citas y referencias antes de usarlas. - Usa la IA como punto de partida, no como verdad final. - Cuando la decisión sea importante (médica, legal, financiera), valida con un experto humano.