La IA a veces responde cosas que no son ciertas como si fueran totalmente reales. A esto se le llama "alucinación". Títulos de libros que no existen, cifras equivocadas, citas inventadas... y, encima, lo hace en un tono tan seguro que cuesta detectarlo. Ahí está el problema.
Por qué ocurre (a grandes rasgos)
La IA construye los textos encadenando de forma probabilística "las palabras que es probable que vengan a continuación". Se le da bien crear "textos que suenan plausibles", pero eso no garantiza que sean ciertos. Por eso, incluso sobre lo que no sabe, rellena los huecos fabricando una respuesta verosímil.
Cinco formas de pedir las cosas para reducir los errores
- Dale una vía de escape — "Si no lo sabes, dime con sinceridad que no lo sabes. No rellenes con suposiciones."
- Haz que separe hechos y suposiciones — "Escribe por separado lo que es seguro y lo que es suposición tuya."
- Pide las fuentes — "Indica también el fundamento o la fuente" (ojo: la propia fuente puede estar inventada, así que hay que comprobarla).
- Entrégale el material — Que no suponga; haz que responda únicamente dentro del material que tú le has dado (es lo más eficaz).
- Duda de cifras y nombres propios — "Vuelve a comprobar las cifras, fechas y nombres de esta respuesta."
Lo que más funciona es "entregar el material"
En vez de hacer que la IA responda de memoria, darle el material correcto e indicarle "responde a partir de esto" reduce drásticamente los errores. Pega documentos internos, páginas oficiales o datos antes de preguntar. Solo con esto, la fiabilidad sube mucho.
Aun así, al final comprueba tú mismo
Por mucho que lo ajustes, no puedes reducir las alucinaciones a cero.
Los hechos importantes (cifras, nombres, fechas, citas, información legal o médica) hay que contrastarlos siempre con la fuente primaria.
Sobre todo, la información que vas a "mostrar a otras personas" o que "afecta al dinero o la salud" no la creas sin más. En el siguiente artículo explicaremos en concreto este "hábito de verificación".