Depurando la máquina

Los sistemas de IA fallan de manera diferente que el software tradicional. No fallan: producen respuestas incorrectas con gran confianza. No lanzan excepciones: alucinan falsedades que parecen plausibles. La depuración de la IA requiere un conjunto de herramientas fundamentalmente diferente. Todo sistema de IA de producción tiene errores. La diferencia entre una implementación de IA profesional y una amateur no es la ausencia de errores, sino la presencia de sistemas para detectarlos, diagnosticarlos y corregirlos. Este libro proporciona el conjunto completo de herramientas de depuración para sistemas de IA: comprensión de las alucinaciones, estrategias de detección, análisis de la causa raíz, técnicas de corrección, verificación humana en el circuito y prevención arquitectónica.