idiom
black box problem
una situación en la que el funcionamiento interno de un sistema de IA no es transparente ni comprendido
Meaning
a situation where the internal workings of an AI system are not transparent or understood
Example
The biggest challenge in deep learning is the **black box problem**.
el mayor desafío en el aprendizaje profundo es el **black box problem**.