학습 시 NaN 값 발생 원인

1. 발생 원인

계산값에 0이 포함되거나 하여 미분이 불가능해지는 곳에서 발생할 가능성이 높음

주로 sqrt, exp, norm 등에서 발생

 

2. 해결 방법

매우 작은 값(1e-6 등)을 더해줘서 결과가 0이 안나오도록 해줌으로써 해결