드롭아웃1 파괴적 망각(Catastrophic Forgetting) 정의- Single Task(단일 과제)에 대해서는 뛰어난 성능을 보이지만, 다른 종류의 Task를 학습하면 이전에 학습했던 Task에 대한 성능이 현저하게 떨어지는 문제 - 기억의 유지(Stability)와 새로운 기억의 생성(Plasticity)의 비중을 적절히 조절하기가 어려워 Stability-Plasticity dilemma(안정성-가소성 딜레마) 라고 불리기도 함 키워드- 성능 저하, 정규화, 증류, 동적 구조 메커니즘 기술요소정규화(Regularization) - EWC(Elastic Weight Consolidation) - MAS [ECCV 2018] 등 - 이전 TASK에서 학습한 네트워크의 파라미터가 최대한 변하지 않으면서 새로운 TASK를 학습하도록 유도 증류(Distillation.. 2024. 9. 21. 이전 1 다음
