TRAINING METHOD AND APPARATUS FOR A DEEP LEARNING THAT IS ROBUST TO POLLUTION IN A DISTRIBUTED LEARNING ENVIROMENT WHERE LOCAL DATA IS CONTAMINATED

일 실시예에 로컬 데이터가 오염된 분산 학습 환경에서 오염에 강건한 딥러닝 학습 방법은 복수의 클라이언트(client)들에게 딥러닝 모델(deep learning model)을 위한 현재 반복 (current iteration)의 학습 파라미터(parameter)를 전송하는 단계, 상기 복수의 클라이언트들로부터 상기 현재 반복의 학습 파라미터에 기초하여 연산된 현재 반복의 로컬 그래디언트(local gradient) 값들 을 수신 하는 단계, 이전 반복(previous iteration)에서 그래디언트 정보 에 기초하여 현재 반복을 위해 산출된 현재 반복의 병합 가중치(combination weight) 에 기초하여 상기 복수의 현재 반복의 로컬 그래디언트 값들을 병합함으로써 현재 반복의 병합 그래디언트 값을 산출하는 단계 및 상기 현재 반복의 병합 그래디언트 값에 기초하여 다음 반복(next iteration)의 학습 파라미터를 업데이트하는 단계를 포함할 수 있다.