WGAN-GP

WGAN-GP가 GAN을 학습시킬 때 안정적으로 빠르게 학습이 가능하다고 말로만 들었어서 제대로 공부하여 정리한 글이다. 

---

GAN

GAN은 latent(noise) space를 정의하고 Generator, Discriminator가 학습을 진행해 실제 분포로 유사하게 만들고자 한다.

두 개의 네트워크의 균형을 맞추면서 학습하는 것은 굉장히 어려운 일이다. 예시로, 자주 발생하는 문제가 mode collapse인데,  G가 비슷한 정보(mode)만 이용해 D를 속이고, 이 과정에서 전체 분포로 학습되지 않아 일부 분포만 표현할 수 있게 된다.

 

WGAN

GAN의 discriminator와 비슷한 역할을 하는 WGAN에서는 Critic이라 칭한다. 이는 진짜와 가짜를 구분하는 discriminator가 아니다.

• critic은 Lipschitz condition을 만족해야 하고, EM distance로부터 도출한 특정 sclar 값을 지닌다.
• critic을 5번 학습하고, generator를 1번 학습한다. 
• 따라서 보다 안정하고 mode collapse 문제를 해결하고자 했다.

ChatGPT의 도움을 받았습니다

 

Lipschitz condition

generator와 discriminator 사이의 함수를 제약하는 조건으로써, 함수의 기울기를 최대 1로 제한하게 되는데, WGAN에서는 generator와 discriminator의 가중치를 clipping 해서 강제로 적용하는데, 이는 generator와 discriminator 간 gradient가 소실되지 않도록 안정적으로 유지하면서 학습을 가능하게 해 gradient vanishing 문제를 완화할 수 있다.

 

Wasserstein distance

또한 WGAN에서 분포가 얼마나 유사한지를 wasserstein distance를 통해 알려주는데, 분포를 한 곳에서 다른 곳으로 이동시킬때 최소 비용을 의미하는데, 분포의 형태와 모양을 고려해 거리를 측정하기 때문에 더 정확하게 평가할 수가 있다. JS divergence와 KL divergence는 분포가 겹치지 않거나, mode collapse가 발생할 때 정확한 거리를 측정하는데 어렵다.

 

수식적인 내용은 다음 블로그를 통해 참고해주세요.

https://rosinality.github.io/2017/04/wasserstein-%EA%B1%B0%EB%A6%AC/

Wasserstein 거리

 

이런 알고리즘을 통해 어떻게 WGAN이 학습하는지 알아보자.

loss는 real과 fake의 점수 차이를 최대화하는 방식으로 작동한다. 

wgan_algorithm을 참고하면, 우선 두 이미지(real, fake)를 비교한다. critic 네트워크에서 fake, real의 점수를 구하고, 두 점수의 기댓값 차이(wassertein distance)를 최대화하는 방식으로 학습한다.  

 

GAN과 WGAN의 학습 결과는 다음과 같다.

학습 결과

WGAN의 경우 GAN에 비해 더 부드러운 기울기(하늘색) 값을 보인다.

---

WGAN-GP (Wassertein GAN with gradient penalty)

이제 WGAN-GP가 왜 등장했는지 설명을 하자면, WGAN에서 Lipschitz condition을 만족하기 위해 가중치에 clipping을 해서 강제로 맞춰줬지만, 이도 불안정한 방법이었고, 따라서 다르게 이 조건을 만족시키게 한다. 그것을 penalization이라고 하고 critic network의 가중치에 penalty를 주는 것으로 구현된다.

 

WGAN-GP loss

만약 gradient의 norm이 전부 1로 가깝게 한다면 lipschitz condition을 만족하게 될 것이다. 미분 가능성을 해결하기 위해 soft 한 방식의 gradient norm penalty를 제시한다.

WGAN-GP 알고리즘

실제와 가짜 사이의 데이터를 선형적으로 보간 된 데이터를 생성해 해당 데이터에 대한 기울기를 계산한다. 기울기의 제곱을 페널티로 추가하는 방식으로 작동한다. 

 

학습 결과는 다음과 같다.

WGAN-GP 학습 결과

왼쪽은 iteration에 따른 Inception Score, 오른쪽은 시간에 따른 Inception Score이다. WGAN-GP는 weight clipping 보다 성능이 좋고 DCGAN과 비슷하다. RMSProp를 사용할 때는, weight clipping과 같은 learning rate를 사용하고, Adam 사용 시에는, 더 높은 learning rate를 사용한다. 같은 optimizer일지라도, WGAN-GP는 더 빠르게 수렴하고 weight clipping보다 좋은 score를 보인다. 그리고 Adam이 더 좋은 성능을 보인다. DCGAN보다는 수렴속도가 느리지만(오른쪽) 수렴에 있어서 점수가 더 안정적이다.

---

참고

https://study-grow.tistory.com/entry/Deep-learning-%EB%85%BC%EB%AC%B8-%EC%9D%BD%EA%B8%B0-StyleGAN-loss-%EC%9D%B4%ED%95%B4-%EC%96%95%EA%B2%8C-%EC%9D%BD%EB%8A%94-WGAN-WGAN-GP

[Deep learning 논문 읽기] StyleGAN loss 이해, 얕게 읽는 WGAN, WGAN-GP

https://leechamin.tistory.com/232

[논문읽기] 11. WGAN-GP : Improved Training of Wasserstein GANs