지수 가중 평균

지수 가중 (이동)평균

  • 데이터의 노이즈를 최소화 하기 위해 사용하는 방법
  • 다음 데이터가 사용되는 비중을 줄이고, 이전 값의 비중을 을려 그래프를 완만하게 만든다.
θ=[θ1,θ2,…,θm]\theta=[\theta_1, \theta_2,\dots,\theta_m]\\ v0=0v1=0.9v0+0.1θ1v2=0.9v1+0.1θ2v3=0.9v2+0.1θ2…vm=0.9m−1+0.1θmv_0=0\\ v_1=0.9v_0+0.1\theta_1\\ v_2=0.9v_1+0.1\theta_2\\ v_3=0.9v_2+0.1\theta_2\\ \dots\\ v_m=0.9_{m-1}+0.1\theta_m\\
  • 이를 일반화하면 아래와 같이 표현할 수 있고 이전 값과 현재 값에 대한 가중치를 설정할 때 β\beta 를 사용하고 이는 하이퍼 파라이미터이다.
vt=βvt−1+(1−β)θtv_t=\beta v_{t-1}+(1-\beta)\theta_t
  • vtv_t 는 대략 이전 11−β\frac{1}{1-\beta} 번째 데이터 까지의 평균의 근사치이다.