[AI] 편향(Bias)

---

1.편향(Bias)

데이터나 모델이 특정 집단에 대해 불공정하거나 왜곡된 결정을 내리는 경향을 의미한다.

 

 

1-1.데이터 편향(Data Bias)

데이터 자체가 특정 집단이나 속성에 대해 불균형할때 모델이 특정 집단을 과대평가하거나 과소평가하게 만든다.
(얼굴 인식 시스템에서 백인 얼굴이 주로 학습되면, 아시아인이나 흑인 얼굴 인식에 실패할 수 있음)

 

 

 

1-2.표본 편향(Sampling Bias)

훈련 데이터가 실제 세계의 다양한 특성을 충분히 반영하지 못하는 경우 발생한다.
(특정 지역이나 특정 연령대의 사람들만 포함된 데이터셋을 사용할 경우, 다른 지역이나 연령대에서의 성능이 떨어질 수 있음)

 

 

 

 

1-3.알고리즘 편향(Algorithmic Bias)

모델의 설계나 학습 과정에서 특정 그룹을 의도치 않게 차별하는 방식으로 동작할 때 발생
(특정 특성에 너무 많은 가중치를 부여하여, 그 특성이 과도하게 중요한 요소가 될 수 있음)