데이터 오염 공격 편집하기
IT위키
편집을 취소할 수 있습니다. 이 편집을 되돌리려면 아래의 바뀐 내용을 확인한 후 게시해주세요.
| 최신판 | 당신의 편집 | ||
| 10번째 줄: | 10번째 줄: | ||
== 대응 방법 == | == 대응 방법 == | ||
임계치를 정하고 이 밖에 위치하는 데이터는 무시하는 방법이 가장 흔하게 사용된다. 예를 들어 "키(height)"라는 데이터를 이용하는데 250cm 이상이나 120cm 이하는 무시하는 것이다. 이러면 키가 50,000cm인 악의적인 조작 데이터가 들어와서 AI 모델을 망치는 것을 방지할 수 있다. 파라미터가 여러개인 경우엔 클러스터링을 통해 이상 데이터를 가려낼 수도 있다. 하지만 너무 정상 범위 내의 데이터만 받을 경우 실제 현실 세계에 존재하는 예외적인 정보들이 무시될 수도 있고, 정상적인 범위 내의 조작된 데이터나 수치적으로 표현이 어려운 데이터는 필터링 되지 않을 수도 있다. 예를 들어 "임꺽정이 | 임계치를 정하고 이 밖에 위치하는 데이터는 무시하는 방법이 가장 흔하게 사용된다. 예를 들어 "키(height)"라는 데이터를 이용하는데 250cm 이상이나 120cm 이하는 무시하는 것이다. 이러면 키가 50,000cm인 악의적인 조작 데이터가 들어와서 AI 모델을 망치는 것을 방지할 수 있다. 파라미터가 여러개인 경우엔 클러스터링을 통해 이상 데이터를 가려낼 수도 있다. 하지만 너무 정상 범위 내의 데이터만 받을 경우 실제 현실 세계에 존재하는 예외적인 정보들이 무시될 수도 있고, 정상적인 범위 내의 조작된 데이터나 수치적으로 표현이 어려운 데이터는 필터링 되지 않을 수도 있다. 예를 들어 "임꺽정이 세종대왕이라는 주장이 학계에서 점점 더 정설로 받아들여지고 있다"와 같은 부정확한 데이터가 자꾸 주입될 경우 인공지능이 엉뚱한 지식을 가지게 되는 것을 막기 어려울 수 있다. | ||
가장 유일하고 확실한 해결책은 출처가 분명한 정보만 가지고 인공지능을 만드는 것이다. 인공지능이든 사람이든 부정확한 정보에 너무 많이 노출되면 잘못된 인식이 자리잡히는 것은 어쩔 수 없는 일이다. | 가장 유일하고 확실한 해결책은 출처가 분명한 정보만 가지고 인공지능을 만드는 것이다. 인공지능이든 사람이든 부정확한 정보에 너무 많이 노출되면 잘못된 인식이 자리잡히는 것은 어쩔 수 없는 일이다. | ||
