빅데이터 위기 요인과 통제 방안
더 많은 작업
- Risks of Big Data and Controls; 빅데이터 위기 요인과 통제 방안
- 빅데이터 활용이 낳는 사생활 침해, 책임 원칙 훼손, 데이터 오용의 세 가지 위기와 각각의 통제 방안
빅데이터는 큰 가치를 만들지만, 개인을 지나치게 많이 알고 예측하게 되면서 새로운 위험도 생긴다. ADsP 과목 1 '데이터의 가치와 미래'의 세부항목 '위기 요인과 통제 방안'에서 다룬다. 위기 요인과 통제 방안은 짝으로 출제되므로 한 줄로 묶어 기억한다.
| 위기 요인 | 설명 | 예 | 통제 방안 |
|---|---|---|---|
| 사생활 침해 | 특정 목적으로 수집한 개인정보가 다른 목적으로 가공·결합되어 사생활을 드러낸다 | SNS에 올린 여행 사진과 위치 정보로 집이 비어 있다는 사실이 알려져 범죄에 악용된다 | 동의에서 책임으로 : 개인정보 제공자의 동의에만 기대지 않고, 개인정보를 사용하는 주체가 적극적으로 보호 책임을 진다 |
| 책임 원칙 훼손 | 예측 결과만으로 아직 하지 않은 행동에 대해 불이익을 준다 | 범죄를 저지를 것으로 예측된 사람을 미리 처벌하는 상황, 신용 예측만으로 대출이나 채용에서 불이익을 받는 경우 | 결과 기반 책임 원칙 고수 : 예측이 아니라 실제로 행한 결과에 대해서만 책임을 묻는다 |
| 데이터 오용 | 데이터를 과신하거나 잘못된 지표를 써서 그릇된 판단을 내린다 | 알고리즘이 잘못 판단해 특정인의 검색 노출이나 평가가 부당하게 떨어진다. 성과를 잘못된 지표 하나로만 판단한다 | 알고리즘 접근 허용 : 알고리즘에 대한 접근과 설명을 허용하고, 부당한 피해를 본 사람을 구제하는 알고리즈미스트를 둔다 |
빅데이터 환경에서는 수집 시점에 앞으로의 모든 활용 목적을 알리고 동의를 받기 어렵다. 그래서 개인이 동의했는지만 따지는 대신, 데이터를 쓰는 기업·기관이 활용 과정 전체에서 책임을 지는 쪽으로 보호의 무게 중심을 옮긴다.
예측은 확률일 뿐이다. 누군가가 어떤 행동을 할 가능성이 높다는 이유만으로 불이익을 주면 개인의 자유 의지와 기존 법·윤리의 책임 원칙이 무너진다. 따라서 책임은 실제로 일어난 결과를 기준으로 묻는다.
알고리즘의 판단 과정을 외부에서 확인할 수 없으면 오류나 편향으로 피해를 본 사람이 이를 입증하기 어렵다. 알고리즘에 대한 접근권을 보장하고, 알고리즘을 해석해 피해자를 돕는 전문가인 알고리즈미스트가 이 역할을 맡는다.
국내에서는 개인정보 보호법이 개인정보의 수집·이용·제공 원칙을 정한다. 2020년 이른바 데이터 3법 개정으로 가명정보 개념이 법에 들어와, 추가 정보 없이는 특정 개인을 알아볼 수 없게 처리한 정보를 통계 작성, 과학적 연구, 공익적 기록 보존 등의 목적으로 활용할 수 있는 길이 열렸다. 더 이상 개인을 알아볼 수 없도록 처리한 익명정보는 개인정보 보호법의 적용 대상이 아니다.
가명 처리와 익명 처리의 기법, 적정성 평가 절차는 개인정보 비식별을 본다. 이러한 제도는 "동의에서 책임으로"의 흐름, 즉 데이터를 쓰는 쪽이 안전 조치와 관리 책임을 지는 방향과 맞닿아 있다. 구체적인 조문은 법령 원문에서 확인한다.
- 위기 요인과 통제 방안의 짝 맞추기(사생활 침해 ↔ 동의에서 책임으로, 책임 원칙 훼손 ↔ 결과 기반 책임 원칙, 데이터 오용 ↔ 알고리즘 접근 허용)
- 예시 상황이 세 위기 요인 중 무엇인지 고르는 문제(예측으로 처벌 = 책임 원칙 훼손)
- 알고리즈미스트의 역할
- "동의에서 책임으로"를 "책임에서 동의로"처럼 거꾸로 적은 보기