트롤리 딜레마 편집하기

[[분류:인공지능]]
;Trolley Problem; Trolley Dilemma
;동일한 상황에서 이성적 판단 VS 윤리적 판단 중 어느것이 옳은가의 문제

== 트롤리 문제 ==
;Troli Problem
* 문제1: 트롤리(기차)가 달려오고 있고, 선로에는 다수의 사람들이 있다. 
** 당신은 레버를 당겨 선로를 조정할 수 있으나, 변경된 선로에는 1명이 있다.
** 즉 선로 조작 시 한명의 희생으로 다수를 살릴 수 있다.
** 선로를 변경하는 것이 도덕적으로 용인되는가?
* 문제2: 트롤리(기차)가 달려오고 있고, 선로에는 다수의 사람들이 있다. 
** 당신은 그보다 앞에, 선로 밖에 무거운 사람과 같이 서 있다.
** 무거운 사람을 밀어 선로에 넘어뜨리면 그 사람은 죽겠지만 다수의 사람을 살릴 수 있다.
** 무거운 사람을 밀어 다수를 살리는 것이 도덕적으로 용인되는가?
* 결과
** 문제1: 85%가 도덕적으로 용인 가능하다고 답변
** 문제2: 12%가 도덕적으로 용인 가능하다고 답변
* 도덕적 판단의 기준 
** 생물학자 마크 하우저는 사람의 도덕적 판단이 이성보다는 감정의 영향을 받는다고 주장
:{| class="wikitable"
|-
! 구분 !! 설명
|-
| 행동의 원리 || 행동함으로써 일어난 폐해(가령 누군가의 죽음)는 행동하지 않아 일어난 폐해보다 더 비도덕적이라고 판단
|-
| 의도의 원리 || 의도적으로 한 행동이 의도적이지 않은 행동보다 더 비도덕적이라고 판단
|-
| 접촉의 원리 || 직접적 신체 접촉이 수반되는 위해가 그렇지 않은 위해보다 더 비도덕적이라고 판단
|}

== 현대 기술에서의 이슈 ==
=== 드론의 조종사의 감정 ===
* 직접 총을 쏘지 않고 드론이나 무인항공기로 사람을 죽이는 조종사는 상대적으로 낮은 죄책감을 느낌
* 도덕적 판단이 필요한 순간에 감정의 영향을 적게 받고, 좀 더 쉽게 의사결정을 이룸

=== 자율주행 자동차의 판단 ===
; 자율주행 자동차를 운전하는 인공지능은 어떤 선택을 할 것인가?
* 고속 이동중인 차량 앞에 어린아이 등장, 회피 시 운전자의 사망위험이 큼
* 차량은 어린아이 또는 운전자 중 희생자를 골라야 함

== [[모랄 머신]] ==
; Moral Machine
* MIT 공대 lyad Rahwan의 Scalable Cooperation 그룹이 개발한 온라인 플랫폼으로 도덕적 딜레마를 발생시키고 사람들이 두 가지 결과 사이에서 내린 정보를 수집하여 분석.
* 시나리오는 트롤리 딜레마의 다양한 사례를 활용하며, 수집된 정보는 향후 기계학습이 갖추고 있어야 할 도덕적 가치를 부여하는 데 이용됨