트롤리 딜레마

Trolley Problem; Trolley Dilemma

동일한 상황에서 이성적 판단 VS 윤리적 판단 중 어느것이 옳은가의 문제

트롤리 문제

Troli Problem

• 문제1: 트롤리(기차)가 달려오고 있고, 선로에는 다수의 사람들이 있다.
  • 당신은 레버를 당겨 선로를 조정할 수 있으나, 변경된 선로에는 1명이 있다.
  • 즉 선로 조작 시 한명의 희생으로 다수를 살릴 수 있다.
  • 선로를 변경하는 것이 도덕적으로 용인되는가?
• 문제2: 트롤리(기차)가 달려오고 있고, 선로에는 다수의 사람들이 있다.
  • 당신은 그보다 앞에, 선로 밖에 무거운 사람과 같이 서 있다.
  • 무거운 사람을 밀어 선로에 넘어뜨리면 그 사람은 죽겠지만 다수의 사람을 살릴 수 있다.
  • 무거운 사람을 밀어 다수를 살리는 것이 도덕적으로 용인되는가?
• 결과
  • 문제1: 85%가 도덕적으로 용인 가능하다고 답변
  • 문제2: 12%가 도덕적으로 용인 가능하다고 답변

도덕적 판단의 기준

생물학자 마크 하우저는 사람의 도덕적 판단이 이성보다는 감정의 영향을 받는다고 주장

구분	설명
행동의 원리	행동함으로써 일어난 폐해(가령 누군가의 죽음)는 행동하지 않아 일어난 폐해보다 더 비도덕적이라고 판단
의도의 원리	의도적으로 한 행동이 의도적이지 않은 행동보다 더 비도덕적이라고 판단
접촉의 원리	직접적 신체 접촉이 수반되는 위해가 그렇지 않은 위해보다 더 비도덕적이라고 판단

자율주행 자동차의 제어 이슈

자율주행 자동차를 운전하는 이동지능은 올바른 선택을 할 수 있는가?

어떤 것이 올바른 선택인가?

• 고속 이동중인 차량 앞에 어린아이 등장, 회피 시 운전자의 사망위험이 큼
• 차량은 어린아이 또는 운전자 중 희생자를 골라야 함

모랄 머신

Moral Machine