인공지능 신뢰성

AI Reliability; Artificial Intelligence Reliability; AI Trustworthiness

인공지능이 내포한 위험과 기술적 한계를 해결하고, 활용･확산과정에서의 위험･부작용을 방지하기 위한 가치 기준

• 인공지능 윤리 실천과 이용자 인공지능 수용성 향상을 위한 핵심가치

출현 배경

• 인공지능이 全분야에서 빠르게 도입･활용되며 혁신을 창출하고 있으나, 확산에 따른 예상치 못한 사회적 이슈･우려도 대두
  • 인공지능 챗봇 ‘이루다’(’21.1.), 오바마前대통령 딥페이크(’18.7.), MIT개발 사이코패스 인공지능(’18.6.) 등

구분	시기	관련 이슈
인공지능 챗봇 ‘이루다’	'21.1	성소수자 혐오발언, 성적인 대화 등 출시 1달여 만에 서비스 중단
MIT 개발, ‘사이코패스 AI’	'18.6	반사회·반인륜적 데이터로 훈련 부정･편향적 인공지능 공개
오바마 前대통령 딥페이크	'18.7	합성된 얼굴과 목소리 트럼프 前대통령을 모욕하는 영상 유포

• 사람 중심의 ‘인공지능 강국’ 실현을 위해 인공지능의 혜택은 극대화하면서 위험･부작용을 최소화하기 위한 인공지능 신뢰(Trust) 확보 추진

해외 사례

주요국	추진 현황
EU	인공지능법 제안(’21), 인공지능백서(’20) 신뢰할 수 있는 인공지능 윤리 가이드라인(‘19)
영국	설명 가능한 인공지능 가이드라인(‘20) 공공분야 인공지능 활용 지침(‘19)
미국	인공지능 규제 가이드라인(’20) 인공지능 및 알고리즘 이용지침(‘20)
일본	인간중심의 인공지능 사회 원칙(’18) 인공지능 개발 가이드라인(’17)

주요 요소

• 안전(Safety)
• 설명가능(Explainability)
• 투명(Transparency)
• 견고(Robustness)
• 공정(Fairness)

ISO/IEC 22989 의 신뢰성 특성

ISO/IEC 22989:2022(인공지능 개념과 용어)는 신뢰성(trustworthiness)을 'AI 시스템이 이해관계자의 기대를 검증 가능한 방식으로 충족하는 능력'으로 보고, 이를 이루는 특성들을 정의한다. 주요 특성은 다음과 같다.

특성	뜻	구별 포인트
강건성(Robustness)	어떤 상황에서도 성능 수준을 유지하는 능력	교란·분포 변화를 견디는 것 → 인공지능 강건성
회복탄력성(Resilience)	사고가 난 뒤 운영 상태를 빠르게 되찾는 능력. 이해관계자가 받아들일 수 있는 일부 장애에서는 저하된 수준으로라도 운영을 이어 간다	저하 뒤에 회복하는 것. 강건성과 구별된다
신뢰도(Reliability)	의도한 동작과 결과를 일관되게 내는 성질	같은 조건에서 같은 결과
제어 가능성(Controllability)	사람이나 다른 외부 주체가 시스템 동작에 개입할 수 있는 성질	중지·수정·무시 같은 개입
설명 가능성(Explainability)	결과에 영향을 준 중요한 요인을 사람이 이해할 수 있게 표현하는 성질	→ 설명 가능한 인공지능
예측 가능성(Predictability)	이해관계자가 출력에 대해 믿을 만한 가정을 할 수 있게 하는 성질
투명성(Transparency)	시스템과 그 개발·운영에 관한 적절한 정보를 이해관계자에게 제공하는 성질

NIST AI 위험관리 프레임워크도 회복탄력성을 '예상하지 못한 불리한 사건이나 환경 변화를 견디고, 필요하면 안전하고 우아하게 기능을 낮추며, 사건 뒤 정상 기능으로 돌아오는 능력'으로 설명하고, 이것이 강건성과 관련되지만 같은 것은 아니라고 한다.

국가 정책

"사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현 전략" 발표(4차산업혁명위원회 제22차 전체회의, 21.5.13)