고영향 인공지능

고영향 인공지능(High-impact AI)은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(인공지능기본법)에서 법이 정한 영역에 쓰이면서 사람의 생명·신체의 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있어, 사업자에게 별도의 안전성·신뢰성 책무를 지우는 인공지능시스템이다.

개요

인공지능기본법은 2026년 1월 22일 시행되었다. 법은 인공지능을 성능으로 나누지 않고 어디에 쓰여 사람에게 어떤 영향을 주는가로 나눈다. 같은 기술이라도 쓰이는 영역과 역할에 따라 고영향 인공지능이 되기도 하고 아니기도 하다.

법정 영역 (제2조제4호)

다음 영역 가운데 하나에서 활용되는 것이어야 한다.

• 가. 에너지의 공급
• 나. 먹는물의 생산 공정
• 다. 보건의료의 제공 및 이용체계의 구축·운영
• 라. 의료기기·디지털의료기기의 개발 및 이용
• 마. 핵물질과 원자력시설의 안전한 관리 및 운영
• 바. 범죄 수사나 체포를 위한 생체인식정보(얼굴·지문·홍채·손바닥 정맥 등)의 분석·활용
• 사. 채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가
• 아. 「교통안전법」상 교통수단·교통시설·교통체계의 주요한 작동 및 운영
• 자. 공공서비스의 자격 확인·결정, 비용징수 등 국가기관등의 의사결정
• 차. 유아·초등·중등교육에서의 학생 평가
• 카. 그 밖에 대통령령으로 정하는 영역

판단 방법

영역에 들어간다고 바로 고영향이 되는 것은 아니다. 정의 자체가 "생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려"를 함께 요구하므로, 판단은 두 단계로 이루어진다.

1. 영역 해당성 - 그 인공지능이 위 영역의 해당 기능(예: 교통수단의 주요한 작동, 먹는물의 생산 공정)에 쓰이는가
2. 영향의 중대성 - 인공지능의 결과가 그 기능을 직접 좌우해 생명·안전·기본권에 중대한 위험을 줄 수 있는가. 사람이 결과를 검토해 최종 결정하는 보조 도구이면 중대성이 낮게 평가된다

과학기술정보통신부장관은 기준과 예시를 담은 고영향 인공지능 판단 가이드라인을 보급하고(제33조제3항), 사업자가 스스로 검토한 뒤 추가 확인이 필요할 때만 해당 여부 확인을 요청하도록 안내한다.

적용 예

사례	영역	판단
선박 자율 제어로 운항하는 자율운항 시스템	교통수단의 주요한 작동·운영	인공지능이 선박의 조종을 직접 맡으므로 해당
상수원 수질을 실시간 감시하는 모니터링 시스템	먹는물 관련이지만 생산 공정을 제어하지 않는다	측정·감시 정보를 사람에게 주는 데 그치므로 비해당
객실 승객 행동을 분석해 비상 대처방안을 승객에게 제시	교통수단 안이지만 운항의 작동·운영이 아니다	운항 제어와 무관한 정보 제공이므로 비해당
대출 심사에서 신용 점수를 산출해 승인 여부를 정함	대출 심사	결과가 개인의 권리·의무를 직접 좌우하면 해당

사업자의 책무

• 사전 검토와 확인 요청 - 고영향 해당 여부를 미리 검토하고, 필요하면 과학기술정보통신부장관에게 확인을 요청할 수 있다(제33조).
• 투명성 - 고영향 인공지능에 기반한 제품·서비스라는 사실을 이용자에게 미리 알린다(제31조).
• 안전성·신뢰성 조치 - 위험관리방안, 결과와 주요 기준·학습용데이터 개요에 대한 설명 방안, 이용자 보호 방안, 사람의 관리·감독, 조치 내용을 확인할 문서의 작성·보관(제34조).
• 영향평가 - 기본권에 미치는 영향을 미리 평가하도록 노력한다. 국가기관등은 영향평가를 거친 제품을 우선 고려한다(제35조).

EU 인공지능법과 구별하기

구분	인공지능기본법 고영향 인공지능	EU 인공지능법 고위험 AI
분류 방식	법정 영역 + 중대한 영향	위험 등급(금지, 고위험, 제한적, 최소)
금지 AI	따로 두지 않는다	금지 관행을 열거한다
영향평가	노력 의무	일부 배포자에게 기본권 영향평가 의무

같이 보기

• 인공지능기본법
• EU 인공지능법
• 대형 언어 모델