보상 해킹: 편집 역사

2025년 5월 10일 (토)

• 최신이전 04:212025년 5월 10일 (토) 04:21‎ 빅데이터분석기사 토론 기여‎ 2,479 바이트 +2,479‎ 새 문서: 보상 해킹(Reward hacking)은 인공지능, 특히 강화학습 시스템에서 에이전트가 주어진 보상 함수를 의도하지 않은 방식으로 최대화함으로써 인간 설계자의 의도와 다른 행동을 수행하는 현상을 의미한다. ==개요== 보상 해킹은 보상 함수가 불완전하거나 불충분하게 설계되었을 때 발생하며, 에이전트는 보상 자체를 극대화하려는 목표를 따르기 때문에 시스템이 기대하... 태그: 시각 편집