본문으로 이동
검색 여닫기
메뉴 여닫기
  • 1.2만 문서
  • 3.4천 파일
  • 1천 사용자
  • 9.6만 편집
IT 위키
환경 설정 메뉴 여닫기
개인 메뉴 여닫기
로그인하지 않음
지금 편집한다면 당신의 IP 주소가 공개될 수 있습니다.

에이전트 인공지능

IT 위키
더 많은 작업
Agent artificial intelligence, AI agent; 에이전트 인공지능, 인공지능 에이전트
환경을 인식하고 목표를 이루기 위해 스스로 판단해 행동하는 인공지능 시스템

에이전트 인공지능은 주어진 환경에서 정보를 받아들이고(인식), 무엇을 할지 정하고(판단), 실제로 무언가를 바꾸는(행동) 인공지능 시스템이다. 질문 하나에 답 하나를 돌려주는 모델과 달리, 에이전트는 목표가 이루어질 때까지 관찰과 행동을 되풀이하며 중간 결과에 따라 계획을 고친다.

이 말은 두 맥락에서 쓰인다. 인공지능 교과서에서 에이전트는 센서로 환경을 지각하고 구동기로 환경에 작용하는 모든 것을 가리키는 기본 틀이다. 온도 조절기부터 체스 프로그램, 자율주행차까지 모두 에이전트로 설명한다. 2023년 이후에는 대형 언어 모델(LLM)이 도구를 호출하고 코드를 실행하며 여러 단계 작업을 스스로 처리하는 시스템을 주로 가리키게 되었다. 이런 시스템을 강조할 때 에이전틱 AI(agentic AI)라는 말도 쓴다. 이 문서는 두 맥락을 함께 다루고, 세부 기술은 각 문서로 연결한다.

고전적 정의

편집 원본 편집

스튜어트 러셀과 피터 노빅의 교과서 《Artificial Intelligence: A Modern Approach》는 인공지능 전체를 지능형 에이전트(intelligent agent)를 설계하는 학문으로 정리한다. 에이전트는 지금까지 받은 지각의 열(percept sequence)을 행동으로 바꾸는 에이전트 함수로 나타낼 수 있고, 합리적 에이전트는 주어진 지각과 사전 지식에서 성능 척도의 기댓값을 최대화하는 행동을 고르는 에이전트다.

기본 구조

편집 원본 편집
요소 역할 로봇 청소기 예 LLM 에이전트 예
센서 환경 정보를 수집 카메라, 범퍼, 먼지 센서 사용자 메시지, 도구 실행 결과, 화면 캡처
인식·분석 수집한 데이터로 현재 상태를 파악 지도 작성, 위치 추정 모델이 맥락을 읽고 상황을 요약
계획·의사결정 목표에 맞는 행동을 고름 청소 경로 계획 다음에 부를 도구와 인자를 결정
학습 경험으로 성능을 개선 집 구조 학습 메모리, 반성(reflection), 미세조정
구동기(액추에이터) 고른 행동을 실제로 수행 바퀴, 브러시 API 호출, 파일 수정, 클릭, 명령 실행

PEAS와 환경의 성질

편집 원본 편집

에이전트를 설계할 때는 과제 환경을 성능 척도(Performance), 환경(Environment), 구동기(Actuators), 센서(Sensors)의 네 항목, 줄여서 PEAS로 정리한다.

에이전트 성능 척도 환경 구동기 센서
자율 택시 안전, 속도, 법규 준수, 승객 만족, 수익 도로, 다른 차량, 보행자, 승객 조향, 가속, 제동, 신호, 화면 카메라, 라이다, GPS, 속도계
코딩 에이전트 테스트 통과, 요구 충족, 코드 품질 저장소, 터미널, 이슈 트래커 파일 편집, 명령 실행, 풀 리퀘스트 작성 파일 내용, 실행 결과, 오류 메시지

환경은 다음 성질로 분류한다. 이 성질에 따라 알맞은 에이전트 설계가 달라진다.

  • 완전 관측 가능 / 부분 관측 가능: 센서로 환경 상태 전체를 볼 수 있는가
  • 단일 에이전트 / 다중 에이전트: 다른 에이전트(협력 또는 경쟁)가 있는가
  • 결정적 / 확률적: 같은 행동이 언제나 같은 결과를 내는가
  • 일회적(episodic) / 순차적(sequential): 지금 행동이 이후 상황에 영향을 주는가
  • 정적 / 동적: 에이전트가 생각하는 동안 환경이 바뀌는가
  • 이산 / 연속: 상태와 행동이 셀 수 있는 값인가
  • 알려진 / 알려지지 않은 환경: 행동의 결과 규칙을 에이전트가 아는가

에이전트 유형

편집 원본 편집
유형 동작 예 한계
단순 반사 에이전트(simple reflex) 현재 지각만 보고 "조건-행동" 규칙으로 반응 온도가 기준보다 낮으면 난방을 켜는 온도 조절기 부분 관측 환경에서 쉽게 실패하고 같은 실수를 반복
모델 기반 반사 에이전트(model-based reflex) 보이지 않는 부분을 내부 상태(세계 모델)로 추적한 뒤 규칙 적용 앞차 브레이크등이 가려져도 이전 관측으로 감속을 판단 목표가 바뀌면 규칙을 다시 짜야 함
목표 기반 에이전트(goal-based) 목표 상태를 정하고 탐색이나 계획으로 거기 이르는 행동열을 찾음 경로 탐색, 퍼즐 풀이 목표에 이르는 여러 방법의 좋고 나쁨을 구분하지 못함
효용 기반 에이전트(utility-based) 상태마다 효용(만족도)을 매겨 기대 효용이 가장 큰 행동 선택 시간, 비용, 안전을 함께 따지는 내비게이션 효용 함수 설계가 어렵고 계산량이 큼
학습 에이전트(learning) 수행 요소, 비평가, 학습 요소, 문제 생성기로 구성. 비평가의 피드백으로 수행 요소를 고치고, 문제 생성기가 새로운 시도를 제안 강화 학습 에이전트, 추천 시스템 탐색과 활용의 균형, 학습 데이터 필요

앞의 네 유형은 무엇을 근거로 행동을 고르느냐에 따른 구분이고, 학습 에이전트는 그중 어느 유형이든 경험으로 개선하는 구조를 덧붙인 것이다. 모델 기반 에이전트의 "내부 모델"은 오늘날 월드 모델 연구로 이어진다.

다중 에이전트와 에이전트 연구의 흐름

편집 원본 편집

1990년대에는 에이전트를 소프트웨어 설계 단위로 보는 연구가 활발했다. 마이클 울드리지와 닉 제닝스는 에이전트의 성질로 자율성(autonomy), 사회성(social ability), 반응성(reactivity), 주도성(pro-activeness)을 꼽았다.[1] 믿음(Belief), 욕구(Desire), 의도(Intention)로 에이전트의 추론을 모델링하는 BDI 구조, 여러 에이전트가 협상하고 협력하는 다중 에이전트 시스템(MAS), 에이전트끼리 주고받는 메시지 형식을 정한 KQML과 FIPA-ACL 같은 에이전트 통신 언어가 이 시기에 나왔다. LLM 에이전트 시대의 A2A 프로토콜은 같은 문제를 웹 표준 위에서 다시 푸는 시도라 할 수 있다. 여러 에이전트가 함께 학습하는 경우는 다중 강화학습 문서 참고.

응용 분야(고전적 에이전트)

편집 원본 편집

LLM 기반 에이전트

편집 원본 편집

LLM 에이전트는 언어 모델을 판단의 중심에 두고, 모델이 도구 호출, 코드 실행, 웹 탐색 같은 행동을 반복하며 과제를 처리하는 시스템이다. 앤트로픽은 이런 시스템 전체를 "에이전트형 시스템"이라 부르면서, 미리 정한 코드 경로대로 LLM과 도구를 엮는 워크플로(workflow)와, LLM이 스스로 진행 과정과 도구 사용을 결정하는 에이전트(agent)를 구분했다. 또 가장 성공적인 구현은 복잡한 프레임워크가 아니라 단순하고 조합 가능한 패턴을 썼다고 정리했다.[2]

구성 요소

편집 원본 편집
요소 내용 관련 문서
모델 상황을 이해하고 다음 행동을 정하는 LLM. 긴 작업에는 추론 모델이 쓰임 대형 언어 모델
도구 검색, 계산기, 코드 실행기, 파일 시스템, 외부 API, 브라우저, 마우스·키보드 도구 호출 (인공지능), 모델 컨텍스트 프로토콜, 컴퓨터 사용 에이전트
계획 큰 목표를 하위 작업으로 나누고, 실패하면 다시 계획 연쇄적 사고 프롬프팅
메모리 대화 맥락(단기), 벡터 저장소나 파일에 남긴 기록(장기) RAG (인공지능), 벡터 데이터베이스, 컨텍스트 윈도우
환경과 실행 장치 에이전트가 행동하는 샌드박스, 저장소, 브라우저, 운영체제 샌드박스

핵심 기법

편집 원본 편집
발표 기법 내용
2022년 1월 사고 사슬(Chain-of-Thought) 중간 추론 단계를 쓰게 하면 큰 언어 모델의 산술·상식·기호 추론이 크게 좋아짐[3]
2022년 10월 ReAct 추론(Thought)과 행동(Action), 관찰(Observation)을 번갈아 생성. 위키백과 API를 조회하며 HotpotQA, Fever의 환각과 오류 전파를 줄이고, ALFWorld와 WebShop에서 모방·강화 학습 방법보다 성공률을 각각 34%p, 10%p 높임[4]
2023년 2월 Toolformer 계산기, 검색, 번역기, 달력 같은 API를 언제 어떻게 부를지 모델이 자기 지도 방식으로 학습[5]
2023년 3월 Reflexion 가중치를 바꾸지 않고, 실패에 대한 언어적 반성을 메모리에 남겨 다음 시도에 활용. HumanEval pass@1 91%[6]
2023년 4월 생성형 에이전트(Generative Agents) 경험을 자연어로 기록하고 반성과 계획에 활용하는 구조. 가상 마을의 에이전트 25명이 밸런타인 파티 소식을 스스로 퍼뜨리고 함께 참석[7]
2023년 5월 생각의 나무(Tree of Thoughts) 여러 추론 경로를 탐색하고 스스로 평가하며 되돌아감. 24 게임에서 사고 사슬 GPT-4의 4%를 74%로 높임[8]

ReAct식 반복은 오늘날 대부분 에이전트의 기본 골격이다. 의사코드로 쓰면 다음과 같다. 

def run_agent(goal, tools, llm, max_steps=20):
    history = [f"목표: {goal}"]
    for _ in range(max_steps):
        step = llm.decide(history, tools)      # 생각하고 다음 행동을 정함
        if step.is_final:
            return step.answer                 # 목표 달성: 최종 답 반환
        result = tools[step.tool](**step.args) # 도구 실행(행동)
        history.append(f"행동: {step.tool}({step.args})")
        history.append(f"관찰: {result}")      # 결과를 다음 판단에 반영
    return "단계 한도 초과"

워크플로 패턴

편집 원본 편집

앤트로픽의 정리에 따르면 실제 시스템은 다음 패턴을 조합한다.[2]

  • 프롬프트 체이닝: 작업을 순서대로 나눠 앞 단계 출력을 다음 단계 입력으로
  • 라우팅: 입력 종류를 분류해 알맞은 처리 경로로 보냄
  • 병렬화: 하위 작업을 동시에 처리하거나 여러 번 실행해 투표
  • 오케스트레이터-작업자: 중심 LLM이 작업을 동적으로 나눠 작업자에게 맡기고 결과를 합침(오케스트레이션 패턴 참고)
  • 평가자-최적화자: 한 LLM이 만들고 다른 LLM이 평가해 되먹임

다중 에이전트 시스템

편집 원본 편집

역할이 다른 여러 LLM 에이전트가 대화하며 협력하게 하는 구조다. 마이크로소프트의 AutoGen(2023)은 서로 대화하는 에이전트를 조합하는 오픈소스 프레임워크이고,[9] MetaGPT(2023)는 소프트웨어 회사의 표준 작업 절차를 프롬프트로 옮겨 기획자, 설계자, 개발자 역할을 나눴다.[10] 마이크로소프트 리서치의 Magentic-One(2024년 11월 4일)은 오케스트레이터 에이전트가 웹 브라우저, 파일 탐색, 코드 작성·실행을 맡은 네 에이전트를 지휘한다.[11] 개발 프레임워크로는 랭체인 등이 쓰인다.

코딩 에이전트와 컴퓨터 사용 에이전트

편집 원본 편집

소프트웨어 개발은 결과를 테스트로 확인할 수 있어 에이전트가 가장 빨리 자리 잡은 분야다. SWE-agent(2024)는 에이전트 전용 명령 인터페이스(ACI)를 설계해 저장소 탐색, 파일 편집, 테스트 실행을 돕는 것만으로 성능이 크게 달라진다는 것을 보였다.[12] 이후 클로드 코드, OpenAI 코덱스, 깃허브 코파일럿 에이전트 모드, 커서 같은 상용 코딩 에이전트가 나왔다. 개발자가 자연어로 지시하고 결과만 확인하는 개발 방식은 바이브 코딩 문서 참고.

화면을 보고 마우스와 키보드를 조작하는 에이전트는 컴퓨터 사용 에이전트 문서에서 자세히 다룬다.

주요 사건

편집 원본 편집
날짜 사건
2023년 3월 오픈소스 자율 에이전트 AutoGPT 공개. 목표만 주면 LLM이 스스로 하위 작업을 만들고 실행하는 방식으로 주목받음[13]
2024년 3월 12일 코그니션, "AI 소프트웨어 엔지니어" 데빈(Devin) 발표. SWE-bench 무작위 25% 부분집합에서 이슈 13.86% 해결(종전 최고 1.96%)[14]
2024년 10월 22일 앤트로픽, 클로드 3.5 소네트에 컴퓨터 사용(computer use) 기능을 공개 베타로 추가[15]
2024년 11월 25일 앤트로픽, 모델 컨텍스트 프로토콜(MCP) 공개[16]
2025년 1월 23일 OpenAI, 브라우저를 직접 조작하는 오퍼레이터(Operator)와 그 모델 CUA를 연구 프리뷰로 공개[17]
2025년 4월 9일 구글, 에이전트 간 통신 프로토콜 A2A 발표[18]
2025년 5월 16일 OpenAI, 클라우드에서 여러 작업을 병렬로 처리하는 코딩 에이전트 코덱스(Codex) 연구 프리뷰 공개[19]
2025년 5월 22일 앤트로픽, 클로드 4와 함께 클로드 코드 정식 출시[20]
2025년 11월 오픈소스 개인 비서 에이전트 OpenClaw 공개[21]
2025년 12월 9일 앤트로픽, OpenAI, 블록이 리눅스 재단 산하 에이전틱 AI 재단(AAIF)을 공동 설립. MCP, goose, AGENTS.md를 기증[22]
2026년 1월 12일 앤트로픽, 클로드 코드의 기반을 일반 업무로 넓힌 데스크톱 에이전트 코워크(Cowork) 연구 프리뷰 공개[23]
2026년 3월 12일 A2A 사양 1.0.0 공개[24]
2026년 7월 9일 OpenAI, 연결된 앱과 파일을 바탕으로 긴 업무를 끝까지 처리하는 ChatGPT Work 공개[25]

프로토콜

편집 원본 편집

에이전트가 늘면서 연결 방식을 표준화하려는 움직임이 생겼다.

프로토콜 연결 대상 발표 현재 관리
모델 컨텍스트 프로토콜(MCP) 에이전트(LLM 앱) ↔ 도구, 데이터 소스 앤트로픽, 2024년 11월[16] 리눅스 재단 산하 에이전틱 AI 재단[22]
A2A 프로토콜(Agent2Agent) 에이전트 ↔ 에이전트 구글, 2025년 4월[18] 리눅스 재단 A2A 프로젝트

두 프로토콜은 경쟁보다 보완 관계로 소개된다. MCP가 에이전트에게 도구와 맥락을 주는 통로라면, A2A는 서로 다른 회사나 프레임워크로 만든 에이전트가 작업을 주고받는 통로다.[18] 저장소에 에이전트용 지침을 적어 두는 AGENTS.md 같은 관례도 함께 표준화되고 있다.

평가

편집 원본 편집
벤치마크 발표 내용 발표 당시 결과
SWE-bench 2023년 10월 파이썬 저장소 12곳의 실제 깃허브 이슈 2,294개를 코드 수정으로 해결 최고 성적인 클로드 2가 1.96% 해결[26]
SWE-bench Verified 2024년 8월 전문 개발자가 검수해 문제 설명과 테스트가 적절한 500개만 고른 부분집합 원본과 Lite 테스트셋을 대체[27]
WebArena 2023년 7월 쇼핑몰, 게시판, 코드 저장소, 콘텐츠 관리 사이트를 재현한 웹 환경에서 긴 작업 수행 GPT-4 에이전트 14.41%, 사람 78.24%[28]
GAIA 2023년 11월 추론, 웹 탐색, 도구 사용이 필요한 일상적 질문 466개 사람 92%, 플러그인을 쓴 GPT-4 15%[29]
OSWorld 2024년 4월 우분투, 윈도우, macOS 실제 컴퓨터 환경에서 369개 작업 최고 모델 12.24%, 사람 72.36% 이상[30]

에이전트 평가는 최종 결과를 실행으로 확인하는 방식(테스트 통과, 웹 페이지 상태 검사)이 중심이다. 같은 모델이라도 도구 설계, 프롬프트, 시도 횟수, 비용 한도에 따라 점수가 크게 달라지므로 점수를 비교할 때 실행 조건을 함께 봐야 한다. 일반 벤치마크는 벤치마크 데이터셋 문서 참고.

위험과 대책

편집 원본 편집
  • 프롬프트 인젝션: 에이전트가 읽은 웹 페이지, 이메일, 문서에 숨긴 지시가 사용자의 지시를 덮어쓸 수 있다. 도구 결과를 통해 들어오는 간접 프롬프트 인젝션은 에이전트에서 특히 위험하다.
  • 과도한 권한: 파일 삭제, 송금, 메일 발송처럼 되돌리기 어려운 행동을 할 수 있다. 최소 권한 원칙, 샌드박스 실행, 위험한 행동 전 사람 확인(HITL)이 기본 대책이다.
  • 오류 누적: 여러 단계를 거치며 작은 오류나 환각이 쌓이고, 잘못된 중간 결과를 근거로 계속 진행한다.
  • 목표 오해와 편법: 테스트를 고치거나 검사를 우회하는 식으로 겉보기 목표만 맞추는 보상 해킹이 나타날 수 있다. 장기적으로는 인공지능 정렬 문제와 이어진다.
  • 비용과 지연: 반복 호출로 토큰 사용량과 실행 시간이 크게 늘어난다. 앤트로픽은 단순한 해법으로 충분하면 에이전트를 쓰지 말고 필요할 때만 복잡도를 높이라고 권한다.[2]
  • 책임 소재: 에이전트가 한 행동의 책임을 누가 지는지, 다른 에이전트를 얼마나 믿을지에 대한 기준이 아직 정립되지 않았다. 공격 측면은 인공지능 레드티밍 문서 참고.

같이 보기

편집 원본 편집

각주

편집 원본 편집
  1. ↑ Michael Wooldridge, Nicholas R. Jennings, 〈Intelligent agents: theory and practice〉, 《The Knowledge Engineering Review》 10(2), 1995.
  2. ↑ 2.0 2.1 2.2 Building effective agents, Anthropic, 2024-12-19.
  3. ↑ Jason Wei 외, 〈Chain-of-Thought Prompting Elicits Reasoning in Large Language Models〉, NeurIPS 2022. arXiv:2201.11903
  4. ↑ Shunyu Yao 외, 〈ReAct: Synergizing Reasoning and Acting in Language Models〉, ICLR 2023. arXiv:2210.03629
  5. ↑ Timo Schick 외, 〈Toolformer: Language Models Can Teach Themselves to Use Tools〉, 2023. arXiv:2302.04761
  6. ↑ Noah Shinn 외, 〈Reflexion: Language Agents with Verbal Reinforcement Learning〉, NeurIPS 2023. arXiv:2303.11366
  7. ↑ Joon Sung Park 외, 〈Generative Agents: Interactive Simulacra of Human Behavior〉, UIST 2023. arXiv:2304.03442
  8. ↑ Shunyu Yao 외, 〈Tree of Thoughts: Deliberate Problem Solving with Large Language Models〉, NeurIPS 2023. arXiv:2305.10601
  9. ↑ Qingyun Wu 외, 〈AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation〉, 2023. arXiv:2308.08155
  10. ↑ Sirui Hong 외, 〈MetaGPT: Meta Programming for A Multi-Agent Collaborative Framework〉, ICLR 2024. arXiv:2308.00352
  11. ↑ Magentic-One: A Generalist Multi-Agent System for Solving Complex Tasks, Microsoft Research, 2024-11-04.
  12. ↑ John Yang 외, 〈SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering〉, NeurIPS 2024. arXiv:2405.15793
  13. ↑ Significant-Gravitas/AutoGPT, GitHub.
  14. ↑ Introducing Devin, the first AI software engineer, Cognition, 2024-03-12.
  15. ↑ Introducing computer use, a new Claude 3.5 Sonnet, and Claude 3.5 Haiku, Anthropic, 2024-10-22.
  16. ↑ 16.0 16.1 Introducing the Model Context Protocol, Anthropic, 2024-11-25.
  17. ↑ Introducing Operator, OpenAI, 2025-01-23.
  18. ↑ 18.0 18.1 18.2 Announcing the Agent2Agent Protocol (A2A), Google Developers Blog, 2025-04-09.
  19. ↑ Introducing Codex, OpenAI, 2025-05-16.
  20. ↑ Introducing Claude 4, Anthropic, 2025-05-22.
  21. ↑ openclaw/openclaw, GitHub.
  22. ↑ 22.0 22.1 Donating the Model Context Protocol and establishing the Agentic AI Foundation, Anthropic, 2025-12-09.
  23. ↑ Anthropic Introduces Claude Cowork, AI Business, 2026-01.
  24. ↑ a2aproject/A2A Releases, GitHub.
  25. ↑ OpenAI launches ChatGPT Work, an agent built to finish the job, The Next Web, 2026-07.
  26. ↑ Carlos E. Jimenez 외, 〈SWE-bench: Can Language Models Resolve Real-World GitHub Issues?〉, ICLR 2024. arXiv:2310.06770
  27. ↑ Introducing SWE-bench Verified, OpenAI, 2024-08-13.
  28. ↑ Shuyan Zhou 외, 〈WebArena: A Realistic Web Environment for Building Autonomous Agents〉, ICLR 2024. arXiv:2307.13854
  29. ↑ Grégoire Mialon 외, 〈GAIA: a benchmark for General AI Assistants〉, 2023. arXiv:2311.12983
  30. ↑ Tianbao Xie 외, 〈OSWorld: Benchmarking Multimodal Agents for Open-Ended Tasks in Real Computer Environments〉, NeurIPS 2024. arXiv:2404.07972

참고 문헌

편집 원본 편집
  • Stuart Russell, Peter Norvig, 《Artificial Intelligence: A Modern Approach》 4판, Pearson, 2021.
  • Michael Wooldridge, 《An Introduction to MultiAgent Systems》 2판, Wiley, 2009.
  • Lei Wang 외, 〈A Survey on Large Language Model based Autonomous Agents〉, 2023. arXiv:2308.11432
원본 주소 "https://itwiki.kr/index.php?title=에이전트_인공지능&oldid=96011"