What are AI Agents?

 

🔄 AI의 전환: 단일 모델에서 복합 시스템으로

생성형 AI는 이제 단일 LLM에서 벗어나 복합 AI 시스템(compound AI systems) 중심으로 전환되고 있습니다. 기존 LLM은 학습된 데이터에 따라 한계가 있으며, 개인화된 정보 접근이나 적응성에서 제약이 있습니다. 예를 들어, 사용자의 휴가일수를 묻는 질문은 모델이 개인정보에 접근하지 못하기 때문에 정확한 응답이 불가능합니다. 이를 극복하기 위해, 모델을 데이터베이스 검색, 프로그램 로직, 외부 도구와 연계한 시스템으로 구성하여 정확하고 실행 가능한 결과를 도출할 수 있습니다.

---

⚙️ 시스템 기반 접근: 유연성과 적응력 확보

복합 AI 시스템은 다양한 구성 요소로 이루어지며, 각 요소는 모듈형 구조로 결합됩니다. 예를 들어, 다양한 LLM, 튜닝된 모델, 이미지 생성기, 출력 검증기, 검색 기능 등이 결합됩니다. 이와 같은 시스템 설계는 모델 튜닝보다 빠르게 적용 가능하며, 다양한 문제에 대한 효율적 대응이 가능합니다. 대표적인 예로 RAG(Retrieval-Augmented Generation) 방식은 복합 AI 시스템의 대표 구조 중 하나입니다.

---

🧭 제어 로직과 에이전트의 역할

기존 시스템은 프로그래머가 제어 로직(control logic)을 수동으로 설계하지만, 에이전트 기반 접근은 LLM이 직접 로직을 생성하고 수정합니다. 이는 LLM의 추론 능력 향상 덕분에 가능해졌으며, 복잡한 문제를 계획하고 해결 경로를 스스로 조정할 수 있습니다. 사용자의 질의에 대해 빠르게 응답하기보다, 느리게 생각하고 계획하며 도구를 사용해 실행하고, 실패 시 계획을 조정하는 방식이 에이전트 접근의 핵심입니다.

---

🧠 LLM 에이전트의 구성 요소

LLM 에이전트는 세 가지 핵심 기능을 바탕으로 동작합니다.

1. 추론(reasoning): 문제 해결을 위한 계획 수립 및 단계별 사고 수행
2. 행동(act): 외부 프로그램(도구)을 호출하여 실제 작업 실행 – 예: 웹 검색, 데이터베이스 조회, 수치 계산, 다른 모델 호출 등
3. 메모리(memory): 대화 기록 또는 내부 추론 과정(내면적 독백)을 저장하고 재활용하여 개인화된 상호작용 구현

이러한 기능은 ReAct(Reasoning + Acting) 방식으로 통합되어, 계획 수립 → 도구 사용 → 피드백 반영 → 최종 응답의 일련의 루프로 구성됩니다.

---

🧴 복잡한 문제 해결 예시: 선크림 계산기

에이전트 기반 접근은 실생활의 복합적인 문제도 다룰 수 있습니다. 예컨대, 플로리다로 여행을 계획하면서 몇 개의 선크림을 준비해야 하는지 묻는 질문은 다음 단계를 포함합니다:

1. 사용자의 남은 휴가 일수 조회 (기억 또는 DB 조회)
2. 플로리다의 예상 일조량 확인 (날씨 API 검색)
3. 보건 기준에 따른 자외선 차단제 권장 사용량 확인
4. 위 데이터를 바탕으로 수학 계산 수행

이처럼 다양한 정보 출처와 계산이 필요한 문제에 대해 에이전트는 유연하게 계획을 세우고 도구를 활용하여 해답을 도출할 수 있습니다.

---

🧮 에이전트 적용 기준과 전략적 고려사항

AI 시스템 설계자는 에이전트의 자율성 수준을 선택적으로 조정할 수 있습니다. **좁고 명확한 문제(narrow, deterministic task)**에는 전통적인 프로그래밍 방식이 더 효율적이며, 복잡하고 다양한 요청이 예상되는 문제에는 에이전트 방식이 적합합니다. 예를 들어, GitHub 이슈 자동 해결과 같은 고차원 과제에는 에이전트가 더 적합한 구조를 제공합니다.

---

🚀 현재와 미래: 초기 단계의 진화 중인 기술

에이전트 시스템은 아직 초기 단계이며, **시스템 설계와 에이전트적 행동(agentic behavior)**의 결합을 통해 빠르게 발전하고 있습니다. 대부분의 경우 인간이 루프 내에 포함되어 정확성을 감시하고 개선해 나가는 구조가 기본이며, 향후 완전 자율형 에이전트로의 발전 가능성이 열려 있습니다. 사용자는 특정 요구에 맞는 자율성과 로직을 갖춘 시스템을 구성함으로써 지능형 문제 해결 시스템을 보다 유연하게 설계할 수 있습니다.