Must-Know AI Agent Tech
handbook를 읽을 때 먼저 알아두면 좋은 핵심 AI agent 기술 개념을 짧고 실무적으로 정리
reference docs/reference/MUST_KNOW_AI_AGENT_TECH.md
목적: handbook를 읽을 때 먼저 알아두면 좋은 핵심 AI agent 기술 개념을 짧고 실무적으로 정리
1. Tool Use
모델이 외부 함수, API, 검색, 파일 시스템, 브라우저 같은 도구를 호출하는 능력.
왜 중요한가:
- 답변 모델과 실행 모델의 경계를 만든다
- 권한, 검증, auditability 문제가 여기서 시작된다
2. Computer Use
모델이 마우스, 키보드, 스크린샷 기반으로 실제 UI를 조작하는 능력.
왜 중요한가:
- API 없는 시스템까지 자동화할 수 있다
- 동시에 blast radius가 커진다
3. Reasoning Model
답변 전에 더 오래 생각하거나 여러 단계를 거쳐 문제를 푸는 모델 계열.
왜 중요한가:
- 더 복잡한 문제를 풀 수 있다
- 하지만 더 오래 생각한다고 더 안전한 것은 아니다
4. Thinking Model
reasoning을 제품 기능으로 드러낸 모델. Google Gemini 2.5, OpenAI o-series, GPT-5류를 읽을 때 자주 나오는 표현이다.
왜 중요한가:
- reasoning이 연구 개념이 아니라 제품 기본 구조로 올라왔다
5. Agent Orchestration
여러 tool call, 여러 step, 여러 agent handoff를 실제 workflow로 묶는 계층.
왜 중요한가:
- 실제 agent 품질은 모델만이 아니라 orchestration에서 갈린다
- tracing, retry, fallback, guardrail이 여기에 들어간다
6. Observability
에이전트가 어떤 단계로 무엇을 했는지 추적 가능한 상태.
왜 중요한가:
- 실패 원인을 분석할 수 있다
- 오탐과 과잉 자율성을 줄일 수 있다
7. Prompt Injection
웹페이지, 파일, 검색 결과, 툴 출력 속 공격성 지시문이 agent의 행동을 가로채는 문제.
왜 중요한가:
- agent는 tool output을 읽는 순간 공격 표면이 커진다
- 단순 prompt policy만으로 막기 어렵다
8. Guardrail / Harness
모델 바깥에서 action을 차단, 검증, 승인하는 구조.
왜 중요한가:
- capability가 커질수록 guardrail이 더 중요해진다
- rule text보다 실행 계층에서의 제어가 핵심이다
9. Approval Boundary
어디까지는 agent가 자동으로 해도 되고, 어디부터는 사람이 승인해야 하는지 정하는 경계.
왜 중요한가:
- approval fatigue를 줄이면서도 위험을 통제해야 한다
10. Verification
지금 읽는 정보가 공식 문서인지, 추론인지, 검토 대기인지 구분하는 것.
왜 중요한가:
- 자동 로그와 handbook 품질을 지키는 마지막 방어선이다
ai-rules 관점 메모
- handbook는 단순 뉴스 정리가 아니라, 이 개념들을 실제 로그와 연결해 운영 판단 재료로 만드는 쪽이 더 가치 있다.
- 그래서 날짜 로그와 심화 guide/reference를 같이 운영하는 구조가 잘 맞는다.