기업 AI의 다음 병목은 모델 정확도보다 권한 관리다. 답변만 만드는 챗봇과 달리 에이전트는 이메일·코드·고객정보를 읽고 외부 시스템을 변경한다. 생산성이 높아지는 만큼 ‘누구를 대신해 어떤 권한으로 무엇을 실행했는가’를 기록하지 못하면 기존 클라우드 통제의 빈틈이 커진다.
에이전트는 모델과 소프트웨어 권한의 결합이다
미국 국립표준기술연구소(NIST)는 AI 에이전트를 계획하고 현실 시스템에 자율적으로 행동하는 시스템으로 본다. 2026년 의견수렴 결과, 참여자들은 기존 사이버보안 원칙이 여전히 필요하지만 에이전트 특유의 위협에 맞춰 수정돼야 한다고 대체로 동의했다. 외부 문서에 숨긴 간접 프롬프트 주입, 오염된 모델, 명시적 공격 없이 목표를 잘못 최적화하는 행위가 대표 위험이다.
일반 서비스 계정은 정해진 코드를 실행하지만 에이전트는 입력 맥락에 따라 다음 도구와 행동을 선택한다. 같은 권한이라도 사용 경로가 훨씬 넓다. 따라서 사용자 로그인 뒤 하나의 광범위한 토큰을 넘기는 방식은 최소권한 원칙을 약화시킨다.
신원·권한·감사의 세 층이 필요하다
NIST는 2026년 AI Agent Standards Initiative를 출범시키며 상호운용 프로토콜, 에이전트 보안과 신원 연구를 핵심 축으로 제시했다. 별도 개념문서는 에이전트의 식별, 권한부여, 감사, 부인방지와 프롬프트 주입 통제를 검토한다.
실무에서는 첫째 사람·에이전트·도구의 신원을 분리해야 한다. 둘째 실행 시점마다 목적과 데이터 범위가 제한된 단기 권한을 발급해야 한다. 셋째 입력, 모델 결정, 도구 호출, 변경 결과, 승인자를 연결한 감사기록을 남겨야 한다. 로그에 민감정보를 그대로 쌓는 것 역시 위험하므로 마스킹과 보존기간도 필요하다.
모든 에이전트를 같은 수준으로 통제하면 실패한다
마이크로소프트의 2026년 7월 지침은 회의록 요약처럼 사람을 보조하는 에이전트와 고객기록 수정·송금처럼 시스템을 변경하는 에이전트를 구분한다. 단일 체크리스트는 저위험 업무에는 과도한 마찰을, 고위험 업무에는 부족한 통제를 만든다. 실행 가능성, 데이터 민감도, 되돌릴 수 있는지, 외부 영향에 따라 위험등급을 나누는 편이 합리적이다.
고위험 에이전트에는 사람 승인, 금액·횟수 한도, 허용 도구 목록, 격리 실행, 즉시 중단장치가 필요하다. 저위험 에이전트는 샌드박스와 표본 감사를 활용해 속도를 유지할 수 있다. 중요한 것은 모델 이름이 아니라 실제 행동의 피해 반경이다.
비용과 관측성도 같은 문제다
에이전트는 한 요청에 여러 모델 호출, 검색, 데이터베이스 조회와 재시도를 수행한다. 사용자당 비용만 보면 반복 루프와 실패한 도구 호출이 숨는다. 작업별 성공률, 호출 단계, 지연시간, 토큰과 외부 API 비용, 사람의 수정률을 함께 측정해야 한다. 관측성이 없으면 비용 폭증과 권한 오남용 모두 늦게 발견된다.
독립 분석과 전망
기업 AI의 경쟁력은 가장 큰 모델을 보유하는 데서 ‘에이전트가 안전하게 일할 수 있는 운영체계’를 갖추는 쪽으로 이동할 가능성이 크다. 클라우드 사업자는 통합 제어면을 제공하겠지만 조직은 특정 플랫폼에 감사기록과 권한정책이 종속되는 위험도 점검해야 한다.
앞으로 볼 지표는 에이전트 수보다 실행 권한을 가진 에이전트 비중, 단기 자격증명 사용률, 사람 승인률, 실패 후 복구시간, 작업당 총비용이다. 파일럿의 화려한 시연보다 권한 만료와 감사 재현이 가능한지가 생산 전환의 기준이 돼야 한다.
출처 및 확인 기록
- NIST, “Summary Analysis of Responses…AI Agents”, 2026-05-18, 2026-08-14 21:05 KST 확인.
- NIST, “AI Agent Standards Initiative”, 2026-02-17·04-20 갱신, 2026-08-14 21:05 KST 확인.
- NIST, “New Concept Paper on Identity and Authority of Software Agents”, 2026-02-05, 2026-08-14 21:05 KST 확인.
- Microsoft Learn, “Govern agents by risk”, 2026-07-14 갱신, 2026-08-14 21:05 KST 확인.
편집 원칙: 기관 문서의 사실과 독립적인 운영·비용 분석을 구분했으며 특정 서비스 구매를 권유하지 않는다.
의견을 남겨주세요