AI와 클라우드의 경쟁은 이제 더 큰 모델을 얼마나 빨리 띄우느냐만의 문제가 아니다. 2026년 8월부터 유럽연합 집행위원회의 범용 AI 모델 관련 집행 권한이 작동하기 시작하면서, 모델 제공자·클라우드 사업자·기업 배포자 사이에서 누가 어떤 근거를 보관하고 어떤 사고에 답할지를 연결하는 능력이 실제 운영 역량으로 떠오르고 있다.
유럽연합 집행위원회는 범용 AI 모델 제공자 의무가 2025년 8월부터 적용됐고, 2026년 8월 2일부터 집행위원회의 집행 권한이 적용된다고 설명한다. 제공자는 하위 사업자가 시스템을 만들 수 있도록 기술 문서를 유지해야 하며, 시스템적 위험에 해당하는 모델은 통지와 안전·보안 조치를 요구받을 수 있다. 이 변화는 유럽에만 서비스를 제공하는 기업의 법무 이슈로 끝나지 않는다. 하나의 모델 API, 여러 리전의 클라우드, 기업 내부 데이터와 업무 도구가 결합되는 현재의 배포 구조에서는 문서·접근권한·사고기록이 서로 다른 주체에 흩어지기 때문이다.
핵심은 ‘누가 AI를 만들었나’와 ‘누가 실제로 작동시켰나’를 분리해 보는 데 있다. 클라우드 사업자는 가상 서버와 저장소, 네트워크의 보안 기반을 제공할 수 있지만, 업무용 프롬프트에 어떤 데이터가 들어갔는지, 모델 출력이 어떤 자동 조치로 이어졌는지, 사람이 어느 지점에서 중단시킬 수 있었는지는 배포 기업의 설계에 좌우된다. 반대로 모델 제공자의 문서가 충분하지 않으면 배포 기업은 성능 검증과 위험 평가를 반복해서 새로 해야 한다. 이 연결이 끊기면 규정 준수 비용뿐 아니라 장애 대응 시간도 길어진다.
집행의 출발점은 모델이 아니라 증거의 흐름이다
범용 AI에 관한 유럽연합의 지침은 제공자에게 하위 제공자를 위한 별도 문서를 만들고 유지하도록 요구한다. 이는 단순한 사용설명서보다 넓은 개념이다. 기업이 어떤 모델 버전을 어느 용도로 연결했는지, 제한 사항은 무엇인지, 사고 또는 중대한 동작 변화가 있었을 때 누구에게 알려야 하는지를 추적할 수 있어야 한다는 뜻이다. 8월부터 집행 권한이 적용되면서 이 문서의 가치는 ‘나중에 작성하는 보고서’가 아니라 서비스 설계 단계에서 확보해야 할 운영 자산으로 바뀐다.
특히 같은 모델이라도 연결 방식에 따라 위험은 달라진다. 사내 검색을 보조하는 챗봇은 원문 인용과 접근 통제가 중요하고, 고객 지원 도구는 개인정보와 응답 이력의 분리가 중요하다. 구매·인사·계약 시스템에 연결된 에이전트는 출력의 정확성보다 실행 권한의 범위와 승인 절차가 더 큰 변수일 수 있다. 따라서 ‘안전한 모델’을 일괄 구매하는 방식만으로는 부족하다. 모델의 속성, 클라우드의 통제, 업무 프로세스의 권한을 하나의 감사 가능한 흐름으로 묶어야 한다.
클라우드의 공동책임 모델에 AI의 빈칸이 생긴다
전통적인 클라우드 계약은 대체로 인프라 보안과 고객 설정 책임을 나눠 설명한다. 그러나 생성형 AI 환경에서는 그 사이에 모델 가중치·프롬프트·검색용 문서·도구 호출·출력 후 자동 실행이라는 새로운 층이 추가된다. 어느 층에서 잘못된 권한이 부여됐는지, 어떤 데이터가 학습이나 로그에 남는지, 모델 업데이트가 결과를 바꿨는지를 확인하려면 기존의 서버 로그만으로는 충분하지 않다.
미국 국립표준기술연구소(NIST)는 AI 시스템 보안 통제 사례에서 단일·다중 에이전트 시스템을 별도 사용 사례로 제시하며, 제한된 사람 감독 아래 계획·실행하는 특성을 짚는다. 또한 AI 모델 개발과 AI 시스템 도입 주체 모두에게 적용되는 보안 개발 지침을 제시한다. 이 관점에서 보면 클라우드 아키텍처의 분석 단위도 가상머신 한 대가 아니라 ‘요청이 들어와 모델이 판단하고 외부 도구가 실행한 뒤 사람이 검토하는 전 과정’이 된다. 보안팀, 데이터팀, 현업 부서가 서로 다른 대장을 들고 있으면 원인 분석이 늦어질 수밖에 없다.
비용 최적화와 책임 설계는 같은 방향으로 갈 수 있다
책임 연결을 강화하면 절차가 느려진다는 인식도 있다. 초기에는 모델 카드, 데이터 분류, 승인 단계, 변경 기록을 정리하는 비용이 든다. 하지만 공통 인터페이스와 표준화된 기록이 쌓이면 여러 팀이 같은 검증을 반복하는 일을 줄일 수 있다. 예를 들어 모델 교체 전의 비교 시험, 리전 변경 시의 데이터 경로 확인, 권한이 큰 도구 호출의 승인 규칙을 재사용 가능한 통제로 만들면 클라우드 운영의 변동 비용을 낮출 여지가 생긴다.
여기서 중요한 비교는 ‘완전한 중앙집중’과 ‘무제한 자율 배포’ 사이에 있다. 중앙집중은 일관된 통제를 주지만 현업 도입 속도를 떨어뜨릴 수 있고, 무제한 자율 배포는 빠르지만 모델·데이터·권한의 조합이 늘어나며 사고 표면을 넓힌다. 현실적인 해법은 공통 최소 기준을 중앙에서 제공하고, 업무별로 필요한 모델과 도구를 선택하되 그 선택과 변경이 자동으로 기록되게 만드는 것이다. 이는 특정 사업자나 상품의 우열이 아니라 운영 구조의 선택 문제다.
향후 점검할 세 가지: 문서, 권한, 변경
첫째, 기업은 외부 모델을 도입할 때 성능표뿐 아니라 하위 배포자를 위한 기술 문서와 위험 통지 경로를 받을 수 있는지 확인할 필요가 있다. 둘째, 클라우드 계정·비밀키·도구 호출 권한이 모델별·업무별로 최소화돼 있는지 점검해야 한다. 셋째, 모델 버전이나 검색 데이터, 자동 실행 규칙이 바뀔 때 결과와 책임 범위가 어떻게 달라지는지 기록해야 한다. 이 세 가지는 규제 문구를 복사하는 작업이 아니라, 장애와 오작동이 발생했을 때 빠르게 서비스를 멈추고 복구할 수 있는 준비다.
유럽연합의 고위험 AI 규칙은 표준 준비 상황을 고려해 더 뒤의 일정으로 조정됐지만, 범용 AI 제공자 의무와 집행 체계의 방향은 이미 분명하다. AI·클라우드 시장의 다음 경쟁력은 더 많은 연산 자원을 쌓는 데만 있지 않다. 모델의 정보가 클라우드 통제와 기업의 실제 업무 결정까지 끊기지 않고 전달되는가, 그리고 문제가 생겼을 때 그 흐름을 증명할 수 있는가에 달려 있다. 이 글은 일반 정보와 분석이며 특정 기업·상품에 대한 투자 또는 구매를 권유하지 않는다.
의견을 남겨주세요