양자내성 암호 전환은 알고리즘 교체가 아니다: 디지털 신원의 이중 스택

편집자2026.08.15 01:05

조회수 7회

이슈 페이퍼 | 사이버보안

양자컴퓨터가 현재의 공개키 암호를 깨는 날이 정확히 언제인지는 알 수 없지만, 디지털 신원체계의 교체는 이미 시작됐다. 미국 국립표준기술연구소(NIST)는 2026년 6월 연방 개인신원검증(PIV) 표준에 양자내성암호를 넣기 위한 작업초안을 공개했다. 핵심은 기존 RSA·타원곡선 체계를 하루아침에 버리는 것이 아니라 ML-KEM 키 캡슐화와 ML-DSA 전자서명을 추가한 이중 스택을 운영하는 것이다. 문제는 알고리즘 선택보다 카드, 인증서, 리더기, 서버, 조달계약을 동시에 바꾸는 긴 이행 과정이다.

왜 디지털 신원부터 움직이는가

공개키 암호는 로그인, 전자서명, 소프트웨어 업데이트, VPN, 기기 인증의 기반이다. 공격자는 지금 암호화된 장기 기밀자료를 수집해 두었다가 미래의 양자컴퓨터로 해독하는 ‘지금 수집, 나중 해독’ 전략을 쓸 수 있다. 주민·직원 신원정보, 의료·국방 자료처럼 보호기간이 긴 데이터는 양자컴퓨터가 등장한 뒤 교체하면 늦다. 인증서는 유효기간이 끝나도 서명된 문서의 진위를 오랫동안 증명해야 하므로 전환 우선순위가 높다.

NIST의 PIV 작업초안은 기존 키와 데이터 객체를 유지하면서 새로운 키 참조, 인증서 컨테이너, 양자내성 객체를 추가하는 방식을 제안한다. 이는 구형 리더기와 신형 시스템이 공존하는 현실을 인정한 설계다. 다만 이중 스택 기간에는 코드와 키가 두 배로 늘고, 정책 예외도 복잡해진다. 전환이 곧바로 보안을 높이는 것이 아니라 새로운 구성 오류와 호환성 실패를 만들 수 있다.

첫 단계는 구매가 아니라 암호 자산목록이다

NIST 국가사이버보안우수센터(NCCoE)는 양자내성 전환을 두 작업축으로 나눈다. 하나는 조직 안에서 공개키 암호가 어디에 쓰이는지 찾고 위험순위를 매기는 ‘암호 가시성·위험관리’다. 다른 하나는 표준 알고리즘을 제품과 프로토콜에 넣어 상호운용성과 성능을 시험하는 작업이다. 서버 인증서만 조사해서는 충분하지 않다. 펌웨어 서명, 백업장치, 산업제어기, 모바일 앱, 외부 SaaS, 코드서명 파이프라인도 목록에 들어가야 한다.

자산목록에는 알고리즘명뿐 아니라 키 길이, 인증기관, 데이터 보호기간, 교체 가능 여부, 공급업체, 장애 시 영향이 포함돼야 한다. 그래야 장기 기밀성과 대규모 파급효과를 가진 시스템을 먼저 바꿀 수 있다. “양자보안 제품”이라는 마케팅 문구만 보고 구매하면 기존 프로토콜과 맞지 않거나 키 관리가 더 취약해질 수 있다.

이중 스택의 장점과 함정

고전 암호와 양자내성 암호를 함께 쓰면 한쪽 구현에 결함이 있어도 다른 쪽이 방어선을 제공하고 점진적 배포가 가능하다. 반면 인증 메시지와 인증서가 커져 스마트카드 메모리, 네트워크 지연, 배터리, 하드웨어 보안모듈 용량에 부담을 준다. 모든 조합을 시험하지 않으면 특정 카드와 리더기, 운영체제에서만 인증이 실패할 수 있다. 장애 시 고전 암호로 자동 하향 전환하는 기능은 가용성을 높이지만 공격자가 의도적으로 약한 방식으로 유도하는 통로가 될 수 있다.

따라서 전환 정책에는 허용 알고리즘 조합, 하향 전환 조건, 로그, 만료일, 철회 절차가 필요하다. 공급업체가 펌웨어 업데이트를 언제 제공하는지, 인증서 발급기관이 새 서명을 지원하는지, 재난복구 환경에서도 신형 키를 복원할 수 있는지 확인해야 한다. 암호 민첩성은 알고리즘을 설정 화면에서 바꾸는 기능이 아니라 키 수명주기 전체를 안전하게 교체하는 능력이다.

한국 공공·금융·플랫폼의 준비 순서

한국 조직은 양자컴퓨터 도입 시점을 예측하는 논쟁보다 장기보호 데이터와 외부 노출 인증체계를 분류하는 작업부터 시작해야 한다. 공공 전자서명, 금융 인증, 통신 가입자 신원, 산업제어 원격접속은 실패 비용이 크다. 조달조건에 표준 알고리즘 지원, 키·인증서 내보내기, 이중 스택 시험, 향후 교체 비용을 명시하면 특정 공급업체 종속을 줄일 수 있다.

독자 분석으로는 2026~2028년의 핵심 성과지표가 ‘전환 완료율’보다 발견률과 상호운용성 실패율이어야 한다. 숨은 암호 의존성을 찾지 못한 채 일부 시스템만 바꾸면 보안 공백이 남는다. 단계별 모의전환, 인증 실패 복구훈련, 구형 알고리즘 종료일을 공개적으로 관리해야 한다. NIST는 양자취약 알고리즘을 2035년까지 표준에서 폐기하는 방향을 제시하며 고위험 시스템은 더 일찍 움직여야 한다고 설명한다. 남은 시간은 길어 보여도 하드웨어와 신원 인프라의 교체 주기를 고려하면 준비기간은 짧다.

출처

National Institute of Standards and Technology, “Working Drafts: Post-Quantum Cryptography Updates to the PIV Standards”, 2026년 6월 12일, 확인 2026년 8월 15일 01:08(Asia/Seoul).
NIST National Cybersecurity Center of Excellence, “Frequently Asked Questions about Post-Quantum Cryptography”, 2026년 6월 30일 업데이트, 확인 2026년 8월 15일 01:08(Asia/Seoul).
NIST National Cybersecurity Center of Excellence, “Migration to Post-Quantum Cryptography”, 2026년 상태 페이지, 확인 2026년 8월 15일 01:08(Asia/Seoul).
National Institute of Standards and Technology, “Post-Quantum Cryptography”, 2026년 7월 업데이트, 확인 2026년 8월 15일 01:08(Asia/Seoul).

대표 이미지는 2026년 8월 15일 이 글을 위해 생성한 독창적 편집 일러스트레이션이며 외부 보도사진을 사용하지 않았다.