아톤 “금융권 PQC, 인증서 교체 넘어 풀스택으로 전환해야”

[인터뷰] 아톤 홍재용 금융인증사업본부장, 양성진 연구소장, 정명규 솔루션개발팀장

양자컴퓨터 상용화 시점이 앞당겨질 수 있다는 전망이 나오면서 금융권의 암호체계 전환 논의도 인증과 전자서명 영역으로 확대되고 있다. 현재 금융권 인증서와 전자서명에 널리 쓰이는 RSA(Rivest–Shamir–Adleman), 타원곡선암호(ECC) 같은 공개키 암호는 일반 컴퓨터로는 풀기 어렵지만, 고도화된 양자컴퓨터가 등장하면 풀릴 가능성이 있다. 공격자가 지금 암호화된 통신 데이터와 인증 정보를 모아뒀다가 나중에 양자컴퓨터로 푸는 ‘HNDL(Harvest Now, Decrypt Later)’ 공격이 대표적인 위협이다. 금융사가 양자컴퓨터 상용화 이후가 아니라 현재 유효한 인증서의 만료 시점을 기준으로 PQC 전환을 추진해야 하는 이유가 여기에 있다.

핀테크 보안 전문기업 아톤(ATON)은 이 같은 변화에 맞춰 금융권 인증 보안 솔루션을 양자내성암호(PQC) 기반으로 전환하고 있다. PQC는 양자컴퓨터로도 풀기 어렵도록 설계한 차세대 암호 기술로, 기존 금융권 인증서와 전자서명에 쓰이던 RSA, ECC 같은 공개키 암호의 대안으로 거론된다.

아톤은 기존 인증서와 모바일 일회용비밀번호(OTP) 중심의 금융 보안 사업을 입력 보안, 종단간암호화(E2E), 애플리케이션 프로그램 인터페이스(API) 인증까지 넓히고 있다. 인증서 하나를 바꾸는 데 그치지 않고, 금융 거래 과정에서 암호 기술이 쓰이는 여러 구간을 함께 전환하는 ‘PQC 풀스택 솔루션’ 전략이다.

아톤은 최근 가진 바이라인네트워크와의 인터뷰에서 “금융권의 PQC 전환은 인증서, OTP, 입력보안, 종단간암호화, API 인증까지 이어지는 풀스택 라인업으로 접근해야 한다”고 강조했다.

이날 인터뷰에는 아톤의 홍재용 금융인증사업본부장, 양성진 연구소장, 정명규 솔루션개발팀장이 참석했다. 양 연구소장은 솔루션 초기 설계와 클라이언트 쪽 구현, 화이트박스 암호화 영역을 맡고 있다. 정 팀장은 서버 쪽 보안 솔루션 설계와 개발, 고객사 구축을 담당한다. 홍 본부장은 금융인증 사업 전반의 영업, 고객사 요구사항 협의, 상품화 피드백을 총괄하고 있다.

금융권 PQC 전환, 인증서와 키교환부터 시작

아톤이 보는 금융권 PQC 전환의 출발점은 ‘인증’이다. 금융사는 로그인, 이체, 매매거래 과정에서 인증서와 전자서명을 쓴다. 이때 기존에는 RSA 공개키암호와 ECC가 널리 쓰였다. RSA는 큰 수를 소인수분해하기 어렵다는 성질을, ECC는 타원곡선 위의 이산로그 문제를 이용하는 공개키 암호 방식이다. 현재 컴퓨터로는 개인키를 찾는 데 너무 오래 걸리는 체계라 안전하다고 봐왔다.

문제는 양자컴퓨터다. 양자컴퓨터가 모든 계산을 무조건 빠르게 하는 것은 아니지만, 쇼어 알고리즘(Shor’s algorithm)을 쓰면 RSA의 소인수분해 문제와 ECC의 이산로그 문제를 기존 컴퓨터보다 훨씬 빠르게 풀 수 있다. 충분한 성능의 양자컴퓨터가 등장하면 공개키에서 개인키를 유추할 가능성이 생긴다. 인증서의 개인키가 노출되면 전자서명을 위조하거나 암호화된 통신을 푸는 공격으로도 이어질 수 있다.

정명규 아톤 솔루션개발팀장은 “아톤이 기존 금융권에 공급해온 핵심 솔루션은 인증 솔루션과 모바일 OTP 솔루션”이라며 “금융사들이 자체 인증 체계를 구축해 쓰면서 로그인과 전자서명에 인증서를 활용해왔고, 이 인증서에 들어가는 RSA와 ECC 알고리즘을 PQC로 바꾸는 것이 전환 사업의 핵심”이라고 말했다.

다만 PQC가 모든 데이터 암호화 알고리즘을 대체하는 것은 아니다. 정 팀장은 “PQC는 크게 전자서명용 알고리즘과 키교환용 알고리즘으로 봐야 한다”며 “데이터 자체를 암호화하는 대칭키 알고리즘은 이미 양자 내성이 있는 영역이고, 현재 전환 대상은 전자서명에 쓰는 알고리즘과 데이터 암호화용 키를 주고받을 때 쓰는 키교환 알고리즘”이라고 설명했다.

금융권이 먼저 바꿔야 할 영역은 인증서 전자서명과 통신 세션을 열 때 쓰는 키교환이다. 인터넷 보안의 기반인 전송계층보안(TLS)이나 HTTPS도 이 구조와 연결된다. 데이터를 잠그는 자물쇠보다, 그 자물쇠에 쓸 열쇠를 안전하게 주고받는 영역을 먼저 바뀌어야 한다는 뜻이다.

HNDL 공격 임박, 지금 전환해도 아슬아슬하다

아톤이 PQC 전환을 서둘러야 한다고 보는 이유는 ’HNDL 공격‘ 때문이다. HNDL은 ‘지금 수집하고 나중에 복호화한다’는 공격 방식이다. 공격자는 현재 암호화된 통신 패킷이나 공개키를 모아둔다. 당장은 풀지 못해도 양자컴퓨터가 충분한 성능을 갖춘 뒤 과거의 모아둔 데이터를 복호화할 수 있다.

정 팀장은 “지금 인터넷상에서 돌아다니는 패킷을 수집해두고, 양자컴퓨터가 상용화되면 그때 복호화하겠다는 것이 HNDL 공격”이라며 “양자컴퓨터가 상용화된 뒤 도입하면 늦다. 지금 돌아다니는 데이터가 이미 수집될 수 있기 때문”이라고 말했다.

홍재용 아톤 금융인증사업본부장은 인증서 유효기간을 들어 전환 시점의 현실성을 설명했다. 금융권 인증서는 한 번 발급하면 일정 기간 유지된다. 기존 인증서를 강제로 모두 재발급하지 않는다면, 전환을 시작한 뒤에도 기존 암호체계로 발급된 인증서가 몇 년간 남는다.

홍 본부장은 “양자컴퓨터 위협은 처음에는 2035년을 기준으로 논의됐지만, 최근에는 2030년, 2029년, 나아가 2027년까지 시점이 앞당겨질 수 있다는 전망도 나온다”며 “시간이 많지 않다고 본다”고 말했다. 그는 “인증서 유효기간이 3년이면 2026년에 전환을 시작해도 2029년까지 기존 인증서를 쓰는 고객이 남을 수 있다”며 “그때 안전한 상태를 만들려면 지금 반영해야 한다”고 말했다. 이어 “보안은 시간과의 싸움”이라며 “네트워크 기반 시스템 전체를 한꺼번에 바꾸기보다 인증서처럼 최소 단위부터 빨리 전환하는 것이 현실적”이라고 강조했다.

RSA·ECC, PQC 병행하는 하이브리드 구조로 부담 낮춰

금융사가 PQC 도입을 검토할 때 가장 먼저 하는 질문은 “꼭 지금 전환해야 하느냐”다. 그다음은 ‘규제 반영 시점, 기존 인프라 변경 범위, 사용자 경험 변화’ 등을 묻는다. 특히 증권사는 속도에 민감하다. 증권 시장 개장 전후에 거래가 몰리기 때문에 로그인과 전자서명 속도가 느려지면 서비스 품질에 영향을 줄 수 있다.

홍 본부장은 “금융사들은 꼭 해야 하는지, 정책적으로 언제 반영되는지, 기존 인프라를 얼마나 바꿔야 하는지, 사용자 입장에서 느려지는 부분은 없는지 순서로 많이 묻는다”며 “증권사는 속도에 민감해 RSA 방식과 PQC 방식의 전자서명 속도 차이도 보여준다”고 말했다.

아톤은 기존 고객에게 전면 재발급을 요구하지 않는 방식을 택했다. RSA·ECC와 PQC를 함께 쓰는 하이브리드 전환 구조다. 기존 인증서를 가진 고객은 그대로 쓰고, 신규 발급이나 재발급 시점에 PQC 기반 인증서로 자연스럽게 넘어가도록 한다.

홍 본부장은 “기존 고객에게 한꺼번에 인증서를 다시 발급받으라고 하면 금융권에서는 재앙에 가깝다”며 “고객은 아무런 영향 없이 쓰길 원한다. 그래서 기존 암호체계도 유지하고, 신규 발급이나 재발급 때 양자내성 알고리즘으로 넘어가도록 전환 로드맵을 제안한다”고 설명했다.

양성진 아톤 연구소장은 PQC 전환으로 로그인이나 전자서명 속도가 느려질 수 있다는 우려에 대해 “PQC는 키 길이가 RSA-2048보다 길어질 수 있지만, 다항식 곱셈을 빠르게 처리하는 알고리즘 구조가 있어 연산 속도 측면에서 유리한 부분도 있다”고 말했다. 그는 “아톤이 임의로 알고리즘을 바꾸는 방식은 아니다”라며 “표준 알고리즘은 한 줄이라도 임의로 수정하면 다시 검증을 받아야 하는 문제가 생기기 때문”이라고 덧붙였다. RSA-2048은 RSA 공개키 암호에서 쓰는 핵심 수의 길이가 2048비트라는 뜻이다. 10진수로는 약 617자리 숫자에 해당한다. 숫자가 클수록 일반 컴퓨터가 이를 소인수분해해 개인키를 찾아내기 어려워진다.

‘퀀텀 세이프박스’ 기반 풀스택 PQC 라인업 제공

아톤의 PQC 라인업은 ‘퀀텀 세이프박스(Quantum SafeBOX)’를 중심으로 구성된다. 기존에는 모바일 애플리케이션용 ‘엠세이프박스(M SafeBOX)’와 브라우저용 ‘더블유세이프박스(W SafeBOX)’를 제공했다. 아톤은 여기에 PQC 알고리즘을 더해 제품 체계를 ‘퀀텀 세이프박스’로 정리했다.

‘퀀텀 세이프박스’는 화이트박스 암호화 기술을 기반으로 한 소프트웨어 저장 매체다. 일반적인 암호화 구조에서는 개인키가 메모리에 올라간 상태에서 연산이 이뤄진다. 공격자가 메모리를 들여다보면 개인키가 노출될 가능성이 생긴다. 화이트박스 암호화는 공격자가 내부를 볼 수 있다는 전제 아래 키와 암호화 로직을 뒤섞어 개인키 식별을 어렵게 만드는 기술이다.

정 팀장은 “개인키를 이용해 서명하려면 결국 키와 데이터가 메모리에 올라간다”며 “일반 방식은 개인키가 순차적으로 적재돼 메모리 덤프를 뜨면 어느 부분이 개인키인지 유추할 수 있지만, 화이트박스 방식에서는 키가 랜덤하게 흩어진 상태로 연산된다”고 설명했다. 이어 “메모리를 봐도 어느 영역이 개인키인지 알기 어렵고, 수행할 때마다 패턴도 달라진다”고 말했다.

홍 본부장은 “화이트박스 암호화는 암호화 장치 내부가 해킹될 수 있다는 가정 아래 설계하는 기술”이라며 “그 기반으로 퀀텀 세이프박스라는 저장 매체를 만들었고, 여기에 여러 보안 인증 솔루션을 연결하는 구조”라고 설명했다.

아톤은 이 저장 매체를 바탕으로 전자서명 인증, 모바일 OTP, 입력보안, 구간암호화, API 인증까지 PQC 라인업을 넓히고 있다. 금융 거래는 인증서 발급과 전자서명, PIN 입력, 서버와 클라이언트 간 통신, API 호출이 이어지는 구조다. 이 가운데 한 구간만 기존 RSA나 ECC 기반으로 남아도 공격 지점이 될 수 있다는 판단에서다.

홍 본부장은 “인증 솔루션만 PQC로 바꿨는데 보안 키패드에서 PIN을 입력하는 구간은 기존 RSA나 ECC 방식으로 키교환을 한다면 그 부분이 공격 포인트가 될 수 있다”며 “한쪽이 기존 알고리즘으로 남아 있으면 전체가 뚫리는 것은 아니더라도 허점이 된다”고 말했다. 그는 “그래서 풀스택으로 PQC 보안 체인을 만들기 위한 라인업을 갖췄다”고 설명했다.

구체적으로 ‘퀀텀 세이프가드(Quantum SafeGuard)’는 전자서명 인증서 영역을 맡는다. 기존 공동인증서와 유사하게 로그인, 이체, 매매거래의 전자서명에 적용한다. ‘퀀텀 세이프OTP(Quantum SafeOTP)’는 모바일 OTP 생성과 검증 과정에서 키 전달 보안을 강화한다. ‘퀀텀 세이프패드(Quantum SafePAD)’는 웹 환경에서 별도 플러그인 설치 없이 보안 키패드를 구동하는 제품이다. 금융권 웹사이트에서 여러 보안 프로그램을 설치해야 했던 기존 방식의 불편을 줄이는 방향이다.

‘퀀텀 세이프라인(Quantum SafeLINE)’은 클라이언트와 서버 사이 데이터를 보호하는 종단간암호화(E2E) 제품이다. ‘퀀텀 세이프API(Quantum SafeAPI)’는 토큰 기반 API 인증의 한계를 보완한다. 기존 토큰 방식은 토큰이 탈취되면 인증 우회 가능성이 생긴다. 아톤은 퀀텀 세이프박스 기반 키 관리와 전자서명 검증을 결합해 사용자 행위 자체를 API 요청 단위로 확인하는 구조를 제시한다.

홍 본부장은 “모든 제품을 한 번에 도입해야 하는 구조는 아니다”라며 “퀀텀 세이프박스를 기반으로 필요한 라이브러리를 모듈처럼 꽂아 쓸 수 있게 구성했다”고 말했다. 이어 “기존 토큰 방식은 토큰이 탈취되면 정상 사용자처럼 API를 호출할 수 있다는 한계가 있다”며 “퀀텀 세이프API는 토큰뿐 아니라 요청을 보낸 단말과 사용자 행위의 정당성까지 전자서명으로 검증하는 구조”라고 덧붙였다.

수협·빗썸·증권사 사례로 레퍼런스 확대

이런 상황 속에서 아톤은 금융권 PQC 전환 레퍼런스를 확대하고 있다. 홍 본부장은 수협 차세대 사업을 주요 사례로 들었다. 수협은 차세대 시스템을 추진하면서 아톤 보안 솔루션을 채택했다. 빗썸과는 인증 솔루션 제공을 넘어 PQC를 포함한 보안 기술 협력을 진행하고 있다.

홍 본부장은 “빗썸은 보안 체계를 강화하는 과정에서 단순 인증 솔루션만 보는 것이 아니라 앞으로의 보안 기술을 함께 검토하는 협력 형태로 진행하고 있다”고 말했다.

증권사에서도 적용 사례가 나오고 있다. 홍 본부장은 “최근 미래에셋증권은 내부 시스템에 퀀텀 세이프라인을 적용했다”며 “기존 제품보다 반응이 좋다는 이야기를 들었다”고 말했다. 그는 “고객 요구가 나오면 서버, 클라이언트, 사업 기획 쪽이 역할을 나눠 바로 대응하고 있다”며 “빠른 피드백과 모듈 교체가 강점”이라고 설명했다.

양 소장은 “신규 기능 요청이 들어오면 관련 인력이 모여 설계부터 다시 검토한다”며 “고객 요구를 거의 맞춰주는 과정에서 솔루션의 버전도 계속 업데이트된다”고 말했다.

KPQC 표준 확정 이후 공공·국책은행도 대응

아톤은 미국 국립표준기술연구소(NIST)가 정한 ML-KEM과 ML-DSA 기반 제품을 먼저 준비했다. ML-KEM은 키를 안전하게 주고받는 키 캡슐화 알고리즘이고, ML-DSA는 전자서명 알고리즘이다.

다만 국내 공공과 국책은행 시장에서는 한국형 양자내성암호(KPQC) 표준화가 변수다. KPQC가 표준으로 정리되고 정책 기준이 만들어지면 공공기관과 국책은행은 해당 알고리즘 적용을 요구받을 수 있다.

홍 본부장은 “공공이나 국책은행에서 KPQC로 전환해야 한다는 정책이 정리되면 그에 맞춰야 한다”며 “퀀텀 세이프박스는 알고리즘을 추가할 수 있는 구조로 만들어져 있다”고 말했다.

양 소장은 “예전에는 RSA-2048이라고 쓰던 부분에 새 알고리즘 이름을 넣는 방식으로 적용할 수 있게 설계했다”며 “고객사 코드 수정 없이 바로 적용할 수 있는 구조가 중요하다”고 설명했다. 이어 “금융사 입장에서는 개발팀의 코드 수정과 고객 영향도가 가장 큰 리스크”라며 “그 부담을 최소화하는 것이 전환의 핵심”이라고 강조했다.

내부자 통제와 서버 키 보호로 비금융권 확장

비금융권은 아직 금융권만큼 인증 보안에 민감하지 않다. 그러나 대형 개인정보 유출 사고 이후 내부자 통제와 키 관리에 대한 관심이 커지는 흐름도 나타난다.

홍 본부장은 “비금융권은 아직 인증에 대한 인식이 금융권만큼 크지 않다”면서도 “최근 대형 사고를 보면서 내부자도 못 믿는 구조가 필요하다는 문제의식이 생기고 있다”고 말했다. 그는 “기존 퀀텀 세이프박스는 클라이언트에 설치하는 구조였지만, 서버에서도 키를 암호화해 관리할 수 있도록 서버용 세이프박스를 만들었다”고 설명했다.

아톤은 비금융권을 대상으로 ’서비스형 소프트웨어(SaaS)‘ 방식도 준비하고 있다. 금융권은 온프레미스 환경이 많지만, 비금융권은 SaaS 형태가 더 맞을 수 있다는 판단이다. 홍 본부장은 “SaaS 버전은 올해 하반기 제공을 목표로 보고 있다”고 말했다.

전환 수요 타고 PQC 매출 비중 확대

아톤은 올해 PQC 사업을 기존 금융 고객의 전환과 신규 고객 도입, 추가 보안 라인업 확대로 끌고 갈 계획이다. 기존 인증서와 OTP 솔루션을 쓰는 금융 고객은 업그레이드 과정에서 PQC 전환 수요가 발생한다. 새로 보안 인증 체계를 도입하는 고객에게는 처음부터 PQC 기반 제품을 제안한다. 여기에 보안 키패드, 종단간암호화, API 인증 제품을 더해 기존 인증 중심 사업을 풀스택 보안 체인으로 넓히는 전략이다.

홍 본부장은 “기존 고객은 솔루션 업데이트 과정에서 전환 사업 매출이 발생하고, 신규 고객은 처음부터 PQC 기반으로 도입하는 흐름이 생기고 있다”며 “보안 키패드, 종단간암호화, API 인증 같은 추가 라인업까지 더해지면서 PQC 관련 매출 비중도 꾸준히 커지고 있다”고 말했다.

아톤은 당분간 금융권을 중심으로 PQC 전환 사업을 확대할 계획이다. 다만 정책과 표준 변화에 따라 공공과 비금융권으로도 적용 범위를 넓힌다. 공공 분야에서는 한국형 양자내성암호(KPQC) 표준화가 변수다. 아톤은 퀀텀 세이프박스에 새 알고리즘을 추가할 수 있는 구조를 갖춘 만큼, 향후 국내 표준이 정리되면 공공기관과 국책은행 요구에도 대응할 수 있다고 보고 있다.

비금융권에서는 내부자 통제와 서버 키 보호 수요를 보고 있다. 금융권만큼 인증 보안에 대한 인식이 높지는 않지만, 대형 개인정보 유출 사고 이후 내부 시스템과 API, 서버 키 관리에 대한 관심이 커지고 있다는 설명이다. 아톤은 비금융권을 대상으로 서비스형소프트웨어(SaaS) 방식의 PQC 보안 서비스도 준비하고 있다.

홍 본부장은 “시간이 많지 않다고 본다”며 “네트워크 전체를 한 번에 바꾸기 어렵다면 인증서, 개인키, 중요 정보처럼 빨리 전환할 수 있는 최소 단위부터 PQC로 전환해야 한다”고 강조했다.

아톤은 1999년 설립된 핀테크 보안기업이다. 모바일 금융 솔루션과 간편인증 서비스, 전자서명, 모바일 OTP 등 금융 보안·인증 솔루션을 주요 사업으로 한다.

글. 바이라인네트워크
<곽중희 기자>god8889@byline.network