컴퓨터 보안에서 난수는 비밀키나 초기값처럼 예측 불가능해야 하는 중요 값으로, 보안 시스템 근간이다. 이를 위해 '결정론적 난수 발생기(DRBG)'가 사용돼 겉보기에는 무작위처럼 보이는 수를 만들어 낸다. 그러나 기존 DRBG는 안전성과 출력 속도에 한계가 있었다.

이런 가운데, 한국과학기술원(KAIST·총장 이광형) 연구진이 이론상 최고 수준 안전성을 갖추고, 구조 병렬화로 속도를 극대화한 DRBG를 개발했다. 사물인터넷(IoT) 기기부터 대규모 서버까지 적용 가능한, 안전한 초고속 난수 생성이 가능해졌다.

KAIST는 이주영 전산학부 교수팀이 치환(여러 비트나 바이트 순서를 뒤섞는 과정) 기반 DRBG의 안전성을 분석하는 새로운 이론적 기틀을 마련함과 동시에, 최적의 효율성을 달성하는 DRBG를 설계했다고 20일 밝혔다.

기술개발 연구진. 사진 왼쪽부터 KAIST 전산학부의 이주영 교수, 정우혁 박사과정, 황성하 박사과정, 김휘겸 삼성전자 연구원.

DRBG는 블록 암호, 해시 함수, 치환 등 기본 암호학적 연산을 활용해 엔트로피 소스(환경에서 얻는 무작위 데이터)로부터 예측 불가능한 난수를 만들어 낸다.

이렇게 생성한 난수들은 비밀키 및 초기화 벡터 생성 등 대부분 암호 알고리즘에서 활용되며, 이에 기반하는 전체 시스템의 근본적인 안전성을 좌우한다. 관련 효율성·안전성 개선은 매우 중요한 연구 과제다.

치환 함수는 양방향 계산이 가능한 암호 알고리즘 기본 구성 요소로, 미국 표준 SHA-3 해시 함수에 사용되면서 우수한 안전성·효율성으로 많은 관심을 받고 있다.

그러나 SHA-3에 채택된 '스펀지 구조'는 치환 크기에 비해 출력 효율이 작다는 점이 한계였다. 기존 치환 기반 DRBG 출력 함수는 모두 스펀지 구조를 사용해 설계됐기에, 이들 또한 출력 효율에 제약이 있었다.

또 기존 치환 기반 DRBG는 안전성을 증명할 때 '게임 호핑'이라는 기법을 사용해 왔다. 그러나 이 방식은 이론적으로 가능한 보안 수준보다 낮게 평가되는 한계가 있었다.

게임 호핑 기법은 난수 발생기와 공격자가 맞붙는 상황을 '게임'으로 정의하고, 이를 여러 개 작은 단계(미니게임)로 나눈 뒤 각 단계에서 공격자가 성공할 확률을 계산해 합산하는 방식이다. 하지만 단계를 지나치게 세분화하다 보니, 실제보다 낮은 안전성 수치가 산출되는 문제가 있었다.

연구팀은 기존 게임 호핑 기법이 전체 게임을 지나치게 많은 단계로 나눠 분석한다는 점에 착안, 이를 단 2단계로 단순화한 새로운 증명 방식을 제안했다. 그 결과, 기존 치환 기반 DRBG의 보안 수준이 기존 대비 약 50% 향상된 안전성을 제공한다는 사실을 입증했다. 또 이 값이 이론적으로 달성 가능한 최대치임도 함께 증명했다.

또 연구팀은 기존 스펀지 구조가 직렬(한 줄) 처리 방식으로 인해 출력 효율에 한계가 있다는 점을 개선하기 위해, POSDRBG를 설계했다. 새로 제안된 병렬 구조는 여러 줄을 동시에 처리하듯 데이터를 병렬로 출력해, 치환 기반 난수 발생기가 낼 수 있는 최대 효율을 구현했다.

이주영 교수는 “POSDRBG는 소형 IoT 기기부터 대규모 서버까지, 난수 생성 속도와 안전성을 모두 개선한 새로운 DRBG”라며 “이번 연구가 진행 중인 DRBG 국제 표준 개정 과정에서 '치환 함수 기반 DRBG'가 정식 표준에 포함되는 데 긍정적인 영향을 줄 것”이라고 말했다.

KAIST 정보보호대학원의 정우혁 박사과정생이 제1 저자로, 이주영 교수가 교신저자로 참여한 이번 연구는, 이달 암호학 분야 최우수 국제학회인 CRYPTO에서 발표될 예정이다.

한편 이 연구는 정보통신기획평가원(IITP) 지원을 받아 수행됐다.

김영준 기자 kyj85@etnews.com

Copyright © 전자신문. 무단전재 및 재배포 금지.