운영체제 지원 기반의 GlibC Memory Allocator에 대한 Use-After-Free 공격 방지 기법

Abstract

Use-After-Free는 많은 소프트웨어 취약성의 원인이 되는 메모리 안전 문제로 많은 대응 기법들이 연구되어 있다. 이런 기법들 중 하나는 힙 청크에 대한 허상 포인터가 없을 때까지 힙 청크 해제를 지연시켜 위험하지 않은 청크만 재사용되도록 하는 것으로, 기존 연구인 MarkUs는 이 기법이 많은 벤치마크에서 상대적으로 낮은 오버헤드로 구현될 수 있음을 보여줬다. 우리는 더 나아가 운영체제 커널 수준 지원에 의해 뒷받침되는 Use-After-Free 방지를 위한 지연된 해제 기법인 MarKern을 제시한다. MarKern은 MarkUs와 같은 기존 Mark-and-Sweep 방식이 사용자 수준에서만 구현되어 발생하는 한계점들을 찾아 커널 수준 지원을 통해 해결한다. 또한 기존 기법과 달리 glibc(GNU C Library) Allocator를 대상으로 개발되었다. 실험 결과, SPEC CPU 2017에서 glibc malloc으로 실행되는 프로그램들에 대해 평균 실행 시간(기하 평균) 기준 18.50%의 오버헤드를 가짐을 확인할 수 있었다.