본문으로 이동
메뉴 여닫기
환경 설정 메뉴 여닫기
개인 메뉴 여닫기
로그인하지 않음
지금 편집한다면 당신의 IP 주소가 공개될 수 있습니다.

메모리 손상(Memory Corruption)은 프로그램이 유효하지 않은 메모리 영역에 접근하거나 메모리의 내용을 잘못 변경하여 데이터의 무결성, 프로그램의 실행 흐름 또는 시스템의 안정성이 훼손되는 현상이다.

메모리 손상은 소프트웨어가 메모리를 부적절하게 읽거나 쓰는 과정에서 발생하는 오류 또는 그 결과를 의미한다. 대표적인 원인에는 버퍼 오버플로우, 범위 밖 메모리 접근, 해제 후 사용(Use-After-Free), 이중 해제(Double Free), 잘못된 포인터 연산 및 자료형 혼동(Type Confusion) 등이 있다.

메모리 손상은 단순한 프로그램 오류로 끝날 수도 있지만, 공격자가 취약한 메모리 접근을 유도하거나 조작할 수 있다면 정보유출, 서비스 거부, 권한 상승 또는 임의 코드 실행으로 이어질 수 있다.

MITRE의 CWE(Common Weakness Enumeration)는 메모리 버퍼의 경계를 벗어난 접근과 해제된 메모리의 재사용 등을 주요 소프트웨어 약점으로 분류한다.[1]

메모리 손상은 특히 C와 C++처럼 포인터와 메모리 할당을 직접 제어할 수 있는 언어로 작성된 소프트웨어에서 중요한 보안 문제로 다루어진다. 운영체제 커널, 웹 브라우저, 데이터베이스, 네트워크 서비스, 디바이스 드라이버, 이미지·동영상 처리 라이브러리 등 광범위한 영역에서 발생할 수 있다.

항목 내용
영문 명칭 Memory Corruption
관련 개념 Memory Safety, Memory Unsafety
주요 원인 잘못된 포인터 접근, 버퍼 경계 위반, 메모리 수명 관리 오류
대표적 취약점 Buffer Overflow, Use-After-Free, Out-of-Bounds Write, Type Confusion
주요 영향 프로그램 비정상 종료, 데이터 변조, 정보유출, 임의 코드 실행
관련 언어 C, C++, 어셈블리어 등
주요 방어수단 메모리 안전 언어, 경계 검사, ASLR, DEP/NX, CFI, Sanitizer
관련 분류 CWE-119, CWE-125, CWE-416, CWE-787 등

메모리 손상의 원리

편집 원본 편집

프로세스 메모리 구조

편집 원본 편집

운영체제에서 실행되는 프로그램은 일반적으로 독립적인 가상 주소 공간을 사용한다.

프로세스의 메모리는 코드, 전역 데이터, 힙, 스택 및 메모리 매핑 영역 등으로 구성된다.

영역 주요 용도 관련 위험
코드 영역(Text) 실행 명령어 저장 제어 흐름 탈취, 실행권한 오용
데이터 영역(Data/BSS) 전역변수와 정적변수 전역 버퍼의 범위 밖 접근
힙(Heap) 동적 메모리 할당 Heap Overflow, Use-After-Free, Double Free
스택(Stack) 함수 호출 정보, 지역변수 Stack Buffer Overflow, Stack Use-After-Return
메모리 매핑 영역 공유 라이브러리, 파일 매핑 등 잘못된 포인터 접근, 범위 밖 접근

이러한 영역의 구체적인 배치와 보호 속성은 운영체제, 프로세서 아키텍처, 실행파일 형식 및 프로그램 구현에 따라 달라진다.

메모리 손상은 특정 영역에만 국한되지 않으며, 정상적으로 접근할 수 없는 주소를 사용하거나 유효한 주소에 잘못된 데이터를 기록하는 경우에도 발생할 수 있다.

메모리 안전성

편집 원본 편집

메모리 안전성(Memory Safety)은 프로그램이 허용된 메모리 영역을 정해진 방식으로만 접근하도록 보장하는 성질이다.

메모리 안전성은 크게 공간적 안전성과 시간적 안전성으로 구분할 수 있다.

공간적 메모리 안전성(Spatial Memory Safety)은 포인터나 배열 인덱스가 허용된 메모리 범위를 벗어나지 않도록 보장하는 것이다.

시간적 메모리 안전성(Temporal Memory Safety)은 메모리 객체가 유효한 수명 동안에만 접근되도록 보장하는 것이다.

예를 들어 배열의 마지막 원소를 넘어 쓰는 행위는 공간적 메모리 안전성을 위반한다. 반면 이미 해제된 메모리에 접근하는 행위는 시간적 메모리 안전성을 위반한다.

이 두 가지 안전성은 서로 독립적인 측면이 있지만, 실제 취약점에서는 복합적으로 나타날 수 있다.

정의되지 않은 동작

편집 원본 편집

C와 C++에서는 허용되지 않은 메모리 접근이 정의되지 않은 동작(Undefined Behavior)을 일으킬 수 있다.

정의되지 않은 동작이란 언어 표준이 해당 연산의 결과를 규정하지 않는다는 의미이다.

따라서 동일한 코드라도 실행 환경과 컴파일러 최적화 수준, 메모리 배치에 따라 서로 다른 결과가 나타날 수 있다.

메모리 오류가 발생했다고 해서 반드시 즉시 프로그램이 종료되는 것은 아니다. 잘못된 값이 조용히 기록된 후 다른 함수가 실행될 때 문제가 드러나기도 한다.

이러한 특성은 메모리 손상 취약점의 탐지와 원인 분석을 어렵게 만든다.

버퍼 오버플로우

편집 원본 편집

버퍼 오버플로우(Buffer Overflow)는 할당된 버퍼의 크기를 초과하는 데이터를 기록하는 오류이다.

예를 들어 16바이트 크기의 배열에 32바이트의 데이터를 기록하면 배열 경계를 벗어난 쓰기가 발생할 수 있다.

이때 인접한 변수나 포인터, 메모리 관리정보 또는 함수의 제어 데이터가 손상될 수 있다.

버퍼 오버플로우는 발생 위치에 따라 스택 버퍼 오버플로우와 힙 버퍼 오버플로우 등으로 구분된다.

스택 버퍼 오버플로우는 스택에 배치된 버퍼의 경계를 넘는 쓰기이며, 특정 조건에서는 저장된 복귀주소와 같은 제어 데이터를 훼손할 수 있다.

힙 버퍼 오버플로우는 동적으로 할당된 메모리의 경계를 넘는 쓰기이며, 인접 객체나 힙 관리정보를 손상시킬 수 있다.

MITRE는 버퍼 경계 밖 쓰기를 CWE-787로 분류하며, 메모리 손상과 임의 코드 실행 및 서비스 거부 등의 결과가 발생할 수 있다고 설명한다.[2]

범위 밖 읽기

편집 원본 편집

범위 밖 읽기(Out-of-Bounds Read)는 프로그램이 허용된 버퍼 범위를 넘어 메모리의 내용을 읽는 오류이다.

범위 밖 쓰기와 달리 읽기 자체가 해당 메모리를 변경하지는 않지만, 다른 객체의 데이터나 비밀정보가 노출될 수 있다.

대표적인 결과는 다음과 같다.

  • 암호화 키나 인증정보 등 민감한 데이터 노출
  • 메모리 주소 및 내부 구조 노출
  • 접근할 수 없는 주소 참조로 인한 프로그램 종료
  • 다른 취약점의 악용을 돕는 정보 제공

MITRE는 범위 밖 읽기를 CWE-125로 분류한다.[3]

범위 밖 읽기로 노출된 메모리 주소는 ASLR과 같은 보호기법을 우회하는 데 활용될 수 있으므로, 단순한 정보유출 취약점도 다른 취약점과 결합될 때 심각한 영향을 미칠 수 있다.

해제 후 사용

편집 원본 편집

해제 후 사용(Use-After-Free, UAF)은 프로그램이 이미 해제된 메모리를 다시 참조하거나 사용하는 오류이다.

예를 들어 동적 메모리를 해제한 뒤 해당 주소를 보관하고 있던 포인터를 다시 사용하면 UAF가 발생할 수 있다.

해제된 메모리는 이후 다른 객체에 재할당될 수 있다. 이 경우 기존 포인터로 접근하면 새로운 객체의 데이터를 잘못 읽거나 변경할 수 있다.

UAF는 객체의 수명 관리가 복잡한 프로그램에서 발생하기 쉽다. 특히 비동기 작업, 콜백 함수, 이벤트 처리, 멀티스레드 및 참조 횟수 관리 과정에서 문제가 발생할 수 있다.

MITRE는 UAF를 CWE-416으로 분류한다.[4]

UAF는 단순한 프로그램 충돌뿐 아니라 데이터 변조와 임의 코드 실행으로 이어질 수 있다.

이중 해제(Double Free)는 동일한 메모리 할당 영역을 유효한 재할당 없이 두 번 이상 해제하는 오류이다.

메모리 할당자의 구현에 따라 내부 관리정보가 손상되거나 프로그램이 종료될 수 있다.

현대적인 메모리 할당자는 이중 해제 여부를 검사하는 보호기능을 제공하기도 하지만, 모든 상황에서 문제를 방지할 수 있는 것은 아니다.

이중 해제는 MITRE의 CWE-415로 분류된다.[5]

잘못된 포인터 접근

편집 원본 편집

포인터(Pointer)는 메모리 주소를 참조하는 값이다.

잘못된 포인터 접근은 포인터가 유효하지 않은 주소를 가리키거나, 올바르지 않은 방식으로 초기화·계산·변환된 경우에 발생한다.

대표적인 사례는 다음과 같다.

  • 초기화되지 않은 포인터 참조
  • 유효하지 않은 주소를 가리키는 포인터 역참조
  • 포인터 산술연산 오류
  • 이미 해제된 메모리를 가리키는 댕글링 포인터(Dangling Pointer)
  • 객체의 실제 크기나 자료형을 잘못 가정한 접근

NULL 포인터 역참조는 일반적으로 프로그램 충돌이나 서비스 거부를 일으킬 수 있지만, 모든 NULL 포인터 역참조가 임의 코드 실행으로 이어지는 것은 아니다.

자료형 혼동(Type Confusion)은 프로그램이 특정 메모리 객체를 실제 자료형과 다른 자료형으로 취급하는 오류이다.

예를 들어 서로 다른 객체 구조를 가진 데이터를 잘못된 자료형으로 해석하면 필드의 위치나 크기를 잘못 계산할 수 있다.

그 결과 잘못된 메모리 접근이나 데이터 변조가 발생할 수 있다.

자료형 혼동은 객체지향 프로그래밍 언어의 런타임 구현이나 브라우저 엔진 등 복잡한 소프트웨어에서 중요한 취약점 유형으로 다루어진다.

MITRE는 자료형 혼동을 CWE-843으로 분류한다.[6]

정수 오버플로우와 메모리 손상

편집 원본 편집

정수 오버플로우(Integer Overflow)는 정수 연산 결과가 해당 자료형의 표현 범위를 벗어나는 현상이다.

정수 오버플로우 자체가 항상 메모리 손상을 의미하지는 않는다.

그러나 정수 오버플로우로 메모리 할당 크기가 잘못 계산되면 실제 필요한 크기보다 작은 버퍼가 할당될 수 있다.

이후 프로그램이 원래 예상한 데이터 크기만큼 기록하면 버퍼 오버플로우로 이어질 수 있다.

따라서 정수 연산의 안전성은 메모리 안전성과 밀접하게 관련된다.

경계 검사 누락

편집 원본 편집

메모리 손상의 대표적인 원인은 배열이나 버퍼에 접근할 때 유효한 범위를 검사하지 않는 것이다.

특히 외부에서 전달된 길이값을 그대로 신뢰하거나, 문자열의 종료조건을 잘못 처리하는 경우 문제가 발생할 수 있다.

길이 검사는 최대 크기뿐 아니라 음수 여부, 정수형 변환 및 계산 과정의 오버플로우까지 고려해야 한다.

메모리 수명 관리 오류

편집 원본 편집

동적 메모리는 할당, 사용, 해제의 수명주기를 가진다.

메모리를 해제한 뒤 다른 코드에서 다시 사용하거나, 여러 코드 경로에서 동일한 메모리를 해제하면 문제가 발생할 수 있다.

참조 횟수 관리와 소유권 이전, 비동기 작업 및 예외 처리 경로가 복잡할수록 수명 관리 오류가 발생하기 쉽다.

멀티스레드 환경에서는 여러 실행 흐름이 동일한 메모리 객체에 접근할 수 있다.

동기화가 올바르게 이루어지지 않으면 한 스레드가 객체를 사용하는 동안 다른 스레드가 해당 객체를 해제할 수 있다.

이러한 경쟁 상태(Race Condition)는 UAF 등 메모리 손상으로 이어질 수 있다.

다만 모든 데이터 경쟁이 반드시 메모리 손상을 일으키는 것은 아니며, 발생 결과는 프로그램의 구현과 메모리 모델에 따라 달라진다.

외부 입력 처리 오류

편집 원본 편집

이미지, 동영상, 문서, 네트워크 패킷 및 압축파일 등은 복잡한 형식으로 구성되어 있다.

프로그램이 외부 입력의 크기와 구조를 잘못 해석하면 버퍼의 크기를 잘못 계산하거나 유효하지 않은 메모리에 접근할 수 있다.

따라서 파일 파서, 디코더, 네트워크 프로토콜 처리기 및 직렬화 라이브러리는 메모리 손상 취약점이 발생할 수 있는 주요 영역이다.

메모리 손상의 보안 영향

편집 원본 편집

잘못된 메모리 접근은 프로그램의 비정상 종료를 유발할 수 있다.

외부에서 접근 가능한 서비스에서 이러한 오류가 반복적으로 발생하면 서비스 거부(Denial of Service, DoS)로 이어질 수 있다.

다만 메모리 손상이 발생하더라도 항상 프로그램이 종료되는 것은 아니다.

범위 밖 읽기나 해제된 메모리의 부적절한 참조를 통해 다른 객체에 저장된 정보가 노출될 수 있다.

노출 대상에는 비밀번호, 세션정보, 암호화 키, 개인정보 및 메모리 주소 등이 포함될 수 있다.

정보유출은 그 자체로 보안사고가 될 수 있으며, 다른 취약점을 악용하는 데 필요한 정보를 제공하기도 한다.

임의 코드 실행

편집 원본 편집

공격자가 메모리의 중요한 데이터를 조작할 수 있으면 프로그램의 정상적인 실행 흐름을 변경할 가능성이 있다.

일부 메모리 손상 취약점은 원격 코드 실행(Remote Code Execution, RCE) 또는 로컬 코드 실행으로 이어질 수 있다.

그러나 모든 메모리 손상이 코드 실행으로 연결되는 것은 아니다.

실제 악용 가능성은 메모리 접근의 종류, 공격자가 제어할 수 있는 데이터, 프로세스 권한, 메모리 배치 및 적용된 보호기법에 따라 달라진다.

운영체제 커널이나 높은 권한으로 실행되는 서비스에서 메모리 손상이 발생하면 권한 상승(Privilege Escalation)의 원인이 될 수 있다.

일반 사용자 권한으로 실행되는 프로세스에서 발생한 취약점과 커널 영역에서 발생한 취약점은 보안 영향이 크게 다를 수 있다.

데이터 무결성 훼손

편집 원본 편집

메모리 손상은 공격이 없더라도 프로그램의 계산 결과와 데이터 구조를 잘못 변경할 수 있다.

특히 데이터베이스나 파일시스템, 금융거래 처리시스템 등에서 메모리 오류가 발생하면 잘못된 데이터가 저장되거나 후속 처리에 영향을 미칠 수 있다.

따라서 메모리 손상은 정보보안뿐 아니라 소프트웨어 신뢰성과 데이터 무결성 측면에서도 중요한 문제이다.

공격 악용 과정

편집 원본 편집

공격자는 외부 입력을 처리하는 코드나 복잡한 메모리 관리 로직에서 비정상적인 동작을 유발하는 취약점을 찾을 수 있다.

취약점 발견에는 코드 분석, 퍼징(Fuzzing), 동적 분석 및 충돌 보고서 분석 등이 활용된다.

악용 가능성 분석

편집 원본 편집

메모리 손상 오류가 발견되면 공격자가 어떤 메모리 영역을 읽거나 변경할 수 있는지 분석한다.

동일한 유형의 메모리 오류라도 단순한 프로그램 종료만 유발하는 경우와 중요한 데이터를 조작할 수 있는 경우는 보안 영향이 다르다.

정보유출과 보호기법 우회

편집 원본 편집

일부 공격에서는 메모리 주소나 내부 구조에 관한 정보가 필요하다.

정보유출 취약점은 주소 공간 배치 난수화와 같은 보호기법을 우회하는 데 도움이 될 수 있다.

그러나 정보유출이 발생했다고 해서 다른 보호기법이 자동으로 무력화되는 것은 아니다.

제어 흐름 변경

편집 원본 편집

특정 메모리 손상 취약점에서는 프로그램의 제어 데이터가 변조될 수 있다.

이를 통해 정상적으로 예정되지 않은 실행 흐름이 발생할 수 있다.

현대 운영체제와 컴파일러는 이러한 공격을 어렵게 하기 위해 여러 보호기법을 제공한다.

주요 방어기법

편집 원본 편집

메모리 안전 언어

편집 원본 편집

메모리 손상 위험을 근본적으로 줄이는 방법 가운데 하나는 메모리 안전성을 제공하는 프로그래밍 언어를 사용하는 것이다.

Rust는 소유권(Ownership)과 대여(Borrowing), 수명(Lifetime) 등의 개념을 통해 안전한 코드에서 여러 메모리 오류를 컴파일 시점에 방지하도록 설계되었다.

Java와 C# 등은 관리형 런타임과 자동 메모리 관리, 배열 경계 검사 등을 통해 일반적인 메모리 오류의 발생 가능성을 줄인다.

다만 메모리 안전 언어를 사용하더라도 네이티브 라이브러리와의 연동, 안전하지 않은 코드, 런타임 구현의 취약점 또는 논리적 보안 오류가 발생할 수 있다.

따라서 메모리 안전 언어가 모든 보안 취약점을 제거하는 것은 아니다.

버퍼와 배열에 접근하기 전에 인덱스와 길이가 유효한 범위에 있는지 검사해야 한다.

메모리 복사나 문자열 처리 시에는 대상 버퍼의 실제 크기와 입력 데이터의 크기를 함께 고려해야 한다.

또한 정수형 변환과 산술연산 과정에서 발생할 수 있는 오버플로우도 검사해야 한다.

주소 공간 배치 난수화

편집 원본 편집

ASLR(Address Space Layout Randomization)은 프로그램의 실행 시 메모리 주소 배치를 난수화하는 보호기법이다.

실행파일과 공유 라이브러리, 스택 및 힙 등의 주소를 예측하기 어렵게 하여 특정 메모리 주소를 이용하는 공격의 성공 가능성을 낮춘다.

ASLR은 메모리 손상 자체를 방지하는 기술은 아니다.

메모리 주소가 노출되거나 충분한 정보가 확보되면 일부 보호효과가 약화될 수 있다.

DEP(Data Execution Prevention) 또는 NX(No-eXecute)는 특정 메모리 영역에서 명령어 실행을 제한하는 보호기법이다.

일반적으로 데이터 저장을 위한 메모리 영역에서 직접 코드를 실행하는 공격을 어렵게 만든다.

그러나 기존 실행코드를 재사용하는 공격까지 모두 차단하는 것은 아니다.

스택 카나리(Stack Canary)는 스택의 중요한 제어 데이터가 손상되었는지 확인하기 위한 보호값이다.

함수 실행 과정에서 카나리 값이 변경되면 스택 손상이 발생한 것으로 판단하여 프로그램을 중단할 수 있다.

이 기법은 특정 스택 기반 메모리 손상 공격을 탐지하는 데 유용하지만, 모든 메모리 손상 취약점을 탐지하지는 못한다.

제어 흐름 무결성

편집 원본 편집

제어 흐름 무결성(Control-Flow Integrity, CFI)은 프로그램이 허용된 제어 흐름을 벗어나 실행되는 것을 제한하는 보안기법이다.

간접 함수 호출이나 분기 대상 등을 검사하여 일부 제어 흐름 탈취 공격을 어렵게 만든다.

CFI의 보호 수준은 구현방식과 허용된 제어 흐름의 정밀도에 따라 달라진다.

메모리 태깅(Memory Tagging)은 메모리 영역과 포인터에 태그를 부여하고 접근 시 태그의 일치 여부를 검사하는 방식이다.

ARM의 Memory Tagging Extension(MTE)은 이러한 접근방식의 대표적인 하드웨어 지원 기술이다.

메모리 태깅은 일부 범위 밖 접근이나 해제 후 사용 오류를 탐지하는 데 도움이 될 수 있다.

다만 태그의 크기와 적용방식 등에 따라 탐지 범위에 한계가 존재할 수 있다.

취약점 탐지와 분석

편집 원본 편집

정적 분석(Static Analysis)은 프로그램을 실행하지 않고 소스코드나 바이너리를 분석하여 취약점을 탐지하는 방식이다.

데이터 흐름과 포인터 사용, 메모리 수명 및 배열 경계 등을 분석하여 메모리 오류 가능성을 찾을 수 있다.

대표적인 도구와 기술에는 CodeQL, Clang Static Analyzer 및 컴파일러의 정적 분석 기능 등이 있다.

정적 분석은 다양한 코드 경로를 검토할 수 있지만 오탐과 미탐이 발생할 수 있다.

동적 분석(Dynamic Analysis)은 프로그램을 실행하면서 메모리 접근과 동작을 관찰하는 방식이다.

실제 실행 과정에서 발생하는 잘못된 메모리 접근이나 메모리 관리 오류를 탐지할 수 있다.

동적 분석은 실행된 코드 경로를 중심으로 검사하므로, 테스트에서 실행되지 않은 코드의 취약점은 발견하지 못할 수 있다.

AddressSanitizer(ASan)는 C와 C++ 프로그램의 메모리 오류를 탐지하기 위한 런타임 검사 도구이다.

컴파일 과정에서 메모리 접근 검사를 위한 코드를 삽입하여 여러 유형의 메모리 오류를 탐지한다.

대표적인 탐지 대상은 다음과 같다.

  • Heap Buffer Overflow
  • Stack Buffer Overflow
  • Global Buffer Overflow
  • Heap Use-After-Free
  • Stack Use-After-Return
  • Double Free
  • 일부 잘못된 메모리 할당·해제 동작

Microsoft는 Visual C++의 AddressSanitizer 지원 기능을 통해 다양한 메모리 오류를 탐지할 수 있다고 설명한다.[7]

AddressSanitizer는 메모리 오류를 찾는 데 유용하지만 모든 메모리 취약점을 탐지하는 것은 아니다.

UndefinedBehaviorSanitizer

편집 원본 편집

UndefinedBehaviorSanitizer(UBSan)는 정의되지 않은 동작의 일부 유형을 런타임에 탐지하는 도구이다.

정수 연산이나 자료형 관련 오류, 정렬되지 않은 접근 등 다양한 문제를 검사할 수 있다.

UBSan은 메모리 손상과 관련된 원인을 발견하는 데 도움이 되지만 ASan과 탐지 대상이 완전히 일치하지는 않는다.

퍼징(Fuzzing)은 프로그램에 다양한 입력을 자동으로 제공하여 비정상 동작과 취약점을 탐지하는 기법이다.

퍼저(Fuzzer)는 입력 데이터를 변형하거나 생성하면서 프로그램의 실행 경로를 탐색한다.

대표적인 퍼징 도구에는 AFL++, libFuzzer 및 Honggfuzz 등이 있다.

커버리지 기반 퍼징(Coverage-guided Fuzzing)은 실행된 코드의 범위에 관한 정보를 이용하여 새로운 실행 경로를 탐색한다.

퍼징과 AddressSanitizer를 함께 사용하면 잘못된 입력으로 발생하는 메모리 오류를 효과적으로 발견할 수 있다.

MITRE 역시 메모리 버퍼 경계 관련 취약점의 탐지 방법으로 정적 분석, 퍼징 및 런타임 메모리 검사를 제시한다.[1]

프로그램이 비정상 종료되면 충돌 덤프(Crash Dump), 호출 스택(Call Stack), 레지스터 상태 및 메모리 내용을 분석하여 원인을 파악할 수 있다.

충돌이 발생한 명령어가 실제 취약점의 최초 발생 지점과 일치하지 않을 수 있다는 점에 유의해야 한다.

예를 들어 메모리가 먼저 손상된 뒤 상당한 시간이 지나 다른 함수에서 잘못된 포인터를 사용하면서 충돌이 발생할 수 있다.

따라서 충돌 분석에서는 최초 메모리 손상 지점을 추적하는 과정이 중요하다.

대표적인 메모리 손상 관련 취약점

편집 원본 편집

Heartbleed(CVE-2014-0160)는 OpenSSL의 TLS Heartbeat 확장 처리 과정에서 발생한 메모리 정보유출 취약점이다.

공격자가 조작한 길이값을 이용해 서버나 클라이언트의 메모리 내용을 읽을 수 있었다.

Heartbleed는 버퍼 경계를 벗어난 읽기가 암호화 통신을 처리하는 소프트웨어에서 얼마나 심각한 영향을 미칠 수 있는지를 보여주는 사례이다.

Heartbleed는 주로 범위 밖 읽기 취약점으로 분류되며, 메모리 내용을 덮어쓰는 전형적인 버퍼 오버플로우와는 구분된다.[8]

EternalBlue 관련 취약점

편집 원본 편집

EternalBlue 공격에 활용된 CVE-2017-0144는 Microsoft Windows의 SMBv1 서버 처리 과정에서 발생한 원격 코드 실행 취약점이다.

SMBv1의 메시지 처리와 메모리 관리 문제를 악용할 수 있었으며, 2017년 WannaCry 랜섬웨어 확산과 관련하여 널리 알려졌다.

이 사건은 네트워크 서비스의 메모리 손상 취약점이 대규모 침해사고로 이어질 수 있음을 보여준다.[9]

브라우저의 메모리 손상

편집 원본 편집

웹 브라우저는 JavaScript 엔진, 렌더링 엔진, 이미지·동영상 디코더 등 복잡한 구성요소를 포함한다.

이러한 구성요소에서 발생하는 UAF, 자료형 혼동 및 범위 밖 접근은 브라우저 보안에서 중요한 취약점 유형이다.

브라우저는 일반적으로 샌드박스와 프로세스 격리 등 여러 보호기법을 적용한다.

따라서 브라우저 프로세스에서 메모리 손상이 발생하더라도 운영체제 전체에 대한 권한을 즉시 획득할 수 있는 것은 아니다.

공격자가 샌드박스 밖으로 영향력을 확대하려면 별도의 취약점이나 추가적인 공격조건이 필요할 수 있다.

소프트웨어 개발에서의 대응

편집 원본 편집

메모리 손상 위험을 줄이기 위해서는 설계 단계부터 메모리 소유권과 객체 수명, 외부 입력 처리 및 오류 처리방식을 명확히 해야 한다.

특히 외부에서 제공되는 데이터의 길이와 구조를 신뢰하지 않는 설계가 중요하다.

개발자는 배열 경계와 포인터 유효성, 정수 연산 및 메모리 해제 시점을 확인해야 한다.

메모리 안전성을 제공하는 자료구조와 라이브러리를 우선적으로 사용하고, 수동 메모리 관리가 필요한 경우에는 소유권과 수명에 관한 규칙을 명확히 해야 한다.

단순히 특정 문자열 함수를 다른 함수로 교체하는 것만으로 모든 메모리 손상 문제가 해결되지는 않는다.

메모리 오류를 발견하기 위해 단위 테스트, 정적 분석, 동적 분석, 퍼징 및 Sanitizer 기반 검사를 조합할 수 있다.

정상적인 입력뿐 아니라 비정상적인 길이값과 잘못된 데이터 구조, 경계값 및 예외 상황을 테스트해야 한다.

운영 환경에서는 보안 패치 적용과 프로세스 권한 최소화, 실행 방지, 주소 공간 난수화 및 서비스 격리 등을 적용할 수 있다.

또한 비정상 종료와 충돌 로그를 수집·분석하여 메모리 오류의 징후를 탐지하는 것이 중요하다.

보호기법은 취약점의 악용 가능성을 낮추는 역할을 하지만 취약한 코드를 수정하는 근본적인 조치를 대체하지는 못한다.

메모리 손상과 보안 취약점의 관계

편집 원본 편집

메모리 손상은 소프트웨어의 오류 또는 그 결과를 설명하는 개념이며, 보안 취약점은 공격자가 악용할 수 있는 약점을 의미한다.

따라서 메모리 손상이 발견되었다고 해서 모든 경우에 보안 취약점으로 악용할 수 있는 것은 아니다.

예를 들어 외부 입력과 무관한 내부 프로그램 오류로 메모리가 손상될 수 있으며, 해당 오류가 공격자의 제어 범위 밖에 있을 수도 있다.

반면 공격자가 외부 입력을 통해 메모리 손상을 반복적으로 유도하거나 결과를 제어할 수 있다면 보안 취약점으로 평가될 가능성이 높다.

보안 영향의 판단에는 공격자가 제어할 수 있는 입력, 메모리 접근의 종류, 실행 권한, 보호기법 및 실제 악용 가능성 등을 종합적으로 고려해야 한다.

메모리 손상은 오랫동안 소프트웨어 보안의 핵심 문제로 다루어져 왔다.

MITRE의 2024년 CWE Top 25 목록에서 범위 밖 쓰기(CWE-787)는 2위, 범위 밖 읽기(CWE-125)는 6위, 해제 후 사용(CWE-416)은 8위를 차지했다.[10]

이러한 순위는 메모리 관련 취약점이 실제 소프트웨어 보안에서 지속적으로 중요한 문제임을 보여준다.

최근에는 메모리 안전 언어의 도입, 하드웨어 기반 메모리 보호, 컴파일러 보안기능 및 자동화된 취약점 탐지 기술이 발전하고 있다.

그러나 기존의 대규모 C·C++ 코드베이스와 운영체제, 브라우저, 임베디드 소프트웨어 및 네이티브 라이브러리가 광범위하게 사용되고 있으므로 메모리 손상 취약점은 계속 중요한 보안 관리대상으로 남아 있다.

  1. ↑ 1.0 1.1 MITRE, 「CWE-119: Improper Restriction of Operations within the Bounds of a Memory Buffer」, https://cwe.mitre.org/data/definitions/119.html, 확인일: 2026-11-14.
  2. ↑ MITRE, 「CWE-787: Out-of-bounds Write」, https://cwe.mitre.org/data/definitions/787.html, 확인일: 2026-11-14.
  3. ↑ MITRE, 「CWE-125: Out-of-bounds Read」, https://cwe.mitre.org/data/definitions/125.html, 확인일: 2026-11-14.
  4. ↑ MITRE, 「CWE-416: Use After Free」, https://cwe.mitre.org/data/definitions/416.html, 확인일: 2026-11-14.
  5. ↑ MITRE, 「CWE-415: Double Free」, https://cwe.mitre.org/data/definitions/415.html, 확인일: 2026-11-14.
  6. ↑ MITRE, 「CWE-843: Access of Resource Using Incompatible Type ('Type Confusion')」, https://cwe.mitre.org/data/definitions/843.html, 확인일: 2026-11-14.
  7. ↑ Microsoft Learn, 「AddressSanitizer」, https://learn.microsoft.com/en-us/cpp/sanitizers/asan, 확인일: 2026-11-14.
  8. ↑ NIST National Vulnerability Database, 「CVE-2014-0160」, https://nvd.nist.gov/vuln/detail/CVE-2014-0160, 확인일: 2026-11-14.
  9. ↑ NIST National Vulnerability Database, 「CVE-2017-0144」, https://nvd.nist.gov/vuln/detail/CVE-2017-0144, 확인일: 2026-11-14.
  10. ↑ MITRE, 「2024 CWE Top 25 Most Dangerous Software Weaknesses」, https://cwe.mitre.org/top25/archive/2024/2024_top25_list.html, 2024년 발표.
목차