Memory Layout and Stack Buffer Overflow

1. Phân bổ bộ nhớ trong Hệ điều hành 32-bits

• 1GB cho Kernel Space (Phần địa chỉ cao)

• 3GB cho User Space (Phần địa chỉ thấp)

2. Tổ chức bộ nhớ của một chương trình

char s[] = "hello world";
int debug = 1;

const char* str = "hello world";

• Sử dụng khi cấp phát bộ nhớ động, do người lập trình yêu cầu cho các biến không xác định kích thước tại thời điểm chạy.

• Đoạn này thường nằm sau (trên) BSS và trước (dưới) Stack.

• Heap sẽ lớn dần lên đến các địa chỉ bộ nhớ cao hơn.

• Ví dụ cấp phát động:  malloc/new

• Thường nằm ở cuối cùng (cao nhất/trên cùng) so với các đoạn trước đó. Cụ thể là nằm sau (trên) Heap và trước (dưới) Kernel Space.

• Cấp phát theo các Stack Frame - SF, các SF tuân theo cơ chế LIFO

• Stack sẽ lớn dần lên đến các địa chỉ bộ nhớ thấp hơn ⇒ TỨC LÀ NGƯỢC VỚI HEAP

• Stack Frame: Lưu dữ liệu cần thiết khi gọi một hàm (biến cục bộ, tham số truyền vào hàm, địa chỉ trở về của hàm,..)

• Mỗi một hàm có thể coi như một SF, mỗi khi gọi hàm, thì một SF mới lại được cấp phát ở đầu ngăn xếp

• Thanh ghi con trỏ ngăn xếp (Stack Pointer - SP) được điểu chỉnh liên tục cứ mỗi khi có SF mới đc cấp phát hay thu hồi và nó luôn trỏ vào đỉnh Stack, hay SF mới nhất đc cấp phát

• Khi Stack Pointer gặp Heap Pointer hoặc nó đạt đến giới hạn RLIMIT_STACK ⇒ Hết bộ nhớ Stack

3. Tràn bộ đệm trên Stack

#include <stdio.h>
#include <string.h>

void foo() {
	int a = 123;
	char b[16];
	int c = 456;
	int d = 789;
	printf("address of a = %d\n", &a);
	printf("address of b = %d\n", &b);
	printf("address of c = %d\n", &c);
	printf("address of d = %d\n", &d);
}

int main(int argc, char const *argv[]) {
	foo();
	return 0;
}

$ gcc.exe -o bof.exe bof.c
$ bof.exe
address of a = 6356668
address of b = 6356652
address of c = 6356648
address of d = 6356644

4. Tham khảo

• Gabriele Tolomei, In-Memory Layout of a Program (Process)

• Michael Sikorski, Andrew Honig (2012). Practical Malware Analysis, No Starch Press