Linux kernel x86_64 in the sandbox

Overview

리눅스 커널 소스를 클론하고, 응용프로그램 다루듯이 마음껏 뽀개도록,

User mode linux 라는 feature 를 사용하려고 합니다.

User mode Linux

리눅스 커널 소스 코드를 클론합니다.

버전 선택은 마음대로 하시면 됩니다.

저는 LTS 또는 SLTS 를 더 선호합니다.

Github 레포지토리가 아니라

kernel.org Git 에서 클론하는 이유는 마이너 릴리즈에 대한 커밋도 들어가기 때문에,

해당 릴리즈에 최신 변경 사항을 확인할 수 있습니다.

Linux kernel source clone

1
2
3
4
5


git clone git://git.kernel.org/pub/scm/linux/kernel/git/stable/linux.git

# 5.10.x latest (SLTS)
git tag | grep "5.10."
git checkout 5.10.19

빌드할 때 특별히 설정 해주는 플래그입니다.

Setup build flags

1
2
3
4
5
6
7
8


# arch setup & debug symbol

$ cat > set.sh
export CFLAGS="-g -Wall -Wextra"
export ARCH=um 
export SUBARCH=x86_64 # arch/arm64/Makefile.um X arm64 안됨 :( export SUBARCH=arm64
# ctrl + d
$ source set.sh

이제 빌드를 해봅시다.

config & compile 1

1
2


# make default config
make defconfig

여기서 잠깐, 우리는 열심히 리눅스 커널을 해킹할것이므로

고전적인 DDD나 Insight를 사용해서 디버깅하는 것도 가능합니다.

최근에도 계속해서 릴리즈 하고 있는

KDE 기반의 KDbg
파이썬 기반의 웹 GUI 로 사용하는 gdbgui
VSCode GDB 연동 플러그인

선택지가 많네요.

아무튼 아래의 추가 설정을 해줍시다!

커널을 직접 빌드하는 경우에 디버깅이 가능하게 하려면 다음 옵션을 선택하면 됩니다.

Kernel Hacking
    ->Compile the kernel with frame pointers - Enable
    ->Show command line arguments on the host in TT mode - Disable

또 리눅스 커널의 lock 을 디버깅¹ 하기 위해서 설정할 수 있는 부분이 있습니다.

config & compile +α

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71


# make default config
 sudo apt install -y libncurses-dev

 make menuconfig

 .config - Linux/x86 5.10.18 Kernel Configuration
 ─────────────────────────────────────────────────────────────────────────────────
  ┌────────────────── Linux/x86 5.10.18 Kernel Configuration ──────────────────┐
  │  Arrow keys navigate the menu.  <Enter> selects submenus ---> (or empty    │
  │  submenus ----).  Highlighted letters are hotkeys.  Pressing <Y> includes, │
  │  <N> excludes, <M> modularizes features.  Press <Esc><Esc> to exit, <?>    │
  │  for Help, </> for Search.  Legend: [*] built-in  [ ] excluded  <M> module │
  │ ┌────────────────────────────────────────────────────────────────────────┐ │
  │ │        General setup  --->                                             │ │
  │ │    [*] 64-bit kernel                                                   │ │
  │ │        Processor type and features  --->                               │ │
  │ │        Power management and ACPI options  --->                         │ │
  │ │        Bus options (PCI etc.)  --->                                    │ │
  │ │        Binary Emulations  --->                                         │ │
  │ │        Firmware Drivers  --->                                          │ │
  │ │    [*] Virtualization (NEW)  --->                                      │ │
  │ │        General architecture-dependent options  --->                    │ │
  │ │    [*] Enable loadable module support  --->                            │ │
  │ │    -*- Enable the block layer  --->                                    │ │
  │ │        IO Schedulers  --->                                             │ │
  │ │        Executable file formats  --->                                   │ │
  │ │        Memory Management options  --->                                 │ │
  │ │    [*] Networking support  --->                                        │ │
  │ │        Device Drivers  --->                                            │ │
  │ │        File systems  --->                                              │ │
  │ │        Security options  --->                                          │ │
  │ │    -*- Cryptographic API  --->                                         │ │
  │ │        Library routines  --->                                          │ │
  │ │        Kernel hacking  --->                                            │ │
  │ │                                                                        │ │
  │ └────────────────────────────────────────────────────────────────────────┘ │
  ├────────────────────────────────────────────────────────────────────────────┤
  │          <Select>    < Exit >    < Help >    < Save >    < Load >          │
  └────────────────────────────────────────────────────────────────────────────┘

 # 아래의 항목들 중 해킹을 위해서 필요한 항목을 선택하자 
 # TODO: 각 항목이 어떤 기능을 하는지 구체적으로 조사가 필요함

  │ ┌────────────────────────────────────────────────────────────────────────┐ │
  │ │        printk and dmesg options  --->                                  │ │
  │ │        Compile-time checks and compiler options  --->                  │ │
  │ │        Generic Kernel Debugging Instruments  --->                      │ │
  │ │    [*] Kernel debugging                                                │ │
  │ │    [*]   Miscellaneous debug code                                      │ │
  │ │        Memory Debugging  --->                                          │ │
  │ │    [ ] Debug shared IRQ handlers                                       │ │
  │ │        Debug Oops, Lockups and Hangs  --->                             │ │
  │ │        Scheduler Debugging  --->                                       │ │
  │ │    [ ] Enable extra timekeeping sanity checking                        │ │
  │ │        Lock Debugging (spinlocks, mutexes, etc...)  --->               │ │
  │ │    -*- Stack backtrace support                                         │ │
  │ │    [ ] Warn for all uses of unseeded randomness                        │ │
  │ │    [ ] kobject debugging                                               │ │
  │ │        Debug kernel data structures  --->                              │ │
  │ │    [ ] Debug credential management                                     │ │
  │ │        RCU Debugging  --->                                             │ │
  │ │    [ ] Force round-robin CPU selection for unbound work items          │ │
  │ │    [ ] Force extended block device numbers and spread them             │ │
  │ │    [ ] Latency measuring infrastructure                                │ │
  │ │    [*] Tracers  --->                                                   │ │
  │ │    [ ] Sample kernel code  ----                                        │ │
  │ │    [*] Filter access to /dev/mem (NEW)                                 │ │
  │ │    [ ]   Filter I/O access to /dev/mem (NEW)                           │ │
  │ │        x86 Debugging  --->                                             │ │
  │ │        Kernel Testing and Coverage  --->                               │ │
  │ └────────────────────────────────────────────────────────────────────────┘ │

config & compile 2

1
2


# make user mode linux
make -j8 linux

루트 파일시스템을 마운트 합니다.
저는 보통 소스 디렉토리에 해놓습니다.

root file system mount

1
2
3
4


sudo apt -y install supermin

supermin -v --prepare bash coreutils -o $PWD/rootfs.template
supermin -v --build --format chroot rootfs.template -o $PWD/rootfs

마지막으로 마운트한 경로에 스크립트를 작성하고,

rootfs/boot/boot.sh

1
2
3
4


#!/bin/bash
mount -t sysfs /sys /sys
mount -t proc /proc /proc
exec /bin/bash

실행권한을 변경하면 지루한 설정은 끝났습니다!

chmod

1

chmod +x rootfs/boot/boot.sh

자 이제 user mode linux 를 실행하고 즐겨봅니다.

Have a lot of fun

1

./linux rootfstype=hostfs rootflags=$PWD/rootfs rw init=/boot/boot.sh

다음에는 커널 소스를 Hack 한 다음 GDB TUI 모드에서 디버깅하는 과정을 살펴봅니다.

문C 블로그 lockdep link ↩︎

Linux kernel x86_64 in the sandbox