前段時間線上的一個使用 Google Puppeteer 生成圖片的服務炸了，每個 docker 容器內都有幾千個孤兒僵死進程沒有回收，如下圖所示。
這篇文章比較長，主要就講了下面這幾個問題。
- 什麼情況下會出現殭屍進程、孤兒進程
- Puppeteer 工作過程啟動的進程與線上事故分析
- PID 為 1 的進程有什麼特殊的地方
- 為什麼 node/npm 不應該作為鏡像中 PID 為 1 的進程
- 為什麼 Bash 可以作為 PID 為 1 的進程，以及它做 PID 為 1 的進程有什麼缺陷
- 鏡像中比較推薦的 init 進程的做法是什麼
Puppeteer 是一個 node 庫，是 Chrome 官方提供的無界面 chrome 工具（headless chrome），它提供了操作 Chrome API 的方式，允許開發者在程序中啟動 chrome 進程，調用 JS 的 API 實現頁面加載、數據爬取、web 自動化測試等功能。
本案例中使用的場景是使用 Puppeteer 加載 html，隨後截圖生成一張分銷海報的圖片。文章分析了這個問題背後的原因，接下來開始正式的內容。
進程
每個進程都有一個唯一的標識，稱為 pid，pid 是一個非負的整數值，使用 ps 命令可以查看，在我的 Mac 電腦上執行 ps -ef 可以看到當前運行的所有進程，如下所示。
<code>UID PID PPID C STIME TTY TIME CMD 0 1 0 0 六04下午 ?? 23:09.18 /sbin/launchd 0 39 1 0 六04下午 ?? 0:49.66 /usr/sbin/syslogd 0 40 1 0 六04下午 ?? 0:13.00 /usr/libexec/UserEventAgent (System)/<code>
其中 PID 是表示進程號。
系統中每個進程都有對應的父進程，上面 ps 輸出中的 PPID 就表示進程的父進程號。最頂層的進程的 PID 為 1，PPID 為 0。
打開 iTerm，在終端中執行一個命令，比如 "ls"，實際上系統會創建新的 iTerm 子進程，這個 iTerm 進程又創建了 zsh 子進程。在 zsh 中輸入的 ls 命令，則是 zsh 進程又啟動了一個 ls 子進程。在 iTerm 中輸入 ls 命令過程的進程關係如下所示。
<code> UID PID PPID C STIME TTY TIME CMD 501 321 1 0 六04下午 ?? 61:01.45 /Applications/iTerm.app/Contents/MacOS/iTerm2 -psn_0_81940 501 97920 321 0 8:02上午 ttys039 0:00.07 /Applications/iTerm.app/Contents/MacOS/iTerm2 --server login -fp arthur 0 97921 97920 0 8:02上午 ttys039 0:00.03 login -fp arthur 501 97922 97921 0 8:02上午 ttys039 0:00.29 -zsh 501 98369 97922 0 8:14上午 ttys039 0:00.00 ./a.out/<code>
進程與 fork
前面提到的父進程“創建”子進程，更嚴謹的描述是 fork（孵化、衍生）。下面來看一個實際的例子，新建一個 fork_demo.c 文件。
<code>#include <unistd.h>#include <stdio.h>int main() { int ret = fork(); if (ret) { printf("enter if block\\n"); } else { printf("enter else block\\n"); } return 0;}/<stdio.h>/<unistd.h>/<code>執行上的代碼，會輸出如下的語句。
<code>enter if blockenter else block/<code>
可以看到 if、else 語句都被執行了。
fork 調用
fork 是一個系統調用，它的方法聲明如下所示。
<code>pid_t fork(void);/<code>
fork 調用完成後會生成一個新的子進程，且父子進程都從 fork 返回處繼續執行。這裡需要特別注意的是 fork 的返回值的含義，在父進程和新的子進程中，它們的含義不一樣。
- 在父進程中 fork 的返回值是新創建的子進程 id
- 在創建的子進程中 fork 的返回值始終等於 0
因此可以通過 fork 的返回值區分父子進程，在運行過程中可以使用 getpid 方法獲取當前的進程 id。fork 典型的使用方式如下所示。
<code>#include <unistd.h>#include <stdio.h>#include <stdlib.h>int main() { printf("before fork, pid=%d\\n", getpid()); pid_t childPid; switch (childPid = fork()) { case -1: { // fork 失敗 printf("fork error, %d\\n", getpid()); exit(1); } case 0: { // 子進程代碼進入到這裡 printf("in child process, pid=%d\\n", getpid()); break; } default: { // 父進程代碼進入到這裡 printf("in parent process, pid=%d, child pid=%d\\n", getpid(), childPid); break; } } return 0;}/<stdlib.h>/<stdio.h>/<unistd.h>/<code>執行上面的代碼，輸出結果如下所示。
<code>before fork, pid=26070in parent process, pid=26070, child pid=26071in child process, pid=26071/<code>
子進程是父進程的副本，子進程擁有父進程數據空間、堆、棧的複製副本 ，fork 採用了 copy-on-write 技術，fork 操作幾乎瞬間可以完成。只有在子進程修改了相應的區域才會進行真正的拷貝。
孤兒進程：不能同年同月同日生，也不會同年同月同日死
接下來問一個問題，父進程掛掉時，子進程會掛掉嗎？
想象現實中的場景，父親不在了，兒子還可以活嗎？答案是肯定的。對應於進程，父進程退出時，子進程會繼續運行，不會一起共赴黃泉。
一個父進程已經終止的進程被稱為孤兒進程（orphan process）。操作系統這個大家長是比較人性化的，沒有人管的孤兒進程會被進程 ID 為 1 的進程接管。這個 PID 為 1 的進程後面還會再講到。
接下來對之前的代碼稍作修改，讓父進程 fork 子進程以後自殺退出，生成孤兒進程。代碼如下所示。
<code>#include <unistd.h>#include <stdio.h>#include <stdlib.h>int main() { printf("before fork, pid=%d\\n", getpid()); pid_t childPid; switch (childPid = fork()) { case -1: { printf("fork error, %d\\n", getpid()); exit(1); } case 0: { printf("in child process, pid=%d\\n", getpid()); sleep(100000); // 子進程 sleep 不退出 break; } default: { printf("in parent process, pid=%d, child pid=%d\\n", getpid(), childPid); exit(0); // 父進程退出 } } return 0;}/<stdlib.h>/<stdio.h>/<unistd.h>/<code>編譯運行上面的代碼
<code>gcc fork_demo.c -o fork_demo; ./fork_demo/<code>
輸出結果如下。
<code>before fork, pid=21629in parent process, pid=21629, child pid=21630in child process, pid=21630/<code>
可以看到父進程 id 為 21629， 生成的子進程 id 為 21630。
使用 ps 查看當前進程信息，結果如下所示。
<code>UID PID PPID C STIME TTY TIME CMDroot 1 0 0 12月12 ? 00:00:53 /usr/lib/systemd/systemd --system --deserialize 21ya 21630 1 0 19:26 pts/8 00:00:00 ./fork_demo/<code>
可以看到此時孤兒子進程 21630 的父 ID 已經變為了頂層的 ID 為 1 的進程。
殭屍進程
父進程負責生，如果不負責養，那就不是一個好父親。子進程掛了，如果父進程不給子進程“收屍”（調用 wait/waitpid），那這個子進程小可憐就變成了殭屍進程。
新建一個 make_zombie.c 文件，內容如下。
<code>#include <stdio.h>#include <stdlib.h>#include <unistd.h>int main() { printf("pid %d\\n", getpid()); int child_pid = fork(); if (child_pid == 0) { printf("-----in child process: %d\\n", getpid()); exit(0); } else { sleep(1000000); } return 0;}/<unistd.h>/<stdlib.h>/<stdio.h>/<code>編譯運行上面的代碼，就可以生成一個進程號為 22538 的殭屍進程，如下所示。
<code>UID PID PPID C STIME TTY TIME CMDya 22537 20759 0 19:57 pts/8 00:00:00 ./make_zombieya 22538 22537 0 19:57 pts/8 00:00:00 [make_zombie] <defunct>/<code>
CMD 名中的 defunct 表示這是一個殭屍進程。
也使用 ps 命令查看進程的狀態，顯示為 "Z" 或者 "Z+" 表示這是一個殭屍進程，如下所示。
<code>ps -ho pid,state -p 2253822538 Z/<code>
子進程退出後絕大部分資源已經被釋放可供其他進使用，但是內核的進程表中的槽位沒有釋放。
殭屍進程有一個很神奇的特性，使用 kill -9 必殺信號都沒有辦法殺掉殭屍進程，這樣的設計利弊參半，好的地方是父進程可以總是有機會執行 wait/waitpid 等命令收割子進程，壞的地方是無法強制回收這種殭屍進程。
PID 為 1 的進程
Linux 中內核初始化以後會啟動系統的第一個進程，PID 為 1，也可以稱之為 init 進程或者根（ROOT）進程。在我的 Centos 機器上，這個 init 進程是 systemd，如下所示。
<code>UID PID PPID C STIME TTY TIME CMDroot 1 0 0 12月12 ? 00:00:54 /usr/lib/systemd/systemd --system --deserialize 21/<code>
在我的 Mac 電腦上，這個進程為 launchd，如下所示。
<code>UID PID PPID C STIME TTY TIME CMD 0 1 0 0 六04下午 ?? 28:40.65 /sbin/launchd/<code>
init 進程有下面這幾個功能
- 如果一個進程的父進程退出了，那麼這個 init 進程便會接管這個孤兒進程。
- 如果一個進程的父進程未執行 wait/waitpid 就退出了，init 進程會接管子進程並自動調用 wait 方法，從而保證系統中的殭屍進程可以被移除。
- 傳遞信號給子進程，這點後面會介紹。
為什麼 Node.js 不適合做 Docker 鏡像中 PID 為 1 的進程
在 Node.js 的官方最佳實踐裡有寫到 "Node.js was not designed to run as PID 1 which leads to unexpected behaviour when running inside of Docker."。下圖來自 github.com/nodejs/dock… 。
接下來會做兩個實驗：第一個實驗是在 Centos 機器上，第二個實驗是在 Docker 鏡像中
實驗一：在 Centos 上，systemd 作為 PID 為 1 的進程
下面來做一些測試，修改上面的代碼，將父進程 sleep 的時間改短為 15s，新建一個 make_zombie.c 文件，如下所示。
<code>#include <stdio.h>#include <stdlib.h>#include <unistd.h>int main() { printf("pid %d\\n", getpid()); int child_pid = fork(); if (child_pid == 0) { printf("-----in child process: %d\\n", getpid()); exit(0); } else { sleep(15); exit(0); }}/<unistd.h>/<stdlib.h>/<stdio.h>/<code>編譯生成可執行文件 make_zombie。
<code>gcc make_zombie.c -o make_zombie/<code>
然後新建一個 run.js 代碼，內部啟動一個進程運行 make_zombie，如下所示。
<code>const { spawn } = require('child_process');const cmd = spawn('./make_zombie');cmd.stdout.on('data', (data) => { console.log(`stdout: ${data}`);});cmd.stderr.on('data', (data) => { console.error(`stderr: ${data}`);});cmd.on('close', (code) => { console.log(`child process exited with code ${code}`);});setTimeout(function () { console.log("...");}, 1000000);/<code>執行 node run.js 運行這段 js 代碼，使用 ps -ef 查看進程關係如下。
<code>UID PID PPID C STIME TTY TIME CMDya 19234 19231 0 12月20 ? 00:00:00 sshd: ya@pts/6ya 19235 19234 0 12月20 pts/6 00:00:01 -zshya 29513 19235 3 15:28 pts/6 00:00:00 node run.jsya 29519 29513 0 15:28 pts/6 00:00:00 ./make_zombieya 29520 29519 0 15:28 pts/6 00:00:00 [make_zombie] <defunct>複製代碼/<defunct>/<code>
過 15s 以後，再次執行 ps -ef 查詢當前運行的進程，可以看到 make_zombie 相關進程都不見了。
<code>UID PID PPID C STIME TTY TIME CMDya 19234 19231 0 12月20 ? 00:00:00 sshd: ya@pts/6ya 19235 19234 0 12月20 pts/6 00:00:01 -zshya 29513 19235 3 15:28 pts/6 00:00:00 node run.js/<code>
這是因為 PID 為 29519 的 make_zombie 父進程在 15s 以後退出，殭屍子進程被託管到 init 進程，這個進程會調用 wait/waitfor 為這個殭屍收屍。
實驗二：在 Docker 上，node 作為 PID 為 1 的進程
將 make_zombie 可執行文件和 run.js 打包為 .tar.gz 包，隨後新建一個 Dockerfile，內容如下。
<code>#指定基礎鏡像FROM registry.gz.cctv.cn/library/your_node_image:your_tagWORKDIR /#複製包文件到工作目錄，. 代表當前目錄，也就是工作目錄ADD test.tar.gz .#指定啟動命令CMD ["node", "run.js"]/<code>
執行 docker build 命令構建一個鏡像，在我的電腦上 Image ID 為 ab71925b5154， 執行 docker run ab71925b5154，啟動 docker 鏡像，使用 docker ps 找到鏡像 CONTAINER ID，這裡為 e37f7e3c2e39。隨即使用 docker exec 進入到鏡像終端
<code>docker exec -it e37f7e3c2e39 /bin/bash /<code>
執行 ps 命令查看當前的進程狀況，如下所示。
<code>UID PID PPID C STIME TTY TIME CMDroot 1 0 1 07:52 ? 00:00:00 node run.jsroot 12 1 0 07:52 ? 00:00:00 ./make_zombieroot 13 12 0 07:52 ? 00:00:00 [make_zombie] <defunct>/<code>
等一段時間（15s），再次執行 ps 查看當前進程，如下所示。
<code>UID PID PPID C STIME TTY TIME CMDroot 1 0 0 07:52 ? 00:00:00 node run.jsroot 13 1 0 07:52 ? 00:00:00 [make_zombie] <defunct>/<code>
可以看到 PID 為 13 的殭屍進程已經託管到 PID 為 1 的 node 進程，但是沒有被回收。
這是 node 不適合做 init 進程的最主要原因：無法回收殭屍進程。
說到 node，這裡提一下 npm，npm 實際上是使用 npm 進程啟動了一個子進程啟動了 package.json 中>
<code>{ "name": "test-demo", "version": "1.0.0", "description": "", "main": "index.js", "scripts": { "test": "echo \"Error: no test specified\" && exit 1", "start": "node run.js" }, "keywords": [], "author": "", "license": "ISC", "dependencies": { }}/<code>使用 npm run start 啟動，得到的進程如下所示。
<code>ya 19235 19234 0 12月20 pts/6 00:00:01 -zshya 32252 19235 0 16:32 pts/6 00:00:00 npmya 32262 32252 0 16:32 pts/6 00:00:00 node run.js/<code>
與 node 一樣，npm 也不會處理殭屍子進程回收。
線上問題分析
我們線上出問題的情況下使用 npm start 來啟動一個 Puppeteer 項目，每生成一次圖片便會創建 4 個 chrome 相關的進程，如下所示。
<code>.|└── chrome(1) ├── gpu-process(2) └── zygote(3) └── renderer(4)/<code>
在圖片生成完成時，chrome 主進程退出，剩下的三個孤兒殭屍進程被託管到頂層 npm 進程下，但是 npm 進程無力回收，所有每生成一次圖片便會新增三個殭屍進程。在成千上萬次圖片生成以後，系統中就充滿了殭屍進程。
解決辦法
為了解決這個問題，不能讓 node/npm 成為 init 進程，讓有能力接管殭屍進程的服務成為 init 進程即可，有兩個解決辦法。
- 使用 bash 啟動 node 或者 npm
- 增加專門的 init 進程，比如 tini
解決方式一：使用 bash 啟動 node
讓 bash 成為頂層進程是比較快的一種方式，bash 進程會負責回收殭屍進程，修改 Dockerfile，如下所示。
<code>ADD test.tar.gz .# CMD ["npm", "run", "start"]CMD ["/bin/bash", "-c", "set -e && npm run start"]/<code>
使用這種方式是比較簡單，而且之前線上沒有出問題正是因為一開始是使用這種 bash 方式啟動 node，後面有一個小兄弟為了統一啟動命令將這個命令改為 npm run start，問題才出現的。
但使用 bash 並非完美的方案，它有一個比較嚴重的問題，bash 不會傳遞信號給它啟動的進程，優雅停機等功能無法實現。
接下來做一個實驗，驗證 bash 不會傳遞信號給子進程的說法，新建一個 signal_test.c 文件，它處理 SIGQUIT、SIGTERM、SIGTERM 三個信號，內容如下。
<code>#include <signal.h>#include <stdio.h>static void signal_handler(int signal_no) { if (signal_no == SIGQUIT) { printf("quit signal receive: %d\\n", signal_no); } else if (signal_no == SIGTERM) { printf("term signal receive: %d\\n", signal_no); } else if (signal_no == SIGTERM) { printf("interrupt signal receive: %d\\n", signal_no); }}int main() { printf("in main\\n"); signal(SIGQUIT, signal_handler); signal(SIGINT, signal_handler); signal(SIGTERM, signal_handler); getchar();}/<stdio.h>/<signal.h>/<code>在我 Centos 和 Mac 上運行這個 signal_test 程序時，發送 kill -2、-3、-15 給這個程序，都會有對應的打印輸出，表示收到了信號。如下所示。
<code>kill -15 47120term signal receive: 15kill -3 47120quit signal receive: 3kill -2 47120interrupt signal receive: 2/<code>
在 Docker 鏡像中使用 bash 啟動這個程序時，發送 kill 命令給 bash 以後，bash 並不會將信號傳遞給 signal_test 程序。在執行 docker stop 以後，docker 會發送 SIGTERM(15) 信號給 bash，bash 並不會將這個信號傳遞給啟動的應用程序，只能等一段時間超時，docker 會發送 kill -9 強制殺死這個 docker 進程，無法達到優雅停機的功能。
於是有了下面的第二種解決方案。
解決方式二：使用專門的 init 進程
Node.js 提供了兩種方案，第一種是使用 docker 官方的輕量級 init 系統，如下所示。
<code>docker run -it --init you_docker_image_id/<code>
這種啟動方式會以 /sbin/docker-init 為 PID 為 1 的 init 進程，不會把 Dockerfile 中 CMD 作為第一個啟動進程。
以下面的 Dockerfile 內容為例
<code>...CMD ["./signal_test"].../<code>
執行 docker run -it --init image_id 啟動 docker 鏡像，此時鏡像內的進程如下所示。
<code>UID PID PPID C STIME TTY TIME CMDroot 1 0 0 15:30 pts/0 00:00:00 /sbin/docker-init -- /app/node-defaultroot 6 1 0 15:30 pts/0 00:00:00 ./signal_test/<code>
可以看到 signal_test 程序作為 docker-init 的子進程啟動了。
在 docker stop 命令發送 SIGTERM 信號給鏡像以後，docker-init 進程會將這個信號轉給 signal_test，這個應用進程就可以收到 SIGTERM 信號做自定義的處理，比如優雅停機等。
除了 docker 的官方方案，Node.js 的最佳實踐還推薦了一個 tini 這樣一個 C 語言寫的極小的 init 進程，github.com/krallin/tin… 。它的代碼較短，很值得一讀，對理解信號傳遞、處理殭屍進程非常有幫助。
小結
通過這篇文章，希望你可以搞懂殭屍進程、孤兒進程、PID 為 1 的進程是什麼，以及為什麼 node/npm 不適合做 PID 為 1 的進程，bash 作為 PID 為 1 的進程有什麼缺陷。
下面留一個作業題，考考你對進程 fork 函數的理解。如下程序連續調用三次 fork() 調用後會產生多少新進程？
<code>#include <stdio.h>#include <unistd.h>int main() { printf("Hello, World!\\n"); fork(); fork(); fork(); sleep(100); return 0;}/<unistd.h>/<stdio.h>/<code>閱讀更多 鹹魚是沒有夢想的 的文章
