浅析当下的 Node.js CommonJS 模块系统

这里就是在模块代码中常用到的 module, exports, require ,__dirname, __filename 的来源。

经过 Module.wrap() 包装之后的代码使用 vm.runInThisContext() 在当前上下文中编译执行。

// content 来自模块的代码var wrapper = Module.wrap(content);var compiledWrapper = vm.runInThisContext(wrapper, { filename: filename, lineOffset: 0, displayErrors: true});

完成上面的铺垫,回归主线,开始解析 makeRequireFunction 做了什么。

2.2 makeRequireFunction 的实现

// internal/modules/cjs/helpers.js:20// 调用 makeRequireFunction(module) 这里的 | module | 是 Module对象// 生成当前模块上下文的 require()function makeRequireFunction(mod) { const Module = mod.constructor;  // 创建一个模块相关的 require // 依赖深度机制实现十分巧妙 function require(path) { try { exports.requireDepth += 1; return mod.require(path); } finally { exports.requireDepth -= 1; } } // resolve 是对 Module._resolveFilename 的封装 function resolve(request, options) { if (typeof request !== 'string') { throw new ERR_INVALID_ARG_TYPE('request', 'string', request); } return Module._resolveFilename(request, mod, false, options); } require.resolve = resolve;  // resolve.paths 是对 Module._resolveLookupPaths 的封装 function paths(request) { if (typeof request !== 'string') { throw new ERR_INVALID_ARG_TYPE('request', 'string', request); } return Module._resolveLookupPaths(request, mod, true); } resolve.paths = paths;  // process.mainModule 入口模块 require.main = process.mainModule; // 启用支持以添加额外的扩展类型 // 我们可以实现 require.extensions['.xxx'] // 来实现对自定义文件类型模块的支持 require.extensions = Module._extensions;  // 模块的缓存 // key: 模块路径 // value: 模块实例 require.cache = Module._cache; return require;}

通过上面的代码我们完整了解了 makeRequireFunction 的实现,它主要实现了:

  • 生成对应 module 上下文的 require 方法,内部调用 module 实例上 的 require 方法通过 require.resolve 添加类型校验,封装了 Module._resolveFilename通过 require.resolve.paths 封装了 Module._resolveLookupPaths在 require.main 添加入口模块 process.mainModule通过 require.extensions 暴露 Module._extensions,提供了扩展能力在 require.cache 暴露了 Module._cache,我们可以通过 require.cache操作模块缓存。

2.3 require 来自于 module.require

// Loads a module at the given file path. Returns that module's// `exports` property.Module.prototype.require = function(id) { // 参数校验  // 必须为 非空字符 if (typeof id !== 'string') { throw new ERR_INVALID_ARG_TYPE('id', 'string', id); } if (id === '') { throw new ERR_INVALID_ARG_VALUE('id', id, 'must be a non-empty string'); } // 调用 Module._load return Module._load(id, this, /* isMain */ false);};

可以看到 module.require 参数校验完成之后,就调用 Module._load

2.4 模块的加载之前的工作 Module._load

Module._load 的主要逻辑:

  • 如果模块已经在缓存中存在,直接返回缓存中的模块如果是是原生模块,直接调用 NativeModule.require()其他情况,创建一个新的模块实例,加入缓存,调用模块实例的加载方法
Module._load = function(request, parent, isMain) { if (parent) { debug('Module._load REQUEST %s parent: %s', request, parent.id); } if (experimentalModules && isMain) { asyncESM.loaderPromise.then((loader) => { return loader.import(getURLFromFilePath(request).pathname); }) .catch((e) => { decorateErrorStack(e); console.error(e); process.exit(1); }); return; } var filename = Module._resolveFilename(request, parent, isMain); var cachedModule = Module._cache[filename]; if (cachedModule) { updateChildren(parent, cachedModule, true); return cachedModule.exports; } if (NativeModule.nonInternalExists(filename)) { debug('load native module %s', request); return NativeModule.require(filename); } // Don't call updateChildren(), Module constructor already does. var module = new Module(filename, parent); if (isMain) { process.mainModule = module; module.id = '.'; } Module._cache[filename] = module; tryModuleLoad(module, filename); return module.exports;};

可以看到,上面代码中的 Module._cache[filename] = module , 对还没有开始加载的模块就写入缓存可能是不安全的。

tryModuleLoad 这这里做了检测,如果模块加载失败,会清理模块的缓存。

function tryModuleLoad(module, filename) { var threw = true; try { module.load(filename); threw = false; } finally { if (threw) { delete Module._cache[filename]; } }}

2.5 模块需要真实加载

module.load 的主要逻辑:

  • 写入 module.filename生成当前模块的模块路径, 并缓存在 module.paths根据 filename 文件后缀,选择不同的处理方式如果启用了 ES Module, 调用 ESMLoader 加载模块
// 设置文件名,并选择相应的文件处理// Given a file name, pass it to the proper extension handler.Module.prototype.load = function(filename) { debug('load %j for module %j', filename, this.id); assert(!this.loaded); this.filename = filename; this.paths = Module._nodeModulePaths(path.dirname(filename)); var extension = path.extname(filename) || '.js'; if (!Module._extensions[extension]) extension = '.js'; Module._extensions[extension](this, filename); this.loaded = true; if (experimentalModules) { // ES Module 相关逻辑,下篇文章分析 ... }};

同步读取文件,清除文件中的 BOM 编码字符,然后调用 module._compile 编译

// Native extension for .jsModule._extensions['.js'] = function(module, filename) { var content = fs.readFileSync(filename, 'utf8'); module._compile(stripBOM(content), filename);};

2.6 模块的编译 module._compile

module._compile 的主要工作:

  • 在当前的作用域或沙箱中运行文件内容,暴露当前模块上下文的的工具变量(require,module,exports)到模块文件中。如果有的任何异常,返回异常

以下的代码是 module._compile 的部分代码,去掉了 调试相关和文件 stat 缓存的代码。

Module.prototype._compile = function(content, filename) {  // 去除 Shebang 比如:#!/bin/sh content = stripShebang(content); // create wrapper function // 创建封装函数 var wrapper = Module.wrap(content);  // 在当前上下文编译模块的封装函数代码 // 传入当前模块的文件名,用于定义堆栈跟踪信息 // 如在解析代码的时候发生错误Error,引起错误的行将会被加入堆栈跟踪信息 var compiledWrapper = vm.runInThisContext(wrapper, { filename: filename, lineOffset: 0, displayErrors: true }); ...  var dirname = path.dirname(filename); var require = makeRequireFunction(this); var depth = requireDepth;  ...   // 运行模块的封装函数 // 并传入 `exports` , `require`, `module` `filename`, `dirname` var result = compiledWrapper.call(this.exports, this.exports, require, this, filename, dirname);  return result;};

2.7 小结

模块的代码最终在 Module.prototype._compile 中完成了封装、编译、执行。最后我们在回看 Module._load ,之前我们看到的 Module.load , Module.prototype._compile 都在 tryModuleLoad() 中被调用, 当这些都执行完成之后,Module._load 返回 module.exports

Module._load = function(request, parent, isMain) { ...  tryModuleLoad(module, filename); return module.exports;};

所以我们在模块可以使用下面的方式暴露模块 API

function add () {}module.exports.add = addexports.add = addthis.add = addmodule.exports = { add}

3.模块系统中的一些细节

3.1 各种缓存

  • Module._pathCacheModule._cachepackageMainCache

模块请求 -> 路径的缓存

Module._findPath = function(request, paths, isMain) { if (path.isAbsolute(request)) { paths = ['']; } else if (!paths || paths.length === 0) { return false; } var cacheKey = request + '\\x00' + (paths.length === 1 ? paths[0] : paths.join('\\x00')); var entry = Module._pathCache[cacheKey]; if (entry) return entry;  ... }

模块路径 -> 模块实例的缓存

Module._load = function(request, parent, isMain) {  ...  var filename = Module._resolveFilename(request, parent, isMain); var cachedModule = Module._cache[filename]; if (cachedModule) { updateChildren(parent, cachedModule, true); return cachedModule.exports; } ... }

3.2 启动

当我们启动 Node.js 时,入口文件也是作为一个模块被加载执行。

// bootstrap main module.Module.runMain = function() { // Load the main module--the command line argument. Module._load(process.argv[1], null, true); // Handle any nextTicks added in the first tick of the program process._tickCallback();};

3.3 相对路径模块、绝对路径的模块与 node_modules 中的模块

我们之前看到 require.resolve() 封装了 Module._resolveFilename。从最初调用 require()输入的字符 request 通过_resolveFilename 匹配到了模块文件路径 ,这在继续深入会发现 Module._resolveLookupPaths ,。

Module._resolveLookupPaths() 会返回一个数组,第一个元素是我们的 request ,第二个元素

console.log(Module._resolveLookupPaths('app', module))[ "app", [ "/Users/awe/Desktop/code/test/node-module/node_modules", "/Users/awe/Desktop/code/test/node_modules", "/Users/awe/Desktop/code/node_modules", "/Users/awe/Desktop/node_modules", "/Users/awe/node_modules", "/Users/node_modules", "/node_modules", "/Users/awe/Desktop/code/test/node-module", "/Users/awe/.node_modules", "/Users/awe/.node_libraries", "/Users/awe/.nvm/versions/node/v10.0.0/lib/node" ]]

/src/node.cc#L3212

// --inspect-brk if (debug_options.wait_for_connect()) { READONLY_DONT_ENUM_PROPERTY(process, "_breakFirstLine", True(env->isolate())); }

回想最开头提到的找不到模块的错误是在 Module._resolveFilename ,我们可以在 node 源码中看看它的实现 lib/internal/modules/cjs/loader.js

Module._resolveFilename 的功能是根据我们在 require 输入的参数,尝试查找可以引入的模块。

Module._resolveFilename = function(request, parent, isMain, options) { ... // look up the filename first, since that's the cache key. var filename = Module._findPath(request, paths, isMain); if (!filename) { // 可以看到,找不到模块的报错来自于这里 // eslint-disable-next-line no-restricted-syntax var err = new Error(`Cannot find module '${request}'`); err.code = 'MODULE_NOT_FOUND'; throw err; } return filename;};

4 小结

通过这篇文章,我们从代码实现了解了 Node.js 的 CommonJS 模块系统的实现,再次回顾模块系统的流程:

  • 路径解析文件加载模块封装编译执行缓存
浅析当下的 Node.js CommonJS 模块系统


分享到:


相關文章: