在上一篇文章「Node JS 內(nèi)部結(jié)構(gòu)」中，我們討論了Node JS 內(nèi)部架構(gòu)，並討論了為什麼我們應(yīng)該增加節(jié)點(diǎn)線程池大小以同時(shí)處理多個(gè)請(qǐng)求。我已經(jīng)告訴過(guò)你，可擴(kuò)展性和效能與線程池大小無(wú)關(guān)。

為了可擴(kuò)展性和高效能，我們可以使用叢集和工作執(zhí)行緒。

聚類

假設(shè)您正在參加一場(chǎng)盛大的婚禮，有數(shù)千位賓客參加婚禮。有一間廚房，一名廚師正在為所有這些客人準(zhǔn)備食物。聽(tīng)起來(lái)不可預(yù)測(cè)，對(duì)吧？如果您只有一名廚師，您就沒(méi)有充分利用廚房的全部資源。

這正是在多核心 CPU 上執(zhí)行的 Node JS 應(yīng)用程式中發(fā)生的情況，當(dāng)僅使用一個(gè)核心來(lái)處理所有請(qǐng)求時(shí)。因此，即使我們的機(jī)器具有多核心的能力，如果沒(méi)有集群，我們的應(yīng)用程式也只能在單核心上運(yùn)行。一個(gè)核心負(fù)責(zé)處理所有工作。

當(dāng)你的廚房裡有多個(gè)廚師正在工作時(shí)，這就是集群。

叢集是一種讓單一 Node JS 應(yīng)用程式能夠有效利用多個(gè) CPU 核心的技術(shù)。

要實(shí)作集群，您必須使用 Node JS 中的集群模組。

const cluster = require('cluster');

透過(guò)使用此叢集模組，您可以建立 Node JS 應(yīng)用程式的多個(gè)實(shí)例。這些實(shí)例稱為工人。所有工作人員共用相同的伺服器連接埠並同時(shí)處理傳入請(qǐng)求。

叢集架構(gòu)中有兩種類型的進(jìn)程。

1.主流程：

Master進(jìn)程就像廚房裡的主廚管理工人。它初始化應(yīng)用程序，設(shè)定叢集環(huán)境，並將任務(wù)委託給工作進(jìn)程。它不直接處理應(yīng)用程式請(qǐng)求。

Master進(jìn)程是做什麼的？

• 使用 cluster.fork() 方法建立多個(gè)工作進(jìn)程。如果工作人員意外崩潰或退出，它也會(huì)重新啟動(dòng)工作人員。

• 它確保傳入請(qǐng)求分佈在所有工作流程中。在 Linux 上，這是由作業(yè)系統(tǒng)處理的，在 Windows 上，Node JS 本身充當(dāng)負(fù)載平衡器。

• 它可以透過(guò)IPC（進(jìn)程間通訊）在worker之間進(jìn)行通訊。

2.工作進(jìn)程：

工作進(jìn)程是主進(jìn)程所建立的 Node JS 應(yīng)用程式的實(shí)例。每個(gè)進(jìn)程在單獨(dú)的 CPU 核心上獨(dú)立運(yùn)行並處理傳入請(qǐng)求。

工作進(jìn)程無(wú)法直接相互通信，它們透過(guò)主進(jìn)程進(jìn)行通訊。

工作進(jìn)程處理傳入的請(qǐng)求並執(zhí)行一些任務(wù)，例如資料庫(kù)查詢、計(jì)算或任何應(yīng)用程式邏輯。

const cluster = require('cluster');

在這裡，我們先檢查這是主進(jìn)程。如果是，那麼它將創(chuàng)建工作進(jìn)程。

在我們的程式碼中，我使用 cluster.fork() 建立一個(gè)工作進(jìn)程。

但是，這不是創(chuàng)建工作進(jìn)程的理想方式。

假設(shè)您正在建立 4 個(gè)工作進(jìn)程，而您的系統(tǒng)有兩個(gè)核心。

為了解決這個(gè)問(wèn)題，而不是創(chuàng)建硬編碼的工作進(jìn)程，先找到 CPU 核心，然後考慮資料創(chuàng)建工作進(jìn)程。

const cluster = require('cluster');
const os = require('os');

if (cluster.isMaster) {
  console.log(`Master ${process.pid} is running`);

  // Fork workers
    cluster.fork();
    cluster.fork();
    cluster.fork();
    cluster.fork();

} else {
  console.log(`Worker ${process.pid} is running`);
  // Worker logic (e.g., server setup) goes here
}

我使用雙核心系統(tǒng)，所以輸出將如下所示。

const cluster = require('cluster');
const os = require('os');

if (cluster.isMaster) {
  console.log(`Master ${process.pid} is running`);
  const numCPUs = os.cpus().length;

  // Fork workers
  for (let i = 0; i < numCPUs; i++) {
    cluster.fork();
  }
} else {
  console.log(`Worker ${process.pid} is running`);
  // Worker logic (e.g., server setup) goes here
}

現(xiàn)在，您有一個(gè)問(wèn)題，如果您有雙核心 CPU，那麼為什麼要建立 4 個(gè)工作進(jìn)程？

這是因?yàn)檫壿嫼诵臄?shù)為 4，我的 CPU 支援超執(zhí)行緒或同步多執(zhí)行緒 (SMT)。

工作執(zhí)行緒

在餐廳裡，服務(wù)生接受訂單並將訂單交給廚師團(tuán)隊(duì)，因?yàn)榕腼冃枰恍r(shí)間。如果有清潔桌子或任何其他與服務(wù)員相關(guān)的工作，那麼服務(wù)員就會(huì)這樣做。當(dāng)訂單準(zhǔn)備好後，廚師將食物回饋給服務(wù)員，服務(wù)員將這些食物提供給顧客。

這與工作執(zhí)行緒相關(guān)的場(chǎng)景相同。如果出現(xiàn)任何計(jì)算量大的任務(wù)，例如大規(guī)模資料處理、複雜計(jì)算或繁重演算法，則主執(zhí)行緒會(huì)將此任務(wù)委託給工作執(zhí)行緒。該任務(wù)由工作執(zhí)行緒執(zhí)行，而不是主執(zhí)行緒。

*為什麼，這有幫助？ *

我們知道 Node JS 事件循環(huán)是單執(zhí)行緒的，如果這種繁重的運(yùn)算工作由主執(zhí)行緒完成，那麼事件循環(huán)將被阻塞。如果您使用這些工作線程，那麼這些繁重的任務(wù)將交給工作線程，工作線程執(zhí)行這些任務(wù)，而不是主線程，因此事件循環(huán)不會(huì)被阻塞。

工作執(zhí)行緒可以透過(guò)訊息傳遞系統(tǒng)與主執(zhí)行緒通信，並且可以使用結(jié)構(gòu)化克?。ㄉ钛}製）在執(zhí)行緒之間發(fā)送資料。

現(xiàn)在，我們正在嘗試模仿工作執(zhí)行緒的工作。

main.js（主執(zhí)行緒）

Master 12345 is running
Worker 12346 is running
Worker 12347 is running
Worker 12348 is running
Worker 12349 is running

worker.js（工作執(zhí)行緒）

const { Worker } = require('worker_threads');

function startWorker() {
  const worker = new Worker('./worker.js'); // Create a worker using worker.js

  // Listen for messages from the worker
  worker.on('message', (message) => {
    console.log('Message from worker:', message);
  });

  // Handle errors in the worker
  worker.on('error', (error) => {
    console.error('Worker error:', error);
  });

  // Handle worker exit
  worker.on('exit', (code) => {
    console.log(`Worker exited with code ${code}`);
  });

  // Send a message to the worker
  worker.postMessage({ num: 100 });
}

startWorker();

如果資料包含大型結(jié)構(gòu)，它將被深度克隆並傳遞，這可能會(huì)產(chǎn)生一些效能開(kāi)銷。

程式碼的工作

• Worker 類別用於產(chǎn)生新執(zhí)行緒。

• 您可以使用worker.postMessage向worker發(fā)送數(shù)據(jù)，並使用worker.on('message',callback)監(jiān)聽(tīng)訊息。

• 在工作執(zhí)行緒中，parentPort 是與主執(zhí)行緒通訊的主要介面。

• 您可以監(jiān)聽(tīng)來(lái)自主執(zhí)行緒（parentPort.on('message')）的訊息並使用parentPort.postMessage傳回訊息。

輸出將是：

const cluster = require('cluster');

現(xiàn)在，您還有一個(gè)問(wèn)題：為什麼我們不建立數(shù)百個(gè)工作執(zhí)行緒？

但是，原因是如果您建立的執(zhí)行緒多於核心數(shù)量，執(zhí)行緒將競(jìng)爭(zhēng) CPU 時(shí)間，導(dǎo)致上下文切換，這會(huì)導(dǎo)致成本高昂並降低整體效能。

什麼時(shí)候應(yīng)該在 Node.js 中使用叢集、工作執(zhí)行緒或兩者？

1。何時(shí)使用工作執(zhí)行緒？

• CPU 密集任務(wù)：

涉及大量計(jì)算的任務(wù)，例如影像/視訊處理、資料壓縮或加密、機(jī)器學(xué)習(xí)推理、科學(xué)計(jì)算

• 需要共享記憶體：

您需要在執(zhí)行緒之間有效地共享資料而不重複資料。

• 單核心使用：

如果您的應(yīng)用程式只需要在單一進(jìn)程內(nèi)擴(kuò)展，但仍需要 CPU 密集型任務(wù)的並行性。

2.什麼時(shí)候使用聚類？

• I/O 限制：

任務(wù)涉及處理大量客戶端請(qǐng)求，例如 Web、伺服器、聊天應(yīng)用程式和 API。叢集透過(guò)在所有 CPU 核心之間分配請(qǐng)求來(lái)幫助水平擴(kuò)展。

• 孤立的記憶：

您的應(yīng)用程式不需要在進(jìn)程之間共享大量資料。

• 多核心利用率：

您希望透過(guò)產(chǎn)生多個(gè) Node.js 進(jìn)程來(lái)利用所有可用的核心。

3.什麼時(shí)候同時(shí)使用叢集和工作執(zhí)行緒？

• I/O 密集型 CPU 密集型任務(wù)：

應(yīng)用程式處理 HTTP 請(qǐng)求，但卸載計(jì)算密集型任務(wù)。範(fàn)例：網(wǎng)頁(yè)伺服器處理檔案上傳並執(zhí)行影像大小調(diào)整或影片轉(zhuǎn)碼。

• 高擴(kuò)充性：

您需要進(jìn)程級(jí)和執(zhí)行緒級(jí)並行性才能實(shí)現(xiàn)高吞吐量。在電子商務(wù)網(wǎng)站中，叢集可確保多個(gè)進(jìn)程處理傳入要求。工作執(zhí)行緒處理後臺(tái)任務(wù)，例如產(chǎn)生個(gè)人化推薦。

謝謝。

歡迎提出問(wèn)題或提出任何建議。

如果您發(fā)現(xiàn)本文內(nèi)容豐富，請(qǐng)按讚。

以上是叢集和工作線程 - Node JS的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！