我如何确定我的特定设置的最佳工艺数量

###硬件注意事项

与硬件相关的最基本的因素是机器上可用的CPU核心数量。通常建议的基线是从每个CPU核心开始一个工作过程。然后，可以对每个工作过程进行多线程，以更好地利用CPU周期，尤其是在I/O结合的方案中。该基线可确保有效利用CPU内核，而不会引起过度的上下文切换或过程争夺。

内存可用性也起着至关重要的作用。每个工程过程都会消耗其他RAM，因此，如果过程很重或处理大数据，则增加了超出可用内存能力的工人数量可能会导致交换，从而大大降低了性能。因此，必须在确定工人数量时考虑内存大小和每个过程的内存足迹。

###工作量特征

工作负载类型显着影响最佳的工作过程数量。在CPU结合的应用程序执行密集计算的情况下，受益于与CPU内核相匹配的工人数量，以最大程度地利用使用而无需超载CPU。相比之下，花费大量时间等待数据读/写入的I/O结合工作负载可能比CPU核心更高的工人受益，因为当一个工人等待时，其他人可以使用CPU时间。

了解限制CPU与I/O结合工作的平衡有助于调整工人编号。例如，如果应用程序花费50％的时间等待I/O和50％的处理，那么从理论上讲，比CPU内核更多的工作过程可以增加吞吐量。

###操作系统和调度程序行为

操作系统的流程调度程序会影响多个工作流程的性能。过多的工人数量可能导致高环境开销，在此过程中，CPU经常在过程之间切换，从而降低效率。每个操作系统都有最佳的流程范围，它可以根据其调度算法和内核设计有效地管理。

###应用程序和框架限制

特定的应用程序或框架可以对可以有效利用多少工艺过程施加限制。例如，一些服务器或框架建议根据CPU内核和可用内存的数量进行调整，然后调整每个工作人员的线程以优化性能。某些系统还具有针对线程和过程的最大可配置限制(例如，数据库中的最大工作线程)。

###系统监视和基准测试

经验测量至关重要。监视CPU的使用情况，内存消耗，响应时间和不同工人计数的吞吐量有助于确定退货减少的点。在模拟或实际工作负载下进行基准测试允许确定越来越多的工人不再显着改善甚至降低表现的甜蜜点。

###调整多个应用程序

当多个应用程序或服务在同一台计算机上运行时，工人数量需要调整以适当地共享CPU内核和内存资源。将核心按比例分配在应用程序之间或确定关键服务的优先级可以指导工人分配。

###其他影响因素

- 延迟敏感性：如果低潜伏期至关重要，则更多的工人可能会减少请求队列时间，但这必须与资源限制保持平衡。
- 并发模型：工人中的多线程减少了对高工人计数的需求，但线程管理开销也是一个考虑因素。
- 垃圾收集和全局解释器锁(GIL)：某些语言或运行时的限制(例如Python中的GIL)，它们可以影响工人，线程性能和最佳计数。
- 可伸缩性和未来增长：预期载荷增加的计划可能会影响当前的工人配置，并剩下用于扩展的能力。
- 工作性质：长期运行，阻止或短任务都具有不同的理想配置。

###确定最佳工人数量的步骤摘要

1。确定硬件资源：从CPU内核和可用内存开始。
2。分析工作负载类型：分类为CPU结合，I/O-BOND或混合。
3。从基线开始：通常，每个CPU核心一名工人。
4。调整每个工人的线程：尤其是对于多线程工人，调整螺纹用于CPU饱和。
5。测量和监视：基准的性能指标，例如在不同的设置下吞吐量，延迟，CPU和内存使用。
6。考虑系统限制：检查线程和进程的操作系统和应用程序限制。
7.帐户多个应用程序：根据资源共享分配工人。
8。迭代调整：根据观察到的瓶颈进行调整，旨在没有CPU核心饥饿或过度上下文切换。
9。考虑系统特定​​因素：例如垃圾收集，并发模型和运行时约束。
10。生长计划：留出净空以增加负载的缩放。

通过结合硬件知识，工作负载分析，监视和迭代调整，可以确定特定设置的最佳工作过程计数。

###每个因素的详细说明

CPU核心计数和利用率

现代多核CPU提供多个处理单元。每个核心可以在自己的线程上运行一个工作过程，从而最大程度地提高吞吐量。但是，增加比核心更多的工人可能导致争执和开销。最佳匹配可确保每个核心都有一个专用的工人，最大程度地减少上下文切换延迟并最大化CPU缓存利用率。每个工作过程中的多线程使工人可以同时处理多个任务，但必须平衡以避免开销。

####内存约束

每个工作过程都会消耗系统内存，包括私有内存和共享资源。 RAM不足意味着经常交换或分页到磁盘，这会严重阻碍性能。在负载下监视每个工人的内存足迹并确保总消耗在物理RAM中至关重要。这指导了工艺过程的上限。

####应用程序工作量的性质

CPU结合的任务不断推动CPU，因此工人编号不应超过核心。 I/O结合的任务要求工人等待外部资源(磁盘，网络)，因此让多余的工人可以更好地利用，因为一些工人在其他人运行时等待。对于混合工作负载，基于等待时间与计算指南的工人计数的近似值。

####线程和并发模型

工人可以产生线程以同时处理多个任务。每个工人的线程数量会影响CPU的使用和响应能力。太多的线程导致开销。减少并发。确定正确的余额取决于任务大小，阻塞时间和运行时功能，例如线程调度和同步开销。

####系统和应用程序限制

操作系统限制，例如每个用户的最大进程或线程，以及应用程序配置(Web服务器，数据库，编程语言运行时间)限制了工作人员计数。理解这些是避免资源耗尽的关键，这会导致崩溃或降级性能。

####监视和基准测试工具

使用CPU和内存剖面，延迟监视器和记录系统等工具有助于衡量不同工人计数的影响。用典型的工作负载对不同的配置进行基准测试揭示了最佳吞吐量和响应能力的最佳设置。

####多应用环境

在共享环境中，将CPU核心和内存之间的分配在应用程序中可以进行公平的资源分配。然后，每个应用程序的工人编号与授予的资源或优先级级别成正比。

####现实世界示例

例如，PUMA Ruby Web服务器通常使用一个每个CPU核心使用一个工人，调整线程以优化吞吐量。在具有虚拟CPU的容器化环境中，尝试比CPU更多的工人可能会有所帮助，但需要更多的内存。同样，数据库服务器基于CPU，内存和工作负载配置最大工作线程，以防止停滞的查询。