ThinkChat2.0新版上线,更智能更精彩,支持会话、画图、阅读、搜索等,送10W Token,即刻开启你的AI之旅 广告
线上服务除了做内存计算,更多的是访问数据库、缓存和外部服务,大部分的时间都是在等待 IO 任务。 如果 IO 任务较多,我们使用阿姆达尔定律来计算。 设置的线程数 = CPU 核数 \* \(1 + io/computing\) 举例说明,假设4核 CPU,每个任务中的 IO 任务占总任务的80%,4 \* \(1 + 4\) = 20个线程,这里的20个线程对应的是4核心的 CPU。