💎一站式轻松地调用各大LLM模型接口,支持GPT4、智谱、星火、月之暗面及文生图 广告
## 讲个故事 软件、服务器工作模式的很多灵感都是从餐厅来的,都是为了解决实际问题的。 生产者,消费者; 我们来看去餐厅吃饭的场景: 某日我们肚子饿了,去餐馆吃饭,我们需要吃饭,餐馆是做饭的。 那么我是消费者,餐厅是生产者。我消费饭菜,餐厅生成饭菜。 此时刚好正中午吃饭的时候,人很多,而这个餐厅只有一个厨师在炒菜,所以需要排队等。 餐厅吃饭的流程:吧台点菜付钱,付款后领号找个位置等,厨房炒菜,饭好了会有人叫号,拿到饭就吃饭。 我点菜一分钟就好了,但是厨师炒出来需要5~10分钟,所以我在吧台点好后,服务员会给我一个号(32号),让我找个位置坐下先喝杯茶。 然后我就找个位置一边喝茶,一边看会手机。 8分钟很快就过了,服务员拿着牌子,喊“32号好了”,谁是32号,我一看我的牌子,“我是32号,我在这儿”,服务员“哦,好的”,然后给我端过来了我刚点的千张肉丝,还有个小细节,她把菜放到我的桌子上的时候收走了我的牌子。当然我的菜已经上了,要这个牌子也没用了,于是我就开始吃饭了。 其它的人来的晚的还在排队,还有很多人像我刚才一样的正在等着“叫号”,有几个人好像等得有点不耐烦了,频繁的去催服务员。 但是只有一个厨师啊,**我看到服务员把菜单送到厨房,贴在板子上,厨师照着菜单炒菜,有时候按照顺序,有时候估计是什么好炒,方便炒,什么菜有几份的可以一起炒,总之厨师会想办法尽量提高效率(关于怎么提高厨师出餐的效率真的需要到厨房去考察一下厨师的工作情况才能知道的)**,但中午吃饭人太多了,高峰期,板子上的菜单都贴满了,炒不过来啊。 有的没耐心的甚至要去前台退款不吃了。 有的人排队排到一半没有耐心要走了。 有的人看到门口排那么长的队,干脆就没进来,换别家了。 看着有人走了,老板就不高兴了,怎么能这样呢,到手的钱飞了,这不行,赶快打电话叫另外一个厨师来,叫另外一个休假的收银员也来上班,过了一会,**厨房第二个灶台开了,第二个厨师将第一个厨师的板子上的菜单拿走一部分,贴到自己的板子上(注意这里,很重要,这里面涉及到的细节很重要,下面会说到)开始炒菜**,收银员增加了一个,点菜就可以在两个吧台点,之前第一个吧台排队的人看到第二个吧台开了,排在后面的人都一窝蜂的跑去第二个吧台排队。很快第二个吧台也排满了人,两个吧台势均力敌,人数差不多。(这里有一个细节,吧台2开的时候,正在吧台1点菜人是不会去吧台2的,因为他此时正在吧台1点呢,注意这个细节,也很重要,下面会说到这有什么意义) 点菜,上菜的速度提升了之后,店里的秩序好了很多,吃饭的人也多了,店里的桌子差不多都坐满了人,生意好的令人旁边的店羡慕不已。 老板可高兴了,看着前台不停的收钱,厨房不断的出餐,心里美滋滋的。 时间过的很快,饭点的时候很快就过了,吃饭的人渐渐没有了,此时忙碌的餐厅变得闲起来了,前台两个妹子没事了开始相互的聊天,厨房里有一个厨师也很闲。 老板又开始皱眉头了,你们这么闲可不行,可是要工资的,精明的老板对来帮忙的前台和厨师说你们现在可以下班了,今天的给你们加半天的工资。 哈哈,聪明的老板,钱也赚了,人力成本也讲到最低化。 我目睹了一切,回到家里来了灵感,原来服务器,软件的工作的方式,灵感就是来自于餐厅啊。于是我赶紧写下了这些文字,生怕没能记下这个“伟大”的发现。 以上,纯属瞎编。 再说上面那两个重要的问题: 其实是资源分配,并发的问题。 另外一个厨师来了,将第一个厨师的板子上的菜单拿下一部分贴到自己的板子上。 你觉得实际生活中是怎样的情景呢? 此时厨师1正在炒菜,厨师2来了,要拿掉一下厨师1板子上的菜单,也就是原本厨师1要炒的菜。 注意这段话有三个重要的信息: 1. 厨师1当前正在炒着菜呢 2. 当前板子上的所有菜单是厨师1原本准备要炒的菜 3. 现在厨师2想要分配一点过去 那么这里就会有一些问题,厨师2拿走一些的时候肯定要问一下厨师1: 厨师2:“喂,你现在在炒什么菜,没有炒的我拿去炒了啊”(肯定要问一下,不然厨师1当前再炒青椒肉丝,厨师2没问,看到板子上的青椒肉丝也炒了,那这样就炒了两个青椒肉丝,重复炒了。) 厨师1:“什么,别叫,炒菜在呢,把我头都弄晕了,你等我把这个菜炒完了再说” 他们要重新分配资源,因为厨师2是中途进来的,所以要重新分配,要保证正确的话,那么厨师1必须要停下来,然后再一起重新分配资源,但是厨师1锅里面还炒着菜啊,肯定不能停啊,停下来不就炒糊了,所以厨师1要先把此时锅里面正在炒着的菜先炒完,再停下来,也就是说哪怕厨师1接收到了停止工作的命令,也要先把手头上的正在炒的菜炒完,炒完了再停止工作。 其实这和我们经常说的:热插拔,平滑停止工作,平滑重启等是同样的意义。 厨师2就乖乖的等厨师1把手头上的菜炒完,然后他们在开始重新分配菜单。 然后开始同时工作,各自炒各自的菜没有冲突。 其实这里面涉及到的问题就是: 重复执行问题 worker变化导致**重排问题**,资源重新分配问题(平滑停止,重新分配资源) 同理,前台也是同样的问题。 * * * * * ### 扩展 [高并发得时候,服务器压力大,是内存的问题,还是cpu的问题?-那份心情61650940的回答-悟空问答](https://www.wukong.com/answer/6463195446322921741/?iid=12619555732&app=news_article&wxshare_count=1&tt_from=weixin&utm_source=weixin&utm_medium=toutiao_android&utm_campaign=client_share) last update:2017-9-8 13:36:39