💎一站式轻松地调用各大LLM模型接口,支持GPT4、智谱、星火、月之暗面及文生图 广告
### 信号量线程池隔离差异 * 信号量隔离适应非网络请求,因为是同步的请求,无法支持超时,只能依靠协议本身 * 线程池隔离,即,每个实例都增加个线程池进行隔离 | | 线程池隔离 | 信号量隔离 | | --- | --- |--- | | 是否支持熔断 | 支持,当线程池到达MaxSize后,再请求会触发fallback接口进行熔断 | 支持,当信号量达到maxConcurrentRequest后,再请求会触发fallback | |是否支持超时|支持,可直接返回|不支持,如果阻塞,只能通过调用协议| |隔离原理|每个服务单独用线程池|通过信号量的计数器| |是否支持异步调用|可以是异步,也可以是同步。看调用的方法|同步调用,不支持异步| |资源消耗|大,大量线程的上下文切换,容易造成机器负载高|小,只是个计数器| **网关是通过线程池隔离,同步的路由方式,适当的线程池大小配置能够防止网关负载过大**