💎一站式轻松地调用各大LLM模型接口,支持GPT4、智谱、星火、月之暗面及文生图 广告
# TensorFlow 服务 TensorFlow 服务(TFS)是一种高表现服务器架构,用于为生产中的机器学习模型提供服务。它提供与使用 TensorFlow 构建的模型的开箱即用集成。 在 TFS 中,**模型**由一个或多个**可服务**组成。 servable 用于执行计算,例如: * 用于嵌入查找的查找表 * 单个模型返回预测 * 一组模型返回一组预测 * 查找表或模型的分片 **管理器** 组件管理 servables 的整个生命周期,包括加载/卸载 servable 并提供 servable。 TensorFlow 服务的内部架构和工作流程在以下链接中描述:[https://www.tensorflow.org/serving/architecture_overview.](https://www.tensorflow.org/serving/architecture_overview)。