当前位置: 首页 > 知识库问答 >
问题:

在aws sagemaker中为多个数据集托管多个模型

归浩博
2023-03-14

我了解到有一种方法可以在AWS Sagemaker中使用单个endpoint为单个数据集训练和托管多个模型。但我在S3中有两个不同的数据集,必须为每个数据集训练一个模型。这两个不同的模型是否可以使用单个endpoint承载?

共有1个答案

齐望
2023-03-14

是的,这被称为多模型endpoint。可以在同一endpoint上使用大量模型。它们根据需要动态加载和卸载,您只需在预测请求中传递模型名称。

以下是一些资源:

>

  • 博文示例:https://aws.amazon.com/blogs/machine-learning/save-on-inference-costs-by-using-amazon-sagemaker-multi-model-endpoints/

    视频解释SageMaker上的模型部署场景:https://youtu.be/dT8jmdF-ZWw

  •  类似资料:
    • 所以,我已经找到了实现这一点的方法。我的阵列看起来一团糟。这个问题很难解释,所以我会提供一些图片和代码。 编辑:问题是for循环和x1,y1,z1变量由浮点数控制 制作3x3x1阵列会产生以下结果:

    • 问题内容: 我有两个数据库和两个模型:管理员和用户。 我想将我的模型同步到两个数据库;admin模型到数据库A,用户模型到数据库B; 如果我将模型路径设置为和,则两个模型将同步到默认数据库。 如果我在命令中设置数据库,例如,则两个模型将同步到数据库B。 所以我的问题是,如何将两个模型同步到两个数据库? 问题答案: 我完全同意@alecxe使用数据库路由器。我目前正在使用一个管理界面来管理多个数据库

    • 我有两个数据库和两个模型:管理员和用户。 我想将我的模型同步到两个数据库;管理模型到数据库A,用户模型到数据库B; 如果我将模型路径设置为和,这两个模型将同步到默认数据库。 如果我在命令中设置数据库,比如,那么这两个模型将同步到数据库B。 所以我的问题是,如何将这两个模型同步到两个数据库?

    • 我们计划在我们的单个Azure kubernetes集群上部署多个应用程序,每个应用程序都将拥有自己的一组Azure资源-例如:Key vault、Storage。 我计划为每个应用程序提供个人托管身份,并提供对相关资源的访问。 我知道AZURE AAD POD identify是配置POD以使用托管标识访问AZURE资源的方法。 但是,如何将多个托管标识添加到Azure kubernetes集群

    • 这与两个职位有关- 使用WildFly托管多个域(下拖), 野生飞行- 创建/编辑jboss-web.xml的变通方法似乎不起作用。 在我的场景中,两个虚拟主机使用完全相同的WAR文件服务,没有上下文根配置,我尝试了这种变通方法。 在wildfly/standalone/configuration/standalone中。xml: 在JBossWeb中。xml: 在部署/重新部署期间,Wildfl

    • 所以整个问题是如何在给定的数据集中查询命名模型的组合。