简化模型部署与推理的解决方案
在完成计算机视觉教程中的一个Jupyter笔记本后,可以下载一个针对自定义数据集进行优化的权重文件。但是接下来呢?如何使用这些权重?这是收到的最常见问题之一。以前,对于许多用例的答案是:“搭建一个服务器,编写一个脚本来接受图像,通过模型运行它们,并返回结果。”但这样做可能既棘手又昂贵。如果不小心,可能会为等待处理传入请求的昂贵GPU实例付费。还需要编写逻辑来自动扩展基础设施,以应对流量增加,或者在高负载下接受服务可能宕机的风险。
幸运的是,现在有了更好的方法。使用Roboflow Train和Roboflow Infer,可以点击一个按钮,将在数据集上训练一个定制的、最先进的目标检测模型,并为提供一个用于推理的托管API。负责托管模型,并根据需求扩展基础设施。最重要的是,与其他AutoML服务不同,只需要为使用的推理次数付费(而不是为闲置的服务器时间付费)。
Roboflow Infer是Roboflow Pro的一部分。一旦加入,将获得一个访问令牌,可以用它在任何主要的编程语言中仅用几行代码查询部署模型。甚至有一个游乐场,可以在其中直接在浏览器中构建自定义前端。