发布时间：2024-3-15 分类： 电商动态
darwinml推论：
darwinmlrelationflow推理机是为人工智能平台量身定制的商业产品。
对于数据科学家来说，它的界面抽象，贴近他们的思维。底层的人工智能框架不受限制，被赋予了足够的自由度。对于复杂模型，支持以DAG形式定义工作流和数据流，一目了然，方便后续操作人员部署和灵活伸缩。
对于运营商来说，采用成熟的软件栈和微服务架构，可以从单机灵活扩展到超大规模集群。它不选择硬件，支持从嵌入式设备、台式机、大型服务器、云虚拟机和容器，甚至商用集群的各种新旧硬件平台。它支持对接模型编译、小型化等优化加速技术，可以提高模型的适应度，增加单位资源的产出。自动批量功能可以充分发挥人工智能模型批量计算和底层硬件矢量加速的功能，在不增加数据科学家和操作人员成本的情况下，使系统吞吐量翻倍。
对于用户来说，它提供了丰富的访问接口，包括从通用RESTful到高性能RpC，并支持来自python和Java的SDK。对于低延迟场景，可以提供毫秒级响应。对于高并发场景，支持线性在线自动扩容。
图元流：
MetaFlow是一个来自网飞的开源python库，旨在帮助数据科学家开发和管理他们的项目。他专注于在开发和管理数据科学项目时，降低数据科学家在数据科学以外的其他工程领域的技能要求和投资。这样它就可以专注于数据科学。
对于数据科学家来说，MetaFlow提供的编程规范和接口以工作流的形式组织人工智能模型和相关的处理流程，其他的事情都是他们后端操作人员的责任。
就运营商而言，MetaFlow与AmazonAWS深度融合，是目前唯一支持的运营商。对于需要商业化甚至调试的场景，都需要在AWS中运行，完成存储、计算、通信的适配，从而实现人工智能模型的服务，连接终端用户。另外，MetaFlow中的工作流不处理数据流，完全依赖AWS。
对于最终用户来说，MetaFlow只提供客户端在python代码级别发起工作流调用。对于商业用途，相对缺乏更方便和丰富的访问方法。
气流：
AirFlow是Airbnb的开源工作流系统，基本功能简单，以插件的形式支持各种语言和执行器。
就数据科学家而言，它并不是一个特殊的设计系统，需要参考一系列插件甚至开发一些插件来完成与数据科学家及其人工智能模型应用的对接。像MetaFlow一样，它的工作流只覆盖业务层逻辑，不处理数据流。支持主流云平台，如AWS、Azure、GCp等。通过插件。它也有和MetaFlow一样的问题，对数据科学家不友好。比MetaFlow更糟糕的是，它的集成晦涩难懂，难以使用。
对操作人员来说，气流更像是一个相对专业的底层工作流管理平台，但对于人工智能推理服务来说，它并不专业，缺乏直接、简单、易用的东西，比MetaFlow更差。
对于最终用户，AirFlow提供了丰富的访问界面，并且相对友好。
MLFlow:
MLFlow是一个带有Databricks的开源机器学习生命周期管理平台，推理服务是其功能之一。
对于数据科学家来说，MLFlow是一个相对简单易用的机器学习平台。在推理服务中，支持将同一平台的模型导出为其标准格式，如pythonFunction、Scikit-learn、pyTorch、Tensorflow等。可以通过其部署工具在受支持的运行平台上提供服务。与其他推理引擎相比，主要弱点在于模型在概念上不是基于工作流的，数据科学家在构建复杂的中大型模型推理服务时需要自己解决工作流问题。此外，和MetaFlow、AirFlow一样，它并不解决数据流的问题，而是需要数据科学家结合运营商的运营平台自己解决。
对于运营商来说，MLFlow支持四种部署方式，分别是本地单机部署、Azure、Amazon administraker、ApacheSparkUDF，但只有本地单机部署支持多种格式，其他云、集群部署只支持pythonFunction格式。这提高了商业运营中建模时对数据科学家的格式要求，削弱了MLFlow在建模阶段的优势。
对于终端用户来说，MLFlow只提供RESTFul接口，但在需要大流量、高性能、低延迟的场景中，还是有一些其他的选择。
