在云端和Edge上实施AI的十大策略

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

在云端和Edge上实施AI的十大策略
在Edge设备上部署机器学习和深度学习算法是一项复杂的工作。在这篇文章中，我列出了将AI端到端部署到Edge设备的策略，即涵盖机器学习（构建模块）和部署（devops）的完整管道。
我欢迎您对可能包含的其他想法发表评论。在后续文章中，我将详细阐述这些想法，最终，这将是一本关于Data Science Central的免费书籍。我将采用基于用例的方法，即每个部分都将从一个用例开始。
首先，
许多物联网应用程序都是简单的遥测应用程序，即使用单个传感器捕获数据并根据数据采取行动。这样做，数据可以被存储或可视化。遥测应用程序相对容易构建。但是对于大规模的专业应用，涉及许多复杂的元素。具体来说，在这些文章中，我们将云视为此类应用程序的驱动程序。因此，云和边缘协同工作以在边缘设备上大规模创建AI的部署模型。
在本文中，我们概述了云和边缘可以协同工作以在边缘设备上部署AI的方式。该帖子基于我在牛津大学的教学-Cloud and Edge实施课程
在继续之前，让我们澄清一下我们将在本文中使用的一些术语：
物联网（IoT） –指具有一定感应或促动作用的智能传感器
边缘计算具有更广泛的意义。边缘一词可以在云环境中得到最好的理解，在云环境中，我们具有更接近数据创建起点的计算和存储功能。边缘计算可提供低延迟响应，并在需要时可以进行脱机处理。具体地说，对于AI和ML功能，Edge意味着能够在云中训练模型并在边缘设备上进行部署的能力。
Edge设备上AI的数据流
边缘设备上AI的总体数据流如下
数据离开边缘
数据停留在云端
并非所有数据都可能从边缘发送到云，即在许多情况下，数据可能会在边缘设备上聚合，并且可能只有摘要发送到云
通常，机器学习和深度学习模型是在云中训练的
模型部署到边缘
推理可以在边缘（设备或嵌入式），云或流中进行
通常，通过Web服务将模型部署在容器中，在特定硬件上，使用无服务器技术，使用CI / CD，使用Kubernetes。
最后，整个系统可以建模为Digital Twin
在云和边缘上实施AI的部署策略
以下是Edge设备上AI的可能部署策略
边缘处理–计算机视觉
边缘处理– Web服务API
边缘处理–非计算机视觉（例如：基于传感器的数据）
大数据流策略– Spark / MLFlow，Kubeflow，Tensorflow扩展等
容器（docker和kubernetes）
无服务器（边缘）–补充容器？
边缘设备的CI / CD
硬件中的AI –推理，AI芯片，FPGA，视觉处理单元– Intel Movidius
流媒体：Apache Kafka，Splunk
数字孪生
请让我知道我是否错过了
结论
正如我上面提到的，我将在后续帖子中详细介绍这些策略。在每种情况下，我们都将重点关注该策略的AI / ML实施。相反，我将讨论如何使用它来实现ML / AI。
最后，有些人可能会认为–这全是矫kill过正。实际上，许多应用程序不需要这种全面的方法。但是，随着更大/企业级IoT应用程序的部署，尤其是使用云计算，我们将看到这些想法正在部署。
我在下面列出了我关注的利基分析师公司的2019年亮点   
他们在2019年的``最重要的IoT技术演进''是Containers / Kubernetes
我非常同意以下观点。我在教学中使用了相同的方法。尽管我认为容器不是许多物联网开发人员的关注对象，但它们应该用于可扩展的应用程序。
IT体系结构正在发生根本变化。现代（基于云）的应用程序基于容器构建，从而为部署带来了全新的灵活性和性能。对于任何集中式或边缘物联网部署，也是如此。
可以说，到目前为止，谷歌的开源平台Kubernetes在很大程度上赢得了容器编排平台的竞争，而Docker是最受欢迎的容器运行时环境（尽管公司存在财务问题），
2019年在IT和OT领域有几大重量级人物行业完善其集装箱战略：
VMware。在2019年8月的VMworld 2019上，领先的虚拟化软件提供商VMWare制定了整体Kubernetes战略。该公司相信“ Kubernetes将被证明是未来的云标准化层”。它启动了VMware Tanzu，这是一个管理Kubernetes容器分发并允许构建和部署应用程序的云平台。
思科 这家网络巨头于2018年初启动了“思科容器平台”，并宣布了与Google Cloud和AWS的联合项目，并于2019年7月宣布微软的Azure Kubernetes Services现在已本地集成到Cisco平台中，从而完成了三大云合作伙伴计划
西门子。工业巨头西门子于2019年10月收购了软件定义的边缘平台Pixeom，目标是将容器技术应用于工厂的边缘应用。Pixeom技术建立在Docker运行时环境上。
进一步值得注意的消息是，HPE在2019年11月推出了自己的Kubernetes容器平台，而发展迅速的初创公司Mesosphere在2019年8月将其名称更改为D2iQ，并将其战略部分偏离其自己的``Mesos''标准，以进一步专注于Kubernetes部署。
关于图像
我基于Azure创建了映像，但概念也适用于其他云平台
为了保持整洁，该图像不包含上面列出的所有策略

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：Edge DGE 在云端 Data Science containers