Amazon IoT Greengrass ML 推理

Amazon IoT Greengrass 包括由 Intel Atom，NVIDIA Jetson TX2 和 Raspberry Pi 提供支持的设备预建 TensorFlow，Apache MXNet 和 Chainer package，因此您不必为您的设备从头构建和配置机器学习框架。另外，Amazon IoT Greengrass 与包括 Caffe2 和 Microsoft Cognitive Toolkit 的其他热门框架结合使用。

借助 Amazon IoT Greengrass，您可以轻松将机器学习模型从云端部署到设备上。仅在 IoT Greengrass 控制台中单击几下，您就能在 Amazon S3 中部署已培训模型，选择所需模型并将其部署到目标设备。您的模型将部署在您选择的连接设备上。

Amazon IoT 也通过为常见 ML 框架和目标设备（如 Nvidia Jetson TX2 板）提供预建运行时，允许您访问硬件加速器（如您设备上的 GPU）。

在运行 Amazon IoT Greengrass 的连接设备上本地执行推理，可降低延迟，还可降低发送设备数据到云中以作预测的成本。您可在设备上直接运行推理，而非为了执行机器学习推理把全部数据发送到云端。

您可以通过使用 亚马逊云科技 执行推理、捕获结果、检测异常值以及把数据发回云端，因为数据在云端可以被重新分类并标记，以改善机器学习模型。

Amazon IoT 在诸如安全摄像头、流量摄像头、随身摄像头和医疗成像设备之类的连接的设备上部署，以帮助它们作本地预测。有了 Amazon IoT Greengrass，您可以在设备上直接部署和运行机器学习模型，比如面部识别、对象检测和成像密度。比如，成像摄像头可以记录通过十字路口的自行车、机动车和行人，并检测交通信号灯什么时候需要为了保持交通流量最优以及保持人员安全而做出调整。

零售商、游轮与游乐场正在投资物联网应用，以提供更好的客户服务。比如，您可以在游乐场运行游客检测模型，以跟踪游客数量。摄像头不用把大量的视频源发送到云端，就可以定位本地游客并维持运行人数，是因为有限的网络宽带使得把大量视频源发送到云端具有挑战性。该解决方案可以预测热门主题公园游乐设施的等待时间，并帮助改善客户体验。

安全摄像头制造商正在寻找新的方式，将设备制造得更智能并将其威胁检测功能自动化。Amazon IoT Greengrass 可以帮助改善安全摄像头的功能。IoT Greengrass 摄像头可以持续扫描经营场所，目的是寻找场景的变化，比如来客，并发送警报。摄像头能够在本地快速执行场景检测分析，并且只有在有需要的时候将数据发送到云端，比如需要其他分析以确定来客是否是家庭成员。

农业正在经历两大中断。首先，世界人口持续增长，导致对食物的需求大于粮食产出。其次，气候变化正在导致无法预测的气候状况，影响庄稼产量。Amazon IoT Greengrass 可以帮助农业实践转型并为客户提供新的价值。安装在温室和农场的 IoT Greengrass 摄像头可以处理植物、庄稼的映像，以及来自土壤中传感器的数据，其目的不仅是检测环境异常，比如温度变化、湿度变化和营养水平变化，还包括触发警报。

由于制造商的定价压力加重，他们在寻求更新颖的方式来帮助提升厂房的操作效率。装配生产线上检测作业的时间如果延迟，会导致时间和资源的浪费。Amazon IoT Greengrass 可以帮助您提早检测出厂房的故障设备和问题。IoT Greengrass 工业网关可以持续监控传感器数据（比如震动、噪音水平）、预测异常并采取相关措施，比如发送警报或关闭电源将损失最小化。