AI 事件驱动场景 Serverless 实践
一、事件驱动框架:Knative Eventing
事件驱动是指事件在持续事务管理过程中,进行决策的一种策略。可以通过调动可用资源执行相关任务,从而解决不断出现的问题。通俗地说是当用户触发使用行为时对用户行为的响应。在 Serverless 场景下,事件驱动完美符合其设计初衷之一:按需付费。
1. Knative 模型
图:Knative 模型
Knative 主要包括两大部分:一是用于工作负载的 Serving,包括版本管理、灰度流量、自动弹性;二是 Eventing(事件驱动框架)。
核心玩家Google;IBM;Pivotal;RedHat;SAP。
友商相关产品Google CloudRun;IBM;Pivotal Function Service(PFC);OpenShift。
2. 事件驱动框架:Eventing
Knative 的 Eventing 提供了一个完整的事件模型,方便接入各个外部系统的事件。事件接入以后,通过 Cloud Event 标准在内部流转,结合 Broker-Trigger 模型进行事件处理。
从上图可以看到,Eventing 中包含三部分内容:
事件源
Broker-Trigger:事件驱动模型,这个模型在早期 16 年的版本开始出现,其原理是 Trigger 订阅 Broker 信息并过滤,最后将事件发送到对应的服务进行消费。
消息系统:在 Eventing 中每个 Broker 下面对应一个消息的系统,来承载对事件的整个流转。目前社区支持的消息系统包括 Kafka、NATS、Rocket MQ、Rabbit MQ 等。
3. 关键特性:事件规则
事件规则的核心是 Broker-Trigger 模型,它包含以下特性:
Trigger 的 filter 的作用是对 Event 进行内容过滤;
支持对 Event 的 Attribute 以及 Data 的内容进行过滤;
支持 Common Expression Language(CEL)表达式过滤;
支持通过 SourceAndType(事件源类型)进行过滤。
二、事件驱动引擎-事件源
1. 事件源介绍
Knative 社区中提供了丰富的事件源接入,包括 Kafka、Github,也支持接入消息云产品的一些事件,比如 MNS、RocketMQ 等。
如上图所示,接入事件源之后,可以通过 Broker-Trigger 模型请求相应的服务。这些服务包括一些具体场景,比如从源码构建镜像、自动化镜像发布、AI 音视频处理、定时任务等。所有的事件都需要这样的事件源来拉取,然后下发到 Eventing 整个事件流转过程。
事件接入接入消息云产品事件源;通过 MNS 接入更多云产品的事件。
事件处理Knative Eventing 内部实现事件的订阅、过滤和路由机制;事件最终通过 Knative 管理的 Serverless 服务进行消费。
典型案例AI 音视频处理;代码提交自动构建镜像。
2. RocketMQ 事件源
消息队列 RocketMQ 版是阿里云基于 Apache RocketMQ 构建的低延迟、高并发、高可用、高可靠的分布式消息中间件。
消息队列 RocketMQ 版既可为分布式应用系统提供异步解耦和削峰填谷的能力,同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。
RocketMQSource 是 Knative 平台的 RocketMQ 事件源。其可以将 RocketMQ 集群的消息以 Cloud Event 的格式实时转发到 Knative 平台,是 Apahe RocketMQ 和 Knative 之间的连接器。
3. Kafka 事件源
消息队列 Kafka 版是阿里云基于 Apache Kafka 构建的高吞吐量、高可扩展性的分布式消息队列服务,广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等,是大数据生态中不可或缺的产品之一,阿里云提供全托管服务,用户无需部署运维,更专业、更可靠、更安全。
三、AI 事件驱动场景实践
以具体场景为例,该案例是一个直播系统,系统每天都有海量的直播访问,访问量根据直播热度随时变化,弹性有波动,同时存在不定时的增量。客户的诉求,一是业务弹性波动,消息并发性比较高;二是互动实时响应,要求低延迟。
为了满足对消息处理的弹性波动、高并发及低延迟的要求,客户选择阿里云的 Knative 服务进行数据的弹性处理。阿里云 Knative 完全契合了用户当前的诉求,并且在接入 K8s 标准之上,提供了基于事件和消息的弹性调度。
当应用实例数随着业务的波峰波谷进行扩容和缩容时,真正做到了按需使用、实时弹性的能力。整个过程完全自动化,减少业务开发人员在基础设施上的负担。在这个案例中,Knative 主要提供了三个能力:极致弹性、事件处理、开箱即用。
下面进行示例演示,演示内容主要有:
部署 Kafka 事件源
部署事件网关
部署服务
模拟事件处理
作者简介:
李鹏,花名:元毅,阿里云容器平台高级开发工程师,2016 年加入阿里, 深度参与了阿里巴巴全面容器化、连续多年支持双十一容器化链路。专注于容器、Kubernetes、Service Mesh 和 Serverless 等云原生领域,致力于构建新一代 Serverless 平台。当前负责阿里云容器服务 Knative 相关工作。
阿里云云栖号
您可能感兴趣的文章
- 04-18人工智能产业链史上最全分析
- 03-28我国计算力水平位居全球第二
- 04-24中国工程院院士郑纬民:AI算力基础设施设计需要遵循三大平衡原则
- 04-02AI 事件驱动场景 Serverless 实践
- 04-24华为宣布开放5G网络能力 自家5.5G比5G快10倍
- 03-24UiPath收购Cloud Elements 扩展基于API的自动化功能
- 09-23中国联通研究院发布《算力时代的全光底座白皮书》
- 03-15阿里云贾扬清:大数据和人工智能一体化是必然趋势
- 01-13在嘴巴里放入124 个传感器,谷歌眼镜创始人新项目:用舌头发信息
- 09-20vivo首席安全官鲁京辉:终端厂商在AIGC时代需与时俱进地用新技术手段应对安全挑战
阅读排行
推荐教程
- 11-01阿里云无影升级2.0 云电脑解决方案时代到来
- 11-01阿里云数据库全面Serverless化!与AI共同驱动走向一站式智能数据平台
- 11-012023云栖大会关键词:开放、大模型、MaaS、产业智能升级
- 10-31Serverless化云产品超40款阿里云发布全球首款容器计算服务
- 10-31阿里云给中国所有大学生每人送一台云服务器
- 10-31解密杭州亚运背后科技:核心系统100%上云,20多项全球首创智能应用
- 10-312023云栖大会开幕 阿里巴巴蔡崇信:打造AI时代最开放的云
- 10-31巴黎奥运会将基于阿里云实现云上转播
- 10-31马斯克440亿美元收购Twitter一年后:全力“下云”,成本速降60%,功能代码从70万行减少至7万!
- 10-30中国广电已建700MHz基站59万站 5G用户突破1800万