Node.js Serverless 助力业务研发提效 38.89%,并保障双11大流量下稳定可靠

筅森魡賤 提交于 2020-11-25 18:30:18

NO.1

前言

Serverless 一块深水的坚冰,逐步从深海付出了水面,阿里淘系从去年在大促实践开始,逐渐将 Serverless 应用到前端领域方方面面。而 Node.js 作为前端最有价值的武器,在这其中,发挥了其灵活,轻量的本质,让业务提效。如今,Node.js Serverless 从幕后走向前台,本篇就跟随我们来一一解开 2020 双十一 Serverless 如何让业务落地,开发提效,以及规模化的面纱。

依托阿里云 Serverless 函数计算等基础设施,今年(2020)淘系前端在行业导购、会场、营销v榜等业务场景中规模化使用了 Node.js Serverless 技术,请求相比去年(2千QPS)今年达到新的水平(峰值总计5万QPS),同时将CPU水位,相比去年 FaaS 平均水位(20%)提升到(40%)。在业务价值方面,Node.js Serverless 支撑的云端一体研发模式交付平均提效 38.89%。今年更是依托 Serverless 的便利性和可靠性,帮助双十一特色的淘宝、天猫、飞猪等会场页面快捷地落地 SSR 技术提高页面体验。在运维方面,今年优化大促态和日常态流程,让开发者在应对更高 QPS 规模时,精力花费降低约50%。在研发体验方面,打造解决方案体系,降低研发门槛,支持外包快速入场。

本文将介绍我们在淘系双十一,从日常开发到作战的方案与经验,为大家提供一些 Node.js Serverless 的经验参考,也欢迎大家提出宝贵的意见。

NO.2

探索之路

2.1 Midway Serverless Framework


相比传统 Node.js 应用,由于部署模式以及运行环境的不同,我们在原有Node框架之上进行了方案升级,提出了Midway Serverless。

Midway Serverless是一套面向Serverless的解决方案,它包括框架、运行时、工具链、配置规范等几个部分。

在框架设计过程中,我们主要把握了这几个特点:

1. 多平台适配能力

  • 社区不同云平台底座能力适配,提供Serverless底座迁移替换能力,防止云平台锁定。

  • 传统应用和Serverless模式,相互迁移的能力,做功能降级和能力升级。

2. 让应用层更易维护和扩展

  • 使用了Typescript作为基础语言,定义基础类,便于上层应用开发者定制化。

  • 提供应用开发过程中常用的插件以及提供了插件体系。

  • 框架默认结合基建能力,提供问题排查和性能优化等基础功能。

3. 面向不同业务场景的开放性

  • 提供基础上层接口,满足不同开发者基于不同业务场景进行定制化开发。

2.2 打造快速试错、高可用的研发模式


统一云研发平台,从研发到交付构建更敏捷的前台应用开发。

为了提升开发者本地的开发者体验,我们做了Vscode插件、本地脚手架来提升开发者的开发体验。

发布平台,我们通过将发布链路进行流程化,做代码云构建,最终将热加载的代码打成压缩包。

最终函数运行时,我们通过热调度的模式,加速函数启动时间。

解决方案沉淀

同时我们和业务开发者在过去实践中,沉淀各类解决方案,各部门一方可以定制化自己的租户,同时各部门也可以选择通用解决方案,并选择自己部门的网关进行组合。

模型驱动、函数编排

借助模型驱动,函数编排产出FaaS函数。同时结合我们原有的搭建系统,业务同学进行模块的排期,页面的搭建,快速响应淘宝双十一相关的业务需求。

技术实现层面主要分为:

  • 数据链路设计

  • 操作面板设计

  • 代码生成方案

数据链路设计,主要设计定义DSL,对数据来源、模型、字段、出入参、代码片段进行了结构化存储。

例如代码片段定义:

操作面板设计,主要是函数逻辑编排:

FaaS代码生成逻辑:

2.3 稳定性建设单元化保障




通过异地容灾,对业务进行多地多机房部署,实现真正意义上的异地多活。

单元化优点:

1、在车辆高速行驶过程中,进行更换轮胎。框架升级,可以在某个单元进行灰度。

2、当单个单元出现问题时,切换到另外一个单元提供服务。

3、性能评测,可以做单个单元的性能评估。

监控保障

我们通过在框架Runtime层面,接入全链路跟踪系统,方便开发者查看错误的链路情况。

业务同学只需关注自己业务函数的QPS和成功率,而且对于成功率的下跌,或者QPS的环比下跌都将通过IM、短信或者电话的方式进行及时报警。

例如下图我们一个函数的日常情况的QPS变化情况:

预案保障

为应对各个环节可能存在的未知风险,架构层面,我们通过设置了多种预案来进行面对。

当任何一个环节出现监控报警时,都能作出合理的应对措施。

限流保障

根据2019年的流量情况,预估今年双十一的规模,我们进行了建站压测、单链路压测、全链路压测等多个环节。根据压测表现,对于流量链路的各个组件,进行限流配置,进行服务的保护。

今年在保障相同QPS的情况下,我们对于容器层面的CPU消耗情况进行更多的压榨,相比去年提升1倍。

NO.3

业务实践

导购营销云端一体研发


通过2.2中的研发模式,让开发者能快速选择通用解决方案,快速响应业务需求,制作出满足业务场景的前端功能。最终运营借助我们前端开发者提供的功能,能玩出花。

会场 SSR - 实现双 11 会场秒开


借助 SSR 服务端渲染 + Serverless 模式,前端开发者通过前后端一起优化的模式,进一步优化用户体验。帮助双11 分会场大幅提高了页面打开速度,业务转换上提高的受益也有不错体现。

中后台高效研发


中后台一体化研发模式具备特性:

  • 前后端一体化开发、上线、运维,高效开发部署上线。

  • 无须关注服务器、域名申请等事情,让业务同学只需关注业务。

  • 解决长尾应用服务器成本问题,合理把控中后台生命周期。

NO.4

总结与展望

Serverless 是未来开发的基座,前端利用 Serverless 快速实现业务交付,以往,前端的开发会受到资源的限制,而如今,在创造力的驱动下,Serverless 使得前端不再受到资源成本的制约,同时又能使用 Node.js 快速的迭代业务,其效率远高于传统开发,而成本又相对较低。如今,这不仅仅是未来,也是当下前端在持续投入的事情,Serverless 和多端技术,整个前端都将有一次大的变更和飞越。快来和我们一起编写云端一体的未来吧。

Midway Serverless,Go!

- END -

敬请关注「Nodejs技术栈」微信公众号,获取优质文章,如需投稿可在后台留言与我取得联系。

往期精彩回顾
从理解到实现轻松掌握 ES6 中的迭代器
Node.js v14.15.0 已发布进入 LTS 长期支持
震惊!这个代码片段竟然会让 V8 内存无法回收?
Node.js 内存管理和 V8 垃圾回收机制
排查 Node.js 服务内存泄漏,没想到竟是它?

本文分享自微信公众号 - Nodejs技术栈(NodejsRoadmap)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!