java 拉起服务_Serverless无服务器架构详解

偏执的太偏执、 2023-01-01 09:52 343阅读 0赞

本文对serverless架构的基础概念，工作原理，应用场景以及具体产品进行详细解析。

# **基础概念** #

serverless：无服务器架构，即在无需管理服务器等底层资源的情况下完成应用的开发和运行，是云原生架构的核心组成部分。

通俗来说，如果将购买一台物理服务器比作 **买车** ，购买云服务器就类似于 **租车** (租赁期间需要驾驶和维护，且即使闲置也需付费)，那么serverless则类似于 **出租车** (只需乘坐，按里程计费)。

从技术层面来说，我们可以简单理解为： **serverless = FaaS + BaaS** 。一个完整的serverless应用一般由FaaS层负责无状态的计算，由BaaS层负责状态的存储：

*  FaaS(函数即服务，Function as a Service)：将函数代码托管给云产商，以服务形式运行，支持事件触发。代表产品有腾讯云SCF、AWS Lambda等。
 *  BaaS(后端即服务，Backend as a Service)：指云平台提供的后端组件整合，开发者无需开发和维护后端服务，通过API/SDK的调用便可获得例如数据存储(对象存储、云数据库、云中间件等)、消息推送、账号管理、地图定位、AI、IoT等能力。

![27c1c356d8d2e705339ad33a6fba4493.png][]

# **特点及优势：** #

1.  **免运维** ：无需管理基础设施 —> 可以专注业务开发
2.  **按量计费** ：闲时不计费 —> 降低成本
3.  **弹性伸缩** ：峰时自动扩容 —> 无需考虑可用性问题

# **劣势及适用场景：** #

1.  **冷启动延迟：** 一定时间内的首次调用可能需要冷启动(如进行加载代码、拉起容器等任务)—> 适合对响应速度要求不是太高的接口，更适合异步任务，不适合启动耗时久的Java项目
2.  **开发和管理设施：** serverless应用的调试、测试、排障、发布等设施暂不成熟 —> 目前更适合后端逻辑不太复杂的轻量级应用
3.  **云产商绑定：** 不同云产商提供的组件(如存储)接口不同，可能增加未来迁移成本 —> 使用标准化框架，并在设计时尽量隔离通用逻辑层和BaaS依赖层

# **工作原理** #

各个平台对云函数的实现在原理上基本相似，核心都是动态的启动实例去执行函数代码，且完成后实例会保留一定时间窗口。大致的底层架构如下图，其中步骤(1) (2) (3) (4) 为冷启动调用流程，(5) 为非冷启动调用。

![8a98ca2214c7dfc36399166c1ea5837d.png][]

# **1.函数注册** #

用户在控制台(或命令行)提交函数代码到云平台，并进行函数配置。代码一般会被作为静态资源保存(如对象存储)，而函数的元信息会被存入数据库中(如mysql)。

# **2.函数触发** #

云函数的触发可以分为同步和异步两种情况：

*  如果是同步请求则等待函数执行结果后返回
 *  如果是异步请求则可以投递到队列后直接返回

# **3.函数执行** #

云函数的执行可以分为窗口内首次执行(冷启动)和非首次执行两种情况：

*  如果是首次执行，则需要进行宿主机调度，在宿主机拉起容器实例，下载函数代码，然后执行代码。
 *  首次执行完毕后docker容器不会立即关闭，会等待一定时间周期，如果此时有新的请求进来，会被分配到该容器，直接运行代码。

从执行的原理也可看出，云函数理论上是支持无限自动扩容的。

# **冷启动问题** #

由于serverless按量计费的特点，其实现机制就必须要在函数调用时才去启动运行环境，也就是冷启动问题。虽然保留一定时间可以让后续的请求无需加载，但如果在极短时间内并发大量请求，还是会同时启动多个容器，影响首个请求的响应时间。前面也说到，云函数的特性和机制决定了它的应用场景，对于同时要求高并发、低时延的场景并不是特别适合。

对于冷启动问题，下面以腾讯云的 ***云函数SCF*** 为例进行验证。使用Postman的批量测试功能(Collection Runner)对云上部署的一个hello world函数进行串行测试。

![2fc56f0cf8b54545bffce694eae3ebbf.png][]

从图中可以看出，一段时间内的首次请求耗时会比其他请求的耗时高出一个数量级。

# **冷启动优化** #

冷启动的优化主要针对同步的请求，首先分析下冷启动耗时的组成，主要是容器的拉起和代码的下载(当然也有资源调度和网络配置等，这里暂不讨论)。

1. **代码缓存** ：可以设计多级缓存，比如在宿主机上进行代码包缓存，以及在可用区(AZ)内部进行缓存，这样后续的首次启动就可以快速就近获取，而无需再次从对象存储下载。

2. **容器****预****创建** ：一个优化思路就是预加载，也就是预测将会到来的请求，提前拉起容器实例，从而减少耗时。有以下几种可能的方案：

*  进行请求量的 **实时计算** ，如果请求呈上升趋势，就开始预创建容器实例，同理下降则进行回收。
 *  **云函数调用链：** 这是一种可确定的预测，当云函数之间出现互相调用，在前面的函数被触发时就可以同时预创建调用链后面的实例；
 *  **版本更新：** 如果函数版本进行更新，则之后的所有请求都会重新冷启动，为了避免这种情况，需要预创建一些实例并下载新版本代码，之后才能将流量平滑迁移到新版本函数。

# **应用场景** #

下面介绍比较适合使用serverless技术的几种场景。

# **1.rest API** #

利用云函数可以快速部署一个rest API应用，目前的云厂商基本都支持大部分node，python和php的web框架，如koa、Express.js、Next.js、Flask、Django、Laravel等等。

这种web架构是前后端分离，即云函数中的后台接口只提供数据，页面的渲染在浏览器进行。可以将前端的代码部署到对象存储中，并使用相关云数据库作为数据存储，这就成为一个完整的云上Full Stack应用。

# **2.SSR** #

SSR(Server-Side Rendering)：后端渲染，即页面直接在后台进行渲染，浏览器只负责显示。这种比较传统的web架构很适合应用于serverless，只需将整个后端代码部署到云函数即可，好处有：1.利于SEO，2.降低系统复杂度，易于部署。

serverless很适合用于流量分布不均的轻量应用，比如一些活动页面，可能一个周期内只有很短的一段时间会有大量访问，且需要长期的维护，此时为这个应用去购买高配置的服务器显然是不划算的。使用serverless之后则可以完全解决这个问题，按量计费降低了成本，既免去了长期运维又不需要担心扩容问题。

# **3.任务执行** #

云函数本身是无状态的，所以天然适合无状态任务，如果需要状态存储则需要借助BaaS层的组件。云函数的优势是可以与云提供商下的其他服务(比如数据库、缓存、对象存储、CDN、AI、转码等)打通，在函数中使用SDK连接各个组件(但这同样意味着将在云产商绑定的道路上越走越远)。以下是一些适用场景：

*  消息通知：比如触发后向某个用户发送邮件、短信等。
 *  定时任务：云函数一般提供定时器触发，方便进行定时任务的执行。
 *  CDN自动刷新：一般来说会把图片、网页等静态资源存到对象存储，并且配置CDN加速，一旦资源发生修改还得手动进行CDN刷新预热。可以使用对象存储上传的事件触发器，在云函数中调用CDN接口自动化刷新预热。
 *  视频转码：如果云产商提供转码服务，可以借助云函数很方便的完成转码任务。如原视频上传到对象存储后，该事件可以触发云函数调用转码服务，并将转码后的视频发布到对象存储中，如果使用了CDN还可以进行缓存刷新。
 *  AI服务：可以使用云函数调用该产生的AI服务，比如调用OCR接口识别图片文字内容后返回。
 *  Devops：例如将Github的webhook设置为云函数的地址，当代码提交后触发云函数，执行CI/CD任务，构建后发布产物到云服务器上。

[27c1c356d8d2e705339ad33a6fba4493.png]: /images/20221120/22f0b55ac2f74f7db1555a3f1d4392f0.png
[8a98ca2214c7dfc36399166c1ea5837d.png]: /images/20221120/3f7314d34f2f4a9bbfc8b4f26465c00c.png
[2fc56f0cf8b54545bffce694eae3ebbf.png]: https://img-blog.csdnimg.cn/img_convert/2fc56f0cf8b54545bffce694eae3ebbf.png