最近一次移动端Vue应用的上线,导致某些用户使用某些功能时出现问题,经主动清空缓存后恢复。有时候清空微信应用的存储空间缓存仍不能解决问题,此时安卓机可借助微信TBS调试工具 http://debugx5.qq.com (微信中打开页面,勾选最下面四个选项清除缓存),但该工具目前只支持安卓手机,苹果机就比较麻烦了。为了找到问题的本质,从根本上避免问题,最近浏览了一些文章,其中有一篇对浏览器缓存的分析及在Nginx中对应的处理策略总结的比较好,这里分享给大家。

在开发测试环境中,我们一般搭建Redis的单实例来应对开发测试需求,但是在生产环境,如果对可用性、可靠性要求较高,则需要引入Redis的集群方案。虽然现在各大云平台有提供缓存服务可以直接使用,但了解一下其背后的实现与原理总还是有些必要(比如面试), 本文就一起来学习一下Redis的几种集群方案。

最近由于事情较多,加上个人的懈怠,有一段时间没更新了。习惯的养成很难,但一旦养成,从中的受益也常会超乎意料,还是得坚持。接下来准备对一些开发维护过程中常用的工具软件与服务进行整理,如本系列的nginx,后续的redis,消息队列,jenkins等,欢迎关注。

nginx是一个轻量级的高性能的HTTP服务器,在Web应用部署中很常见。也正因为很常见,所以掌握其基本原理与用法显得很有必要,本系列文章对nginx的相关内容进行梳理,以供初学者参考、熟悉者回顾。

现在大部分中小企业或团队都是使用云平台来部署自己的服务,如阿里云,亚马逊云等。一般来说,业务的负载都具备一定的规律,比如每天集中在某几个小时,或呈现时间段周期性波峰、波谷交替的现象,如下图
业务负载周期性

如果使用ECS来部署服务,则可能大部分时间ECS的资源没有得到充分利用,造成成本浪费,尤其对于像GPU之类成本较高的资源就更加了。这个时候,我们可以考虑使用云集群的混搭模式来节约成本。

业务场景

假设有一个这样的业务场景,包括如下特点及要求:

  1. 整个系统包括业务服务与两层视觉服务
  2. 各层服务之间调用需做负载均衡
  3. 每天的业务量主要集中在上午几个小时
  4. 平时业务量较低时仍要保证服务可用
  5. 尽可能降低成本,尤其是GPU服务器成本(GPU贵啊)

业务部署架构

k8s云集群混搭模式

现在各大云平台都已经提供容器云服务,如阿里云有基于ECI(弹性容器实例)的Serverless Kubernetes集群服务,基于ECS节点不需要提供master的Kubernetes托管版集群服务,及自己提供master的Kubernetes专有版集群服务等。为了迎合类似上述业务场景的需求,也提供了Kubernetes + virtual node(虚拟节点)的混合集群服务,如下图所示

k8s-vn

其中的虚拟节点基于ECI支持多种功能,如GPU容器实例、大规格容器实例等,增强了Kubernetes集群的弹性,使集群不局限于ECS节点的资源,做到弹性无限扩容。

部署方案

结合前面的业务场景,我们可以采用k8s的混合集群服务来部署我们的项目,如下图

biz-deploy

实现步骤:

  1. 创建Kubernetes托管版集群
  2. 加入已有ECS节点
  3. 添加一个虚拟节点,通过添加应用 ack-virtual-node 来实现
  4. 分别创建无状态的业务Deployment、AI-1 Deployment、AI-2 Deployment(对应三层服务)
  5. 分别在业务Deployment上创建公网SLB,AI-1 Deployment、AI-2 Deployment上创建内网SLB
  6. 分别在各Deployment上根据CPU或内存使用阈值配置弹性水平伸缩HPA
  7. 根据需要可以在某个或某些Deployment上配置定时伸缩,通过添加应用 ack-kubernetes-cronhpa-controller 来实现

因为水平伸缩一般需要一定时间,延迟可能会对业务造成影响,所以在业务负载比较规律的时候,可以通过定时伸缩(就是定时扩展到多少个容器,再定时收缩到多少个容器)来改善;目前定时伸缩配置的查看与更新只能通过kubectl命令行进行。

总结

按照官方文档的计费方式,一个普通的2核8G的ECS一年大概费用是2600左右,如果通过容器服务的方式(按秒计费),假设每天起8小时,则一年大概费用1550左右,如果业务负载再集中到几个小时,费用会更低,对于比较稀缺又昂贵的GPU服务就更加了。但是如果服务全部按容器24小时租赁,其成本就又比ECS贵了(一年约4600),所以在平时业务负载较低的时候,可以将容器调度到ECS上保障服务的提供,业务负载高时,通过HPA或cronHPA的方式动态伸缩到虚拟节点上。对于业务负载具有一定规律的服务来说,采用这种混搭的部署方式将极大地降低你的云服务成本。不过目前k8s云集群服务应该推出时间不久,产品的易用性还比较低,对不具备一定容器与编排基础的人使用门槛相对较高。


欢迎关注我的微信公众号:jboost-ksxy (一个不只有实战干货的技术公众号,及时获取更新内容) ——————————————————————————————————————————————————————————————— ![微信公众号](/assets/qrcode-05.jpg)

前面写的《IT技术人员的自我修养》,没想到几天内收到了不少良好的反馈,在此也感谢大家的关注。往后会不定时分享一些技术、管理领域的工作经验总结与感悟,欢迎大家持续关注、交流。最近被问及一个跨域的问题,包括之前面试时发现很多面试者对跨域及其处理也是一知半解,故本文对该问题进行了梳理总结,以供参考。