虽然报警是来自开发环境,但是这个产品的意义重大,他们可是立了军令状的,如果有问题,他们就要提头去见了。
说实在的他们也工作了有好几年了,像这种项目他们也是头一遭遇到,这可是有关他们的去留问题。
报警是在开发环境,这对于他们来说那太好了。
找到了问题解决后,上线就不会有同样的问题了,如果没有在开发环境没有发现,而是到了线上才有的这个问题,那他们就真的没法交代了。
在回去的路上,他们几个开发还在交流。
“到底是怎么回事,为什么开发环境的负载会突然升高?”
“对啊,是有什么bug了吗?”
“一切都等回去了我们好好的检查检查代码,一定要找出来原因,不能带着问题上线。”这是他们开发的leader说的。
宋飞翼主导了这一次开发的整体架构,是开发团队的负责人,也是架构师,这次的技术选型什么的都是他在搞。
他的这一次的技术选型自认为还是非常不错的,上传的时候不管是二进制还是需要从别的网站抓取的url,他是先放入到了一个本地的redis(一个内存数据库,速度非常快),同时也把这个信息写入到了消息队列中。
这样就可以利用线上n多台物理机来做分布式的操作。
这样做不仅可以避免都访问一个主redis的压力,还能利用多台机器上的内存,直接连的是本机的数据库,所以读写速度也会非常快。
把数据放到本地之后,会有返回一个任务的标志给上传端,这个任务的数据是写到公共的数据库中的。
因为上传端可能会过一会儿就来问一下,刚才那个图片上传成功了没,如果成功了访问地址是什么,如果没有成功也告诉我一下,我一会儿再来问一下。
但是上传端来问的时候,服务器端是有负载均衡的。(一个出口,后面挂了好多个机器,可以想像一下百度的域名,他下面是有好多的物理机的,但是对外只暴露了一个域名,就是baidu,同理,其它大型的网站也基本是这个套路,不过没有百度那么多的机器罢了)
有负载均衡,所以不确实这个提问的动作会具体的落到哪一台,实际上大概率都不会是刚才上传的那一台了。
所以这个时候有人来问了,就需要任何一个机器都能访问到的主库,可以从这里取出来刚才那个上传任务的一些信息,返回给那个询问的人。
这是客户端轮询来要结果,其实还有一个是回调,就是在上传图片的时候就写好,一个通知接口,如果成功了,服务器端就调用一下这个接口,告诉它结果。
然后就是上传的机器怎么把图片的数据存起来的问题了。
宋飞翼在每个机器上启动了一个任务调度系统。
这个调度系统会依次把刚才那个消息队列中的消息给消费者,消费者去真正的执行上传的操作。
其实说白了也就是把一个二进制的数据存到了一个数据库集群中,不过这个是一个特殊的数据库,并不是常见的mysql(也是一个数据库,内容存在磁盘里)。
接着再更新一下公共数据库的信息,这样再有人来问的时候,它就能告诉对方应该用哪个地址来访问。
这样的架构用在线上是很好的,但是用在开发环境基本没有什么太大的用途。
毕竟开发环境只有两个物理机而已,不能发挥出来他设计的这一套架构的优势。
其实一般的情况下开发环境都用的是虚拟机,还是低配的那种,而且还有很多的项目都是共用这个。
宋飞翼说他们的开发环境只有两个物理机还而已,就太气人了。
可就算不能发挥出来这个架构的优势,那也不应该报警啊!
宋飞翼想不明白,到底是哪个环节出了问题,居然能把两台物理机给逼到这个份上。
回到了工位,他们立刻就登录上了机器查看问题。
不过那两台服务器卡的厉害,他们登上去都慢的很。
用linux(和windowns、macos,是一个操作系统,互联网服务器多用这种系统)特有的几个命令,很快他们就看到了问题出在哪里。
是cpu占用的特别高,所以把整个系统的负载给拉上去了。
网络连接、文件读写、内存都还好。
“cpu为什么会占用的这么多。”他们看了一下进程,是nginx(一个web服务器)进程占用了很高的cpu。
有一个人在测试群里问了一下,“大家有做过什么操作吗?现在服务器卡的很,负载特别高。”
【没有】
【没有】
……
好几个人都说没有做什么特殊的操作。
程文也看到了这个消息,他在内心深处想,不会是我的问题吧?
【我做了灰盒测试】
程文决定还是尽早的坦白,不然被人抓到了把柄,那就不好了。
“灰盒测试,你是测试了哪里的功能?”有一个开发直接找过来了。
“测试的是那个下载的时候指定参数的缩放。”
“好的,多谢,我知道是哪里的问题了,我去看一下。”
当他回到他的工位上的时候,宋飞翼也从nginx的日志上看到了一些端倪。
好像是有几个请求导致的这个问题。
“应该是缩放那里的问题。”直接跑去问程文的那个开发,立刻对其他人说道。
“嗯,我也找到了这个问题,这个参数怎么这么大?”宋飞翼从日志中看到了一个有问题的参数。
缩放的时候一般都是有固定的大小的,几百乘几百,最多也就几千乘几千,但是这几个访问的连接,光是url显示出来就有十几厘米长。
屏幕上看别的请求都很正常,但这个都多换了一行。
“卧槽,难道就硬生生去缩放了,并没有限制一下大小?”宋飞翼想到了一个可能的原因。
“大意了,大意了。”
嘴里说着这些,手上的动作却是一点也没有停。
“你先让程文把他的脚本停一下吧,我知道问题了,马上就修改。”宋飞翼对刚才回来的那个人说道。
“好的。”
【大哥,你快收了神通吧!】
程文:……
【好,我这就把脚本停了】
程文知道已经找出来了问题,他也非常开心,总算是在上线之前找到了bug,这样就不怕上线的时候会有重大的事故了。
要不然不仅开发有责任,他们这些测试同样也有责任,谁让他们没有测试出来这个问题。
其实其他人也测试到了这个功能,只是他们没有用那么大的值去测试。
ps:
这个是在实际中是遇到的一个案例,项目已经稳定的运行了好多年了,从来没有过问题,但是有一次突然出现了问题,后来排查问题,发现有这么一个bug。
不知道是在当初就有,还是中间被人改过,反正线上是有这个问题的。