Netty和Jetty的Java NIO 网络框架模型分析

Netty的NIO框架模型。在以前的文章中,为解决Jetty的问题,分析过Java NIO基于多路事件分离器的异步IO框架模型。一直都没有系统分析Netty和Jetty的网络模型,这两天将二者的网络框架部分的代码仔细读了一下,整理了二者的网络模型,画出了Netty的模型图:

netty_network_frame_model

在图中,每个侦听都会创建一个Acceptor Reactor,由Boss线程来监控多路分离器,这里只关注连接事件,当有新的建立连接请求达到时,该线程会第一时间响应,将接收到的请求注册到事件多路分离器中,事件多路分离器有多个,默认情况下其个数为CPU核心数的两倍,应该是CPU超线程的数目。这里会给每一个达到的连接编一个序号,将序号对分离器个数取模(hash到0~3的一维空间),根据模值分配给相应的分离器。事件分离器开始监听新的连接上面的读写事件。检查线程为NioWorker。读写数据会通过回调用户注册的handler的相应接口来实现。因此,处理耗时数据的情况下,需要用户将其提交给后台线程,而不应该阻塞事件分离器,否则会导致新的连接无法建立,其他并发请求无法处理。

Jetty在代码风格上面跟Netty差别很大,看jetty代码感觉更清晰一点,可能是因为以前处理问题已经看得非常多了。前面的文章也说过,Jetty是在一个线程中调用一个同步的accept()方法来等待新的连接请求,等到新的连接到来时,就生成新的change事件放到多路分离器中,同样也是有多个多路分离器,选取原则与Netty完全一样。简单的轮询实现负载均衡。这是典型的半同步半异步(Half-Sync/Half-Async)的模式。在只使用1个事件分离器时,会发现分发线程通常会引入很多问题。前面两篇文章中提到的问题分析都跟这个有关。

不知道Jetty与Netty为什么在接受新请求这里有差别,难道Netty的方式更利于处理短连接,而Jetty则更利于处理长连接,比如Http连接?优待进一步的并发测试才能说明问题。如果netty的方式很好,那么Jetty应该也早就改成了该方式。

| 1 分2 分3 分4 分5 分 (5.00- 9票) Loading ... Loading ... | 归档目录:IO编程, Jetty, Netty | 标签: , , |

班车即将涨价

diao丝听闻班车涨价,旋即入手白色5系一辆————单车。掐指一算,这得半年才能骑回成本。#生命在于折腾#

DSCF0028

| 1 分2 分3 分4 分5 分 (4.80- 5票) Loading ... Loading ... | 归档目录:生活札记 |

分布式存储知识学习清单(完善中)

分布式存储是云存储和云计算的基石。没有特别深入的存储基础知识,但是对分布式存储比较感兴趣。希望以不同的开源存储系统的架构特点和细节组成一条学习的主线,以点带面的掌握主流的架构、算法和适用场景。

1、DRBD

1)磁盘IO的截获和处理流程;
2)同步和异步IO复制流程
3)内核态与用户态交互流程
4)文件系统、VFS和块IO之间的关系

2、Ceph

1)对象接口
2)分布式存储的元数据与数据节点分离架构

3、VFS

1)内核知识点
2)本地文件系统

4、关系数据库

1)PostgreSQL、Sqlite,SQL语法,DB文件组织的数据结构

5、算法

1)PAXOS算法:Chubby、BigTable、GFS论文
2)NoSQL、Cassandra、Voldemort,节点间消息通讯模型,多副本一致性保障。
3)CAP定理相关

| 1 分2 分3 分4 分5 分 (4.78- 9票) Loading ... Loading ... | 归档目录:C/C++, Java, Linux内核, 算法数据结构 |

温习一下AIO编程,AIO编程简单实例

完成端口(AIO)是Windows下开发多并发网络连接、异步服务器程序的最常用方案。JDK 1.7版本引入了AIO的相关封装。这里把之前写过的一个AIO例子发出来温习一下。为下一步分析JDK的AIO做一些准备工作。

下面的例子是AIO与线程池结合的例子,每个连接在建立之后即调用一次receive方法,这里的receive是不阻塞主线程的继续运行接受其他连接的。可以把这个调用想象成一个事件注册的过程,告诉内核对象,我关心这样的读取数据事件,当数据过来时,先把它收下来,放到之前用参数指定的内存缓冲区中,然后通知一下我就可以了。子线程就在等待数据接收完成的完成端口上面等待,直到数据接收完成,处理数据。让繁杂的数据接收拷贝过程交给内核对象去完成。使得线程管理和编程更加简单。

阅读全文 »

| 1 分2 分3 分4 分5 分 (4.80- 5票) Loading ... Loading ... | 归档目录:C/C++, IO编程 |

再游西冲

于2011年8月15日,深圳坂田。

因为三年前的时候已经去过一次西冲了,这次活动本来是非常不想去的。就像上一次去的时候一样,也是因为刚到新的部门,也想同大家多认识一下,还是在主管的一再要求下,最后还是报名了。居然没弄明白活动内容和行程,误以为是两天的活动,有点尴尬。

有点意外的是,这次活动与以往的出游、聚餐、游戏的主题不一样,居然是所谓的拓展,以前只听说过这个,还是第一次参与。

上午10点左右,刚到目的地就开始拓展,在一个空旷的草地上,头上烈日如火,应该有35度以上的高温,大家一起完成各种团队协作活动,有点难受的感觉,不过机会也挺难得的,从毕业工作后,就再也没有过这样锻炼机会了。更让人感动的是,员工家属也跟员工一起参与每一项活动。

下午海滩边的真人丛林CS,海滩自由活动,就显得轻松多了。晚上的啤酒、烧烤很不错,只是跟三年前相比,少了很多新鲜感。第一次“出海”,登上了情人岛,只能从岛上回头看整个海滩的全景,却没有面向岛的另一端的视野。很想看看一望无际的大海是什么样子。随着烧烤逐渐开展,不觉天色也暗了下来。一轮明月伴着海潮,从岛旁边的海平面逐渐升起,与海平面的小岛相呼应,看到这一景,真正体会到了诗人描绘“海上明月共潮生”的壮观。

总的说,一天的时间,挺丰富的,也还算轻松。

整整三年了,两次西冲之行竟是如此的相似,刚入职部门,一个完全陌生的团队,一样的茫然。不同的是感觉现在的发展有无限多种可能,而不是局限在一个一团死水一般的小范围之中。一个团队过长时间没有新的血液加入没有流动,就会陷入一种家长制和内耗中去。重新开始一个全新的工作,就像又一张白纸摆在了自己面前。现在也具备了描绘这张白纸的能力,知道自己想要的工作方式是什么,而不是等待着别人的安排。

| 1 分2 分3 分4 分5 分 (5.00- 4票) Loading ... Loading ... | 归档目录:生活札记 | 标签: , , |

借物的阿莉艾蒂

写于2011年7月24日,深圳坂田。

很长时间都没有像现在这样静下来看部片子了,昨天把《借物的阿莉艾蒂》看完了。故事情节很简单,结局也没有太出乎意料,情理之中吧,但总觉得还缺少点什么,又找了几篇影评,总的说是部好片。

影片一开始就出现不和谐的一面,乌鸦和猫应该都发现了小阿莉艾蒂,应该是为了争夺“猎物”打起来,让人有种不安的感觉,外面的世界对于小人族来说危险重重。直到出现小阿莉艾蒂回家的路上与愤怒的肥猫道别、从窗户翻进卧室的温馨画面出现,悬着的一颗心才落了地。

阿莉艾蒂妈妈出场的时候,表情有点夸张,差点被雷到了。

后面的故事围绕着方糖展开,翔送方糖并附上几个字,影片中没有看到翻译,想应该是“你掉的方糖”的意思。后面送上花儿的时候也附上了几个字,应该是“我想见你”吧。

阿莉艾蒂还方糖的时候,隔着纱窗,两人第一次语言交流,似乎不只是阿莉艾蒂来还方糖并告诉翔不要干预他们一家的生活这么简单。乌鸦又一次出场,缓解了尴尬局面,阿莉艾蒂被翔救了下来,本想后面应该是两个人倾心而谈,最后致谢离去呢。没想到是女主人公惆怅地看着男主人公惆怅地看着手里的树叶却没有看到自己,然后女主人公悄然离去。看到这一幕,心底似乎有什么被触到了。

后面不幸的“拆迁”还是发生了,阿莉艾蒂妈妈被春姨抓走,阿莉艾蒂与翔默契配合解救妈妈的过程将故事推向了高潮。

土著小人的出现,让人觉得有点意外,似乎也带来了更多的喜感,呵呵。
最后,小阿莉艾蒂与翔道别,互换礼物,挥泪离去的一幕着实让人感动了一下。

终于在富于野外生存经验的土著小人的帮助下,阿莉艾蒂一家开始了漫漫搬家旅程。浆果,鱼儿,这些画面的出现,让人相像他们以后的生活应该也会非常快乐的。而翔也迎来了早上的第一缕阳光,似乎预示着他在手术后也会好起来。总算是一个不算完美的完美结局。

试想一下期待的完美结局,阿莉艾蒂一家住进了翔的祖父辈从英国定制的小人居里,和翔一家一起过着和谐相处的生活,处处能够得到他们的保护与帮助,但是这样他们又属于什么关系呢,寄居更或者是饲养关系?我想都不好吧。而且,现实中应该更多的是像春姨这样对小人族怀着好奇与仇恨的人,是容不下小人族的。也许别人安排好的路看上去很顺畅,但是并不一定是最适合自己的,幸福还是需要自己去创造。

| 1 分2 分3 分4 分5 分 (5.00- 7票) Loading ... Loading ... | 归档目录:生活札记, 观影随想 | 标签: , , |

SkyDrive、DropBox和Google Drive三大公有云存储服务对比

严格意义上说,iCloud相对较为封闭,不算是通用的云存储。上面三种云存储应用,笔者都有使用,就各自的优缺点说一下使用的感受。

SkyDrive还是同Windows绑定太紧密,客户端只支持在Windows Vista SP2以上版本上面安装,XP用户就只能通过网页手动同步,无法体验本地文件夹与网络文件夹的自动同步。自动同步功能还是非常有用的,如:在iPad上面的照片可以很快上传到网络上面,然后在PC上面查看。反之亦然。在自动同步上面做得最好的应该是DropBox,但是DropBox只有2G的免费空间,这个显得有点寒碜。同时DropBox几乎支持目前的所有操作系统。

GDrive在国外应该是很不错的应用,与GoogleDocs天然绑定,15G的共享空间,但是非常无赖,国内还要修改本地的hosts文件来访问,并且修改之后也不稳定。这里提供一个可用的hosts文件配置:

文件路径:C:\Windows\System32\Drivers\etc\hosts

在文件末尾加入如下内容:

173.194.38.128 drive.google.com
203.208.46.180 docs.google.com
203.208.46.180 0.docs.google.com
203.208.46.180 1.docs.google.com
203.208.46.180 2.docs.google.com
203.208.46.180 3.docs.google.com
203.208.46.180 4.docs.google.com
203.208.46.180 5.docs.google.com

再就是移动设备上面,不能支持多媒体文件的播放。而其他两种都可以支持本地播放器播放临时文件。

在快速分享存储内容上面,三者都大同小异。基于账户,基于隐秘链接,公开给所有人三种都有实现。

对于文件历史版本备份,三者都能保存一定时间的文件的历史版本,GoogleDrive和DropBox还带有回收站,误删文件可以从回收站中找回。

相信随着互联网业务发展的日新月异,用户的增多,空间、平台、收费与否都不是问题。阻碍信息流通的产品设计会越来越少。

| 1 分2 分3 分4 分5 分 (5.00- 5票) Loading ... Loading ... | 归档目录:移动互联 |

华为终端最近挺热闹

酝酿了3个多月的华为Ascend P6终于在伦敦Roundhouse亮相,这一次在宣传和营销上可谓做足了功夫。昨晚失眠,索性就把发布会的视频翻出来过了一下。并没有微博和各个消费电子门户上面造势的那样惊艳,只能说是一部普通的手机罢了。牺牲了电池容量和本可以在去年就发布的时间点,换来了6.18mm的超薄厚度。K3V2始终是一个硬伤,这次发布会中没有强调P6是用的K3V2E。高通的骁龙系列都从4核心1.2GHZ发展到了枭龙800的4核心2GHZ+,覆盖了低中高端的所有需求。而华为的终端机型,无论处于哪个档次,一直使用K3V2,这样的做法让人看不出终端开始走向高端的趋势。

22257642_1371567595555_500

1.5GHZ 4核心CPU,720P HD 4.7英寸屏,2000mHa电池,前置500W像素、后置800W像素摄像头,2GRAM,从配置上面看不到任何“旗舰”的标志。这些配置都是去年的主流配置,在今年Q3相信各大厂商都会推出新的主流配置手机,这个配置会被甩到很远,而正是那时,P6才放量上市。加上细节问题百出的不争气Emotion UI,相比之下,恐怕消费者不会把P6放在首选的位置。余总承东1000万的销售量恐难以达到。

 

再来看一下,一直作为卖点的超薄、外观设计。不得不承认,P6的外观设计颠覆了之前的华为手机外观的印象。同事常笑谈,手机像情人,如果一个手机只是屏幕非常非常大,如美腿(Ascend Mate),只是厚度非常非常薄,如P6,就好象一个男人在夸她家的妹子胸大,只有胸大,相信没有人认为这是每个人都喜欢的美。外观设计的确比较出众,但是要想到这是一个“1000多人跨部门合作”的成果,这样外观必然是有一些标杆参照的,否则必然是一个各方妥协没有一致性的怪物。仔细看一下P6的外观,正面上方可以说是iPhone5的,下方是索尼一直坚持的双C倒角造型。金属外壳,可以看出为了打造旗舰,舍出了血本。2688的价格,如果真像发布会上面与S4和iPhone5对比的那样,那么也算是良心价了。这个价格应该是吸取了Ascend D2初期定价过高的教训,但是仍然过高了,相信不出一个月会有大幅的跳水。

 

总的来说,还是可以看到进步的,希望P6是一个终端的转折点,以P6为基础,将配置与主流机型拉齐打造出真正的旗舰。

| 1 分2 分3 分4 分5 分 (4.83- 6票) Loading ... Loading ... | 归档目录:数码硬件 | 标签: , , |

端午节回家

22点51分,列车准点发出,很快就适应了略带颤动但也平稳的行进节奏,伴随着轰隆隆的声音。

这还是第一次年中的时候回家。不知道从什么时候开始已经没有了那种久违的回家的喜悦感。以前不会为生活,为自己将要成立一个什么样的家庭而烦恼,只是专注于自己的学业,工作,当这些都慢慢达到自己尽最大努力能达到的程度时,好像除了拥有一个真正属于自己的小家庭外,已经没有什么可以令家人放心了。

像这样的长途旅程也许会越来越少。还是特别怀念这种方式,身边都是陌生人,不同的目的地,不同的年龄,不同的行业,但是他们似乎都有一个共同的目的,赶往一个温暖的港湾。在这样的漫长旅途中,感受尤为强烈。父母在一天天的老去,而我却还不能给他们提供应有的幸福。我的地又在哪呢?

是不是又想太多了,一觉醒来,也许就到终点站了。

| 1 分2 分3 分4 分5 分 (5.00- 4票) Loading ... Loading ... | 归档目录:生活札记 |

发布一个改良后的轻量级下载工具

一直都觉得迅雷等工具太重了,即占用网络带宽又消耗系统资源。而且在下载源的出口速度普遍超过家庭宽带的速度时,p2p已经起不到下载提速的作用,甚至还会在下载完成后占用上传带宽。因此一直想找到一个最精简的下载工具,axel是目前发现的比较合适的。以后试着用脚本写一个类似的工具。

axel是linux下的多线程下载工具,工具支持多线程并发下载,支持断点续传。这里基于axel-2.4的源码,在cygwin下编译了Windows版本。基于gnu的开源license,发布一个Windows的版本。

编译好的软件包见文末的下载地址。

其中,mydownload.bat为启动程序,在使用之前只需要修改其中的目录即可:

@cd /d "C:\Users\t\Desktop"
@set maxcons=8

:renew
@set /p url=请输入下载路径:
@call D:\software\axel-2.4\axel.exe -n %maxcons% -a "%url%"
@echo finished!
@echo;
@echo;
@goto renew
@pause

axel.exe文件的路径和下载后文件存放的路径。即以上粉红色部分。

下载地址:http://codefine.co/wp-content/uploads/2013/06/axel-2.4.zip

| 1 分2 分3 分4 分5 分 (4.50- 6票) Loading ... Loading ... | 归档目录:C/C++ |
返回顶部