t-io: 百万级TCP长连接即时通讯框架

今天药忘吃喽~ 2022-06-15 08:15 1710阅读 0赞

## t-io: 百万级TCP长连接即时通讯框架，让天下没有难开发的即时通讯    ##

*  t-io是基于jdk aio实现的易学易用、稳定、性能强悍、将多线程运用到极致、内置功能丰富、核心代码只有3000多行(2017年05月13号统计)的即时通讯框架(广义上的即时通讯，并非指im)，字母 t 寓意talent。
 *  同类型的框架还有[voovan][]、[netty][]、[mina][]、[baseio][]等，不喜欢t-io的可以去尝试了解这几个，t-io对所有人按LGPL协议开源，但只服务于品行良好的开发人员！

#### 常见应用场景 ####

*  IM（官方提供了im例子，含web端）
 *  实时监控
 *  推送服务（已内置API）
 *  RPC
 *  游戏
 *  物联网（已有很多案例）
 *  其它实时通讯类型的场景，不一一列举

#### 晒一下作者花两天时间用t-io和[layim][]做的[web im][]（服务器由某公司免费提供，只有2M带宽，最近被Ddos攻击，所以随时都可能暂停而导致你访问失败） ####

*  先感谢一下贤心提供这么好的ui作品，也欢迎大家去捐赠获取[layim][]，本人捐赠了[layim][]，只是贤心又零差价地回捐了t-io。  
    
 *  东西刚刚出来，还需要打磨，有问题在所难免，毕竟只花了两天时间。
 *  [演示地址][web im]（2M带宽，请勿压测，谢谢！）
 *  截图

--------------------

[![image][]][image]

--------------------

[![image][image 1]][image 1]

--------------------

## 重点强调 ##

*  [社区提问规范][Link 1]
 *  [入群提问规范][Link 2]
 *  请陌生的朋友不要再私下提问

## maven坐标 ##

<dependency>
        <groupId>org.t-io</groupId>
        <artifactId>tio-core</artifactId>
        <version>1.7.0.v20170501-RELEASE</version>
    </dependency>

## t-io特点 ##

### 极简洁、清晰、易懂的API ###

*  没有生涩难懂的新概念，原生态bytebuffer既减少学习成本，又减少各种中间对象的创建
 *  只需花上30分钟学习helloworld，就能较好地掌握并实现一个性能极好的即时通讯应用

### 极震撼的性能 ###

*  单机轻松支持百万级tcp长连接，彻底甩开业界C1000K烦恼（不过现在已经有不少公司已经搞定c1000K问题了）；
 *  最高时，每秒可以收发500万条业务消息，约165M（1.6.9版本数据，想验证的，后面有验证步骤）

### 对开发人员极体贴的内置功能 ###

*  内置心跳检测
 *  内置心跳发送
 *  各种便捷的绑定API
 *  各种便捷的发送API
 *  一行代码拥有自动重连功能
 *  各项消息统计等功能，全部一键内置搞定，省却各种烦恼

### 一张思维导图胜过千言万语(部分方法在未发布的1.7.1版本中) ###

--------------------

[![image][image 2]][image 2]

--------------------

## 各种传送门 ##

*  [t-io生态圈建设][t-io]
 *  [t-io + layim + vue + ivivew + webpack + google-protobuf开发的web im][t-io _ layim _ vue _ ivivew _ webpack _ google-protobuf_web im]（服务器由某公司免费提供，只有2M带宽，最近被Ddos攻击，所以随时都可能暂停而导致你访问失败）
 *  [官 网][Link 3]
 *  [代码托管平台码云][Link 4]
 *  [开源中国收录地址][Link 5]
 *  [talent-tan写的t-io系列文档][talent-tan_t-io]
    
     *  [aio系列文档（1）----t-io的hello world][aio_1_----t-io_hello world]
     *  [aio系列文档（2）----图解bytebuffer][aio_2_----_bytebuffer]
     *  [aio系列文档（3）----protobuf入门与使用][aio_3_----protobuf]
     *  [aio系列文档（4）----t-io源代码阅读小记][aio_4_----t-io]（具体内容[millions\_chan][millions_chan]所写）
 *  [卡尔码农写的t-io系列文档][t-io 1]
    
     *  [t-io 入门篇（三）即时消息发送demo学习][t-io _demo]
     *  [t-io入门篇（二）][t-io 2]
     *  [t-io学习入门篇（一）][t-io 3]
 *  其它小伙伴写的零碎文章和作品
    
     *  [给jfinal写的t-io插件][jfinal_t-io]\----小徐同学花10分钟完成的作品
     *  [用t-io实现的简单rpc][t-io_rpc]\----仅作思路参考，部分实现待完善
     *  [jfinal + t-io完成的im项目][jfinal _ t-io_im]\----作者天蓬小猪正在完善
 *  [API][](只需要看[Aio.java][API])
 *  [资料及问题汇总][Link 6]

## 性能数据 ##

*  需要验证的，请按后面提供的验证步骤来，对于t-io的数据，要么相信作者所说，要么自己亲手去测，网上的抹黑造谣谩骂很多，但真理来自测试。验证完毕后，自己偷着乐就好，注意规避网上那些喷子，不要回复他们（t-io被黑了几个月，这两天，作者本人抓住确凿证据后正面回应了两个人，结果引来了更多的喷子（简单点看了几个 人，基本是些活跃度和访问量极低的用户），前车之鉴）。如果你对测试数据还有疑问，可以debug进去看看各个步骤，重点是多沟通，防止误判
 *  IM实例收发速度500万条/秒----此数据系网友提供（i7 6700 + 固态硬盘 + win10），作者本地只跑到了333万/秒
 *  IM实例17.82万TCP长连接且正常收发消息只消耗800M内存，CPU使用率极低，目测t-io可以支撑200万长连接
 *  17.82万长连接 + 各种破坏性测试，服务器内存保持稳定（600多M到900M间）

## 性能测试步骤 ##

### 测试单机吞吐量（实际上就是非网络环境啦） ###

1.  机器准备
    
     *  CPU: i7 6700 / i7 4790
     *  内存：8G/4G
     *  操作系统：windows7/windows10
     *  说明：客户机和服务器位于同一台机器
2.  测试步骤
    
     *  参数调优：修改t-io\\dist\\examples\\im\\client\\startup.bat，把-Dtio.default.read.buffer.size=512的值换成4096
     *  参数调优：修改t-io\\dist\\examples\\im\\server\\startup.bat，把-Dtio.default.read.buffer.size=512的值换成4096
     *  双击 "bin/start-im-server.bat" 启动im server
     *  双击 "bin/start-im-client.bat" 启动im client
     *  保持下图参数进行测试（强调：你需要多试几次，前面几次的性能数据是最差的，貌似跟线程池的预热有关系，有研究的朋友可以交流一下）[![image][image 3]][image 3]
3.  测试结果
    
     *  500万条/秒约165M----此数据系网友提供（i7 6700 + 固态硬盘 + win10）
     *  333万条/秒约97M----此数据系本人亲测数据（i7 4790 + 固态硬盘 + win7），测试参数与上图略有差别，不一一说明
4.  测试说明
    
     *  数据中的消息条数指的是业务包，不是指tcp的交互次数，了解tcp协议的人知道，tcp是双向确认可靠的传输协议，对业务而言，其实并不关心tcp了多少次，而是我们的业务数据收发了多少条。
     *  请用t-io 1.6.9分支进行测试，1.7.0加了链路行为跟踪功能、1.7.1会加上ip防黑功能，这些功能会使t-io框架本身的性能降低（就像操作系统一个开了防火墙，一个没开防火墙，性能不是一个级别的）。作为一个io框架，其实并不需要实现这些功能，但是为了让业务层更舒服，t-io还是舍弃了亮眼的性能数据去拥抱更实用的业务层功能。
     *  netty是一个知名度极高的一个框架，而且功能更多，t-io如果满足不了你或不是你的菜，可以尝试netty

### 测试centos下可以支持多少长连接数 ###

1.  机器准备
    
     *  服务器一台：centos6.x, 虚拟机，一个4核E5 CPU，内存16G
     *  客户机11台：windows，硬件没什么特别要求，能跑起1.62万个长连接，配置不低得离谱就行
2.  测试步骤
    
     *  修改centos操作系统参数，使之支持更大的长连接数，细节略（可百度之）
     *  在centos上运行 "bin/start-im-server.sh" 启动im server
     *  修改dist\\examples\\im\\client\\config\\app.conf，参考下面的值，注意把server指向centos的ip
        
            #服务器
            server=127.0.0.1
            
            #服务器port
            port=9321
            
            #连接多少个连接到服务器
            client.count=16200
            
            #进入到哪个组
            group=g
            
            #聊天消息发的内容
            chat.content=he
            
            #一次发多少条(这个数字不要太大)
            send.count=1
     *  把dist\\examples\\im\\client拷到各客户机并运行"bin/start-im-client.bat"
3.  测试结果
    
     *  11个客户机 ，每个客户机连16200个TCP连接，服务器一共承受17.82万TCP长连接，服务器内存只消耗800M，CPU使用率极低（其中有一台客户担任破坏性测试机）
     *  根据测试结果初步推测：乐观点：t-io支持200万长连接没什么问题，保守点：100万吧，各位有条件的可以测测，毕竟推测的数据有时候会让人跌眼境。
4.  测试说明
    
     *  因为这17.82万长连接位于同一个组中，你用客户机发一条消息，服务器就要推送17.82万条数据，所以在发消息时，请慎重，当然如果你非要把内存、CPU耗光，然后看t-io宕机才高兴，只能说t-io不是你的菜，你还是另请高明吧。
     *  这些数据是1.6.9版本测出来的，1.7.0加了链路行为跟踪功能、1.7.1会加上ip防黑功能，这些功能的增加对tcp长连接个数没什么影响，但是可能内存会增加一些，毕竟多了不少维护数据。
     *  不管怎么说，用在生产环境，不管用什么框架，都是要自己测一遍的，有问题可以随时找作者，不接受恶意找茬，同时作为开源免费软件，作者也有权拒绝一切服务，这点请知悉----开源，只是把代码本身按照某种协议贡献出来，并无义务给你服务，你用得不爽，请另请高明。
     *  netty是一个知名度极高的一个框架，而且功能更多，t-io如果满足不了你或不是你的菜，可以尝试netty

## t-io学习步骤（供参考，具体步骤根据各人而异） ##

学习t-io的最好方式，是从helloworld的例子入手，顺瓜摸藤阅读t-io的源代码，已经有很多人阅读过t-io的源代码，譬如j-net的作者、[hutool][]的作者、[天蓬小猪][Link 7]、[守护天使][Link 8]，并且反馈良好，源代码毕竟只有3000多行，读读无妨！如果懒于阅读代码，就按照下面的步骤来学习吧！

### 初步认识t-io ###

*  安装1.7以上版本的jdk及maven（已安装的略过此步骤）
 *  从[https://git.oschina.net/tywo45/t-io][Link 4]处下载源代码（已下载的略过此步骤）
 *  双击 "bin/start-im-server.bat" 启动im server
 *  双击 "bin/start-im-client.bat" 启动im client
 *  对着界面把玩几下，测试一把性能数据，对t-io形成感性认识（注意：好的性能数据需要预热几把，让线程池活起来）
 *  熟悉客户端界面（版本不一样，此界面会不一样，以实物为准）[![image][image 3]][image 3]
 *  服务器端界面（版本不一样，此界面会不一样，以实物为准）[![image][image 4]][image 4]

### 了解代码目录结构 ###

所有工程都是maven工程，后续目录有可能稍有变动，不定期更新

├─bin----------------脚本目录（方便快速操作）
    │      clean.bat----------------清空所有工程的target目录
    │      clean.sh
    │      deploy.bat----------------作者用来发布到maven中心仓库的脚本，放出来主要是供大家参考
    │      deploy.sh
    │      dist-examples.bat----------------把所有的例子打包到dist目录，方便用户直接执行
    │      dist-examples.sh
    │      install.bat----------------安装工程到本地仓库
    │      install.sh
    │      start-helloworld-client.bat----------------启动helloworld的客户端
    │      start-helloworld-client.sh
    │      start-helloworld-server.bat----------------启动helloworld的服务端
    │      start-helloworld-server.sh
    │      start-im-client.bat----------------启动im的客户端
    │      start-im-client.sh
    │      start-im-server.bat----------------启动im的服务端
    │      start-im-server.sh
    │      start-im-simple-client.bat----------------启动简化版协议的im的客户端
    │      start-im-simple-client.sh
    │      start-im-simple-server.bat----------------启动简化版协议的im的服务端
    │      start-im-simple-server.sh
    │      start-showcase-client.bat----------------启动showcase的客户端
    │      start-showcase-client.sh
    │      start-showcase-server.bat----------------启动showcase的服务端
    │      start-showcase-server.sh
    ├─docs
    │  │  
    │  ├─blog----------------本人博客草稿（大部分博客是在线编辑，所以此处就没有了）
    │  │      
    │  ├─performance----------------一些性能测试截图（随着版本的增多，有些截图已经过时，但仍保留）
    │  │
    │  ├─release----------------新版本发布时的log
    │  
    ├─dist----------------成品
    │  └─examples----------------用t-io写的例子成品
    │      ├─helloworld
    │      │  ├─client----------------helloworld的客户端
    │      │  └─server----------------helloworld的服务端
    │      ├─im
    │      │  ├─client----------------im的客户端
    │      │  └─server----------------im的服务端
    │      │─im-simple
    │      │  ├─client----------------简化版协议的im的客户端
    │      │  └─server----------------简化版协议的im的服务端
    │      └─showcase
    │          ├─client----------------showcase的客户端
    │          └─server----------------showcase的服务端
    └─src
        ├─core----------------t-io的核心代码
        ├─example----------------用t-io写的例子的源代码
        │  ├─parent----------------例子的maven parent
        │  ├─helloworld----------------helloworld的源代码
        │  │  ├─client
        │  │  ├─common
        │  │  └─server
        │  ├─im----------------im的源代码
        │  │  ├─client
        │  │  ├─common
        │  │  └─server
        │  ├─im-simple----------------简化版协议的im的源代码
        │  │  ├─client
        │  │  ├─common
        │  │  └─server
        │  └─showcase----------------showcase的源代码，这个例子是为了帮助用户学习t-io专门写的
        │      ├─client
        │      ├─common
        │      └─server
        └─parent----------------maven工程的parent

### 导入t-io官方提供的例子 ###

去[t-io码云托管地址][Link 4]下载源代码及例子，里面的showcase例子是专门为学习t-io而写的，其设计也是准生产级别的，可以直接拿来做您项目的手脚架。下载完成后，请按下面步骤导入到eclipse中

## [![image][image 5]][image 5] ##

## [![image][image 6]][image 6] ##

[![image][image 7]][image 7]

### 学习万能的helloworld例子 ###

花30分钟看一下t-io官方提供的helloworld，了解一下TCP编程的大概流程，文档传送门: [t-io的hello world][aio_1_----t-io_hello world]

### 学习用于进阶的showcase例子 ###

showcase一词是从springside借来的，放这很应景，[天蓬元帅][jfinal _ t-io_im]就是这样学习的，可以和他交流，他后面会出详细的教程。

## 案 例 ##

案例太多，此处仅列举t-io开源第一个月内的案例，你也可以来[t-io开源中国收录地址][Link 5]看看其它网友们反馈的案例

*  某网管系统(管理数百台刀片服务器的系统)
 *  某直播平台(视频直播+聊天)
 *  某智能设备检测系统(数据采集)
 *  某物联网系统(服务端)
 *  深圳市某在线技术发展有限公司(中银联投资)：某网络安全运营支撑平台
 *  [redisx][]
 *  [talent\_dubbo][talent_dubbo]
 *  某移动省公司CRM业务受理消息采集平台(数据采集)

## 列一下作者本人用过的国产开源软件 ##

网上很多人对国产开源的印象还停留在n年前，此处列一下作者本人一直在用的部分国产开源软件，其中有的是有争议的，也有暴过漏洞的，但是我们想一下struts、netty、mongodb这些国外知名软件不也暴过严重漏洞吗？

1.  [https://www.oschina.net/p/weixin-java-tools-new][https_www.oschina.net_p_weixin-java-tools-new] （使用一年）
2.  [http://layim.layui.com][layim]（2017年5月11号开始使用）
3.  [https://www.oschina.net/p/ztree][https_www.oschina.net_p_ztree] （使用五年以上吧）
4.  [https://www.oschina.net/p/echarts][https_www.oschina.net_p_echarts] （使用两年以上吧）
5.  [http://git.oschina.net/tywo45/talent-validate][http_git.oschina.net_tywo45_talent-validate] （使用十年了，开源出来有五年以上吧，原来是博客开源，现在移到开源中国了）
6.  [https://www.oschina.net/p/hutool][https_www.oschina.net_p_hutool]（使用两个月）
7.  [https://www.oschina.net/p/t-io][Link 5]（使用五年了，开源出来半年）
8.  [https://www.oschina.net/p/druid][https_www.oschina.net_p_druid]（使用三年以上吧）
9.  [https://www.oschina.net/p/dubbo][https_www.oschina.net_p_dubbo]（使用两年）
10. [https://git.oschina.net/jfinal/jfinal-weixin][https_git.oschina.net_jfinal_jfinal-weixin]（使用一年左右）
11. [https://www.oschina.net/p/fastjson][https_www.oschina.net_p_fastjson]（使用三年以上）

##  ##

转载： [t-io: 百万级TCP长连接即时通讯框架，让天下没有难开发的即时通讯][t-io_ _TCP]

[voovan]: https://www.oschina.net/p/voovan
[netty]: https://www.oschina.net/p/netty
[mina]: https://www.oschina.net/p/mina
[baseio]: https://git.oschina.net/generallycloud/baseio
[layim]: http://layim.layui.com/
[web im]: http://www.t-io.org:9292/newim/
[image]: https://git.oschina.net/tywo45/t-io/raw/master/docs/tchat/1.png?v=89
[image 1]: https://git.oschina.net/tywo45/t-io/raw/master/docs/tchat/2.png?v=89
[Link 1]: http://www.t-io.cn:9292/howtoqa.html
[Link 2]: https://my.oschina.net/talenttan/blog/888808
[image 2]: https://git.oschina.net/tywo45/t-io/raw/master/docs/api/t-io-api.png
[t-io]: http://www.t-io.org:9292/ecosphere.html?t_io_v=34344545676
[t-io _ layim _ vue _ ivivew _ webpack _ google-protobuf_web im]: http://www.t-io.org:9292/newim?t_io_v=34344545676
[Link 3]: http://www.t-io.org:9292/?t_io_v=34344545676
[Link 4]: https://git.oschina.net/tywo45/t-io
[Link 5]: https://www.oschina.net/p/t-io
[talent-tan_t-io]: https://my.oschina.net/talenttan/blog?catalog=5625247
[aio_1_----t-io_hello world]: https://my.oschina.net/talenttan/blog/884806
[aio_2_----_bytebuffer]: https://my.oschina.net/talenttan/blog/889887
[aio_3_----protobuf]: https://my.oschina.net/talenttan/blog/885477
[aio_4_----t-io]: https://my.oschina.net/talenttan/blog/884466
[millions_chan]: http://www.jianshu.com/u/be7966e52d09
[t-io 1]: https://my.oschina.net/u/2461727/blog
[t-io _demo]: https://my.oschina.net/u/2461727/blog/897548
[t-io 2]: https://my.oschina.net/u/2461727/blog/894533
[t-io 3]: https://my.oschina.net/u/2461727/blog/893899
[jfinal_t-io]: https://my.oschina.net/u/1168934/blog/864239
[t-io_rpc]: https://my.oschina.net/longtutengfei/blog/892053
[jfinal _ t-io_im]: https://git.oschina.net/kobe577590/im
[API]: http://www.t-io.org:9292/apidocs/org/tio/core/Aio.html?t_io_v=34344545676
[Link 6]: https://my.oschina.net/talenttan/blog/863545
[image 3]: http://git.oschina.net/tywo45/t-io/raw/master/docs/performance/500%E4%B8%87.png
[hutool]: https://git.oschina.net/loolly/hutool/
[Link 7]: https://my.oschina.net/u/257950/
[Link 8]: https://git.oschina.net/yyljlyy
[image 4]: http://git.oschina.net/tywo45/t-io/raw/master/docs/im/server.png
[image 5]: https://git.oschina.net/tywo45/t-io/raw/master/docs/blog/t-io%E7%B3%BB%E5%88%97%E6%96%87%E6%A1%A3%E4%B9%8Bhelloworld%EF%BC%881%EF%BC%89/import-1.png
[image 6]: https://git.oschina.net/tywo45/t-io/raw/master/docs/blog/t-io%E7%B3%BB%E5%88%97%E6%96%87%E6%A1%A3%E4%B9%8Bhelloworld%EF%BC%881%EF%BC%89/import-2.png
[image 7]: https://git.oschina.net/tywo45/t-io/raw/master/docs/blog/t-io%E7%B3%BB%E5%88%97%E6%96%87%E6%A1%A3%E4%B9%8Bhelloworld%EF%BC%881%EF%BC%89/import-3.png
[redisx]: https://git.oschina.net/websterlu/redisx
[talent_dubbo]: https://git.oschina.net/kangjie1209/talent_dubbo
[https_www.oschina.net_p_weixin-java-tools-new]: https://www.oschina.net/p/weixin-java-tools-new
[https_www.oschina.net_p_ztree]: https://www.oschina.net/p/ztree
[https_www.oschina.net_p_echarts]: https://www.oschina.net/p/echarts
[http_git.oschina.net_tywo45_talent-validate]: http://git.oschina.net/tywo45/talent-validate
[https_www.oschina.net_p_hutool]: https://www.oschina.net/p/hutool
[https_www.oschina.net_p_druid]: https://www.oschina.net/p/druid
[https_www.oschina.net_p_dubbo]: https://www.oschina.net/p/dubbo
[https_git.oschina.net_jfinal_jfinal-weixin]: https://git.oschina.net/jfinal/jfinal-weixin/
[https_www.oschina.net_p_fastjson]: https://www.oschina.net/p/fastjson
[t-io_ _TCP]: https://git.oschina.net/tywo45/t-io#t-io-百万级tcp长连接即时通讯框架-让天下没有难开发的即时通讯