skywind3000 / kcp

KCP - A Fast and Reliable ARQ Protocol ====================================== [![Powered][3]][1] [![GitHub license][6]][7] [1]: https://github.com/skywind3000/kcp [2]: https://github.com/skywind3000/kcp/raw/master/kcp.svg [3]: https://github.com/skywind3000/kcp/raw/master/kcp.svg [4]: https://api.travis-ci.org/skywind3000/kcp.svg?branch=master [5]: https://travis-ci.org/skywind3000/kcp [6]: https://img.shields.io/badge/license-MIT-blue.svg [7]: https://github.com/skywind3000/kcp/blob/master/LICENSE README in English 简介 KCP是一个快速可靠协议，能以比 TCP 浪费 10%-20% 的带宽的代价，换取平均延迟降低 30%-40%，且最大延迟降低三倍的传输效果。纯算法实现，并不负责底层协议（如UDP）的收发，需要使用者自己定义下层数据包的发送方式，以 callback的方式提供给 KCP。 连时钟都需要外部传递进来，内部不会有任何一次系统调用。 整个协议只有 ikcp.h, ikcp.c两个源文件，可以方便的集成到用户自己的协议栈中。也许你实现了一个P2P，或者某个基于 UDP的协议，而缺乏一套完善的ARQ可靠协议实现，那么简单的拷贝这两个文件到现有项目中，稍微编写两行代码，即可使用。 技术特性 TCP是为流量设计的（每秒内可以传输多少KB的数据），讲究的是充分利用带宽。而 KCP是为流速设计的（单个数据包从一端发送到一端需要多少时间），以10%-20%带宽浪费的代价换取了比 TCP快30%-40%的传输速度。TCP信道是一条流速很慢，但每秒流量很大的大运河，而KCP是水流湍急的小激流。KCP有正常模式和快速模式两种，通过以下策略达到提高流速的结果： RTO翻倍vs不翻倍： TCP超时计算是RTOx2，这样连续丢三次包就变成RTOx8了，十分恐怖，而KCP启动快速模式后不x2，只是x1.5（实验证明1.5这个值相对比较好），提高了传输速度。 选择性重传 vs 全部重传： TCP丢包时会全部重传从丢的那个包开始以后的数据，KCP是选择性重传，只重传真正丢失的数据包。 快速重传： 发送端发送了1,2,3,4,5几个包，然后收到远端的ACK: 1, 3, 4, 5，当收到ACK3时，KCP知道2被跳过1次，收到ACK4时，知道2被跳过了2次，此时可以认为2号丢失，不用等超时，直接重传2号包，大大改善了丢包时的传输速度。 延迟ACK vs 非延迟ACK： TCP为了充分利用带宽，延迟发送ACK（NODELAY都没用），这样超时计算会算出较大 RTT时间，延长了丢包时的判断过程。KCP的ACK是否延迟发送可以调节。 UNA vs ACK+UNA： ARQ模型响应有两种，UNA（此编号前所有包已收到，如TCP）和ACK（该编号包已收到），光用UNA将导致全部重传，光用ACK则丢失成本太高，以往协议都是二选其一，而 KCP协议中，除去单独的 ACK包外，所有包都有UNA信息。 非退让流控： KCP正常模式同TCP一样使用公平退让法则，即发送窗口大小由：发送缓存大小、接收端剩余接收缓存大小、丢包退让及慢启动这四要素决定。但传送及时性要求很高的小数据时，可选择通过配置跳过后两步，仅用前两项来控制发送频率。以牺牲部分公平性及带宽利用率之代价，换取了开着BT都能流畅传输的效果。 快速安装 您可以使用vcpkg库管理器下载并安装kcp: git clone https://github.com/Microsoft/vcpkg.git cd vcpkg ./bootstrap-vcpkg.sh ./vcpkg integrate install ./vcpkg install kcp vcpkg中的kcp库由Microsoft团队成员和社区贡献者保持最新状态。如果版本过时，请在vcpkg存储库上创建issue或提出PR。 基本使用• 创建 KCP对象：• 设置回调函数：• 循环调用 update：• 输入一个下层数据包： 处理了下层协议的输出/输入后 KCP协议就可以正常工作了，使用 ikcp_send 来向 远端发送数据。而另一端使用 ikcp_recv(kcp, ptr, size)来接收数据。 协议配置 协议默认模式是一个标准的 ARQ，需要通过配置打开各项加速开关：• 工作模式：• nodelay ：是否启用 nodelay模式，0不启用；1启用。• interval ：协议内部工作的 interval，单位毫秒，比如 10ms或者 20ms• resend ：快速重传模式，默认0关闭，可以设置2（2次ACK跨越将会直接重传）• nc ：是否关闭流控，默认是0代表不关闭，1代表关闭。• 普通模式： ikcp_nodelay(kcp, 0, 40, 0, 0);• 极速模式： ikcp_nodelay(kcp, 1, 10, 2, 1);• 最大窗口： 该调用将会设置协议的最大发送窗口和最大接收窗口大小，默认为32. 这个可以理解为 TCP的 SND_BUF 和 RCV_BUF，只不过单位不一样 SND/RCV_BUF 单位是字节，这个单位是包。• 最大传输单元： 纯算法协议并不负责探测 MTU，默认 mtu是1400字节，可以使用ikcp_setmtu来设置该值。该值将会影响数据包归并及分片时候的最大传输单元。• 最小RTO： 不管是 TCP还是 KCP计算 RTO时都有最小 RTO的限制，即便计算出来RTO为40ms，由于默认的 RTO是100ms，协议只有在100ms后才能检测到丢包，快速模式下为30ms，可以手动更改该值： 文档索引 协议的使用和配置都是很简单的，大部分情况看完上面的内容基本可以使用了。如果你需要进一步进行精细的控制，比如改变 KCP的内存分配器，或者你需要更有效的大规模调度 KCP链接（比如 3500个以上），或者如何更好的同 TCP结合，那么可以继续延伸阅读：• Wiki Home• KCP 最佳实践• 同现有TCP服务器集成• 传输数据加密• 应用层流量控制• 性能评测 开源案例• kcptun: 基于 kcp-go做的高速远程端口转发(隧道) ，配合ssh -D，可以比 shadowsocks 更流畅的看在线视频。• dog-tunnel: GO开发的网络隧道，使用 KCP极大的改进了传输速度，并移植了一份 GO版本 KCP• v2ray: 著名代理软件，Shadowsocks 代替者，1.17后集成了 kcp协议，使用UDP传输，无数据包特征。• HP-Socket: 高性能网络通信框架 HP-Socket。• frp: 高性能内网穿透的反向代理软件，可将将内网服务暴露映射到外网服务器。• asio-kcp: 使用 KCP的完整 UDP网络库，完整实现了基于 UDP的链接状态管理，会话控制，KCP协议调度等• kcp-java: Java版本 KCP协议实现。• kcp-netty: kcp的Java语言实现，基于netty。• java-kcp: JAVA版本KCP,基于netty实现(包含fec功能)• csharp-kcp: csharp版本KCP,基于dotNetty实现(包含fec功能)• kcp-cpp: KCP 的多平台（Windows、MacOS、Linux）C++ 实现作为应用程序中的简单库。包含适用于所有平台的套接字处理和辅助函数。• kcp-perl: kcp的Perl实现，其是面向对象的，Perl-Like的。• kcp-go: 高安全性的kcp的 GO语言实现，包含 UDP会话管理的简单实现，可以作为后续开发的基础库。 • kcp-csharp: kcp的 csharp移植，同时包含一份回话管理，可以连接上面kcp-go的服务端。• kcp-csharp: 新版本 Kcp的 csharp移植。线程安全，运行时无alloc，对gc无压力。• KcpTransport: kcp的csharp移植，实现了 Syn Cookie 握手、连接管理、不可靠通信、KeepAlive，未来还将支持加密。• Kcp-CSharp: kcp的csharp移植，非托管包装器。• kcp2k: Line-by-line translation to C#, with optional Server/Client on top.• kcp-rs: KCP的 rust移植• kcp-rust：新版本 KCP的 rust 移植• tokio-kcp：rust tokio 的 kcp 集成• kcp-rust-native：rust 的 kcp bindings• lua-kcp: KCP的 Lua扩展，用于 Lua服务器• node-kcp: node-js 的 KCP 接口 • nysocks: 基于libuv实现的node-addon，提供nodejs版本的代理服务，客户端接入支持SOCKS5和ss两种协议• shadowsocks-android: Shadowsocks for android 集成了 kcptun 使用 kcp协议加速 shadowsocks，效果不错• kcpuv: 使用 libuv开发的kcpuv库，目前还在 Demo阶段• Lantern：更好的 VPN，Github 50000 星，使用 kcpgo 加速• rpcx ：RPC 框架，1000+ 星，使用 kcpgo 加速 RPC• xkcptun: c语言实现的kcptun，主要用于OpenWrt, LEDE开发的路由器项目上• et-frame: C#前后端框架(前端unity3d)，统一用C#开发游戏，实现了前后端kcp协议• yasio: 一个跨平台专注于任意客户端程序的异步socket库, 易于使用，相同的API操作KCP/TCP/UDP, 性能测试结果: benchmark-pump.• gouxp: 用Go实现基于回调方式的KCP开发包，包含加解密和FEC支持，简单易用。 • skcp: 基于libev实现的库，具备传输加密及基本的连接管理能力。• pykcp: Python 版本的 KCP 实现• php-ext-kcp: php 的 KCP 扩展• asio-kcp(new): c++的asio/kcp支持，支持asio协程等现代c++异步模型 商业案例• 原神：米哈游的《原神》使用 KCP 降低游戏消息的传输耗时，提升操作的体验。• SpatialOS: 大型多人分布式游戏服务端引擎，BigWorld 的后继者，使用 KCP 加速数据传输。• 西山居：使用 KCP 进行游戏数据加速。• CC：网易 CC 使用 kcp 加速视频推流，有效提高流畅性• BOBO：网易 BOBO 使用 kcp 加速主播推流• UU：网易 UU 加速器使用 KCP/KCPTUN 经行远程传输加速。• 阿里云：阿里云的视频传输加速服务 GRTN 使用 KCP 进行音视频数据传输优化，动态加速产品也使用 KCP。• 云帆加速：使用 KCP 加速文件传输和视频推流，优化了台湾主播推流的流畅度。• 明日帝国：Game K17 的 《明日帝国》 （Google Play），使用 KCP 加速游戏消息，让全球玩家流畅联网• 仙灵大作战：4399 的 MOBA游戏，使用 KCP 优化游戏同步 相关阅读：《原神》也在使用 KCP 加速游戏消息 KCP 成功的运行在多个用户规模上亿的项目上，为他们提供了更加灵敏和丝滑网络体验。 欢迎告知更多案例 协议比较 如果网络永远不卡，那 KCP/TCP 表现类似，但是网络本身就是不可靠的，丢包和抖动无法避免（否则还要各种可靠协议干嘛）。在内网这种几乎理想的环境里直接比较，大家都差不多，但是放到公网上，放到3G/4G网络情况下，或者使用内网丢包模拟，差距就很明显了。公网在高峰期有平均接近10%的丢包，wifi/3g/4g下更糟糕，这些都会让传输变卡。 感谢 asio-kcp 的作者 zhangyuan 对 KCP 与 enet, udt做过的一次横向评测，结论如下：• ASIO-KCP **has good performace in wifi and phone network(3G, 4G)**.• The kcp is the **first choice for realtime pvp game**.• The lag is less than 1 second when network lag happen. **3 times better than enet** when lag happen.• The enet is a good choice if your game allow 2 second lag.• **UDT is a bad idea**. It always sink into badly situation of more than serval seconds lag. And the recovery is not expected.• enet has the problem of lack of doc. And it has lots of functions that you may intrest.• kcp's doc is chinese. Good thing is the function detail which is writen in code is english. And you can use asio_kcp which is a good wrap.• The…