NIO
的类库和 API
繁杂,使用麻烦:需要熟练掌握 Selector
、ServerSocketChannel
、SocketChannel
、ByteBuffer
等。Java
多线程编程,因为 NIO
编程涉及到 Reactor
模式,你必须对多线程 和网络编程非常熟悉,才能编写出高质量的 NIO
程序。JDK NIO
的 Bug
:例如臭名昭著的 Epoll Bug
,它会导致 Selector
空轮询,最终导致 CPU100%
。直到 JDK 1.7
版本该问题仍旧存在,没有被根本解决。Netty is an asynchronous event-driven network application framework for rapid development of maintainable high performance protocol servers & clients
Netty
对 JDK
自带的 NIO
的 API
进行了封装,解决了上述问题。
API
阻塞和非阻塞 Socket
;基于灵活且可扩展的事件模型,可以清晰地分离关注点;高度可定制的线程模型 - 单线程,一个或多个线程池。Javadoc
,用户指南和示例;没有其他依赖项,JDK 5
(Netty 3.x
)或 6(Netty 4.x)
就足够了。SSL/TLS
和 StartTLS
支持。Bug
可以被及时修复,同时,更多的新功能会被加入。netty
版本分为 netty3.x
和 netty4.x
、netty5.x
。Netty5
出现重大bug
,已经被官网废弃了,目前推荐使用的是Netty4.x
的稳定版本。netty3.x
netty4.0.x
和 netty4.1.x
。netty
下载I/O
服务模型。Reactor
模式。Reactor
的数量和处理资源池线程的数量不同,有 3 种典型的实现:
Reactor
单线程。Reactor
多线程。Reactor
多线程。Netty
线程模式(Netty
主要基于主从 Reactor
多线程模型做了一定的改进,其中主从 Reactor
多线程模型有多 个 Reactor
)。API
)。IO
模式获取输入的数据。read
操作,造成线程资源浪费。针对传统阻塞 I/O
服务模型的 2 个缺点,解决方案:
I/O
复用模型:多个连接共用一个阻塞对象,应用程序只需要在一个阻塞对象等待,无需阻塞等待所有连 接。当某个连接有新的数据可以处理时,操作系统通知应用程序,线程从阻塞状态返回,开始进行业务处理 Reactor
对应的叫法: 1. 反应器模式 2. 分发者模式(Dispatcher
) 3. 通知者模式(notifier
)。I/O
复用结合线程池,就是 Reactor
模式基本设计思想:
Reactor
模式,通过一个或多个输入同时传递给服务处理器的模式(基于事件驱动)。Reactor
模式也叫Dispatcher
模式。Reactor
模式使用 IO
复用监听事件, 收到事件后,分发给某个线程(进程), 这点就是网络服务器高并发处理关键。Reactor
模式中核心组成:
Reactor:
Reactor
在一个单独的线程中运行,负责监听和分发事件,分发给适当的处理程序来对 IO
事件做出反应。 它就像公司的电话接线员,它接听来自客户的电话并将线路转移到适当的联系人。Handlers:
处理程序执行 I/O
事件要完成的实际事件,类似于客户想要与之交谈的公司中的实际官员。Reactor
通过调度适当的处理程序来响应 I/O
事件,处理程序执行非阻塞操作。Select
是前面 I/O
复用模型介绍的标准网络编程 API
,可以实现应用程序通过一个阻塞对象监听多路连接请求。
Reactor
对象通过 Select
监控客户端请求事件,收到事件后通过 Dispatch
进行分发。
如果是建立连接请求事件,则由 Acceptor
通过 Accept
处理连接请求,然后创建一个 Handler
对象处理连接完成后的后续业务处理。
如果不是建立连接事件,则 Reactor
会分发调用连接对应的 Handler
来响应。
Handler
会完成 Read
→业务处理→Send
的完整业务流程。
结合实例:服务器端用一个线程通过多路复用搞定所有的 IO 操作(包括连接,读、写等),编码简单,清晰明了, 但是如果客户端连接数量较多,将无法支撑,前面的 NIO 案例就属于这种模型。
CPU
的性能。Handler
在处理某个连接上的业务时,整个进程无法处理其他连接事件,很容易导致性能瓶颈。Redis
在业务处理的时间复杂度 O(1)
的情况。Reactor
对象通过 select
监控客户端请求 事件, 收到事件后,通过 dispatch
进行分发。Acceptor
通过accept
处理连接请求, 然后创建一个 Handler
对象处理完成连接后的各种事件。reactor
分发调用连接对应的handler
来处理。handler
只负责响应事件,不做具体的业务处理, 通过 read
读取数据后,会分发给后面的 worker
线程池的某个线程处理业务。worker
线程池会分配独立线程完成真正的业务,并将结果返回给 handler
。handler
收到响应后,通过 send
将结果返回给 client
。cpu
的处理能力。reactor
处理所有的事件的监听和响应,在单线程运行,在高并发场景容易出现性能瓶颈。Reactor
多线程模型中,Reactor
在单线程中运行,高并发场景下容易成为性能瓶颈,可以让 Reactor
在 多线程中运行。Reactor
主线程 MainReactor
对象通过 select
监听连接事件, 收到事件后,通过 Acceptor
处理连接事件。Acceptor
处理连接事件后,MainReactor
将连接分配给 SubReactor
。subreactor
将连接加入到连接队列进行监听,并创建 handler
进行各种事件处理。subreactor
就会调用对应的handler
处理。handler
通过 read
读取数据,分发给后面的 worker
线程处理。worker
线程池分配独立的 worker
线程进行业务处理,并返回结果。handler
收到响应的结果后,再通过send
将结果返回给client
。Reactor
主线程可以对应多个 Reactor
子线程, 即 MainRecator
可以关联多个 SubReactor
。Reactor
主线程只需要把新连接传给子线程,子线程无需返回数据。Nginx
主从 Reactor
多进程模型,Memcached
主从多线程, Netty
主从多线程模型的支持。Reactor
本身依然是同步的。Reactor
实例个数来充分利用 CPU
资源。Reactor
模型本身与具体事件处理逻辑无关,具有很高的复用性。Netty
主要基于主从 Reactors
多线程模型做了一定的改进,其中主从 Reactor
多线程模型有多个 Reactor
。BossGroup
线程维护 Selector
, 只关注 Accecpt
。Accept
事件,获取到对应的SocketChannel
,封装成NIOScoketChannel
并注册到Worker
线程(事件循环), 并进行维护。Worker
线程监听到selector
中通道发生自己感兴趣的事件后,就进行处理(就由handler
),注意handler
已经加入到通道。Netty
抽象出两组线程池 BossGroup
专门负责接收客户端的连接, WorkerGroup
专门负责网络的读写。BossGroup
和 WorkerGroup
类型都是 NioEventLoopGroup
。NioEventLoopGroup
相当于一个事件循环组, 这个组中含有多个事件循环 ,每一个事件循环是 NioEventLoop
。NioEventLoop
表示一个不断循环的执行处理任务的线程, 每个 NioEventLoop
都有一个 selector
, 用于监听绑定在其上的 socket
的网络通讯。NioEventLoopGroup
可以有多个线程, 即可以含有多个 NioEventLoop
。accept
事件。accept
事件 , 与 client
建立连接 , 生成 NioScocketChannel
, 并将其注册到某个 worker NIOEventLoop
上的 selector
。runAllTasks
。Worker NIOEventLoop
循环执行的步骤:
read, write
事件。i/o
事件, 即 read , write
事件,在对应 NioScocketChannel
处理。runAllTasks
。Worker NIOEventLoop
处理业务时,会使用pipeline
(管道), pipeline
中包含了 channel
, 即通过pipeline
可以获取到对应通道, 管道中维护了很多的处理器。Netty
服务器在 6669 端口监听,客户端能发送消息给服务器 "hello, 服务器~"
。
服务器可以回复消息给客户端 "hello, 客户端~"
。
目的:对Netty
线程模型有一个初步认识,便于理解Netty
模型理论。
NettyServer
public class NettyServer {
public static void main(String[] args) throws Exception {
//创建BossGroup和WorkerGroup
//说明
//1. 创建两个线程组bossGroup和workerGroup
//2. bossGroup只是处理连接请求,真正的和客户端业务处理,会交给workerGroup完成
//3. 两个都是无限循环
//4. bossGroup和workerGroup含有的子线程(NioEventLoop)的个数
//默认实际cpu核数*2
EventLoopGroup bossGroup = new NioEventLoopGroup(1);
EventLoopGroup workerGroup = new NioEventLoopGroup();
try {
//创建服务器端的启动对象,配置参数
ServerBootstrap bootstrap = new ServerBootstrap();
//使用链式编程来进行设置
bootstrap.group(bossGroup, workerGroup) //设置两个线程组
.channel(NioServerSocketChannel.class) //使用NioSocketChannel作为服务器的通道实现
.option(ChannelOption.SO_BACKLOG, 128) //设置线程队列得到连接个数
.childOption(ChannelOption.SO_KEEPALIVE, true) //设置保持活动连接状态
.childHandler(new ChannelInitializer<SocketChannel>() {
//创建一个通道测试对象(匿名对象)
//给pipeline设置处理器
@Override
protected void initChannel(SocketChannel ch) throws Exception {
ch.pipeline().addLast(new NettyServerHandler());
}
});
//给我们的workerGroup的EventLoop对应的管道设置处理器
System.out.println(".....服务器 is ready...");
//绑定一个端口并且同步, 生成了一个ChannelFuture对象
//启动服务器(并绑定端口)
ChannelFuture cf = bootstrap.bind(6669).sync();
//对关闭通道进行监听
cf.channel().closeFuture().sync();
} finally {
bossGroup.shutdownGracefully();
workerGroup.shutdownGracefully();
}
}
}
NettyServerHandler
/**
* 1. 我们自定义一个Handler需要继承netty规定好的某个HandlerAdapter(规范)
* 2. 这时我们自定义一个Handler, 才能称为一个handler
*/
public class NettyServerHandler extends ChannelInboundHandlerAdapter {
/**
* 读取数据实际(这里我们可以读取客户端发送的消息)
* @param ctx 上下文对象, 含有管道pipeline, 通道channel,地址
* @param msg 客户端发送的数据 默认Object
* @throws Exception
*/
@Override
public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
System.out.println("服务器读取线程 " + Thread.currentThread().getName());
System.out.println("server ctx =" + ctx);
System.out.println("看看channel和pipeline的关系");
Channel channel = ctx.channel();
ChannelPipeline pipeline = ctx.pipeline(); //本质是一个双向链接, 出站入站
//将msg转成一个ByteBuf
//ByteBuf是Netty提供的,不是NIO的ByteBuffer.
ByteBuf buf = (ByteBuf) msg;
System.out.println("客户端发送消息是:" + buf.toString(CharsetUtil.UTF_8));
System.out.println("客户端地址:" + channel.remoteAddress());
}
//数据读取完毕
@Override
public void channelReadComplete(ChannelHandlerContext ctx) throws Exception {
//writeAndFlush是write+flush
//将数据写入到缓存,并刷新
//一般讲,我们对这个发送的数据进行编码
ctx.writeAndFlush(Unpooled.copiedBuffer("hello, 客户端~(>^ω^<)喵", CharsetUtil.UTF_8));
}
//处理异常, 一般是需要关闭通道
@Override
public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
ctx.close();
}
}
NettyClient
public class NettyClient {
public static void main(String[] args) throws InterruptedException {
//客户端需要一个事件循环组
EventLoopGroup group = new NioEventLoopGroup();
try {
//创建客户端启动对象
//注意客户端使用的不是ServerBootstrap而是Bootstrap
Bootstrap bootstrap = new Bootstrap();
//设置相关参数
bootstrap.group(group) //设置线程组
.channel(NioSocketChannel.class) //设置客户端通道的实现类(反射)
.handler(new ChannelInitializer<SocketChannel>() {
@Override
protected void initChannel(SocketChannel ch) throws Exception {
//加入自己的处理器
ch.pipeline().addLast(new NettyClientHandler());
}
});
System.out.println("客户端 ok..");
//启动客户端去连接服务器端
//关于ChannelFuture要分析,涉及到netty的异步模型
ChannelFuture channelFuture = bootstrap.connect("127.0.0.1", 6669).sync(); //给关闭通道进行监听
channelFuture.channel().closeFuture().sync();
}finally {
group.shutdownGracefully();
}
}
}
NettyClientHandler
public class NettyClientHandler extends ChannelInboundHandlerAdapter {
//当通道就绪就会触发该方法
@Override
public void channelActive(ChannelHandlerContext ctx) throws Exception {
System.out.println("client " + ctx);
ctx.writeAndFlush(Unpooled.copiedBuffer("hello, server: (>^ω^<)喵", CharsetUtil.UTF_8));
}
//当通道有读取事件时,会触发
@Override
public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
ByteBuf buf = (ByteBuf) msg;
System.out.println("服务器回复的消息:" + buf.toString(CharsetUtil.UTF_8));
System.out.println("服务器的地址: " + ctx.channel().remoteAddress());
}
@Override
public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
cause.printStackTrace();
ctx.close();
}
}
文章浏览阅读451次。dev/mem: 物理内存的全镜像。可以用来访问物理内存。/dev/kmem: kernel看到的虚拟内存的全镜像。可以用来访问kernel的内容。调试嵌入式Linux内核时,可能需要查看某个内核变量的值。/dev/kmem正好提供了访问内核虚拟内存的途径。现在的内核大都默认禁用了/dev/kmem,打开的方法是在 make menuconfig中选中 device drivers --> ..._dev/mem 源码实现
文章浏览阅读7.1k次,点赞2次,收藏19次。vxe-table,一个小众但功能齐全并支持excel操作的vue表格组件_vxe-table
文章浏览阅读62次。参考:http://www.ruanyifeng.com/blog/2016/01/babel.htmlBabelBabel是一个广泛使用的转码器,可以将ES6代码转为ES5代码,从而在现有环境执行// 转码前input.map(item => item + 1);// 转码后input.map(function (item) { return item..._让开发环境支持bable
文章浏览阅读2.8k次,点赞6次,收藏29次。摘要:FPGA视频处理FIFO的典型应用,视频输入FIFO的作用,视频输出FIFO的作用,视频数据跨时钟域FIFO,视频缩放FIFO的作用_fpga 频分复用 视频
文章浏览阅读575次。【代码】R语言:设置工作路径为当前文件存储路径。_r语言设置工作目录到目标文件夹
文章浏览阅读452次。格式:background: linear-gradient(direction, color-stop1, color-stop2, ...);<linear-gradient> = linear-gradient([ [ <angle> | to <side-or-corner>] ,]? &l..._background线性渐变
文章浏览阅读1k次,点赞26次,收藏8次。第十三届蓝桥杯青少年组python编程省赛真题一、题目要求(注:input()输入函数的括号中不允许添加任何信息)1、编程实现给定一个正整数N,输出正整数N中各数位最大的那个数字。例如:N=132,则输出3。2、输入输出输入描述:只有一行,输入一个正整数N输出描述:只有一行,输出正整数N中各数位最大的那个数字输入样例:
文章浏览阅读2.2k次。一个网络协议主要由以下三个要素组成:1.语法数据与控制信息的结构或格式,包括数据的组织方式、编码方式、信号电平的表示方式等。2.语义即需要发出何种控制信息,完成何种动作,以及做出何种应答,以实现数据交换的协调和差错处理。3.时序即事件实现顺序的详细说明,以实现速率匹配和排序。不完整理解:语法表示长什么样,语义表示能干什么,时序表示排序。转载于:https://blog.51cto.com/98..._网络协议三要素csdn
文章浏览阅读153次。主要的思想,将所有的系统都可以看作两部分,真正的数据log系统和各种各样的query engine所有的一致性由log系统来保证,其他各种query engine不需要考虑一致性,安全性,只需要不停的从log系统来同步数据,如果数据丢失或crash可以从log系统replay来恢复可以看出kafka系统在linkedin中的重要地位,不光是d..._the log: what every software engineer should know about real-time data's uni
文章浏览阅读746次。伟大是熬出来的 目录 前言 引言 时间熬成伟大:领导者要像狼一样坚忍 第一章 内圣外王——领导者的心态修炼 1. 天纵英才的自信心 2. 上天揽月的企图心 3. 誓不回头的决心 4. 宠辱不惊的平常心 5. 换位思考的同理心 6. 激情四射的热心 第二章 日清日高——领导者的高效能修炼 7. 积极主动,想到做到 8. 合理掌控自己的时间和生命 9. 制定目标,马..._当狼拖着受伤的右腿逃生时,右腿会成为前进的阻碍,它会毫不犹豫撕咬断自己的腿, 以
文章浏览阅读285次。在当今的大数据时代,人们对高速度和高带宽的需求越来越大,迫切希望有一种新型产品来作为高性能计算和数据中心的主要传输媒质,所以有源光缆(AOC)在这种环境下诞生了。有源光缆究竟是什么呢?应用在哪些领域,有什么优势呢?易天将为您解答!有源光缆(Active Optical Cables,简称AOC)是两端装有光收发器件的光纤线缆,主要构成部件分为光路和电路两部分。作为一种高性能计..._aoc 光缆
文章浏览阅读2.2k次。在“桌面”上按快捷键“Ctrl+R”,调出“运行”窗口。接着,在“打开”后的输入框中输入“Gpedit.msc”。并按“确定”按钮。如下图 找到“用户配置”下的“Windows设置”下的“Internet Explorer 维护”的“连接”,双击选择“自动浏览器配置”。如下图 选择“自动启动配置”,并在下面的“自动代理URL”中填写相应的PAC文件地址。如下..._設置proxy腳本