面向GC的Java编程
Java程序员在编码过程中通常不需要考虑内存问题,JVM经过高度优化的GC机制大部分情况下都能够很好地处理堆(Heap)的清理问题。以至于许多Java程序员认为,我只需要关心何时创建对象,而回收对象,就交给GC来做吧!甚至有人说,如果在编程过程中频繁考虑内存问题,是一种退化,这些事情应该交给编译器,交给虚拟机来解决。
这话其实也没有太大问题,的确,大部分场景下关心内存、GC的问题,显得有点“杞人忧天”了,高老爷说过:
过早优化是万恶之源。
但另一方面,什么才是“过早优化”?
If we could do things right for the first time, why not?
事实上JVM的内存模型( JMM )理应是Java程序员的基础知识,处理过几次JVM线上内存问题之后就会很明显感受到,很多系统问题,都是内存问题。
对JVM内存结构感兴趣的同学可以看下 浅析Java虚拟机结构与机制 这篇文章,本文就不再赘述了,本文也并不关注具体的GC算法,相关的文章汗牛充栋,随时可查。
另外,不要指望GC优化的这些技巧,可以对应用性能有成倍的提高,特别是对I/O密集型的应用,或是实际落在YoungGC上的优化,可能效果只是帮你减少那么一点YoungGC的频率。
但我认为,优秀程序员的价值,不在于其所掌握的几招屠龙之术,而是在细节中见真著,就像前面说的,如果我们可以一次把事情做对,并且做好,在允许的范围内尽可能追求卓越,为什么不去做呢?
目录
一、GC分代的基本假设
大部分GC算法,都将堆内存做分代(Generation)处理,但是为什么要分代呢,又为什么不叫内存分区、分段,而要用面向时间、年龄的“代”来表示不同的内存区域?
GC分代的基本假设是:
绝大部分对象的生命周期都非常短暂,存活时间短。
而这些短命的对象,恰恰是GC算法需要首先关注的。所以在大部分的GC中,YoungGC(也称作MinorGC)占了绝大部分,对于负载不高的应用,可能跑了数个月都不会发生FullGC。
基于这个前提,在编码过程中,我们应该尽可能地缩短对象的生命周期。在过去,分配对象是一个比较重的操作,所以有些程序员会尽可能地减少new对象的次数,尝试减小堆的分配开销,减少内存碎片。
但是,短命对象的创建在JVM中比我们想象的性能更好,所以,不要吝啬new关键字,大胆地去new吧。
当然前提是不做无谓的创建,对象创建的速率越高,那么GC也会越快被触发。
结论:
- 分配小对象的开销分享小,不要吝啬去创建。
- GC最喜欢这种小而短命的对象。
- 让对象的生命周期尽可能短,例如在方法体内创建,使其能尽快地在YoungGC中被回收,不会晋升(romote)到年老代(Old Generation)。
二、对象分配的优化
基于大部分对象都是小而短命,并且不存在多线程的数据竞争。这些小对象的分配,会优先在线程私有的 TLAB 中分配,TLAB中创建的对象,不存在锁甚至是CAS的开销。
TLAB占用的空间在Eden Generation。
当对象比较大,TLAB的空间不足以放下,而JVM又认为当前线程占用的TLAB剩余空间还足够时,就会直接在Eden Generation上分配,此时是存在并发竞争的,所以会有CAS的开销,但也还好。
当对象大到Eden Generation放不下时,JVM只能尝试去Old Generation分配,这种情况需要尽可能避免,因为一旦在Old Generation分配,这个对象就只能被Old Generation的GC或是FullGC回收了。
三、不可变对象的好处
GC算法在扫描存活对象时通常需要从ROOT节点开始,扫描所有存活对象的引用,构建出对象图。
不可变对象对GC的优化,主要体现在Old Generation中。
可以想象一下,如果存在Old Generation的对象引用了Young Generation的对象,那么在每次YoungGC的过程中,就必须考虑到这种情况。
Hotspot JVM为了提高YoungGC的性能,避免每次YoungGC都扫描Old Generation中的对象引用,采用了 卡表(Card Table) 的方式。
简单来说,当Old Generation中的对象发生对Young Generation中的对象产生新的引用关系或释放引用时,都会在卡表中响应的标记上标记为脏(dirty),而YoungGC时,只需要扫描这些dirty的项就可以了。
可变对象对其它对象的引用关系可能会频繁变化,并且有可能在运行过程中持有越来越多的引用,特别是容器。这些都会导致对应的卡表项被频繁标记为dirty。
而不可变对象的引用关系非常稳定,在扫描卡表时就不会扫到它们对应的项了。
注意,这里的不可变对象,不是指仅仅自身引用不可变的final对象,而是真正的Immutable Objects。
四、引用置为null的传说
早期的很多Java资料中都会提到在方法体中将一个变量置为null能够优化GC的性能,类似下面的代码:
List<String> list = new ArrayList<String>(); // some code list = null; // help GC
事实上这种做法对GC的帮助微乎其微,有时候反而会导致代码混乱。
我记得几年前 @rednaxelafx 在HLL VM小组中详细论述过这个问题,原帖我没找到,结论基本就是:
- 在一个非常大的方法体内,对一个较大的对象,将其引用置为null,某种程度上可以帮助GC。
- 大部分情况下,这种行为都没有任何好处。
所以,还是早点放弃这种“优化”方式吧。
GC比我们想象的更聪明。
五、手动档的GC
在很多Java资料上都有下面两个奇技淫巧:
- 通过Thread.yield()让出CPU资源给其它线程。
- 通过System.gc()触发GC。
事实上JVM从不保证这两件事,而System.gc()在JVM启动参数中如果允许显式GC,则会触发FullGC,对于响应敏感的应用来说,几乎等同于自杀。
So,让我们牢记两点:
- Never use Thread.yield()。
- Never use System.gc()。除非你真的需要回收Native Memory。
第二点有个Native Memory的例外,如果你在以下场景:
- 使用了NIO或者NIO框架(Mina/Netty)
- 使用了DirectByteBuffer分配字节缓冲区
- 使用了MappedByteBuffer做内存映射
由于Native Memory只能通过FullGC(或是CMS GC)回收,所以除非你非常清楚这时真的有必要,否则不要轻易调用System.gc(),且行且珍惜。
另外为了防止某些框架中的System.gc调用(例如NIO框架、Java RMI),建议在启动参数中加上-XX:+DisableExplicitGC来禁用显式GC。
这个参数有个巨大的坑,如果你禁用了System.gc(),那么上面的3种场景下的内存就无法回收,可能造成OOM,如果你使用了CMS GC,那么可以用这个参数替代:-XX:+ExplicitGCInvokesConcurrent。
关于System.gc(),可以参考 @bluedavy 的几篇文章:
六、指定容器初始化大小
Java容器的一个特点就是可以动态扩展,所以通常我们都不会去考虑初始大小的设置,不够了反正会自动扩容呗。
但是扩容不意味着没有代价,甚至是很高的代价。
例如一些基于数组的数据结构,例如StringBuilder、StringBuffer、ArrayList、HashMap等等,在扩容的时候都需要做ArrayCopy,对于不断增长的结构来说,经过若干次扩容,会存在大量无用的老数组,而回收这些数组的压力,全都会加在GC身上。
这些容器的构造函数中通常都有一个可以指定大小的参数,如果对于某些大小可以预估的容器,建议加上这个参数。
可是因为容器的扩容并不是等到容器满了才扩容,而是有一定的比例,例如HashMap的扩容阈值和负载因子(loadFactor)相关。
Google Guava框架对于容器的初始容量提供了非常便捷的工具方法,例如:
[code lang=”java”]Lists.newArrayListWithCapacity(initialArraySize);
Lists.newArrayListWithExpectedSize(estimatedSize);
Sets.newHashSetWithExpectedSize(expectedSize);
Maps.newHashMapWithExpectedSize(expectedSize);
[/code]
这样我们只要传入预估的大小即可,容量的计算就交给Guava来做吧。
反例:如果采用默认无参构造函数,创建一个ArrayList,不断增加元素直到OOM,那么在此过程中会导致:
- 多次数组扩容,重新分配更大空间的数组
- 多次数组拷贝
- 内存碎片
七、对象池
为了减少对象分配开销,提高性能,可能有人会采取对象池的方式来缓存对象集合,作为复用的手段。
但是对象池中的对象由于在运行期长期存活,大部分会晋升到Old Generation,因此无法通过YoungGC回收。
并且通常……没有什么效果。
对于对象本身:
- 如果对象很小,那么分配的开销本来就小,对象池只会增加代码复杂度。
- 如果对象比较大,那么晋升到Old Generation后,对GC的压力就更大了。
从线程安全的角度考虑,通常池都是会被并发访问的,那么你就需要处理好同步的问题,这又是一个大坑,并且同步带来的开销,未必比你重新创建一个对象小。
对于对象池,唯一合适的场景就是当池中的每个对象的创建开销很大时,缓存复用才有意义,例如每次new都会创建一个连接,或是依赖一次RPC。
比如说:
- 线程池
- 数据库连接池
- TCP连接池
即使你真的需要实现一个对象池,也请使用成熟的开源框架,例如Apache Commons Pool。
另外,使用JDK的ThreadPoolExecutor作为线程池,不要重复造轮子,除非当你看过AQS的源码后认为你可以写得比Doug Lea更好。
八、对象作用域
尽可能缩小对象的作用域,即生命周期。
- 如果可以在方法内声明的局部变量,就不要声明为实例变量。
- 除非你的对象是单例的或不变的,否则尽可能少地声明static变量。
九、各类引用
java.lang.ref.Reference有几个子类,用于处理和GC相关的引用。JVM的引用类型简单来说有几种:
- Strong Reference,最常见的引用
- Weak Reference,当没有指向它的强引用时会被GC回收
- Soft Reference,只当临近OOM时才会被GC回收
- Phantom Reference,主要用于识别对象被GC的时机,通常用于做一些清理工作
当你需要实现一个缓存时,可以考虑优先使用WeakHashMap,而不是HashMap,当然,更好的选择是使用框架,例如Guava Cache。
最后,再次提醒,以上的这些未必可以对代码有多少性能上的提升,但是熟悉这些方法,是为了帮助我们写出更卓越的代码,和GC更好地合作。
(全文完)
(转载本站文章请注明作者和出处 宝酷 – sou-ip ,请勿用于任何商业用途)
《面向GC的Java编程》的相关评论
不错
有些错别字,但不影响阅读。浓缩的都是精华,赞一个
过早优化是万恶之源:就像C++中的关键字inline一样,在没有做任何性能分析的时候,不要尝试自己去优化。你知道什么是对的,为什么一开始不做对:怎么知道一开始自己就是对的。真正在代码中反复磨砺,才会积累,才会知道什么是惯用技巧,什么技巧根本没用。哎,constant practice makes perfect work吧。
简单说,对卡马克这类大牛来说,第一次写代码就把cache失效之类问题都考虑进去叫“快速实现”,谈不上过早优化。
而对另一些人来说,第一次写代码用O(N^2)的算法才正常,直接强撑着写成O(N)的就叫过早优化。
前者的代码一写出来就快如云雀,再找出热点优化后,表现会震惊业界;而后者的代码写出来慢如蜗牛,找出热点优化后就变成了乌龟——和蜗牛比起来算飞快了;但千万别让云雀看到。
换言之,是不是过早优化,是要看究竟是谁在写代码才能判定的。
而一个有追求的程序员,应该致力于不断提高自己“过早优化”的判定标准,而不是看见别人写代码前先选择合适容器就大惊小怪说人家过早优化。
说的太棒了,非常赞同!
不错,虽然有点乱,但是完全不影响阅读,另外,对于文章最后对象的可及性上,貌似写得快了点,没说的非常清楚:
1. 对象是什么引用类型由指向它的所有引用共同决定。
2. “• Weak Reference,当没有指向它的强引用时会被GC回收” 这具有有点容易让人迷惑, 首先是对象是什么应用类型的判断问题,这个在单条引用路径下和多条引用路径下的情况是不同的,其次,如果对象被判定为 Weak Reference后,只要GC线程扫描到这个引用,它会马上被回收。而不是单纯没有强引用指向它,它就会被回收,这是不同的。
sdfasdfasdf
java,痛
“引用置为 null” 不一定是没用的,2006 年的 PLDI 上就有一篇文章 “Free-Me: a static analysis for automatic individual object reclamation”通过自动添加 free 减少 GC 开销
不错,学习了。。。
“过早优化是万恶之源”,喜欢这句话~
的确,小马过河 这个寓言,在IT的很多场合也适用
唉,第二段,完完全全没看懂
“当你需要实现一个缓存时,可以考虑优先使用WeakHashMap”
1,weakhashmap不适合作为cache,weakhashmap这中用法是合适的,但这个不叫cache吧。
2,做cache可考虑用linkedhashmap,concurrenthashmap,softreference
上文系统自动把我些的类型丢了,补充一下,weakhashmap《session, properties》这中用法是合适的,
不可变对象在考虑并发的时候非常有用,比如copyonwritelist
请问作者,
jvm gc如何判断这个对象为不可变对象?
很多时候map,list用的时候得记住这个不可变,这样并发才对,这个gc如何判断。
java没有标记来说明白不可变类,final只能辅助,
难道java会有算法来计算这个类的不可变性,求作者答疑,谢谢。
@stallboy
文中提到了,其实GC关心的不是对象是否可变,而是知道对象持有的引用是否变了,这个会反映到卡表上,不可变对象对应的卡表项的脏比可变对象少得多,借此减小GC扫描的开销
这篇文章是不是说,别瞎折腾了,忘了GC吧,然后写代码,这就是最好的GC优化了。
第一节最后的“分配小对象的开销分享小,不要吝啬去创建。”疑似错别字,改正为“分配小对象的开销非常小,不要吝啬去创建。”。(估计是拼音输入法的错误)
对于第四部分引用为null这里必须得强调一下,不是所有的引用为null都是没用的,如果你在一个类方法(静态方法)里引用了一个对象,例如数据库连接,如果不在使用完毕后引用为null还是不能被垃圾回收的。
为什么我们非要以优秀的程序员自诩呢?
我国的技术男们怎么素质都这么差呢?
不出来牛一下你就白活了么?
@james0zan
你也知道是2006年的
从松松博客过来的,贵站做的真心不错,有很多的干货,值得一看,我和大学同学也刚做了一个网站,欢迎站长朋友过来看看,能给我提点建议的话就感激不尽了,我的网站是恋字坊http://www.lianzifang.com/
GC本身就是万恶之源,做好资源管理本身就是程序员的基本功。有了shared_ptr为什么还要GC呢,当然避免循环是不可少的。
好文章!
挺有创造性的建议,值得一看http://www.iaisleep.com/
之前我看到有文章说作者广泛读书,想知道都读写什么书啊,另外,作者是毕业于什么学校呢,很想听听作者的传记。
我觉得有两点应该强调:
1.对于成员变量,如果它不再需要引用某个对象,就应该置为NULL,因为如果继续持有这个对象的引用,GC没法猜出你实际上已经用不到它了。
2.不要把函数里的临时变量写成对象的成员变量!这个我真见过这么干的!对象变大了,而且本来同步的逻辑在代码层面变成了异步的……
@sjinny
强烈BS对于你强调“引入null”的作用,这样会教坏很多人,请参照楼主的说法,也是国外公认的说,请谨慎发言!!!
设置为null,我在我们的疲劳测试中验证了是可以解决问题的
临时变量用完以后设置为null
经验性总结,如果有项目实例支撑说明下,将会更赞!
算是提供了一个引子吧,具体的还是需要在项目中感悟。
关于Reference可以有更详细的讲解,比如一个对象既有WeakReference又有SoftReference这些情况,有更强的引用时也是回收不了的。
虽然没验证过,但是感觉是认真的一篇心得,那句“优秀程序员的价值,不在于其所掌握的几招屠龙之术,而是在细节中见真著”有感触。
“除非当你看过AQS的源码后认为你可以写得比Doug Lea更好。” 哈哈哈哈哈
关于=null那条,个人认为还是有用的,对于临时变量局部变量可能作用不大,但对于类对象可能作用巨大。
比如在游戏中,使用hashmap保存登陆玩家,id作为key,玩家对象作为value,玩家下线后我可以选择从hashmap remove这个key和value,虽然无法确保gc会立即调用回收,但是我能做的是告诉gc我不再需要这个对象了,你爱啥时候回收旧啥时候回收。反之,如果我一直把这个对象保存在hashmap中,有一个强引用,jvm会认为我还需要它。=null的做法,虽然gc我无法控制,但至少我能让系统回收那些我不再需要的内存。
没干货这一篇文章,。。。。
不是都说 不该发明 null这个玩意儿么
耗子叔, 你这个引用404了 ‘浅析Java虚拟机结构与机制’
好!一位不愿露面的网友前来捧场!
一位愿意露面的网友前来捧场!