13_GC概述及算法思想

概述

垃圾收集,不是Java语言的伴生产物。早在1960年,第一门开始使用内存动态分配和垃圾收集技术的Lisp语言诞生。
关于垃圾收集有三个经典问题:

• 哪些内存需要回收?
• 什么时候回收?
• 如何回收?

垃圾收集机制是Java的招牌能力,极大地提高了开发效率。如今,垃圾收集几乎成为现代语言的标配,即使经过如此长时间的发展,Java的垃
圾收集机制仍然在不断的演进中,不同大小的设备、不同特征的应用场景,对垃圾收集提出了新的挑战。

¶什么是垃圾

什么是垃圾( Garbage)呢?

“垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾”。如果不及时对内存中的垃圾进行清理,那么,这些垃圾对象所占的内存空间会一直保留到应用程序结束,被保留的空间无法被其他对象使用。甚至可能导致内存溢出。

对于高级语言来说,一个基本认知是如果不进行垃圾回收,内存迟早都会被消耗完因为不断地分配内存空间而不进行回收就好像不停地生产生活垃圾而从来不打扫一样。
除了释放没用的对象,垃圾回收也可以清除内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一端,以便JVM将整理出的足够大的内存分配给新的对象。
随着应用程序所应付的业务越来越庞大、复杂,用户越来越多,没有GC就不能保证应用程序的正常进行。而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化。

¶早期垃圾回收

在早期的C/C++时代,垃圾回收基本上是手工进行的。开发人员可以使用new关键字进行内存申请,并使用 delete关键字进行内存释放。比如以下代码:

MibBridgepBridge= new cmBaseGroupBridge();
//如果注册失败,使用Delete释放该对象所占内存区域
if(pBridge->Register()!= NO ERROR)
	delete pBridge;

这种方式可以灵活控制内存释放的时间,但是会给开发人员带来频繁申请和释放内存的管理负担。倘若有一处内存区间由于程序员编码的问题忘记被回收,那么就会产生内存泄漏,垃圾对象永远无法被清除,随着系统运行时间的不断增长,垃圾对象所耗内存可能持续上升,直到出现内存溢出并造成应用程序崩溃。

在有了垃圾回收机制后,上述代码块极有可能变成这样:

MibBridgepBridge= new cmBaseGroupBridge();
pBridge->Register(kDestroy);

现在,除了Java以外 C#、 Python、Ruby等语言都使用了自动垃圾回收的思想,也是未来发展趋势。可以说这种自动化的内存分配和垃圾回收的方式己经成为现代开发语言必备的标准。

¶Java垃圾回收

自动内存管理,无需开发人员手动参与内存的分配与回收,这样降低内存泄漏和内存溢出的风险

• 没有垃圾回收器,java也会和cpp一样,各种悬垂指针,野指针,泄露问题让你头疼不已。

自动内存管理机制,将程序员从繁重的内存管理中释放出来,可以更专心地专注于业务开发。

[oracle官网关于垃圾回收的介绍](https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/toc. html)

对于Java开发人员而言,自动内存管理就像是一个黑匣子,如果过度依赖于“自动”,那么这将会是一场灾难,最严重的就会弱化ava开发人员在程序出现内存溢出时定位问题和解决问题的能力。

此时,了解JVM的自动内存分配和内存回收原理就显得非常重要,只有在真正了解JVM是如何管理内存后,我们才能够在遇见 OutofMemoryError时,快速地根据错误异常日志定位问题和解决问题。

当需要排查各种内存溢出、内存泄漏问题时,当垃圾收集成为系统达到更高并发量的瓶颈时,我们就必须对这些“自动化”的技术实施必要的监控和调节。

¶GC作用区域

下面漏了直接内存，直接内存也会GC。

垃圾回收器可以对年轻代回收,也可以对老年代回收,甚至是全堆和方法区的回收。

其中,Java堆是垃圾收集器的工作重点。
从次数上讲:

• 频繁收集Young区
• 较少收集Old区
• 基本不动Perm区

垃圾回收相关算法

¶垃圾标记阶段:对象存活判断

在堆里存放着几乎所有的Java对象实例,在GC执行垃圾回收之前,首先需要区分出内存中哪些是存活对象,哪些是已经死亡的对象。只有被标记为己经死亡的对象,GC才会在执行垃圾回收时,释放掉其所占用的内存空间,因此这个过程我们可以称为垃圾标记阶段。

那么在JVM中究竟是如何标记一个死亡对象呢?简单来说,当一个对象已经不再被任何的存活对象继续引用时,就可以宣判为已经死亡。

判断对象存活一般有两种方式:引用计数算法和可达性分析算法。

¶标记阶段：引用记数算法

引用计数算法(Reference Counting)比较简单,对每个对象保存一个整型的引用计数器属性。用于记录对象被引用的情况。对于一个对象A,只要有任何一个对象引用了A,则A的引用计数器就加1;当引用失效时,引用计数器就减1。只要对象A的引用计数器的值为0即表示对象A不可能再被使用,可进行回收。

• 优点:实现简单,垃圾对象便于辨识;判定效率高,回收没有延迟性。

• 缺点:

  • 它需要单独的字段存储计数器,这样的做法增加了存储空间的开销。

  • 每次赋值都需要更新计数器,伴随着加法和减法操作,这增加了时间开销。

  • 引用计数器有一个严重的问题,即无法处理循环引用的情况。这是一条致命缺陷,导致在Java的垃圾回收器中没有使用这类算法。

    

引用计数算法,是很多语言的资源回收选择,例如因人工智能而更加火热的 Python,它更是同时支持引用计数和垃圾收集机制。

具体哪种最优是要看场景的,业界有大规模实践中仅保留引用计数机制,以提高吞吐量的尝试。

Java并没有选择引用计数,是因为其存在一个基本的难题,也就是很难处理循环引用关系。

Python如何解决循环引用?

• 手动解除:很好理解,就是在合适的时机,解除引用关系。
• 使用弱引用weakref, weakref是Python提供的标准库,旨在解决循环引用。 编译器/解释器本身在对成员变量赋值引用类型数据之前检查是否发生循环引用，是的话将当前引用包装为弱引用，弱引用不会增加计数。

¶标记阶段：可达性分析算法

可达性分析算法又称根搜索算法、追踪性垃圾收集。相对于引用计数算法而言,可达性分析算法不仅同样具备实现简单和执行高效等特点,更重要的是该算法可以有效地解决在引用计数算法中循环引用的问题,防止内存泄漏的发生。

相较于引用计数算法,这里的可达性分析就是Java、C#选择的。这种类型的垃圾收集通常也叫作追踪性垃圾收集(Tracing Garbage
Collection)。

所谓"GC Roots"根集合就是一组必须活跃的引用

基本思路:

• 可达性分析算法是以根对象集合(GC Roots)为起始点,按照从上至下的方式搜索被根对象集合所连接的目标对象是否可达。
• 使用可达性分析算法后,内存中的存活对象都会被根对象集合直接或间接连接着,搜索所走过的路径称为引用链(Reference Chain)。
  • 如果目标对象没有任何引用链相连,则是不可达的,就意味着该对象己经死亡,可以标记为垃圾对象。
  • 在可达性分析算法中,只有能够被根对象集合直接或者间接连接的对象才是存活对象。

¶GC Roots

在Java语言中, GC Roots包括几类元素:

• 虚拟机栈中引用的对象
  • 比如:各个线程被调用的方法中使用到的参数、局部变量等。
• 本地方法栈内JNI(通常说的本地方法)引用的对象
• 方法区中类静态属性引用的对象
  • 比如:Java类的引用类型静态变量
• 方法区中常量引用的对象
  • 比如:字符串常量池(StringTable)里的引用
• 所有被同步锁 synchronized持有的对象
• Java虚拟机内部的引用。
• 基本数据类型对应的Class对象,一些常驻的异常对象(如: NullPointerException、 OutofMemoryError),系统类加载器。
• 反映Java虚拟机内部情况的JMXBean、JVMTI中注册的回调、本地代码缓存等。

除了这些固定的 GC Roots集合以外,根据用户所选用的垃圾收集器以及当前回收的内存区域不同,还可以有其他对象“临时性”地加入,共同构成完整 GC Roots集合。比如:分代收集和局部回收(Partial GC)。如果只针对Java堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这时候就需要一并将关联的区域对象也加入 GC Roots集合中去考虑,才能保证可达性分析的准确性。

如果要使用可达性分析算法来判断内存是否可回收,那么分析工作必须在一个能保障一致性的快照中进行。这点不满足的话分析结果的准确性就无去保证。这点也是导致GC进行时必须Stop The World的一个重要原因。即使是号称(几乎)不会发生停顿的CMS收集器中,枚举根节点时也是必须要停顿的。

¶MAT与JProfiler的GC Roots溯源

MAT是 Memory Analyzer的简称,它是一款功能强大的Java堆内存分析器。用于查找内存泄漏以及查看内存消耗情况。
MAT是基 Eclipse于开发的,是一款免费的性能分析工具。可以在 http://www.eclipse.org/mat/ 下载并使用MAT。

¶1>获取堆dump文件

¶方式1：命令行使用jmap

先用jps查看进程id，然后使用jmap dump出。

¶方式2:使用JVisualVM导出

捕获的 heap dump文件是一个临时文件,关闭 JVisualVM后自动删除,若要保留,需要将其另存为文件。可通过以下方法捕获 heap dump：

• 在左侧“Application(应用程序)子窗口中右击相应的应用程序,选择Heap Dump(堆Dump)。
• 在Monitor(监视)子标签页中点击 Heap Dump(堆Dump)按钮。

本地应用程序的Heap dumps作为应用程序标签页的一个子标签页打开。同时,heap dump在左侧的Application(应用程序)栏中对应一个含有时间戳的节点。右击这个节点选择 save as(另存为)即可将heap dump保存到本地（.hprof文件）。

¶2>使用MAT打开dump文件

¶Eclipse GC Roots统计维度

¶3>使用JProfiler监控或者分析dump文件

下载JProfiler，并安装IDE插件，以JProfiler插件启动程序，如下即可查看当前程序中GCRootsTest类型对象的GC Root引用链。

¶对象的finalization机制

Java语言提供了对象终止(finalization)机制来允许开发人员提供对象被销毁之前的自定义处理逻辑。当垃圾回收器发现没有引用指向一个对象,即:垃圾回收此对象之前,总会先调用这个对象的 finalize()方法。
finalize()方法允许在子类中被重写,用于在对象被回收时进行资源释放。通常在这个方法中进行一些资源释放和清理的工作,比如关闭文件、套接字和数据库连接等。

永远不要主动调用某个对象的 finalize()方法,应该交给垃圾回收机制调用。理由包括下面三点:

• 在finalize()时可能会导致对象复活。
• finalize()方法的执行时间是没有保障的,它完全由GC线程决定极端情况下,若不发生GC,则 finalize()方法将没有执行机会？？？？？？？？？？？？？？
• 一个糟糕的finalize()会严重影响GC的性能。

从功能上来说, finalize()方法与C中的析构函数比较相似,但是Java采用的是基于垃圾回收器的自动内存管理机制,所以 finalize()方法在本质上不同于C中的析构函数。
由于finalize()方法的存在,虚拟机中的对象一般处于三种可能的状态。

¶对象的三种状态

如果从所有的根节点都无法访问到某个对象,说明对象己经不再使用了。一般来说,此对象需要被回收。但事实上,也并非是“非死不可”的,这时候它们暂时处于“缓刑”阶段。一个无法触及的对象有可能在某一个条件下“复活”自己,如果这样,那么对它的回收就是不合理的,为此,定义虚拟机中的对象可能的三种状态。如下:

• 可触及的:从根节点开始,可以到达这个对象。
• 可复活的:对象的所有引用都被释放,但是对象有可能在 finalize()中复活。
• 不可触及的:对象的 finalize()被调用,并且没有复活,那么就会进入不可触及状态。不可触及的对象不可能被复活,因为 finalize()只会被调用一次。

以上3种状态中,是由于 finalize()方法的存在,进行的区分。只有在对象不可触及时才可以被回收。

¶对象判断回收过程

判定一个对象objA是否可回收,至少要经历两次标记过程（？？？？下面说的没有重写finalize不就只经过一次标记吗？？另外，标记不是说标记可达对象吗）:

1. 如果对象objA到 GC Roots没有引用链,则进行第一次标记。
2. 进行筛选,判断此对象是否有必要执行finalize()方法
   1. 如果对象objA没有 finalize()重写方法,或者finalize()方法已经被虚拟机调用过,则虚拟机视为“没有必要执行”,objA被判定为不可触及的。
   2. 如果对象objA重写 finalize()了方法,且还未执行过,那么objA会被插入到F-Queue队列中,由一个虚拟机自动创建的、低优先级的 Finalizer 线程触发其finalize()方法执行。
   3. finalize()方法是对象逃脱死亡的最后机会,稍后GC会对F-Queue队列中的对象进行第二次标记。如果obj在 finalize()方法中与引用链上的任何一个对象建立了联系,那么在第二次标记时,objA会被移出“即将回收”集合。之后,对象会再次出现没有引用存在的情况。在这个情况下, finalize()方法不会被再次调用,对象会直接变成不可触及的状态,也就是说,一个对象的finalize()方法只会被调用一次。

¶清除阶段

当成功区分出内存中存活对象和死亡对象后,GC接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对象分配内存。
目前在JVM中比较常见的三种垃圾收集算法是标记一清除算法(Mark-Sweep)、复制算法( Copying)、标记压缩算法(Mark-Compact)。

¶清除阶段：标记-清除算法

标记-清除算法(Mark- -Sweep)是一种非常基础和常见的垃圾收集算法,该算法被J.McCarthy等人在1960年提出并并应用于Lisp语言。

执行过程:
当堆中的有效内存空间(available memory)被耗尽的时候,就会停止整个程序(也被称为 stop the world),然后进行两项工作,第一项则是标记,第二项则是清除。

• 标记: Collector从引用根节点开始遍历,标记所有被引用的对象。一般是在对象的 Header中记录为可达对象。
• 清除: Collector对堆内存从头到尾进行线性的遍历,如果发现某个对象在其 Header中没有标记为可达对象,则将其回收。

¶缺点

• 效率不算高

• 在进行GC的时候,需要停止整个应用程序,导致用户体验差？？？这个应该也是看具体收集器实现吧

• 这种方式清理出来的空闲内存是不连续的,产生内存碎片。需要维护一个空闲列表

  注意:何为清除?
  这里所谓的清除并不是真的置空,而是把需要清除的对象地址保存在空闲的地址列表里。下次有新对象需要加载时,判断垃圾的位置空间是否够,如果够,就存放。

¶清除阶段：复制算法

为了解决标记-清除算法在垃圾收集效率方面的缺陷，M.L.Minsky于1963年发表了著名的论文,《使用双存储区的Lisp语言垃圾收集器》(CA LISP Garbage Collector Algorithm Using Serial Secondary Storage)。M.L.Minsky在该论文中描述的算法被人们称为复制( Copying)算法,它被M.L.Minsky本人成功地引入到了Lisp语言的一个实现版本中。

¶核心思想:

将活着的内存空间分为两块,每次只使用其中一块,在垃圾回收时将正在使用的内存中的存活对象复制到未被使用的内存块中,之后清除正在使用的内存块中的所有对象,交换两个内存的角色,最后完成垃圾回收。

¶优点

• 没有标记和清除过程,实现简单,运行高效
• 复制过去以后保证空间的连续性,不会出现“碎片”问题

¶缺点

• 此算法的缺点也是很明显的,就是需要两倍的内存空间
• 对于G1这种分拆 region成为大量的C,复制而不是移动,意味着GC需要维护 region之间对象引用关系,不管是内存占用或者时间开销也不小

¶特别的

• 如果系统中的经历标记后剩余的垃圾对象还是很多，此时就需要复制很多对象，复制算法就不会太理想。因为复制算法需要复制的存活对象数量并不会太大，或者说非常低才行

¶应用场景

在新生代，对常规应用的垃圾回收，一次通常可以回收70%-99%的内存空间。回收性价比很高。所以现在的商业虚拟机都是用这种收集算法回收新生代。

¶清除阶段：标记-压缩算法

又称标记-整理算法。

复制算法的高效性是建立在存活对象少、垃圾对象多的前提下的。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象较多,复制的成本也将很高。因此,基于老年代垃圾回收的特性,需要使用其他的算法。
标记-清除算法的确可以应用在老年代中,但是该算法不仅执行效率低下,而且在执行完内存回收后还会产生内存碎片,所以JVM的设计者需要在此基础之上进行改进。标记压缩(Mark- Compact)算法由此诞生。
1970年前后, G.L.Steele、C.J.Chene和D.S.Wise等研究者发布标记-压缩算法。在许多现代的垃圾收集器中,人们都使用了标记-压缩算法或其改进版本。

¶执行过程：

• 第一阶段和标记-清除算法一样，从根节点开始标记所有被引用对象；
• 第二阶段将所有的存活对象压缩到内存的一段，按顺序排放；
• 之后，清理边界外所有的空间。

¶和复制算法区别

和复制算法的区别就是复制算法预留了一半"待复制"内存空间是不能使用的，在进行对象移动的时候，移动的目标是固定的，可预知的；而标记-整理算法则没有预留空间，它是在标记的过程中动态算出要移动的对象及对象要去的目标位置(而且要考虑性能)，所以相对更复杂。

¶和标记-清除算法区别

标记-压缩算法的最终效果等同于标记-清除算法执行完成后,再进行一次内存碎片整理,因此,也可以把它称为标记-清除-压缩(mark-Sweep-
Compact)算法。

二者的本质差异在于标记-清除算法是一种非移动式的回收算法,标记压缩是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策。

可以看到,标记的存活对象将会被整理,按照内存地址依次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可,这比维护一个空闲列表显然少了许多开销。

¶优点:

• 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可。
• 消除了复制算法当中,内存减半的高额代价。

¶缺点:

• 从效率上来说,标记-整理算法要低于复制算法。
• 移动对象的同时,如果对象被其他对象引用,则还需要调整引用的地址。
• 移动过程中,需要全程暂停用户应用程序。即:STW？？？？？？应该是看具体的垃圾收集器吧

¶三种算法对比

效率上来说,复制算法是当之无愧的老大但是却浪费了太多内存???凭什么标记清除比复制慢，你还多一个复制的过程呢？

而为了尽量兼顾上面提到的三个指标,标记整理算法相对来说更平滑一些,但是效率上不尽如人意,它比复制算法多了一个标记的阶段,比标记-清除多了一个整理内存的阶段。

¶分代收集算法

前面所有这些算法中,并没有一种算法可以完全替代其他算法,它们都具有自己独特的优势和特点。分代收集算法应运而生。

分代收集算法,是基于这样一个事实不同的对象的生命周期是不一样的。因此,不同生命周期的对象可以采取不同的收集方式,以便提高回收效率。一般是把Java堆分为新生代和老年代,这样就可以根据各个年代的特点使用不同的回收算法,以提高垃圾回收的效率。

在Java程序运行的过程中,会产生大量的对象,其中有些对象是与业务信息相关,比如Http请求中的 , httpsession对象、线程、soocket连接,这类对象跟业务直接挂钩,因此生命周期比较长。但是还有一些对象,主要是程序运行过程中生成的临时变量,这些对象生命周期会比较短,比如: String对象,由于其不变类的特性,系统会产生大量的这些对象,有些对象甚至只用一次即可回收。

目前几乎所有的GC都是采用分代收集(Generational Collecting)算法执行垃圾回收的。在 HotSpot中,基于分代的概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特点。

• 年轻代(Young Gen)

  年轻代特点:区域相对老年代较小,对象生命周期短、存活率低,回收频繁。

  这种情况复制算法的回收整理,速度是最快的。复制算法的效率只和当前存活对象大小有关,因此很适用于年轻代的回收。而复制算法内存利用率不高的问题,通过hotspot survivor中的两个的设计得到缓解

• 老年代(Tenured Gen)

  老年代特点:区域较大,对象生命周期长、存活率高,回收不及年轻代频繁。

  这种情况存在大量存活率高的对象,复制算法明显变得不合适。一般是由标记-清除或者是标记-清除与标记-整理的混合实现。

  • Mark阶段的开销与存活对象的数量成正比
  • Sweep阶段的开销与所管理区域的大小成正相关。
  • Compact阶段的开销与存活对象的数据成正比。

以 HotSpot中的CMS回收器为例,CMS是基于Mark-Sweep实现的对于对象的回收效率很高。而对于碎片问题,CMS采用基于Mark-Compact算法的 Serial Old回收器作为补偿措施:当内存回收不佳(碎片导致的 Concurrent Mode Failure时),将采用 Serial Old执行Full GC以达到对老年代内存的整理。

分代的思想被现有的虚拟机广泛使用。几乎所有的垃圾回收器都区分新生代和老年代。

¶增量收集算法

上述现有的算法,在垃圾回收过程中,应用软件将处于一种 Stop The World的状态???在 Stop The World状态下应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间过长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集(Incremental Collecting)算法的诞生。

¶基本思想

如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集线程和应用程序线程交替执行。每次,垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,直到垃圾收集完成。

总的来说,增量收集算法的基础仍是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作。

¶缺点:

使用这种方式,由于在垃圾回收过程中,间断性地还执行了应用程序代码, 所以能减少系统的停顿时间(低时延)。但是,因为线程切换和上下文转换的消耗,会使得垃圾回收的总体成本上升,造成系统吞吐量的下降。

¶分区算法

一般来说,在相同条件下,堆空间越大一次GC时所需要的时间就越长,有关GC产生的停顿也越长。为了更好地控制GC产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一次GC所产生的停顿。

分代算法将按照对象的生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不同小区间。每一个小区间都独立使用,独立回收。这种算法的好处是可以控制一次回收多少个小区间。