考虑托管堆大小和其中的所有对象

【问题标题】：Accounting for managed heap size and all objects in it考虑托管堆大小和其中的所有对象
【发布时间】：2014-10-28 15:13:22
【问题描述】：

我正在调查我的应用程序的高内存消耗问题。内存不断增加，我想知道所有内存都在哪里消耗。我有一个大小约为 3GB 的转储文件。

这是 !dumpheap -stat 命令的输出。整个列表很长，但我只想向您展示最大的项目，例如 byte[] (195 MB)、IdentifierChangedEventHandler (120 MB)、字符串 (119 MB)。这一切加起来并不接近 3GB。

000007fe94169ff0   101326      7295472 System.Linq.Enumerable+WhereListIterator`1[[CommonServices.WindowsEvent.EventIDExpression+RangeExpressionCollection+RangeExpression, CommonServices]]
000007fe94237f08        1      7786800 System.Collections.Generic.Dictionary`2+Entry[[System.Int32, mscorlib],[OrderingServices.LocalCache, OrderingServices]][]
000007fef1afc3a8   202112      8084480 System.Collections.Generic.List`1[[System.Guid, mscorlib]]
000007fef1ac24c0   204144      9798912 System.Collections.ArrayList+ArrayListEnumeratorSimple
000007fef1accc50   313792     10041344 System.Guid
000007fef1ad14a0   314054     10049728 System.Security.SecureString
000007fef1ac7790   131954     11403930 System.Char[]
000007feed2f93b8     2063     11898472 System.Data.RBTree`1+Node[[System.Data.DataRow, System.Data]][]
000007fef1a87890   316978     12679120 System.Security.SafeBSTRHandle
000007fef1acc590   350337     14013480 System.Collections.ArrayList
000007fe936bdcd0   202083     14549976 OrderingServices.LocalCache
000007fe942db718   202083     16166640 System.Collections.Generic.Dictionary`2[[System.Guid, mscorlib],[System.Collections.Generic.HashSet`1[[System.Int32, mscorlib]], System.Core]]
000007feed2f5910   248683     23873568 System.Data.DataRow
000007fef1aca708   317533     25402640 System.Collections.Hashtable
000007fe942dbf60   202021     32610456 System.Collections.Generic.Dictionary`2+Entry[[System.Guid, mscorlib],[System.Collections.Generic.HashSet`1[[System.Int32, mscorlib]], System.Core]][]
000007fef1ac3838   319558     32975376 System.Collections.Hashtable+bucket[]
000007fef1a74458   307557     35724224 System.Object[]
000007feef6cc770   631242     38621784 System.Collections.Generic.HashSet`1+Slot[[System.Int32, mscorlib]][]
000007feef6cb860   631242     40399488 System.Collections.Generic.HashSet`1[[System.Int32, mscorlib]]
000007fef1ac9258   937270     48016624 System.Int32[]
000007fef1ac6508   879690    119968068 System.String
000007fef1aca690   176907    196509678 System.Byte[]
00000000002ae930   139663    520724414      Free
Total 14024120 objects
Fragmented blocks larger than 0.5 MB:
            Addr     Size      Followed by
000000008e84f490    1.6MB 000000008e9f08b8 Microsoft.Win32.SafeHandles.SafeTokenHandle
00000001878e1ca8    0.7MB 000000018798ffd8 Microsoft.Win32.SafeHandles.SafeTokenHandle
0000000187ac1070    0.7MB 0000000187b76138 System.Threading.ReaderWriterLock
0000000187d39d88    1.5MB 0000000187ec2788 System.Threading.ReaderWriterLock
0000000187f7bfe0    0.9MB 000000018805ce90 System.Threading.ReaderWriterLock
0000000188ad1b30    0.5MB 0000000188b5a190 System.Net.ListenerAsyncResult
000000018909ef98    1.0MB 00000001891a9e90 System.Net.Sockets.Socket
0000000189377440    0.6MB 0000000189417088 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018a07e428    0.7MB 000000018a1382a0 System.Threading.ExecutionContext
000000018a599610    1.2MB 000000018a6d4b50 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018bad8b30    0.7MB 000000018bb87b00 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018bb88778    1.1MB 000000018bcac050 System.Threading.ReaderWriterLock
000000018bcac618    1.3MB 000000018bdee998 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018ed68b78    1.0MB 000000018ee6c290 System.Threading.ReaderWriterLock
000000018eec5b70    0.9MB 000000018efb37a8 System.Threading.ReaderWriterLock
000000018f351930    0.7MB 000000018f40edb0 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018f469d00    0.6MB 000000018f509360 System.Net.ListenerAsyncResult
000000018f5508d8    2.8MB 000000018f824ad8 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000018f917610    2.2MB 000000018fb41790 Microsoft.Win32.SafeHandles.SafeTokenHandle
000000028985e148    0.6MB 00000002898f72e0 System.Security.SafeBSTRHandle
0000000289901008    0.8MB 00000002899c3138 System.Security.SafeBSTRHandle
000000028a1e7378    0.7MB 000000028a295dd8 System.Net.ListenerAsyncResult
000000028a56a8b8    1.3MB 000000028a6c23c8 System.Threading.ReaderWriterLock
000000028a8c0a28    0.9MB 000000028a9b2b88 MonitoringServices.PerformanceCounter.PerformanceCounterDataPoint
000000028b1b80c8    0.9MB 000000028b2a6a30 System.Data.SqlClient.SNIPacket
000000028d37d7c0    0.6MB 000000028d4220f0 System.Transactions.SafeIUnknown
000000028d5f05c8    1.6MB 000000028d789b20 System.Net.ListenerAsyncResult
000000028d78ac08    2.4MB 000000028d9e7e58 System.Transactions.SafeIUnknown
000000028d9ec618    0.7MB 000000028da95c88 System.Threading.ReaderWriterLock
000000028daa5f58    1.2MB 000000028dbe2af8 System.Threading.ReaderWriterLock
000000028dbe3b00    0.7MB 000000028dc98aa0 System.Threading.ReaderWriterLock
000000028dc99aa8    1.6MB 000000028de30e40 System.String
0000000385644a88    0.7MB 00000003856eee30 Microsoft.Win32.SafeHandles.SafeWaitHandle
00000003868ecbc0    0.7MB 00000003869a18a8 System.Byte[]
00000003878d0330    0.5MB 0000000387950678 System.Threading.ReaderWriterLock
0000000387951680    1.2MB 0000000387a84b18 Microsoft.Win32.SafeHandles.SafeTokenHandle
0000000387e137d0    1.8MB 0000000387fdbb50 System.Security.SafeBSTRHandle
0000000388175388    1.5MB 00000003882ed100 System.Threading.ReaderWriterLock
00000003882ee108    0.8MB 00000003883b5b10 System.String
00000003883c5c20    0.9MB 00000003884aa8d8 System.Byte[]
00000003891fa318    1.7MB 00000003893a3e30 Microsoft.Win32.SafeHandles.SafeTokenHandle
0000000389cafe00    0.7MB 0000000389d61ff0 System.Byte[]
000000038a036238    1.0MB 000000038a135428 System.Net.ListenerAsyncResult

这是 !address -summary 的输出。堆使用情况摘要显示 1.1 GB，虽然我不知道这是否都是托管堆？

0:000> !address -summary
--- Usage Summary ---------------- RgnCount ----------- Total Size -------- %ofBusy %ofTotal
Free                                    525      7fa`04208000 (   7.977 Tb)           99.71%
<unknown>                               917        5`8f56a000 (  22.240 Gb)  92.92%    0.27%
Heap                                    204        0`4b5af000 (   1.177 Gb)   4.92%    0.01%
Image                                  2327        0`12fc5000 ( 303.770 Mb)   1.24%    0.00%
Stack                                   701        0`0df80000 ( 223.500 Mb)   0.91%    0.00%
TEB                                     229        0`001ca000 (   1.789 Mb)   0.01%    0.00%
Other                                    19        0`001bf000 (   1.746 Mb)   0.01%    0.00%
PEB                                       1        0`00001000 (   4.000 kb)   0.00%    0.00%

--- Type Summary (for busy) ------ RgnCount ----------- Total Size -------- %ofBusy %ofTotal
MEM_PRIVATE                            1717        5`e6543000 (  23.599 Gb)  98.59%    0.29%
MEM_IMAGE                              2627        0`140dc000 ( 320.859 Mb)   1.31%    0.00%
MEM_MAPPED                               54        0`017c9000 (  23.785 Mb)   0.10%    0.00%

--- State Summary ---------------- RgnCount ----------- Total Size -------- %ofBusy %ofTotal
MEM_FREE                                525      7fa`04208000 (   7.977 Tb)           99.71%
MEM_RESERVE                             736        5`2ba70000 (  20.682 Gb)  86.41%    0.25%
MEM_COMMIT                             3662        0`d0378000 (   3.253 Gb)  13.59%    0.04%

--- Protect Summary (for commit) - RgnCount ----------- Total Size -------- %ofBusy %ofTotal
PAGE_READWRITE                         1590        0`babd4000 (   2.918 Gb)  12.19%    0.04%
PAGE_EXECUTE_READ                       260        0`0f1ba000 ( 241.727 Mb)   0.99%    0.00%
PAGE_READONLY                           756        0`0376d000 (  55.426 Mb)   0.23%    0.00%
PAGE_WRITECOPY                          561        0`01f24000 (  31.141 Mb)   0.13%    0.00%
PAGE_EXECUTE_READWRITE                  180        0`008bd000 (   8.738 Mb)   0.04%    0.00%
PAGE_READWRITE|PAGE_GUARD               229        0`0043f000 (   4.246 Mb)   0.02%    0.00%
PAGE_EXECUTE_WRITECOPY                   85        0`0025a000 (   2.352 Mb)   0.01%    0.00%
PAGE_EXECUTE                              1        0`00003000 (  12.000 kb)   0.00%    0.00%

--- Largest Region by Usage ----------- Base Address -------- Region Size ----------
Free                                      5`ffff0000      7f8`93260000 (   7.971 Tb)
<unknown>                                 3`92f8f000        0`ed061000 (   3.703 Gb)
Heap                                      0`19010000        0`00fd0000 (  15.813 Mb)
Image                                   7fe`edfb9000        0`01368000 (  19.406 Mb)
Stack                                     0`0b8d0000        0`000fc000 (1008.000 kb)
TEB                                     7ff`ffbd4000        0`00002000 (   8.000 kb)
Other                                     0`008a0000        0`00181000 (   1.504 Mb)
PEB                                     7ff`fffdf000        0`00001000 (   4.000 kb)

最后，如果运行 !eeheap -gc，它在所有四个 GC 堆中显示 ~ 1.6GB。

0:000> !EEHeap -gc

Number of GC Heaps: 4
------------------------------
Heap 0 (00000000002d8aa0)
generation 0 starts at 0x000000008ff94830
generation 1 starts at 0x000000008f1157e8
generation 2 starts at 0x000000007fff1000
ephemeral segment allocation context: none
 segment     begin allocated  size
000000007fff0000  000000007fff1000  00000000935cc580  0x135db580(324908416)
Large object heap starts at 0x000000047fff1000
 segment     begin allocated  size
000000047fff0000  000000047fff1000  0000000484d38270  0x4d47270(81031792)
Heap Size:               Size: 0x183227f0 (405940208) bytes.
------------------------------
Heap 1 (0000000000abcf00)
generation 0 starts at 0x0000000190b5f3f8
generation 1 starts at 0x000000018fcb1988
generation 2 starts at 0x000000017fff1000
ephemeral segment allocation context: none
 segment     begin allocated  size
000000017fff0000  000000017fff1000  0000000193ee36f8  0x13ef26f8(334440184)
Large object heap starts at 0x000000048fff1000
 segment     begin allocated  size
000000048fff0000  000000048fff1000  00000004960eae48  0x60f9e48(101686856)
Heap Size:               Size: 0x19fec540 (436127040) bytes.
------------------------------
Heap 2 (0000000000ac78b0)
generation 0 starts at 0x000000028f89f588
generation 1 starts at 0x000000028e83ca90
generation 2 starts at 0x000000027fff1000
ephemeral segment allocation context: none
 segment     begin allocated  size
000000027fff0000  000000027fff1000  0000000292bf43d0  0x12c033d0(314586064)
Large object heap starts at 0x000000049fff1000
 segment     begin allocated  size
000000049fff0000  000000049fff1000  00000004a5b90b78  0x5b9fb78(96074616)
Heap Size:               Size: 0x187a2f48 (410660680) bytes.
------------------------------
Heap 3 (0000000000ad2c00)
generation 0 starts at 0x000000038ecddd18
generation 1 starts at 0x000000038dcb9ec8
generation 2 starts at 0x000000037fff1000
ephemeral segment allocation context: none
 segment     begin allocated  size
000000037fff0000  000000037fff1000  00000003925e93b8  0x125f83b8(308249528)
Large object heap starts at 0x00000004afff1000
 segment     begin allocated  size
00000004afff0000  00000004afff1000  00000004b55a61e8  0x55b51e8(89870824)
Heap Size:               Size: 0x17bad5a0 (398120352) bytes.
------------------------------
GC Heap Size:            Size: 0x6265f218 (1650848280) bytes.

我有两个问题。
1. 有没有得到 !dumpheap -stat 命令中列出的所有对象大小的总和。
2. 是否有验证 GC 堆大小与来自 !dumpheap -stat 的所有对象的总大小匹配，以便我可以确定我的所有对象都被考虑在内？

【问题讨论】：

  • 您是否正在为非托管资源调用 Dispose() 方法（或者，在 using 语句中确定它们的范围）？
  • Windbg 并不能替代一个不错的 .NET 内存分析器。但是，嘿，价值 120 MB 的事件处理程序，别无所求。与 WMI 相关联，死锁的终结器线程是标准解释。
  • 谢谢汉斯。我该如何进一步调查。 syncblk 没有显示任何正在等待其他线程的线程

标签： c# .net-4.0 garbage-collection windbg sos


【解决方案1】：

首先，address -summary 仅显示由 CreateHeap() 函数创建的堆，该函数不是 .NET。 .NET 使用自己的堆并在输出中显示为&lt;unknown&gt;。

接下来，您忘记将大小为 520 MB 的“免费”对象相加。这些是 .NET 堆中 .NET 对象较早时所在的位置，但随后已被垃圾回收。此可用空间稍后可能会或可能不会归还给操作系统。在执行命令时，.NET 内存管理器正在使用它，但该管理器认为它是空闲的。从操作系统的角度来看，该内存仍在使用中（保留或提交，但不是空闲的）。

第三，我认为这是一个错误：整体 GC 堆大小为 1650848280，即 1.6 GB，而不是 160 GB。否则它将与 22 GB 的 &lt;unknown&gt; 数字相矛盾。

但有一个问题是开放的：如果&lt;unknown&gt; 是 22 GB，但只有 1.6 GB 由 .NET 管理，其余部分由直接调用 VirtualAlloc() 的其他组件使用。这很不寻常，因为VirtualAlloc() 的粒度非常粗糙，所以没有人使用它。只要您知道如何处理这些大块内存，就可能会有一个用例。

关于您的问题：请参阅@SteveJohnson 的回答。我不确认内存碎片是由大量异步 I/O 引起的观察结果。这可能是一个原因，但也有其他原因，例如。固定对象（通常与一些原生的东西结合使用）。不要忘记区分小对象堆碎片和大对象堆碎片。

更新：

据我所知，您无法从转储中找出谁分配了虚拟内存。您可以通过在 VirtualAlloc() 上设置断点并将调用堆栈打印到输出文件中并稍后检查不同的调用堆栈来做到这一点。我在实践中从未这样做过，但以下应该是一个起点：

.logopen virtualalloc.log
bp Kernel32!VirtualAlloc ".echo ANALYZE>;k;.echo <ANALYZE;g"
bp Kernel32!VirtualAllocEx ".echo ANALYZE>;k;.echo <ANALYZE;g"
g

这将为 VirtualAlloc 创建一个断点。当命中时，它会在调用堆栈中写入一个开始标签和一个结束标签，因此输出在会话之后更容易解析。它会立即继续，这样您的应用程序就不会受到超时的影响。

另一种方法是Rohitab API monitor 并过滤 VirtualAlloc。您可以在 System Servcies / Memory Management / Virtual Memory / Kernel32.dll 中找到 VirtualAlloc 和 VirtualAllocEx。不幸的是文件格式没有打开，所以你不能用工具分析结果。

【讨论】：

  • 谢谢。你是对的，它是 1.6GB，我已经进行了更正。因此，如果 22GB 是托管堆，而 GC 仅占用其中 1.6GB，我如何才能找到哪些对象构成剩余的 ~20GB？
  • @PaulSnow：不是说有对象。基本上这只是一块内存（字节[]），任何请求它的人都可以用它做他想做的事。我已经更新了我的答案，以便在实时会话中进行调试。
【解决方案2】：

1 - 不，但您可以使用 !sosex.dumpgen 0 -stat、!sosex.dumpgen 1 -stat、!sosex.dumpgen 2 -stat 和 !sosex.dumpgen 3 -stat 接近（这是 LOH） .这些命令中的每一个都会为您提供每一代中所有对象的总大小。

2 - 目前我手边没有调试器，但我认为如果你将 !eeheap -gc 中的所有段大小相加，你应该接近所有对象的总大小。 !sosex.dumpgen 还为您提供了生成的总大小（段大小），因此它也应该与您使用 !eeheap -gc 看到的相匹配。

看起来您有大量的堆碎片，如 520,724,414 字节的空闲对象所示。这通常是由繁重的异步 I/O 引起的。

【讨论】：

  • 谢谢，我意识到有大量的免费对象，但只有在 LOH 中才会有问题。我正在尝试调查那部分。您能否提供任何有关异步 I/O 对碎片的影响程度的链接。
  • 我没有链接，但在我调试的大多数堆碎片案例中，罪魁祸首是异步 I/O。当您将 byte[] 传递给异步 I/O 方法时，必须先固定该缓冲区，然后才能将其传递给系统。异步 I/O 不是堆碎片的唯一原因，但正如我所说，这是我的经验中经常出现的问题。
猜你喜欢
  • 2012-07-27
  • 2011-02-25
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-09-07
  • 2014-09-28
  • 1970-01-01
相关资源
最近更新 更多
热门标签
Java Python linux javascript Mysql C# Docker 算法 前端 SpringBoot Redis Vue spring 设计模式 .net core .net kubernetes c++ 数据库 数据结构 大数据 js 机器学习 微服务 Android Go 程序员 面试 JVM ASP.net core 云原生 人工智能 后端 PHP git CSS golang k8s Nginx Django mybatis 深度学习 多线程 React 架构 devops 爬虫 云计算 Spring Boot LeetCode