가비지 수집하기 전에 힙 손상을 검색하십시오.

Question

CDB (Microsoft Console Debugger) 및 WinDbg을 사용하여 힙 손상이 발생했을 때 ReadFile에 P/Invoke을 강제로 중단하려고 시도했습니다. 나는 chBuf 배열에 할당 한 것보다 더 많은 바이트를 텍스트 파일에서 읽습니다. 디버거에서 GC.Collect 이후에 액세스 위반이 표시되지 않습니다. 이 너무 늦습니다.입니다. 내 프로그램을 실행하기 전에 나는 실행한다

gflags -p /enable testheap.exe /unaligned 

효과는 쓸데없는 것처럼 보인다. 나는이 작은 테스트 프로그램을 작성하여 힙 손상 문제가있는 훨씬 더 큰 상용 프로그램을 디버깅하는 데 적용했습니다.

Application Verifier 및 MDA callbackOnCollectedDelegate를 사용하여 DebugDiag를 성공적으로 사용해 보았습니다. 내 gflags의 사용은 ReadFile 직후 힙 손상을 감지하지 않습니까?

코드 : chBuf 이후

byte[] chBuf = new byte[8];

는 CLR에 의해 관리되지 GFLAGS :

namespace TestHeap 

    public partial class Form1 : Form 
    { 
     [DllImport("kernel32.dll", SetLastError = true)] 
     static extern SafeFileHandle CreateFile(string lpFileName, uint dwDesiredAccess, 
      uint dwShareMode, IntPtr lpSecurityAttributes, uint dwCreationDisposition, 
      uint dwFlagsAndAttributes, IntPtr hTemplateFile); 

     [DllImport("kernel32.dll", SetLastError = true)] 
     static extern bool ReadFile(SafeFileHandle hFile, [Out] byte[] lpBuffer, 
      uint nNumberOfBytesToRead, out uint lpNumberOfBytesRead, IntPtr lpOverlapped); 

     string fileName = "testHeap.txt"; 
     const uint GENERIC_READ = 0x80000000; 
     const uint OPEN_EXISTING = 3; 
     SafeFileHandle sh; 
     byte[] chBuf = new byte[8]; 

     public Form1() 
     { 
      InitializeComponent(); 
     } 

     private void testBtn_Click(object sender, EventArgs e) 
     { 
      bool nStat; 
      uint bytesToRead = 1025; 
      uint bytesRead = 0; 

      if (!(nStat = ReadFile(sh, chBuf, bytesToRead, out bytesRead, IntPtr.Zero))) 
       Debug.Print("testBtn_Click error in ReadFile, nStat = {0}", nStat); 
      MessageBox.Show(string.Format("After ReadFile, bytesToRead = {0},\n bytes read = {1}", bytesToRead, bytesRead)); 
      GC.Collect(); 
      MessageBox.Show("testBtn_Click end, after GC.Collect"); 
     } 

     private void Form1_Load(object sender, EventArgs e) 
     { 
      sh = CreateFile(fileName, GENERIC_READ, 0, IntPtr.Zero, OPEN_EXISTING, 0, IntPtr.Zero); 
     } 
    } 
} 

Answer 1

그냥 추측하지만 예상치 못한 GFLAGS 동작이 라인으로 인해 생각 버퍼 오버런을 감지하기 위해 채우기 패턴을 넣을 수 있습니다. 그래서

IntPtr chBuf = Marshal.AllocHGlobal(8);

당신이 관리되지 않는 힙에 할당됩니다 :에 있음을 변경해보십시오. Gflags가이를 사용할 수 있어야합니다. 또한, 당신은 일에 그것을 위해 ReadFile의 서명을 변경해야 할 수도 있습니다 ". 디버거가 GC.Collect``때까지 액세스 위반이 표시되지 않습니다"당신이 무엇을 의미하는

[DllImport("kernel32.dll", SetLastError = true)] 
static extern bool ReadFile(SafeFileHandle hFile, [Out] IntPtr lpBuffer, 
uint nNumberOfBytesToRead, out uint lpNumberOfBytesRead, IntPtr lpOverlapped);