为什么在提供数据有效负载时未收到 WM_COPYDATA 消息？

Question

我有一个非常著名的使用（丑陋的）消息进行进程间数据交换的设置WM_COPYDATA。这不是我的决定，我必须在遗留应用程序中支持它。

const uint WM_COPYDATA = 0x004A;

[StructLayout(LayoutKind.Sequential)]
struct COPYDATASTRUCT
{
  public uint dwData;
  public int cbData;
  public IntPtr lpData;
}

[DllImport("user32.dll")]
static extern int SendMessage(IntPtr hwnd, uint msg, IntPtr wparam, ref COPYDATASTRUCT lparam);

如果我只发送一个简单的结构，而不附加附加数据，它就可以正常工作：

COPYDATASTRUCT container;
container.dwData = 42;
container.cbData = 0;
container.lpData = IntPtr.Zero;
SendMessage(myHwnd, WM_COPYDATA, IntPtr.Zero, ref container);

在接收方（外部 WinForms 应用程序），我收到此消息并且可以正确读取该dwData字段：

protected override void WndProc(ref Message m)
{
    if (m.Msg == WM_COPYDATA)
    {
        var container = (COPYDATASTRUCT)m.GetLParam(typeof(COPYDATASTRUCT));
        MessageBox.Show(container.dwData.ToString()); // 42
    }
    base.WndProc(ref m);
}

但是，一旦我附加一些额外的有效负载，外部应用程序就会停止接收此消息。条件m.Msg == WM_COPYDATA始终false在接收方窗口过程中，发送方0从SendMessage调用中获取结果。

COPYDATASTRUCT container;
container.dwData = 42;
container.cbData = 4;
container.lpData = Marshal.AllocHGlobal(4);
int result = SendMessage(hwnd, WM_COPYDATA, IntPtr.Zero, ref container); // 0

（实际上，这是一个虚拟的有效负载，但与真实的有效负载是一样的。）

string payload = "test";
container.cbData = (payload.Length + 1) * 2;
container.lpData = Marshal.StringToHGlobalUni(payload);

我还尝试通过更改to的最后一个参数类型来COPYDATASTRUCT手动封送（使用） ，不幸的是没有成功（相同的行为）。Marshal.StructToPtrSendMessageIntPtr

我尝试通过更改定义来依赖 CLR 编组COPYDATASTRUCT：

[StructLayout(LayoutKind.Sequential, CharSet = CharSet.Unicode)]
public struct COPYDATASTRUCT
{
  public uint dwData;
  public int cbData;

  [MarshalAs(UnmanagedType.LPWStr)]
  public string lpData;
}

你猜怎么了？没有效果。

我的设置有什么问题吗？为什么当数据结构附加有效负载时无法接收消息？

Answer 1

结构体定义不正确，应该是

[StructLayout(LayoutKind.Sequential)]
struct COPYDATASTRUCT
{
  public IntPtr dwData; // in C/C++ this is an UINT_PTR, not an UINT
  public int cbData;
  public IntPtr lpData;
}

您对 dwData 的定义在 32 位进程（4 字节）中匹配 ok，但在 64 位进程（8 字节）中不匹配。由于这是结构中的第一个字段，因此当其定义不正确时，所有的赌注都会失败。