前幾天做了一個(gè) C++ 的 DLL，供網(wǎng)頁(yè)調(diào)用，網(wǎng)頁(yè)是用 C# 做的。
C++ 的 DLL 做起來(lái)簡(jiǎn)單，同時(shí)完成了一個(gè) C++ EXE 調(diào)用 DLL 進(jìn)行了調(diào)試。一切 OK!
然后將 DLL 轉(zhuǎn)到做 C# 處進(jìn)行測(cè)試，發(fā)現(xiàn)要不調(diào)用失敗，要不得不到數(shù)據(jù)。
C# 調(diào)用 C++ 的 DLL 真的這樣麻煩？


C++ 的 DLL 提供一個(gè)功能，將一字符串經(jīng)過(guò)轉(zhuǎn)換后形成另一字符串，然后在網(wǎng)頁(yè)上顯示轉(zhuǎn)移后的此字符串。
C++ 的接口開(kāi)始時(shí)設(shè)計(jì)為：
/*
?* 功能:?
?* 參數(shù): (in) pcInStr 用戶輸入的字符串
?* (in) iInLen 用戶輸入的字符串的長(zhǎng)度
?* (out) pcOutStr 輸出的字符串
?* (in) ?iLen 輸出的字符串的最大長(zhǎng)度
*/
BOOL Func(unsigned char *pcInStr,int iInLen,unsigned char *pcOutStr,int iLen);
此函數(shù)只有一個(gè)返回值，通過(guò)第三個(gè)參數(shù)：pcOutStr，其它都是輸入的。


C# 按此接口，調(diào)用方法如下：
public static extern char[] Func(ref char[] pcInStr, ref int iInLen,ref char[] pcOutStr,ref int iLen);
編譯沒(méi)有問(wèn)題，但運(yùn)行時(shí)發(fā)現(xiàn)，通過(guò) iInLen 和 iLen 傳入的值不對(duì)。
因?yàn)?DLL 中的函數(shù)進(jìn)行了參數(shù)有效性判斷，不是有效的長(zhǎng)度會(huì)直接返回。
為測(cè)試增加了 MessageBox 顯示此兩個(gè) Len 的值，提示此兩個(gè)參數(shù)的值好像是隨機(jī)數(shù)一樣，每次運(yùn)行的數(shù)值都不相同，但傳入的數(shù)據(jù)始終都是固定的。
如果除第三個(gè)參外不使用 ref，傳入的 Len 數(shù)值是沒(méi)有問(wèn)題的。但運(yùn)行時(shí)會(huì)產(chǎn)生異常!
查了半天未找出原因，無(wú)奈之下，只好修改 DLL 的接口：不用參數(shù)來(lái)傳值，修改為使用返回值。
DLL 中的 C++ 接口修改為：
char *Func(unsigned char *pcInStr,int iInLen);


C# 按此接口，調(diào)用方法試了以下兩種：
(1) public static extern char[] Func(char[] pcInStr, int iInLen);
(2) public static extern string Func(char[] pcInStr, int iInLen);
都在運(yùn)行時(shí)執(zhí)行到調(diào)用 DLL 的接口時(shí)，發(fā)生異常。
寫了個(gè) C# 的 From 調(diào)用 DLL 的測(cè)試程序，同樣發(fā)生異常，異常的信息為：
Additional information: Cannot marshal 'return value': Invalid managed/unmanaged type combination.


最后，將調(diào)用方法修改為：
public static extern StringBuilder Func(char[] pcInStr, int iInLen);
這樣調(diào)用，調(diào)用 DLL 的接口時(shí)，不再發(fā)生異常，但返回值一直為空。
懷疑是 DLL 中的接口未返回值，因此在 DLL 中的接口最后返回?cái)?shù)據(jù)前，增加一 MessageBox 來(lái)顯示返回的數(shù)據(jù)。
運(yùn)行后發(fā)現(xiàn)，DLL 中的 C++ 接口通過(guò) C# 調(diào)用后，MessageBox 顯示了正常的數(shù)據(jù)。與 C++ EXE 調(diào)用 DLL 時(shí)顯示的數(shù)據(jù)一致。
但 C++ EXE 可以得到數(shù)據(jù)，C# 的網(wǎng)頁(yè)程序卻只能得到一個(gè) NULL 值。


最后懷疑是 C++ 和 C# 的程序運(yùn)行的空間不同，導(dǎo)致此問(wèn)題。
因?yàn)樵?DLL 的 C++ 接口中，返回值定義在接口函數(shù)中，是一個(gè)數(shù)組；懷疑數(shù)組在 C# 調(diào)用返回時(shí)，已經(jīng)被釋放。
將此數(shù)組定義從接口中移到接口外，定義成一全局變量，其它未做改變。
此時(shí)，發(fā)現(xiàn) C# 的網(wǎng)頁(yè)程序調(diào)用 C++ DLL 中的接口后，也可以得到正確的數(shù)據(jù)。


總結(jié)：
C# 調(diào)用 C++ DLL 時(shí)，需要注意兩個(gè)問(wèn)題：
(1) 數(shù)據(jù)類型之間的轉(zhuǎn)換，特別是指針；
(2) 運(yùn)行作用域。
有一個(gè)問(wèn)題一直未解決，就是 ref 傳值的問(wèn)題。為什么通過(guò) ref 傳 int 型的值到 C++ DLL 中，數(shù)據(jù)會(huì)發(fā)生變化？
偶基本上未用過(guò) C# ，也無(wú)法解決。


最后的解決辦法：恢復(fù)最初四個(gè)參數(shù)的接口，C# 的聲明接口按如下定義：
public static extern bool Func(char[] pcInStr, int iInLen, [Out,MarshalAs(UnmanagedType.LPArray)]char[] pcOutStr, int iLen);