Невозможно использовать/отладить неуправляемую DLL из С#

1. Запустите код, который вызывает SomeFunction, чтобы обеспечить загрузку неуправляемой .dll.
2. Перейдите в Debug -> Windows -> Modules и проверьте путь .dll и статус symbols. Вы можете попробовать загрузить symbols в контекстное меню вашей библиотеки С++ в этом окне.

(очень часто бывает, что .net загружает другую (не ожидаемую) версию неуправляемой .dll)

Теперь я почти уверен, что проблема в том, что имя вашей экспортируемой функции искажено. Попробуйте определить функцию следующим образом:

extern "C" MYDLL_API int PASCAL SomeFunction(HWND hWnd);

In C#:

[DllImport("SomeDLL.dll")]
public static extern int SomeFunction(IntPtr hwnd);

Я подозреваю, что проблема в том, что он не установит точку останова заранее, заключается в том, что DLL загружается по запросу через p-invoke. Если VS не считает, что DLL является зависимостью, она может не позволить вам заранее установить точку останова.

Вы можете добавить DebugBreak к вашему коду С++. Затем просто запустите свое приложение, не отлаживайте его. Затем, когда он выполнит этот оператор, вы получите оповещение Оперативная отладка, позволяющее перейти к отладчику C++.

C++ как стартап

В качестве альтернативы вы можете сделать DLL стартовым проектом, но изменить параметры отладки так, чтобы она запускала внешний процесс — в данном случае ваше приложение .exe.

Однако на этот раз вам не нужен DebugBreak(), а только обычная точка останова.

Теперь, когда вы отлаживаете, ваши символы DLL загружаются, что позволяет работать точкам останова.

Я часто использовал этот трюк с ActiveX/COM.