高性能SDK套件 - C接口

接口概览

#define DLCV_API __declspec(dllimport)
#define DLL_FUNC(type) extern "C" DLCV_API type __stdcall

DLL_FUNC(const char*) dlcv_load_model(const char* config_str);
DLL_FUNC(const char*) dlcv_free_model(const char* config_str);
DLL_FUNC(const char*) dlcv_get_model_info(const char* config_str);

DLL_FUNC(const char*) dlcv_infer(const char* config_str);
DLL_FUNC(void) dlcv_free_model_result(const char* config_str);
DLL_FUNC(void) dlcv_free_result(const char* config_str);
DLL_FUNC(void) dlcv_free_all_models();

DLL_FUNC(int) dlcv_load_model_c(const char* model_path, int device_id);
DLL_FUNC(int) dlcv_free_model_c(int model_index);
DLL_FUNC(DlcvCResult) dlcv_infer_c(int model_index, const DlcvCImageList& image_list);
DLL_FUNC(void) dlcv_free_model_result_c(DlcvCResult& result);

加载模型

代码样例：

std::wstring model_path = LR"(C:\Users\Administrator\Desktop\测试模型\det.dvt)";

json a;
a["model_path"] = model_path;
std::string json_str = a.dump();

const char* result = dlcv_load_model(json_str.c_str());

json result_a = json::parse(result);
dlcv_free_result(result);

int model_index = result_a["model_index"];

输入：

{
    "model_path": "C:\\Users\\Administrator\\Desktop\\测试模型\\det.dvt"
}

输出：

{
    "code": 0,
    "message": "Successfully loaded model.",
    "model_index": 0
}

模型推理

注意：彩色图像的通道顺序是 RGB。

样例代码：

cv::Mat img = cv::imread(R"(C:\Users\Administrator\Desktop\balloon.jpg)");

json image_info;
image_info["width"] = img.cols;
image_info["height"] = img.rows;
image_info["channels"] = img.channels();
image_info["image_ptr"] = (uintptr_t)img.ptr();

json d;
d["model_index"] = model_index;
d["image_list"].push_back(image_info);

auto json_str = d.dump();
auto result = dlcv_infer(json_str.c_str());
json result_d = json::parse(result);
dlcv_free_model_result(result);

model_index 是加载模型时返回的结果。

img 在调用过程中，不要释放内存。

注意：C接口需要手动调用 dlcv_free_model_result 释放结果。

输入：

{
    "image_list": [
        {
            "channels": 3,
            "height": 768,
            "image_ptr": 1978309283968,
            "width": 1024
        }
    ],
    "model_index": 0
}

输出：

{
    "sample_results": [
        {
            "results": [
                {
                    "area": 225630.0,
                    "bbox": [
                        58.85700607299805,
                        69.69281005859375,
                        517.2791023254395,
                        547.71923828125
                    ],
                    "category_id": 0,
                    "category_name": "气球",
                    "mask": {
                        "height": 547,
                        "mask_ptr": 1737551411232,
                        "width": 517
                    },
                    "score": 0.9907786846160889,
                    "with_mask": true
                }
            ]
        }
    ]
}

返回结果解析

sample_results，列表，每个元素是一张图片的结果。
results，列表，每个元素是一张图片中的物体。
- area，浮点数，物体的面积。
- bbox，列表，浮点数，物体的边界框，按照 x, y, w, h 排列，(x, y) 是左上角坐标，(w, h) 是检测框的宽度和高度尺寸
- category_id，整数，物体的类别 ID。
- category_name，字符串，物体的类别名称。
- score，浮点数，物体的置信度。
- mask，对象，物体的 mask。
  - height，整数，mask 的高度。
  - mask_ptr，指针，mask 的指针。
  - width，整数，mask 的宽度。

Mask 解析

Mask 可以使用 OpenCV 直接实例化，如：

auto mask = cv::Mat(height, width, CV_8UC1, (void*)ptr).clone()

释放模型

使用 dlcv_free_model 接口释放模型。

model_index 是加载模型时返回的结果。

json b;
b["model_index"] = model_index;
json_str = b.dump();

result = dlcv_free_model(json_str.c_str());
json result_b = json::parse(result);
result_str = dlcv::utils_string::convertUtf8ToWstring(result_b.dump());
std::wcout << "result_json: " << result_str << std::endl;
dlcv_free_result(result);

输出：

{
    "code": 0,
    "message": "Successfully freed model."
}

释放所有模型

在整个程序退出之前，需要释放所有模型，可以手动释放，也可以直接调用 dlcv_free_all_models 接口。该接口无返回值。

dlcv_free_all_models();

数据结构定义

struct DlcvCImage {
    long long data_ptr;
    int height;
    int width;
    int channel;
};

struct DlcvCImageList {
    DlcvCImage* images;
    int n;
};

struct DlcvCMask {
    long long mask_ptr;
    int height;
    int width;
};

struct DlcvCObjectResult {
    int category_id;
    char* category_name;
    float score;

    bool with_bbox;
    float area;
    float x, y, w, h;

    bool with_mask;
    DlcvCMask mask;

    bool with_angle;
    float angle;
};

struct DlcvCSampleResult {
    DlcvCObjectResult* results;
    int n;
};

struct DlcvCResult {
    int code;
    char* message;
    DlcvCSampleResult* sample_results;
    int n;
};

DlcvCImage 是输入图像的结构体，包含图像数据指针、宽度、高度和通道数。通道顺序是 RGB。

DlcvCImageList 是输入图像列表的结构体，包含 DlcvCImage 数组和数量。

DlcvCMask 是物体 mask 的结构体，包含 mask 数据指针、宽度和高度。

DlcvCObjectResult 是物体检测结果的结构体，包括：

category_id：物体类别 ID。
category_name：物体类别名称。
score：物体置信度。
with_bbox：是否有边界框。
area：物体面积。
x, y, w, h：边界框的左上角坐标和宽高。
with_mask：是否有 mask。
mask：物体的 mask，类型为 DlcvCMask。
with_angle：是否有角度信息。
angle：物体的角度。

DlcvCSampleResult 是每张图片的检测结果，包含 DlcvCObjectResult 数组和数量。

DlcvCResult 是推理结果的结构体，包含返回码、消息、DlcvCSampleResult 数组和数量。返回码为0表示成功，非0表示失败。

结果示例

内存管理

所有 C 接口的返回结果都需要手动释放，因为 C 没有字符串类型。C接口输入和输出都使用 json 字符串，输入可以直接用 json dump 出来的字符串的 c_str，输出也需要自己解析。

对于 dlcv_infer 接口，返回值需要使用 dlcv_free_model_result 接口释放内存，它会自动处理 mask 指针。其余接口都可以使用 dlcv_free_result 释放结果。

压力测试模型创建：

压力测试推理：

接口概览​

加载模型​

模型推理​

返回结果解析​

Mask 解析​

释放模型​

释放所有模型​

数据结构定义​

结果示例​

内存管理​