天天看点

Cuda Error in NCHWToNCHHW2解决

tensorrt报错:

Cuda Error in NCHWToNCHHW2

原因:内存数据格式不对,数据向cuda拷贝报错了。

cudaMemcpyAsync(&buffers[inputIndex], &over[0], input_h * input_w *3* sizeof(float), cudaMemcpyHostToDevice, stream);

        //复制图片数据到GPU

        //cudaMemcpyAsync(&buffers[inputIndex], &over[0], input_h * input_w *3* sizeof(float), cudaMemcpyHostToDevice, stream);

       std::cout << "114" << std::endl;

        //执行推理

        context->enqueueV2(buffers, stream, nullptr);

        auto t_end_pre = std::chrono::high_resolution_clock::now();

        float total_pre = std::chrono::duration<float, std::milli>(t_end_pre - t_start_pre).count();

错误代码:

//cudaMemcpyAsync(&buffers[inputIndex], &over[0], input_h * input_w *3* sizeof(float), cudaMemcpyHostToDevice, stream);