是否支持华为昇腾NPU 310P3

再使用华为推理卡时，使用同一个模型进行批量推理测试时，不时出现
[W 11/27 22: 2:51. 50 ...le-lite/lite/kernels/nnadapter/engine.cc:245 Execute] Warning: Failed to run the execution(2)!
[W 11/27 22: 2:51. 50 ...le-lite/lite/kernels/nnadapter/engine.cc:245 Execute] Warning: Failed to run the execution(2)!
[W 11/27 22: 2:51. 50 ...ter/nnadapter/src/runtime/compilation.cc:334 Finish] Warning: Failed to create a program, No model and cache is provided.
[W 11/27 22: 2:51. 51 ...le-lite/lite/kernels/nnadapter/engine.cc:149 LoadFromCache] Warning: Build model failed(3) !
[W 11/27 22: 2:51. 66 ...nnadapter/nnadapter/src/runtime/model.cc:86 GetSupportedOperations] Warning: Failed to get the supported operations for device 'huawei_ascend_npu', because the HAL interface 'validate_program' is not implemented!
[W 11/27 22: 2:51. 66 ...kernels/nnadapter/converter/converter.cc:171 Apply] Warning: Failed to get the supported operations for the selected devices, one or more of the selected devices are not supported!
[I 11/27 22: 2:51. 66 ...r/src/driver/huawei_ascend_npu/driver.cc:70 CreateProgram] Create program for huawei_ascend_npu.
[I 11/27 22: 3:17.456 ...ter/nnadapter/src/runtime/compilation.cc:223 Execute] Serialize the cache models into memory success.
[I 11/27 22: 3:17.490 ...ter/nnadapter/src/runtime/compilation.cc:229 Execute] Write the cache file ./model_cache/fb457df03383de230a7d2f3f5453dafa.nnc success.
并会在本地./model_cache/下生成大量的nnc文件，最后是有推理结果的，但是每次出现上面报错信息的时候耗时会大大增加。这种现象正常么？按我的理解一个模型应该只生成一个nnc文件就可以了。
-rw-r--r--. 1 root root 58516480 11月 27 21:52 1a45a3dbf7f2d8f2cd07ae08020c27a1.nnc
-rw-r--r--. 1 root root 58520608 11月 27 21:57 1d770b763e258baad7323c69ee38a742.nnc
-rw-r--r--. 1 root root 58518392 11月 27 22:09 1f300c59c85016379ea214967296f2df.nnc
-rw-r--r--. 1 root root 58470760 11月 27 21:49 20999de49d5a8e1b1da92d1804d8c373.nnc
-rw-r--r--. 1 root root 58559384 11月 27 21:59 27e9bd4ef67b198fa9463a35a642d89a.nnc
-rw-r--r--. 1 root root 58511636 11月 27 22:03 38b231636bee28046eab1c80d79337d3.nnc
-rw-r--r--. 1 root root 58456988 11月 27 21:59 4c1f01e0cab81d6620493ca2285cf4a7.nnc
-rw-r--r--. 1 root root 58572752 11月 27 22:08 4cdb6f835c29b0c5b9d4f9d772794e05.nnc
-rw-r--r--. 1 root root 58595288 11月 27 22:01 5319cd3cf2abb3c94862a2a8532a5f02.nnc
-rw-r--r--. 1 root root 58474312 11月 27 22:00 5480378230b933b92694c92e1d45262e.nnc
-rw-r--r--. 1 root root 58472708 11月 27 21:58 557a1e68015b4d1261321843ffc58b59.nnc
-rw-r--r--. 1 root root 58519100 11月 27 21:53 589dbd6741d59df4d851ef86b7412fe1.nnc
-rw-r--r--. 1 root root 58505692 11月 27 21:51 5a0a88bd1021225cafb7c6bbec25ce32.nnc
-rw-r--r--. 1 root root 58491616 11月 27 21:52 5ebd4018d8d9cc45429af04f0881972e.nnc
-rw-r--r--. 1 root root 58526068 11月 27 21:57 5efcf7ccfd950e5651e9ab07ac5fec03.nnc
-rw-r--r--. 1 root root 58500956 11月 27 22:07 6579286a5d346376fd870c1c8089dbeb.nnc
-rw-r--r--. 1 root root 58516964 11月 27 21:51 69fd600e61ee88f979674750ac0274ab.nnc
-rw-r--r--. 1 root root 58456852 11月 27 22:04 6df69a2e3007a51582d4d2d2e1171a3d.nnc
-rw-r--r--. 1 root root 58563544 11月 27 21:55 7d58d8a6280dfb12b3d05647d0147307.nnc
-rw-r--r--. 1 root root 58560420 11月 27 21:54 7d6d485cf14c47c9e531341444b8f1b6.nnc
-rw-r--r--. 1 root root 58501884 11月 27 21:55 80d8174937ee2d0c27b8155d1a2273cf.nnc
-rw-r--r--. 1 root root 58461632 11月 27 21:56 88c99f786ead07bd50a13fb55d368a04.nnc
-rw-r--r--. 1 root root 58556100 11月 27 21:50 9f310a3dd4eee6874b7fd59a2f6d0afb.nnc
-rw-r--r--. 1 root root 58479988 11月 27 22:04 ac50c384ce68e48508573bcd0f44cdf7.nnc
-rw-r--r--. 1 root root 58478148 11月 27 22:06 bfa2402c13bb611be2b4d743581c1fab.nnc
-rw-r--r--. 1 root root 58570432 11月 27 22:08 c5e3b64da3a635784008995c02f083e2.nnc
-rw-r--r--. 1 root root 58485172 11月 27 22:00 c70b0bdcbacb7981ac1a0393fe301adf.nnc
-rw-r--r--. 1 root root 58564260 11月 27 21:48 c7fc313f6c11d25aa37c80d60fe4fc2f.nnc
-rw-r--r--. 1 root root 58561552 11月 27 21:49 c86832dd95c64dc68732bbbc57e38a80.nnc
-rw-r--r--. 1 root root 58469648 11月 27 22:05 c8905fc14c2627d42994b50d542960aa.nnc
-rw-r--r--. 1 root root 47309616 11月 27 21:47 cbc64866f5049bca0a0a87af07e9a846.nnc
-rw-r--r--. 1 root root 58559792 11月 27 22:02 d04f9eed4e1ed34e9729d4e210cfee1c.nnc
-rw-r--r--. 1 root root 58485580 11月 27 21:50 d49bc438c1e6b12ac8384056d3569ebc.nnc
-rw-r--r--. 1 root root 58512388 11月 27 21:54 e00211ce1496c7d160182e8396621f4c.nnc
-rw-r--r--. 1 root root 58601336 11月 27 21:56 e0e995e9aae4e076a52d78b0332ba661.nnc
-rw-r--r--. 1 root root 58481908 11月 27 22:05 e17787259a3c1997411a2a53404c8c33.nnc
-rw-r--r--. 1 root root 58474272 11月 27 22:02 e7d4b9f8ee6b2b379ad2bb102a21694f.nnc
-rw-r--r--. 1 root root 58557320 11月 27 22:06 f1f157942ac02a060c7b90c54ee93f8e.nnc
-rw-r--r--. 1 root root 58545456 11月 27 21:48 f51f9eb7b578de89d0658a749207b58a.nnc
-rw-r--r--. 1 root root 58522444 11月 27 22:03 fb457df03383de230a7d2f3f5453dafa.nnc
-rw-r--r--. 1 root root 58525480 11月 27 22:01 ffc43cc628df67d742d0b04acd22aa58.nnc

PaddlePaddle/FastDeploy

内容风险标识

评论 (0)

PaddlePaddle/FastDeploy .gitee-modal { width: 500px !important; }

内容风险标识