$ piper -m en/amy/en_US-amy-medium.onnx -i example.txt --cuda
2026-07-26 18:54:25.854206077 [W:onnxruntime:, transformer_memcpy.cc:111 ApplyImpl] 28 Memcpy nodes are added to the graph torch_jit for CUDAExecutionProvider. It might have negative impact on performance (including unable to run CUDA graph). Set session_options.log_severity_level=1 to see the detail logs before this message.
2026-07-26 18:54:25.879156117 [W:onnxruntime:, session_state.cc:1387 VerifyEachNodeIsAssignedToAnEp] Some nodes were not assigned to the preferred execution providers which may or may not have an negative impact on performance. e.g. ORT explicitly assigns shape related ops to CPU to improve perf.
2026-07-26 18:54:25.879190887 [W:onnxruntime:, session_state.cc:1389 VerifyEachNodeIsAssignedToAnEp] Rerunning with verbose output on a non-minimal build will show node assignments.
Invalid handle. Cannot load symbol cublasLtGetVersion
Аварийный останов piper -m en/amy/en_US-amy-medium.onnx -i example.txt --cuda
Нагуглил рекомендацию поставить новый onnxruntime-gpu с поддержкой новых cuda и cudnn. pip download "onnxruntime-gpu[cuda,cudnn]" --pre --index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/ort-cuda-13-nightly/pypi/simple/ После этого Philip O’Brien в #python на libera.chat объяснил, что перебирать все версии до января — плохая идея.
В итоге удалось поставить последнюю сборку:
pip download "onnxruntime-gpu[cuda,cudnn]==1.28.0.dev20260722004" --pre --index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/ort-cuda-13-nightly/pypi/simple/ --extra-index-url https://pypi.org/simple/ --dest ./wheels
pip install wheel/*
Но это не помогло.
В чём проблема, что падает?
