ONNX - ONNX Runtime, простой пример.

preview_player
Показать описание
Рекомендации по теме
Комментарии
Автор

хм, у ваших ipynb файлах виглядає так що ви запускали не використовуючи cuda to(device), hugging face трансформери по дефолту раняться на cpu (ніби) тому це якесь трохи дивне порівняння часу

tempdeltavalue