Hugging Face Blog·· 25 дн назадГлавноеОценка AI75
PyTorch 2.15 добавляет поддержку MPS и FP8
MPS in PyTorch 2.15
Кратко от AI
В PyTorch 2.15 добавлена поддержка FP8 для Mac, что позволяет экономить память и ускоряет декодирование языковых моделей на 5–6.5 раз. Также обновлены требования。
Почему это важно
Обновление PyTorch 2.15 улучшает производительность на Mac, добавляя поддержку FP8 и ускоряя декодирование языковых моделей.
Источник:Hugging Face Blog · huggingface.co