Transformers

Commencer

Transformers Installation Démarrage rapide

Classes de base

Modèles

Préprocesseurs

Inférence

API Pipeline

Générer l'API

Optimisation

Discuter avec des modèles

Mise en production

Entraînement

Commencer

Personnalisation

Ajustement fin efficace en termes de paramètres

Performance

Entraînement distribué

Matériel

Quantification

Aperçu Concepts de quantification Choisir une méthode

Quantifier lors du chargement

Charger des points de contrôle pré-quantifiés

Optimum Contribuer une méthode de quantification

Intégrations à l'écosystème

Ressources

API

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.1).

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

Optimum

Optimum est une bibliothèque d'optimisation qui prend en charge la quantification pour Intel, Furiosa, ONNX Runtime, GPTQ, ainsi que les fonctions de quantification PyTorch de bas niveau. Elle est conçue pour améliorer les performances sur des matériels spécifiques - CPU/HPU Intel, GPU AMD, NPU Furiosa, etc. - et des accélérateurs de modèles tels qu'ONNX Runtime.

Update on GitHub

←VPTQ Contribuer une méthode de quantification→