Transformers documentation

Lớp Auto

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Lớp Auto

Trong nhiều trường hợp, kiến trúc cần sử dụng có thể được suy ra từ tên hoặc đường dẫn của mô hình được huấn luyện trước mà bạn cung cấp cho phương thức from_pretrained(). Việc khởi tạo AutoConfig, AutoModel hoặc AutoTokenizer sẽ tự động tạo ra lớp kiến trúc phù hợp. Ví dụ:

model = AutoModel.from_pretrained("google-bert/bert-base-cased", device_map="auto")

Điều này tạo ra một instance mô hình của BertModel.

Mỗi tác vụ có một lớp AutoModel tương ứng.

Mở rộng các Lớp Tự động

Mỗi lớp auto cung cấp một phương thức cho phép mở rộng bằng các lớp tùy chỉnh. Ví dụ, nếu bạn định nghĩa một lớp model tùy chỉnh NewModel, hãy đảm bảo rằng bạn cũng định nghĩa một NewModelConfig tương ứng. Sau đó, bạn có thể đăng ký chúng với các lớp auto như minh họa bên dưới:

from transformers import AutoConfig, AutoModel


AutoConfig.register("new-model", NewModelConfig)
AutoModel.register(NewModelConfig, NewModel)

Sau đó, bạn có thể sử dụng các lớp auto như bình thường.

Nếu NewModelConfig của bạn là một lớp con của PreTrainedConfig, hãy đảm bảo thuộc tính model_type của nó được đặt thành cùng một khóa bạn sử dụng khi đăng ký cấu hình (ở đây là "new-model").

Tương tự, nếu NewModel của bạn là một lớp con của PreTrainedModel, hãy đảm bảo thuộc tính config_class của nó được đặt thành cùng một lớp mà bạn sử dụng khi đăng ký mô hình (ở đây là NewModelConfig).

AutoConfig

lớp transformers.AutoConfig

< >

( )

Đây là một lớp cấu hình chung sẽ được khởi tạo thành một trong các lớp cấu hình của thư viện khi được tạo bằng phương thức lớp from_pretrained().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_pretrained

< >

( pretrained_model_name_or_path: str | os.PathLike[str]**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một cấu hình model được huấn luyện trước được lưu trữ trong một kho model trên huggingface.co.
    • Đường dẫn đến thư mục chứa tệp cấu hình được lưu bằng phương thức save_pretrained(), hoặc phương thức save_pretrained(), ví dụ: ./my_model_directory/.
    • đường dẫn đến tệp JSON cấu hình đã lưu tệp, ví dụ: ./my_model_directory/configuration.json.
  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • return_unused_kwargs (bool, tùy chọn, mặc định là False) — Nếu False, thì hàm này chỉ trả về đối tượng cấu hình cuối cùng.

    Nếu True, thì hàm này trả về một Tuple(config, unused_kwargs) trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính cấu hình: tức là phần của kwargs chưa được sử dụng để cập nhật config và bị bỏ qua trong mọi trường hợp khác.

  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • kwargs(additional keyword arguments, optional) — The values in kwargs of any keys which are configuration attributes will be used to override the loaded values. Behavior concerning key/value pairs whose keys are not configuration attributes is controlled by the return_unused_kwargs keyword parameter.

Khởi tạo một trong các lớp cấu hình của thư viện từ cấu hình của một mô hình được huấn luyện trước.

Lớp cấu hình cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config được nạp, hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Ví dụ:

>>> from transformers import AutoConfig

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-uncased")

>>> # Download configuration from huggingface.co (user-uploaded) and cache.
>>> config = AutoConfig.from_pretrained("dbmdz/bert-base-german-cased")

>>> # If configuration file is in a directory (e.g., was saved using *save_pretrained('./test/saved_model/')*).
>>> config = AutoConfig.from_pretrained("./test/bert_saved_model/")

>>> # Load a specific configuration file.
>>> config = AutoConfig.from_pretrained("./test/bert_saved_model/my_configuration.json")

>>> # Change some config attributes when loading a pretrained config.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-uncased", output_attentions=True, foo=False)
>>> config.output_attentions
True

>>> config, unused_kwargs = AutoConfig.from_pretrained(
...     "google-bert/bert-base-uncased", output_attentions=True, foo=False, return_unused_kwargs=True
... )
>>> config.output_attentions
True

>>> unused_kwargs
{'foo': False}

đăng ký

< >

( model_typeconfigexist_ok = False )

Tham số

  • model_type (str) — Kiểu mô hình, ví dụ “bert” hoặc “gpt”.
  • config (PreTrainedConfig) — Cấu hình cần đăng ký.

Đăng ký một cấu hình mới cho lớp này.

AutoTokenizer

lớp transformers.AutoTokenizer

< >

( )

Đây là một lớp tokenizer tổng quát sẽ được khởi tạo thành một trong các lớp tokenizer của thư viện khi được tạo bằng phương thức lớp AutoTokenizer.from_pretrained().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_pretrained

< >

( pretrained_model_name_or_path*inputs**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một tokenizer có sẵn được lưu trữ trong một kho model trên huggingface.co.
    • Đường dẫn đến thư mục chứa các tệp từ vựng cần thiết cho tokenizer, ví dụ được lưu bằng phương thức save_pretrained(), chẳng hạn ./my_model_directory/.
    • đường dẫn đến một tệp từ vựng đã lưu duy nhất nếu và chỉ nếu bộ phân từ chỉ yêu cầu một tệp từ vựng duy nhất (như Bert hoặc XLNet), ví dụ: ./my_model_directory/vocab.txt. (Không áp dụng cho tất cả các lớp dẫn xuất)
  • inputs (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của Tokenizer.
  • config (PreTrainedConfig, optional) — Đối tượng cấu hình được sử dụng để xác định lớp tokenizer cần khởi tạo.
  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • subfolder (str, tùy chọn) — Trong trường hợp các tệp liên quan nằm trong một thư mục con của kho mô hình trên huggingface.co (ví dụ với facebook/rag-token-base), hãy chỉ định nó tại đây.
  • tokenizer_type (str, tùy chọn) — Loại tokenizer cần tải.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • kwargs (các đối số từ khóa bổ sung, tùy chọn) — Sẽ được truyền vào phương thức __init__() của Tokenizer. Có thể được sử dụng để đặt các token đặc biệt như bos_token, eos_token, unk_token, sep_token, pad_token, cls_token, mask_token, additional_special_tokens. Xem các tham số trong __init__() để biết thêm chi tiết.

Khởi tạo một trong các lớp tokenizer của thư viện từ từ vựng của một mô hình được huấn luyện trước.

Lớp tokenizer cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Ví dụ:

>>> from transformers import AutoTokenizer

>>> # Download vocabulary from huggingface.co and cache.
>>> tokenizer = AutoTokenizer.from_pretrained("google-bert/bert-base-uncased")

>>> # Download vocabulary from huggingface.co (user-uploaded) and cache.
>>> tokenizer = AutoTokenizer.from_pretrained("dbmdz/bert-base-german-cased")

>>> # If vocabulary files are in a directory (e.g. tokenizer was saved using *save_pretrained('./test/saved_model/')*)
>>> # tokenizer = AutoTokenizer.from_pretrained("./test/bert_saved_model/")

>>> # Download vocabulary from huggingface.co and define model-specific arguments
>>> tokenizer = AutoTokenizer.from_pretrained("FacebookAI/roberta-base", add_prefix_space=True)

đăng ký

< >

( config_classtokenizer_class = Noneslow_tokenizer_class = Nonefast_tokenizer_class = Noneexist_ok = False )

Tham số

  • config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
  • tokenizer_class — Lớp tokenizer cần đăng ký (V5 - tham số được ưu tiên).
  • slow_tokenizer_class — (Đã ngừng hỗ trợ) Tokenizer chậm cần đăng ký.
  • fast_tokenizer_class — (Đã ngừng hỗ trợ) Fast tokenizer cần đăng ký.

Đăng ký một tokenizer mới trong ánh xạ này.

AutoFeatureExtractor

lớp transformers.AutoFeatureExtractor

< >

( )

Đây là một lớp trích xuất đặc trưng tổng quát sẽ được khởi tạo thành một trong các lớp trích xuất đặc trưng của thư viện khi được tạo bằng phương thức lớp AutoFeatureExtractor.from_pretrained().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_pretrained

< >

( pretrained_model_name_or_path**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Đây có thể là:
    • một chuỗi, model id của một feature_extractor được huấn luyện trước lưu trữ trong một kho model trên huggingface.co.
    • đường dẫn đến một thư mục chứa tệp feature extractor được lưu bằng phương thức save_pretrained(), ví dụ: ./my_model_directory/.
    • đường dẫn đến tệp JSON bộ trích xuất đặc trưng đã lưu tệp, ví dụ: ./my_model_directory/preprocessor_config.json.
  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà trình trích xuất đặc trưng của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc (tải lại) các tệp feature extractor và ghi đè lên các phiên bản được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • token (str hoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. Nếu True, sẽ sử dụng token được tạo ra khi chạy hf auth login (được lưu trong ~/.huggingface).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • return_unused_kwargs (bool, tùy chọn, mặc định là False) — Nếu False, hàm này chỉ trả về đối tượng feature extractor cuối cùng. Nếu True, hàm này trả về một Tuple(feature_extractor, unused_kwargs) trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của feature extractor: tức là phần của kwargs chưa được dùng để cập nhật feature_extractor và bị bỏ qua.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • kwargs (dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của feature extractor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của feature extractor được kiểm soát bởi tham số từ khóa return_unused_kwargs.

Khởi tạo một trong các lớp feature extractor của thư viện từ từ điển của một mô hình được huấn luyện trước.

Lớp feature extractor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này thiếu, bằng cách chuyển sang sử dụng khớp mẫu trên pretrained_model_name_or_path:

Việc truyền token=True là bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.

Ví dụ:

>>> from transformers import AutoFeatureExtractor

>>> # Download feature extractor from huggingface.co and cache.
>>> feature_extractor = AutoFeatureExtractor.from_pretrained("facebook/wav2vec2-base-960h")

>>> # If feature extractor files are in a directory (e.g. feature extractor was saved using *save_pretrained('./test/saved_model/')*)
>>> # feature_extractor = AutoFeatureExtractor.from_pretrained("./test/saved_model/")

đăng ký

< >

( config_classfeature_extractor_classexist_ok = False )

Tham số

  • config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
  • feature_extractor_class (FeatureExtractorMixin) — Bộ trích xuất đặc trưng cần đăng ký.

Đăng ký một bộ trích xuất đặc trưng mới cho lớp này.

AutoImageProcessor

lớp transformers.AutoImageProcessor

< >

( )

Đây là một lớp xử lý ảnh tổng quát sẽ được khởi tạo thành một trong các lớp xử lý ảnh của thư viện khi được tạo bằng phương thức lớp AutoImageProcessor.from_pretrained().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_pretrained

< >

( pretrained_model_name_or_path*inputs**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Đây có thể là:
    • một chuỗi, model id của một image_processor được huấn luyện trước, được lưu trữ trong một kho model trên huggingface.co.
    • đường dẫn đến một thư mục chứa tệp image processor được lưu bằng phương thức save_pretrained(), ví dụ: ./my_model_directory/.
    • đường dẫn đến tệp JSON của bộ xử lý ảnh đã lưu file, ví dụ: ./my_model_directory/preprocessor_config.json.
  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà bộ xử lý ảnh của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc (tải lại) các tệp bộ xử lý ảnh và ghi đè lên các phiên bản được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • token (str hoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. Nếu True, sẽ sử dụng token được tạo ra khi chạy hf auth login (được lưu trong ~/.huggingface).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • use_fast (bool, tùy chọn, mặc định là False) — Đã ngừng hỗ trợ: Hãy dùng backend="torchvision" thay thế. Tham số này được giữ lại để đảm bảo tương thích ngược. Sử dụng bộ xử lý ảnh nhanh dựa trên torchvision nếu được hỗ trợ cho một mô hình cụ thể. Nếu không có bộ xử lý ảnh nhanh cho một mô hình cụ thể, một bộ xử lý ảnh thông thường dựa trên numpy sẽ được trả về thay thế.
  • backend (str, tùy chọn, mặc định là None) — Backend được sử dụng để xử lý ảnh. Có thể là:
    • None: Tự động chọn backend tốt nhất có sẵn (torchvision nếu có, nếu không thì pil)
    • "torchvision": Sử dụng backend Torchvision (tăng tốc bằng GPU, nhanh hơn)
    • "pil": Sử dụng backend PIL (dễ di chuyển, chỉ CPU)
    • Bất kỳ tên backend tùy chỉnh nào được đăng ký thông qua phương thức register()
  • return_unused_kwargs (bool, tùy chọn, mặc định là False) — Nếu False, hàm này chỉ trả về đối tượng image processor cuối cùng. Nếu True, hàm này trả về một Tuple(image_processor, unused_kwargs) trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của image processor: tức là phần của kwargs chưa được dùng để cập nhật image_processor và bị bỏ qua.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • image_processor_filename (str, tùy chọn, mặc định là "config.json") — Tên tệp trong thư mục mô hình được sử dụng cho cấu hình bộ xử lý ảnh.
  • kwargs (dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của image processor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của image processor được điều khiển bởi tham số từ khóa return_unused_kwargs.

Khởi tạo một trong các lớp image processor của thư viện từ từ điển của một mô hình được huấn luyện trước.

Lớp image processor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này thiếu, bằng cách chuyển sang sử dụng khớp mẫu trên pretrained_model_name_or_path:

  • aimv2 — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình Aimv2Config)
  • aimv2_vision_model — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình Aimv2VisionConfig)
  • align — {'torchvision': 'EfficientNetImageProcessor', 'pil': 'EfficientNetImageProcessorPil'} (mô hình AlignConfig)
  • altclip — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình AltCLIPConfig)
  • aria — {'pil': 'AriaImageProcessorPil', 'torchvision': 'AriaImageProcessor'} (mô hình AriaConfig)
  • aya_vision — {'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'} (mô hình AyaVisionConfig)
  • beit — {'pil': 'BeitImageProcessorPil', 'torchvision': 'BeitImageProcessor'} (mô hình BeitConfig)
  • bit — {'pil': 'BitImageProcessorPil', 'torchvision': 'BitImageProcessor'} (mô hình BitConfig)
  • blip — {'pil': 'BlipImageProcessorPil', 'torchvision': 'BlipImageProcessor'} (mô hình BlipConfig)
  • blip-2 — {'torchvision': 'BlipImageProcessor', 'pil': 'BlipImageProcessorPil'} (mô hình Blip2Config)
  • bridgetower — {'pil': 'BridgeTowerImageProcessorPil', 'torchvision': 'BridgeTowerImageProcessor'} (mô hình BridgeTowerConfig)
  • chameleon — {'pil': 'ChameleonImageProcessorPil', 'torchvision': 'ChameleonImageProcessor'} (mô hình ChameleonConfig)
  • chinese_clip — {'pil': 'ChineseCLIPImageProcessorPil', 'torchvision': 'ChineseCLIPImageProcessor'} (mô hình ChineseCLIPConfig)
  • chmv2 — {'torchvision': 'CHMv2ImageProcessor'} (mô hình CHMv2Config)
  • clip — {'pil': 'CLIPImageProcessorPil', 'torchvision': 'CLIPImageProcessor'} (mô hình CLIPConfig)
  • clipseg — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình CLIPSegConfig)
  • cohere2_vision — {'torchvision': 'Cohere2VisionImageProcessor'} (mô hình Cohere2VisionConfig)
  • cohere_compass — {'pil': 'CohereCompassImageProcessorPil', 'torchvision': 'CohereCompassImageProcessor'} (mô hình CohereCompassConfig)
  • colpali — {'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'} (mô hình ColPaliConfig)
  • colqwen2 — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình ColQwen2Config)
  • conditional_detr — {'pil': 'ConditionalDetrImageProcessorPil', 'torchvision': 'ConditionalDetrImageProcessor'} (mô hình ConditionalDetrConfig)
  • convnext — {'pil': 'ConvNextImageProcessorPil', 'torchvision': 'ConvNextImageProcessor'} (mô hình ConvNextConfig)
  • convnextv2 — {'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'} (mô hình ConvNextV2Config)
  • cosmos3_edge — {'pil': 'Cosmos3EdgeImageProcessorPil', 'torchvision': 'Cosmos3EdgeImageProcessor'} (mô hình Cosmos3EdgeConfig)
  • cosmos3_omni — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Cosmos3OmniConfig)
  • cvt — {'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'} (mô hình CvtConfig)
  • data2vec-vision — {'torchvision': 'BeitImageProcessor', 'pil': 'BeitImageProcessorPil'} (mô hình Data2VecVisionConfig)
  • deepseek_ocr2 — {'pil': 'DeepseekOcr2ImageProcessorPil', 'torchvision': 'DeepseekOcr2ImageProcessor'} (mô hình DeepseekOcr2Config)
  • deepseek_vl — {'pil': 'DeepseekVLImageProcessorPil', 'torchvision': 'DeepseekVLImageProcessor'} (mô hình DeepseekVLConfig)
  • deepseek_vl_hybrid — {'pil': 'DeepseekVLHybridImageProcessorPil', 'torchvision': 'DeepseekVLHybridImageProcessor'} (mô hình DeepseekVLHybridConfig)
  • deformable_detr — {'pil': 'DeformableDetrImageProcessorPil', 'torchvision': 'DeformableDetrImageProcessor'} (mô hình DeformableDetrConfig)
  • deimv2 — {'torchvision': 'RTDetrImageProcessor', 'pil': 'RTDetrImageProcessorPil'} (mô hình Deimv2Config)
  • deit — {'pil': 'DeiTImageProcessorPil', 'torchvision': 'DeiTImageProcessor'} (mô hình DeiTConfig)
  • depth_anything — {'torchvision': 'DPTImageProcessor', 'pil': 'DPTImageProcessorPil'} (mô hình DepthAnythingConfig)
  • depth_pro — {'torchvision': 'DepthProImageProcessor'} (mô hình DepthProConfig)
  • detr — {'pil': 'DetrImageProcessorPil', 'torchvision': 'DetrImageProcessor'} (mô hình DetrConfig)
  • dinat — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình DinatConfig)
  • dinov2 — {'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'} (mô hình Dinov2Config)
  • dinov3_vit — {'torchvision': 'DINOv3ViTImageProcessor'} (mô hình DINOv3ViTConfig)
  • donut-swin — {'torchvision': 'DonutImageProcessor', 'pil': 'DonutImageProcessorPil'} (mô hình DonutSwinConfig)
  • dots3_note — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Dots3NoteConfig)
  • dpt — {'pil': 'DPTImageProcessorPil', 'torchvision': 'DPTImageProcessor'} (mô hình DPTConfig)
  • edgetam — {'torchvision': 'Sam2ImageProcessor'} (mô hình EdgeTamConfig)
  • efficientloftr — {'pil': 'EfficientLoFTRImageProcessorPil', 'torchvision': 'EfficientLoFTRImageProcessor'} (mô hình EfficientLoFTRConfig)
  • efficientnet — {'pil': 'EfficientNetImageProcessorPil', 'torchvision': 'EfficientNetImageProcessor'} (mô hình EfficientNetConfig)
  • embedding_gemma2 — {'pil': 'Gemma4ImageProcessorPil', 'torchvision': 'Gemma4ImageProcessor'} (mô hình EmbeddingGemma2Config)
  • emu3 — {'pil': 'Emu3ImageProcessor'} (mô hình Emu3Config)
  • eomt — {'pil': 'EomtImageProcessorPil', 'torchvision': 'EomtImageProcessor'} (mô hình EomtConfig)
  • eomt_dinov3 — {'torchvision': 'EomtImageProcessor', 'pil': 'EomtImageProcessorPil'} (mô hình EomtDinov3Config)
  • ernie4_5_vl_moe — {'pil': 'Ernie4_5_VLMoeImageProcessorPil', 'torchvision': 'Ernie4_5_VLMoeImageProcessor'} (mô hình Ernie4_5_VLMoeConfig)
  • exaone4_5 — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Exaone4_5_Config)
  • flava — {'pil': 'FlavaImageProcessorPil', 'torchvision': 'FlavaImageProcessor'} (mô hình FlavaConfig)
  • florence2 — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình Florence2Config)
  • focalnet — {'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'} (mô hình FocalNetConfig)
  • fuyu — {'pil': 'FuyuImageProcessorPil', 'torchvision': 'FuyuImageProcessor'} (mô hình FuyuConfig)
  • gemma3 — {'pil': 'Gemma3ImageProcessorPil', 'torchvision': 'Gemma3ImageProcessor'} (mô hình Gemma3Config)
  • gemma3n — {'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'} (mô hình Gemma3nConfig)
  • gemma4 — {'pil': 'Gemma4ImageProcessorPil', 'torchvision': 'Gemma4ImageProcessor'} (mô hình Gemma4Config)
  • gemma4_unified — {'torchvision': 'Gemma4UnifiedImageProcessor'} (mô hình Gemma4UnifiedConfig)
  • git — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình GitConfig)
  • glm46v — {'pil': 'Glm46VImageProcessorPil', 'torchvision': 'Glm46VImageProcessor'} (mô hình Glm46VConfig)
  • glm4v — {'pil': 'Glm4vImageProcessorPil', 'torchvision': 'Glm4vImageProcessor'} (mô hình Glm4vConfig)
  • glm5_next — {'pil': 'Glm5NextImageProcessorPil', 'torchvision': 'Glm5NextImageProcessor'} (mô hình Glm5NextConfig)
  • glm_image — {'pil': 'GlmImageImageProcessorPil', 'torchvision': 'GlmImageImageProcessor'} (mô hình GlmImageConfig)
  • glmga — {'pil': 'GlmgaImageProcessorPil', 'torchvision': 'GlmgaImageProcessor'} (mô hình GlmgaConfig)
  • glpn — {'pil': 'GLPNImageProcessorPil', 'torchvision': 'GLPNImageProcessor'} (mô hình GLPNConfig)
  • got_ocr2 — {'pil': 'GotOcr2ImageProcessorPil', 'torchvision': 'GotOcr2ImageProcessor'} (mô hình GotOcr2Config)
  • granite4_vision — {'torchvision': 'LlavaNextImageProcessor', 'pil': 'LlavaNextImageProcessorPil'} (mô hình Granite4VisionConfig)
  • granite_docling — {'pil': 'GraniteDoclingImageProcessorPil', 'torchvision': 'GraniteDoclingImageProcessor'} (mô hình GraniteDoclingConfig)
  • grounding-dino — {'pil': 'GroundingDinoImageProcessorPil', 'torchvision': 'GroundingDinoImageProcessor'} (mô hình GroundingDinoConfig)
  • groupvit — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình GroupViTConfig)
  • hiera — {'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'} (mô hình HieraConfig)
  • hunyuan_vl — {'pil': 'HunYuanVLImageProcessorPil', 'torchvision': 'HunYuanVLImageProcessor'} (mô hình HunYuanVLConfig)
  • hyperclovax_vision_v2 — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình HyperCLOVAXVisionV2Config)
  • idefics — {'pil': 'IdeficsImageProcessorPil', 'torchvision': 'IdeficsImageProcessor'} (mô hình IdeficsConfig)
  • idefics2 — {'pil': 'Idefics2ImageProcessorPil', 'torchvision': 'Idefics2ImageProcessor'} (mô hình Idefics2Config)
  • idefics3 — {'pil': 'Idefics3ImageProcessorPil', 'torchvision': 'Idefics3ImageProcessor'} (mô hình Idefics3Config)
  • ijepa — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình IJepaConfig)
  • imagegpt — {'pil': 'ImageGPTImageProcessorPil', 'torchvision': 'ImageGPTImageProcessor'} (mô hình ImageGPTConfig)
  • inkling2 — {'torchvision': 'Inkling2ImageProcessor'} (mô hình Inkling2Config)
  • inkling_mm_model — {'torchvision': 'InklingImageProcessor'} (mô hình InklingConfig)
  • instructblip — {'torchvision': 'BlipImageProcessor', 'pil': 'BlipImageProcessorPil'} (mô hình InstructBlipConfig)
  • internvl — {'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'} (mô hình InternVLConfig)
  • janus — {'pil': 'JanusImageProcessorPil', 'torchvision': 'JanusImageProcessor'} (mô hình JanusConfig)
  • kimi_k25 — {'torchvision': 'Kimi_K25ImageProcessor'} (mô hình Kimi_K25Config)
  • kosmos-2 — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình Kosmos2Config)
  • kosmos-2.5 — {'torchvision': 'Kosmos2_5ImageProcessor', 'pil': 'Kosmos2_5ImageProcessorPil'} (mô hình Kosmos2_5Config)
  • layoutlmv2 — {'pil': 'LayoutLMv2ImageProcessorPil', 'torchvision': 'LayoutLMv2ImageProcessor'} (mô hình LayoutLMv2Config)
  • layoutlmv3 — {'pil': 'LayoutLMv3ImageProcessorPil', 'torchvision': 'LayoutLMv3ImageProcessor'} (mô hình LayoutLMv3Config)
  • layoutxlm — {'torchvision': 'LayoutLMv2ImageProcessor', 'pil': 'LayoutLMv2ImageProcessorPil'} (mô hình LayoutXLMConfig)
  • levit — {'pil': 'LevitImageProcessorPil', 'torchvision': 'LevitImageProcessor'} (mô hình LevitConfig)
  • lfm2_vl — {'torchvision': 'Lfm2VlImageProcessor'} (mô hình Lfm2VlConfig)
  • lfm3_vl — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Lfm3VlConfig)
  • lightglue — {'pil': 'LightGlueImageProcessorPil', 'torchvision': 'LightGlueImageProcessor'} (mô hình LightGlueConfig)
  • lighton_ocr — {'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'} (mô hình LightOnOcrConfig)
  • llama4 — {'torchvision': 'Llama4ImageProcessor'} (mô hình Llama4Config)
  • llava — {'pil': 'LlavaImageProcessorPil', 'torchvision': 'LlavaImageProcessor'} (mô hình LlavaConfig)
  • llava_next — {'pil': 'LlavaNextImageProcessorPil', 'torchvision': 'LlavaNextImageProcessor'} (mô hình LlavaNextConfig)
  • llava_next_video — {'torchvision': 'LlavaNextImageProcessor', 'pil': 'LlavaNextImageProcessorPil'} (mô hình LlavaNextVideoConfig)
  • llava_onevision — {'pil': 'LlavaOnevisionImageProcessorPil', 'torchvision': 'LlavaOnevisionImageProcessor'} (mô hình LlavaOnevisionConfig)
  • lw_detr — {'torchvision': 'DeformableDetrImageProcessor', 'pil': 'DeformableDetrImageProcessorPil'} (mô hình LwDetrConfig)
  • mask2former — {'pil': 'Mask2FormerImageProcessorPil', 'torchvision': 'Mask2FormerImageProcessor'} (mô hình Mask2FormerConfig)
  • maskformer — {'pil': 'MaskFormerImageProcessorPil', 'torchvision': 'MaskFormerImageProcessor'} (mô hình MaskFormerConfig)
  • metaclip_2 — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình MetaClip2Config)
  • mgp-str — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình MgpstrConfig)
  • minicpm_ocr — {'torchvision': 'MiniCPMOcrImageProcessor'} (mô hình MiniCPMOcrConfig)
  • minicpmv4_6 — {'pil': 'MiniCPMV4_6ImageProcessorPil', 'torchvision': 'MiniCPMV4_6ImageProcessor'} (mô hình MiniCPMV4_6Config)
  • minicpmv4_7 — {'pil': 'MiniCPMV4_6ImageProcessorPil', 'torchvision': 'MiniCPMV4_6ImageProcessor'} (mô hình MiniCPMV4_7Config)
  • minimax_m3_vl — {'torchvision': 'MiniMaxM3VLImageProcessor'} (mô hình MiniMaxM3VLConfig)
  • mistral3 — {'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'} (mô hình Mistral3Config)
  • mistral_large4 — {'torchvision': 'PixtralImageProcessor', 'pil': 'PixtralImageProcessorPil'} (mô hình MistralLarge4Config)
  • mlcd — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình MLCDVisionConfig)
  • mllama — {'pil': 'MllamaImageProcessorPil', 'torchvision': 'MllamaImageProcessor'} (mô hình MllamaConfig)
  • mm-grounding-dino — {'torchvision': 'GroundingDinoImageProcessor', 'pil': 'GroundingDinoImageProcessorPil'} (mô hình MMGroundingDinoConfig)
  • mobilenet_v1 — {'pil': 'MobileNetV1ImageProcessorPil', 'torchvision': 'MobileNetV1ImageProcessor'} (mô hình MobileNetV1Config)
  • mobilenet_v2 — {'pil': 'MobileNetV2ImageProcessorPil', 'torchvision': 'MobileNetV2ImageProcessor'} (mô hình MobileNetV2Config)
  • mobilevit — {'pil': 'MobileViTImageProcessorPil', 'torchvision': 'MobileViTImageProcessor'} (mô hình MobileViTConfig)
  • mobilevitv2 — {'torchvision': 'MobileViTImageProcessor', 'pil': 'MobileViTImageProcessorPil'} (mô hình MobileViTV2Config)
  • molmo2 — {'torchvision': 'Molmo2ImageProcessor'} (mô hình Molmo2Config)
  • muse_glimmer — {'torchvision': 'MuseGlimmerImageProcessor'} (mô hình MuseGlimmerConfig)
  • muse_spark — {'torchvision': 'MuseGlimmerImageProcessor'} (mô hình MuseSparkConfig)
  • nemotron_h_omni — {'torchvision': 'NemotronH_Omni_Reasoning_V3ImageProcessor'} (mô hình NemotronH_Omni_Reasoning_V3_Config)
  • neomme — {'torchvision': 'NeoMMEImageProcessor'} (mô hình NeoMMEConfig)
  • nougat — {'pil': 'NougatImageProcessorPil', 'torchvision': 'NougatImageProcessor'} (mô hình NougatConfig)
  • omdet-turbo — {'torchvision': 'DetrImageProcessor', 'pil': 'DetrImageProcessorPil'} (mô hình OmDetTurboConfig)
  • oneformer — {'pil': 'OneFormerImageProcessorPil', 'torchvision': 'OneFormerImageProcessor'} (mô hình OneFormerConfig)
  • ovis2 — {'pil': 'Ovis2ImageProcessorPil', 'torchvision': 'Ovis2ImageProcessor'} (mô hình Ovis2Config)
  • owlv2 — {'pil': 'Owlv2ImageProcessorPil', 'torchvision': 'Owlv2ImageProcessor'} (mô hình Owlv2Config)
  • owlvit — {'pil': 'OwlViTImageProcessorPil', 'torchvision': 'OwlViTImageProcessor'} (mô hình OwlViTConfig)
  • paddleocr_vl — {'pil': 'PaddleOCRVLImageProcessorPil', 'torchvision': 'PaddleOCRVLImageProcessor'} (mô hình PaddleOCRVLConfig)
  • paligemma — {'torchvision': 'SiglipImageProcessor', 'pil': 'SiglipImageProcessorPil'} (mô hình PaliGemmaConfig)
  • perceiver — {'pil': 'PerceiverImageProcessorPil', 'torchvision': 'PerceiverImageProcessor'} (mô hình PerceiverConfig)
  • perception_lm — {'torchvision': 'PerceptionLMImageProcessor'} (mô hình PerceptionLMConfig)
  • phi4_multimodal — {'torchvision': 'Phi4MultimodalImageProcessor'} (mô hình Phi4MultimodalConfig)
  • pi0 — {'torchvision': 'PI0ImageProcessor'} (mô hình PI0Config)
  • pix2struct — {'pil': 'Pix2StructImageProcessorPil', 'torchvision': 'Pix2StructImageProcessor'} (mô hình Pix2StructConfig)
  • pixio — {'torchvision': 'BitImageProcessor', 'pil': 'BitImageProcessorPil'} (mô hình PixioConfig)
  • pixtral — {'pil': 'PixtralImageProcessorPil', 'torchvision': 'PixtralImageProcessor'} (mô hình PixtralVisionConfig)
  • poolformer — {'pil': 'PoolFormerImageProcessorPil', 'torchvision': 'PoolFormerImageProcessor'} (mô hình PoolFormerConfig)
  • pp_chart2table — {'pil': 'PPChart2TableImageProcessorPil', 'torchvision': 'PPChart2TableImageProcessor'} (mô hình PPChart2TableConfig)
  • pp_doclayout_v2 — {'torchvision': 'PPDocLayoutV2ImageProcessor'} (mô hình PPDocLayoutV2Config)
  • pp_doclayout_v3 — {'torchvision': 'PPDocLayoutV3ImageProcessor'} (mô hình PPDocLayoutV3Config)
  • pp_doclayout_v4 — {'torchvision': 'PPDocLayoutV4ImageProcessor'} (mô hình PPDocLayoutV4Config)
  • pp_formulanet — {'torchvision': 'PPFormulaNetImageProcessor'} (mô hình PPFormulaNetConfig)
  • pp_lcnet — {'torchvision': 'PPLCNetImageProcessor'} (mô hình PPLCNetConfig)
  • pp_ocrv5_mobile_det — {'torchvision': 'PPOCRV5ServerDetImageProcessor'} (mô hình PPOCRV5MobileDetConfig)
  • pp_ocrv5_mobile_rec — {'torchvision': 'PPOCRV5ServerRecImageProcessor'} (mô hình PPOCRV5MobileRecConfig)
  • pp_ocrv5_server_det — {'torchvision': 'PPOCRV5ServerDetImageProcessor'} (mô hình PPOCRV5ServerDetConfig)
  • pp_ocrv5_server_rec — {'torchvision': 'PPOCRV5ServerRecImageProcessor'} (mô hình PPOCRV5ServerRecConfig)
  • pp_ocrv6_medium_det — {'torchvision': 'PPOCRV5ServerDetImageProcessor'} (mô hình PPOCRV6MediumDetConfig)
  • pp_ocrv6_small_det — {'torchvision': 'PPOCRV5ServerDetImageProcessor'} (mô hình PPOCRV6SmallDetConfig)
  • pp_ocrv6_small_rec — {'torchvision': 'PPOCRV6SmallRecImageProcessor'} (mô hình PPOCRV6SmallRecConfig)
  • pp_ocrv6_tiny_rec — {'torchvision': 'PPOCRV6SmallRecImageProcessor'} (mô hình PPOCRV6TinyRecConfig)
  • prompt_depth_anything — {'pil': 'PromptDepthAnythingImageProcessorPil', 'torchvision': 'PromptDepthAnythingImageProcessor'} (mô hình PromptDepthAnythingConfig)
  • pvt — {'pil': 'PvtImageProcessorPil', 'torchvision': 'PvtImageProcessor'} (mô hình PvtConfig)
  • pvt_v2 — {'torchvision': 'PvtImageProcessor', 'pil': 'PvtImageProcessorPil'} (mô hình PvtV2Config)
  • qianfan_ocr — {'torchvision': 'GotOcr2ImageProcessor', 'pil': 'GotOcr2ImageProcessorPil'} (mô hình QianfanOCRConfig)
  • qwen2_5_omni — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen2_5OmniConfig)
  • qwen2_5_vl — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen2_5_VLConfig)
  • qwen2_vl — {'pil': 'Qwen2VLImageProcessorPil', 'torchvision': 'Qwen2VLImageProcessor'} (mô hình Qwen2VLConfig)
  • qwen3_5 — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen3_5Config)
  • qwen3_5_moe — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen3_5MoeConfig)
  • qwen3_omni_moe — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen3OmniMoeConfig)
  • qwen3_vl — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen3VLConfig)
  • qwen4_exp — {'torchvision': 'Qwen2VLImageProcessor', 'pil': 'Qwen2VLImageProcessorPil'} (mô hình Qwen4ExpConfig)
  • regnet — {'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'} (mô hình RegNetConfig)
  • resnet — {'torchvision': 'ConvNextImageProcessor', 'pil': 'ConvNextImageProcessorPil'} (mô hình ResNetConfig)
  • rf_detr — {'torchvision': 'RfDetrImageProcessor'} (mô hình RfDetrConfig)
  • rt_detr — {'pil': 'RTDetrImageProcessorPil', 'torchvision': 'RTDetrImageProcessor'} (mô hình RTDetrConfig)
  • sam — {'pil': 'SamImageProcessorPil', 'torchvision': 'SamImageProcessor'} (mô hình SamConfig)
  • sam2 — {'torchvision': 'Sam2ImageProcessor'} (mô hình Sam2Config)
  • sam2_video — {'torchvision': 'Sam2ImageProcessor'} (mô hình Sam2VideoConfig)
  • sam3 — {'torchvision': 'Sam3ImageProcessor'} (mô hình Sam3Config)
  • sam3_lite_text — {'torchvision': 'Sam3ImageProcessor'} (mô hình Sam3LiteTextConfig)
  • sam3_tracker — {'torchvision': 'Sam3ImageProcessor'} (mô hình Sam3TrackerConfig)
  • sam3_tracker_video — {'torchvision': 'Sam3ImageProcessor'} (mô hình Sam3TrackerVideoConfig)
  • sam3_video — {'torchvision': 'Sam3ImageProcessor'} (mô hình Sam3VideoConfig)
  • sam_hq — {'torchvision': 'SamImageProcessor', 'pil': 'SamImageProcessorPil'} (mô hình SamHQConfig)
  • sapiens2 — {'torchvision': 'Sapiens2ImageProcessor'} (mô hình Sapiens2Config)
  • segformer — {'pil': 'SegformerImageProcessorPil', 'torchvision': 'SegformerImageProcessor'} (mô hình SegformerConfig)
  • seggpt — {'pil': 'SegGptImageProcessorPil', 'torchvision': 'SegGptImageProcessor'} (mô hình SegGptConfig)
  • shieldgemma2 — {'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'} (mô hình ShieldGemma2Config)
  • siglip — {'pil': 'SiglipImageProcessorPil', 'torchvision': 'SiglipImageProcessor'} (mô hình SiglipConfig)
  • siglip2 — {'pil': 'Siglip2ImageProcessorPil', 'torchvision': 'Siglip2ImageProcessor'} (mô hình Siglip2Config)
  • slanet — {'torchvision': 'SLANeXtImageProcessor'} (mô hình SLANetConfig)
  • slanext — {'torchvision': 'SLANeXtImageProcessor'} (mô hình SLANeXtConfig)
  • smolvlm — {'pil': 'SmolVLMImageProcessorPil', 'torchvision': 'SmolVLMImageProcessor'} (mô hình SmolVLMConfig)
  • step3p7 — {'torchvision': 'Step3p7ImageProcessor'} (mô hình Step3p7Config)
  • superglue — {'pil': 'SuperGlueImageProcessorPil', 'torchvision': 'SuperGlueImageProcessor'} (mô hình SuperGlueConfig)
  • superpoint — {'pil': 'SuperPointImageProcessorPil', 'torchvision': 'SuperPointImageProcessor'} (mô hình SuperPointConfig)
  • swiftformer — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình SwiftFormerConfig)
  • swin — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình SwinConfig)
  • swin2sr — {'pil': 'Swin2SRImageProcessorPil', 'torchvision': 'Swin2SRImageProcessor'} (mô hình Swin2SRConfig)
  • swinv2 — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình Swinv2Config)
  • t5gemma2 — {'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'} (mô hình T5Gemma2Config)
  • t5gemma2_encoder — {'torchvision': 'Gemma3ImageProcessor', 'pil': 'Gemma3ImageProcessorPil'} (mô hình T5Gemma2EncoderConfig)
  • table-transformer — {'torchvision': 'DetrImageProcessor', 'pil': 'DetrImageProcessorPil'} (mô hình TableTransformerConfig)
  • textnet — {'pil': 'TextNetImageProcessorPil', 'torchvision': 'TextNetImageProcessor'} (mô hình TextNetConfig)
  • timesformer — {'pil': 'VideoMAEImageProcessorPil', 'torchvision': 'VideoMAEImageProcessor'} (mô hình TimesformerConfig)
  • timm_wrapper — {'pil': 'TimmWrapperImageProcessor'} (mô hình TimmWrapperConfig)
  • tipsv2 — {'torchvision': 'Tipsv2ImageProcessor'} (mô hình Tipsv2Config)
  • tipsv2_dpt — {'torchvision': 'Tipsv2DptImageProcessor'} (mô hình Tipsv2DptConfig)
  • trocr — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình TrOCRConfig)
  • tvp — {'pil': 'TvpImageProcessorPil', 'torchvision': 'TvpImageProcessor'} (mô hình TvpConfig)
  • udop — {'torchvision': 'LayoutLMv3ImageProcessor', 'pil': 'LayoutLMv3ImageProcessorPil'} (mô hình UdopConfig)
  • ultravbert — {'torchvision': 'UltraVBertImageProcessor'} (mô hình UltraVBertConfig)
  • unlimited_ocr — {'torchvision': 'UnlimitedOcrImageProcessor'} (mô hình UnlimitedOcrConfig)
  • upernet — {'torchvision': 'SegformerImageProcessor', 'pil': 'SegformerImageProcessorPil'} (mô hình UperNetConfig)
  • uvdoc — {'torchvision': 'UVDocImageProcessor'} (mô hình UVDocConfig)
  • video_llama_3 — {'pil': 'VideoLlama3ImageProcessorPil', 'torchvision': 'VideoLlama3ImageProcessor'} (mô hình VideoLlama3Config)
  • video_llava — {'pil': 'VideoLlavaImageProcessor'} (mô hình VideoLlavaConfig)
  • videomae — {'pil': 'VideoMAEImageProcessorPil', 'torchvision': 'VideoMAEImageProcessor'} (mô hình VideoMAEConfig)
  • vilt — {'pil': 'ViltImageProcessorPil', 'torchvision': 'ViltImageProcessor'} (mô hình ViltConfig)
  • vipllava — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình VipLlavaConfig)
  • vit — {'pil': 'ViTImageProcessorPil', 'torchvision': 'ViTImageProcessor'} (mô hình ViTConfig)
  • vit_mae — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình ViTMAEConfig)
  • vit_msn — {'torchvision': 'ViTImageProcessor', 'pil': 'ViTImageProcessorPil'} (mô hình ViTMSNConfig)
  • vitmatte — {'pil': 'VitMatteImageProcessorPil', 'torchvision': 'VitMatteImageProcessor'} (mô hình VitMatteConfig)
  • vitpose — {'pil': 'VitPoseImageProcessorPil', 'torchvision': 'VitPoseImageProcessor'} (mô hình VitPoseConfig)
  • vivit — {'torchvision': 'VivitImageProcessor'} (mô hình VivitConfig)
  • xclip — {'torchvision': 'CLIPImageProcessor', 'pil': 'CLIPImageProcessorPil'} (mô hình XCLIPConfig)
  • yolos — {'pil': 'YolosImageProcessorPil', 'torchvision': 'YolosImageProcessor'} (mô hình YolosConfig)
  • zoedepth — {'pil': 'ZoeDepthImageProcessorPil', 'torchvision': 'ZoeDepthImageProcessor'} (mô hình ZoeDepthConfig)

Việc truyền token=True là bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.

Ví dụ:

>>> from transformers import AutoImageProcessor

>>> # Download image processor from huggingface.co and cache.
>>> image_processor = AutoImageProcessor.from_pretrained("google/vit-base-patch16-224-in21k")

>>> # If image processor files are in a directory (e.g. image processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # image_processor = AutoImageProcessor.from_pretrained("./test/saved_model/")

đăng ký

< >

( config_classslow_image_processor_class: type | None = Nonefast_image_processor_class: type | None = Noneimage_processor_classes: dict[str, type] | None = Noneexist_ok: bool = False )

Tham số

  • config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
  • slow_image_processor_class (type, tùy chọn) — Lớp xử lý ảnh backend PIL (không còn được khuyến khích, hãy dùng image_processor_classes={"pil": ...}).
  • fast_image_processor_class (type, tùy chọn) — Lớp xử lý ảnh của backend Torchvision (đã ngừng hỗ trợ, hãy dùng image_processor_classes={"torchvision": ...}).
  • image_processor_classes (dict[str, type], tuỳ chọn) — Từ điển ánh xạ tên backend đến các lớp image processor. Cho phép đăng ký các backend tùy chỉnh. Ví dụ: {"pil": MyPilProcessor, "torchvision": MyTorchvisionProcessor, "custom": MyCustomProcessor}
  • exist_ok (bool, tùy chọn, mặc định là False) — Nếu True, cho phép ghi đè lên các đăng ký hiện có.

Đăng ký một bộ xử lý ảnh mới cho lớp này.

AutoVideoProcessor

Xem Các backend của Video processor để biết về việc chọn backend, đăng ký tùy chỉnh, cũng như lưu và tải lại.

lớp transformers.AutoVideoProcessor

< >

( )

Đây là lớp video processor tổng quát sẽ được khởi tạo thành một trong các lớp video processor của thư viện khi được tạo bằng phương thức lớp AutoVideoProcessor.from_pretrained().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_pretrained

< >

( pretrained_model_name_or_path*inputs**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Đây có thể là:
    • một chuỗi, model id của một video_processor được huấn luyện trước lưu trữ trong kho model trên huggingface.co.
    • đường dẫn đến một thư mục chứa tệp video processor được lưu bằng phương thức save_pretrained(), ví dụ: ./my_model_directory/.
    • đường dẫn đến tệp JSON của video processor đã lưu file, ví dụ: ./my_model_directory/preprocessor_config.json.
  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà trình xử lý video của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc (tải lại) các tệp video processor và ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • token (str hoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. Nếu True, sẽ sử dụng token được tạo ra khi chạy hf auth login (được lưu trong ~/.huggingface).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • return_unused_kwargs (bool, tùy chọn, mặc định là False) — Nếu False, hàm này chỉ trả về đối tượng video processor cuối cùng. Nếu True, hàm này trả về một Tuple(video_processor, unused_kwargs) trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của video processor: tức là phần của kwargs chưa được dùng để cập nhật video_processor và bị bỏ qua.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • kwargs (dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của video processor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của video processor được điều khiển bởi tham số từ khóa return_unused_kwargs.

Khởi tạo một trong các lớp video processor của thư viện từ từ điển của một mô hình được huấn luyện trước.

Lớp video processor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này thiếu, bằng cách chuyển sang sử dụng khớp mẫu trên pretrained_model_name_or_path:

  • cohere_compass — {'torchvision': 'CohereCompassVideoProcessor'} (mô hình CohereCompassConfig)
  • cosmos3_edge — {'torchvision': 'Cosmos3EdgeVideoProcessor'} (mô hình Cosmos3EdgeConfig)
  • cosmos3_omni — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Cosmos3OmniConfig)
  • dots3_note — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Dots3NoteConfig)
  • embedding_gemma2 — {'torchvision': 'EmbeddingGemma2VideoProcessor'} (mô hình EmbeddingGemma2Config)
  • ernie4_5_vl_moe — {'torchvision': 'Ernie4_5_VLMoeVideoProcessor'} (mô hình Ernie4_5_VLMoeConfig)
  • exaone4_5 — {'torchvision': 'Qwen2VLVideoProcessor'} (mô hình Exaone4_5_Config)
  • gemma4 — {'torchvision': 'Gemma4VideoProcessor'} (mô hình Gemma4Config)
  • gemma4_unified — {'torchvision': 'Gemma4UnifiedVideoProcessor'} (mô hình Gemma4UnifiedConfig)
  • glm46v — {'torchvision': 'Glm46VVideoProcessor'} (mô hình Glm46VConfig)
  • glm4v — {'torchvision': 'Glm4vVideoProcessor'} (mô hình Glm4vConfig)
  • glm5_next — {'torchvision': 'Glm5NextVideoProcessor'} (mô hình Glm5NextConfig)
  • glmga — {'torchvision': 'GlmgaVideoProcessor'} (mô hình GlmgaConfig)
  • hyperclovax_vision_v2 — {'torchvision': 'Qwen2VLVideoProcessor'} (mô hình HyperCLOVAXVisionV2Config)
  • instructblip — {'torchvision': 'InstructBlipVideoVideoProcessor'} (mô hình InstructBlipConfig)
  • instructblipvideo — {'torchvision': 'InstructBlipVideoVideoProcessor'} (mô hình InstructBlipVideoConfig)
  • internvl — {'torchvision': 'InternVLVideoProcessor'} (mô hình InternVLConfig)
  • kimi_k25 — {'torchvision': 'Kimi_K25VideoProcessor'} (mô hình Kimi_K25Config)
  • lfm3_vl — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Lfm3VlConfig)
  • llava_next_video — {'torchvision': 'LlavaNextVideoVideoProcessor'} (mô hình LlavaNextVideoConfig)
  • llava_onevision — {'torchvision': 'LlavaOnevisionVideoProcessor'} (mô hình LlavaOnevisionConfig)
  • minicpm_ocr — {'torchvision': 'MiniCPMOcrVideoProcessor'} (mô hình MiniCPMOcrConfig)
  • minicpmv4_6 — {'torchvision': 'MiniCPMV4_6VideoProcessor'} (mô hình MiniCPMV4_6Config)
  • minicpmv4_7 — {'torchvision': 'MiniCPMV4_6VideoProcessor'} (mô hình MiniCPMV4_7Config)
  • minimax_m3_vl — {'torchvision': 'MiniMaxM3VLVideoProcessor'} (mô hình MiniMaxM3VLConfig)
  • molmo2 — {'torchvision': 'Molmo2VideoProcessor'} (mô hình Molmo2Config)
  • muse_glimmer — {'torchvision': 'MuseGlimmerVideoProcessor'} (mô hình MuseGlimmerConfig)
  • muse_spark — {'torchvision': 'MuseGlimmerVideoProcessor'} (mô hình MuseSparkConfig)
  • nemotron_h_omni — {'torchvision': 'NemotronH_Omni_Reasoning_V3VideoProcessor'} (mô hình NemotronH_Omni_Reasoning_V3_Config)
  • pe_audio_video — {'torchvision': 'PeVideoVideoProcessor'} (mô hình PeAudioVideoConfig)
  • pe_video — {'torchvision': 'PeVideoVideoProcessor'} (mô hình PeVideoConfig)
  • perception_lm — {'torchvision': 'PerceptionLMVideoProcessor'} (mô hình PerceptionLMConfig)
  • qwen2_5_omni — {'torchvision': 'Qwen2VLVideoProcessor'} (mô hình Qwen2_5OmniConfig)
  • qwen2_5_vl — {'torchvision': 'Qwen2VLVideoProcessor'} (mô hình Qwen2_5_VLConfig)
  • qwen2_vl — {'torchvision': 'Qwen2VLVideoProcessor'} (mô hình Qwen2VLConfig)
  • qwen3_5 — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Qwen3_5Config)
  • qwen3_5_moe — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Qwen3_5MoeConfig)
  • qwen3_omni_moe — {'torchvision': 'Qwen2VLVideoProcessor'} (mô hình Qwen3OmniMoeConfig)
  • qwen3_vl — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Qwen3VLConfig)
  • qwen3_vl_moe — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Qwen3VLMoeConfig)
  • qwen4_exp — {'torchvision': 'Qwen3VLVideoProcessor'} (mô hình Qwen4ExpConfig)
  • sam2_video — {'torchvision': 'Sam2VideoVideoProcessor'} (mô hình Sam2VideoConfig)
  • smolvlm — {'torchvision': 'SmolVLMVideoProcessor'} (mô hình SmolVLMConfig)
  • timesformer — {'torchvision': 'TimesformerVideoProcessor'} (mô hình TimesformerConfig)
  • video_llama_3 — {'torchvision': 'VideoLlama3VideoProcessor'} (mô hình VideoLlama3Config)
  • video_llava — {'torchvision': 'VideoLlavaVideoProcessor'} (mô hình VideoLlavaConfig)
  • videomae — {'torchvision': 'VideoMAEVideoProcessor'} (mô hình VideoMAEConfig)
  • videomt — {'torchvision': 'VideomtVideoProcessor'} (mô hình VideomtConfig)
  • videoprism — {'torchvision': 'LlavaOnevisionVideoProcessor'} (mô hình VideoPrismConfig)
  • vivit — {'torchvision': 'VivitVideoProcessor'} (mô hình VivitConfig)
  • vjepa2 — {'torchvision': 'VJEPA2VideoProcessor'} (mô hình VJEPA2Config)

Việc truyền token=True là bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.

Ví dụ:

>>> from transformers import AutoVideoProcessor

>>> # Download video processor from huggingface.co and cache.
>>> video_processor = AutoVideoProcessor.from_pretrained("llava-hf/llava-onevision-qwen2-0.5b-ov-hf")

>>> # If video processor files are in a directory (e.g. video processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # video_processor = AutoVideoProcessor.from_pretrained("./test/saved_model/")

đăng ký

< >

( config_classvideo_processor_class: type | None = Nonevideo_processor_classes: dict[str, type] | None = Noneexist_ok: bool = False )

Tham số

  • config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
  • video_processor_class (BaseVideoProcessor) — Bộ xử lý video cần đăng ký.
  • video_processor_classes (dict[str, type], tuỳ chọn) — Từ điển ánh xạ tên backend đến các lớp video processor. Cho phép đăng ký các backend tùy chỉnh. Ví dụ: {"pil": MyPilVideoProcessor, "torchvision": MyTorchvisionVideoProcessor, "custom": MyCustomVideoProcessor}
  • exist_ok (bool, tùy chọn, mặc định là False) — Nếu True, cho phép ghi đè lên các đăng ký hiện có.

Đăng ký một trình xử lý video mới cho lớp này.

AutoProcessor

lớp transformers.AutoProcessor

< >

( )

Đây là một lớp processor tổng quát sẽ được khởi tạo thành một trong các lớp processor của thư viện khi được tạo bằng phương thức lớp AutoProcessor.from_pretrained().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_pretrained

< >

( pretrained_model_name_or_path**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Đây có thể là:
    • một chuỗi, model id của một feature_extractor được huấn luyện trước lưu trữ trong một kho model trên huggingface.co.
    • đường dẫn đến một thư mục chứa các tệp processor được lưu bằng phương thức save_pretrained(), ví dụ: ./my_model_directory/.
  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà trình trích xuất đặc trưng của mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm, nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc (tải lại) các tệp feature extractor và ghi đè lên các phiên bản được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • token (str hoặc bool, tùy chọn) — Token được sử dụng làm HTTP bearer authorization cho các tệp từ xa. Nếu True, sẽ sử dụng token được tạo ra khi chạy hf auth login (được lưu trong ~/.huggingface).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • return_unused_kwargs (bool, tùy chọn, mặc định là False) — Nếu False, hàm này chỉ trả về đối tượng feature extractor cuối cùng. Nếu True, hàm này trả về một Tuple(feature_extractor, unused_kwargs) trong đó unused_kwargs là một từ điển gồm các cặp khóa/giá trị mà khóa không phải là thuộc tính của feature extractor: tức là phần của kwargs chưa được dùng để cập nhật feature_extractor và bị bỏ qua.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • kwargs (dict[str, Any], tuỳ chọn) — Các giá trị trong kwargs của bất kỳ khóa nào là thuộc tính của feature extractor sẽ được dùng để ghi đè lên các giá trị đã tải. Hành vi đối với các cặp khóa/giá trị mà khóa của chúng không phải là thuộc tính của feature extractor được kiểm soát bởi tham số từ khóa return_unused_kwargs.

Khởi tạo một trong các lớp processor của thư viện từ từ vựng của một mô hình được huấn luyện trước.

Lớp processor cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể):

Việc truyền token=True là bắt buộc khi bạn muốn sử dụng một mô hình riêng tư.

Ví dụ:

>>> from transformers import AutoProcessor

>>> # Download processor from huggingface.co and cache.
>>> processor = AutoProcessor.from_pretrained("facebook/wav2vec2-base-960h")

>>> # If processor files are in a directory (e.g. processor was saved using *save_pretrained('./test/saved_model/')*)
>>> # processor = AutoProcessor.from_pretrained("./test/saved_model/")

đăng ký

< >

( config_classprocessor_classexist_ok = False )

Tham số

  • config_class (PreTrainedConfig) — Cấu hình tương ứng với mô hình cần đăng ký.
  • processor_class (ProcessorMixin) — Bộ xử lý cần đăng ký.

Đăng ký một trình xử lý mới cho lớp này.

Các lớp mô hình tổng quát

Các lớp auto sau đây có sẵn để khởi tạo một lớp mô hình cơ sở mà không có đầu cụ thể.

AutoModel

lớp transformers.AutoModel

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình cơ bản của thư viện khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình cơ bản của thư viện từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModel

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModel.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình cơ sở của thư viện từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModel

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModel.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModel.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

Các lớp tiền huấn luyện tổng quát

Các lớp auto sau đây có sẵn để khởi tạo một mô hình với đầu pretraining.

AutoModelForPreTraining

lớp transformers.AutoModelForPreTraining

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu pretraining) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu pretraining) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForPreTraining

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForPreTraining.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu pretraining) từ một mô hình đã được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForPreTraining

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPreTraining.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForPreTraining.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

Xử lý ngôn ngữ tự nhiên

Các lớp tự động (auto classes) sau đây có sẵn cho các tác vụ xử lý ngôn ngữ tự nhiên sau.

AutoModelForCausalLM

lớp transformers.AutoModelForCausalLM

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ nhân quả) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ nhân quả) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForCausalLM

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForCausalLM.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ nhân quả) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForCausalLM

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForCausalLM.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForCausalLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForMaskedLM

lớp transformers.AutoModelForMaskedLM

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình ngôn ngữ có che) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ có che) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMaskedLM

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForMaskedLM.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ có che) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMaskedLM

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMaskedLM.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForMaskedLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForMaskGeneration

lớp transformers.AutoModelForMaskGeneration

< >

( *args**kwargs )

AutoModelForSeq2SeqLM

lớp transformers.AutoModelForSeq2SeqLM

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ tuần tự-đến-tuần tự) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình hóa ngôn ngữ từ chuỗi đến chuỗi) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSeq2SeqLM

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-t5/t5-base")
>>> model = AutoModelForSeq2SeqLM.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa ngôn ngữ tuần tự-đến-tuần tự) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSeq2SeqLM

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSeq2SeqLM.from_pretrained("google-t5/t5-base")

>>> # Update configuration during loading
>>> model = AutoModelForSeq2SeqLM.from_pretrained("google-t5/t5-base", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForSequenceClassification

lớp transformers.AutoModelForSequenceClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại chuỗi) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại chuỗi) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSequenceClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForSequenceClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại chuỗi) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSequenceClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForMultipleChoice

lớp transformers.AutoModelForMultipleChoice

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu chọn nhiều lựa chọn) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu chọn nhiều lựa chọn) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMultipleChoice

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForMultipleChoice.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu ra lựa chọn nhiều phương án) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMultipleChoice

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMultipleChoice.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForMultipleChoice.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForNextSentencePrediction

lớp transformers.AutoModelForNextSentencePrediction

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu dự đoán câu tiếp theo) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu dự đoán câu tiếp theo) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForNextSentencePrediction

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForNextSentencePrediction.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu dự đoán câu tiếp theo) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForNextSentencePrediction

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForNextSentencePrediction.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForNextSentencePrediction.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTokenClassification

lớp transformers.AutoModelForTokenClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại token) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại token) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTokenClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForTokenClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại token) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTokenClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTokenClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForTokenClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForQuestionAnswering

lớp transformers.AutoModelForQuestionAnswering

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu câu trả lời câu hỏi) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu câu trả lời câu hỏi) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForQuestionAnswering

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForQuestionAnswering.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu câu trả lời câu hỏi) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForQuestionAnswering

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForQuestionAnswering.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForQuestionAnswering.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTextEncoding

lớp transformers.AutoModelForTextEncoding

< >

( *args**kwargs )

Thị giác máy tính

Các lớp tự động sau đây có sẵn cho các tác vụ thị giác máy tính sau.

AutoModelForDepthEstimation

lớp transformers.AutoModelForDepthEstimation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu ước lượng độ sâu) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng độ sâu) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForDepthEstimation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForDepthEstimation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng độ sâu) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForDepthEstimation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDepthEstimation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForDepthEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForNormalEstimation

lớp transformers.AutoModelForNormalEstimation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu ước lượng thông thường) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với đầu ước lượng thông thường) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForNormalEstimation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForNormalEstimation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu ước lượng thông thường) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForNormalEstimation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForNormalEstimation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForNormalEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForPointmapEstimation

lớp transformers.AutoModelForPointmapEstimation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu ước lượng pointmap) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng điểm đồ) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForPointmapEstimation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForPointmapEstimation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng pointmap) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForPointmapEstimation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPointmapEstimation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForPointmapEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForImageMatting

lớp transformers.AutoModelForImageMatting

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu matting ảnh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu matting ảnh) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageMatting

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForImageMatting.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu matting ảnh) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageMatting

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageMatting.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForImageMatting.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTextRecognition

lớp transformers.AutoModelForTextRecognition

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu nhận dạng văn bản) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận dạng văn bản) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTextRecognition

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForTextRecognition.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận dạng văn bản) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTextRecognition

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTextRecognition.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForTextRecognition.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTableRecognition

lớp transformers.AutoModelForTableRecognition

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu nhận dạng bảng) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận diện bảng) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTableRecognition

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForTableRecognition.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu nhận diện bảng) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTableRecognition

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTableRecognition.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForTableRecognition.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForImageClassification

lớp transformers.AutoModelForImageClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại hình ảnh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại ảnh) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForImageClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại hình ảnh) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForImageClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForVideoClassification

lớp transformers.AutoModelForVideoClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại video) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại video) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForVideoClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForVideoClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại video) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForVideoClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForVideoClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForVideoClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForPoseEstimation

lớp transformers.AutoModelForPoseEstimation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu ước lượng tư thế) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng tư thế) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForPoseEstimation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForPoseEstimation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ước lượng tư thế) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForPoseEstimation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForPoseEstimation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForPoseEstimation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForKeypointDetection

lớp transformers.AutoModelForKeypointDetection

< >

( *args**kwargs )

AutoModelForKeypointMatching

lớp transformers.AutoModelForKeypointMatching

< >

( *args**kwargs )

AutoModelForMaskedImageModeling

lớp transformers.AutoModelForMaskedImageModeling

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu vào mô hình hóa ảnh có mặt nạ) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu vào mô hình hóa ảnh có mặt nạ) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMaskedImageModeling

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForMaskedImageModeling.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu vào mô hình hóa ảnh bị che) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMaskedImageModeling

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMaskedImageModeling.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForMaskedImageModeling.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForObjectDetection

lớp transformers.AutoModelForObjectDetection

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu object detection) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phát hiện đối tượng) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForObjectDetection

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForObjectDetection.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phát hiện đối tượng) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForObjectDetection

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForObjectDetection.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForObjectDetection.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForImageSegmentation

lớp transformers.AutoModelForImageSegmentation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn ảnh) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageSegmentation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForImageSegmentation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageSegmentation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageSegmentation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForImageSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForImageToImage

lớp transformers.AutoModelForImageToImage

< >

( *args**kwargs )

AutoModelForSemanticSegmentation

lớp transformers.AutoModelForSemanticSegmentation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu semantic segmentation) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn ngữ nghĩa) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSemanticSegmentation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForSemanticSegmentation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu semantic segmentation) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSemanticSegmentation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSemanticSegmentation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForSemanticSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForInstanceSegmentation

lớp transformers.AutoModelForInstanceSegmentation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu phân đoạn thực thể) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn thực thể) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForInstanceSegmentation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForInstanceSegmentation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân đoạn thực thể) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForInstanceSegmentation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForInstanceSegmentation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForInstanceSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForUniversalSegmentation

lớp transformers.AutoModelForUniversalSegmentation

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh phổ quát) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh phổ quát) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForUniversalSegmentation

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForUniversalSegmentation.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân đoạn ảnh phổ quát) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForUniversalSegmentation

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForUniversalSegmentation.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForUniversalSegmentation.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForZeroShotImageClassification

lớp transformers.AutoModelForZeroShotImageClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại hình ảnh zero-shot) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại ảnh zero-shot) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForZeroShotImageClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForZeroShotImageClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại ảnh zero-shot) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForZeroShotImageClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForZeroShotImageClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForZeroShotImageClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForZeroShotObjectDetection

lớp transformers.AutoModelForZeroShotObjectDetection

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu dò phát hiện đối tượng zero-shot) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với đầu dò phát hiện đối tượng zero-shot) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForZeroShotObjectDetection

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForZeroShotObjectDetection.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu dò phát hiện đối tượng zero-shot) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForZeroShotObjectDetection

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForZeroShotObjectDetection.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForZeroShotObjectDetection.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

Âm thanh

Các lớp tự động sau đây có sẵn cho các tác vụ âm thanh sau.

AutoModelForAudioClassification

lớp transformers.AutoModelForAudioClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại âm thanh) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại âm thanh) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForAudioClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại âm thanh) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForAudioClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForAudioFrameClassification

lớp transformers.AutoModelForAudioFrameClassification

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại khung âm thanh (token)) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại khung âm thanh (token)) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioFrameClassification

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForAudioFrameClassification.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại khung âm thanh (token)) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioFrameClassification

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioFrameClassification.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForAudioFrameClassification.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForCTC

lớp transformers.AutoModelForCTC

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu phân loại thời gian kết nối) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu phân loại thời gian kết nối) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForCTC

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForCTC.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu phân loại thời gian kết nối) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForCTC

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForCTC.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForCTC.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTDT

lớp transformers.AutoModelForTDT

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu transducer token-and-duration) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu transducer token-and-duration) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTDT

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForTDT.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu transducer token-and-duration) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTDT

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTDT.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForTDT.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForRNNT

lớp transformers.AutoModelForRNNT

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu RNN transducer) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu RNN transducer) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForRNNT

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForRNNT.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu RNN transducer) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForRNNT

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForRNNT.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForRNNT.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForSpeechSeq2Seq

lớp transformers.AutoModelForSpeechSeq2Seq

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình chuyển đổi giọng nói thành văn bản theo kiểu chuỗi-sang-sequel) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu mô hình chuyển đổi giọng nói thành văn bản theo kiểu chuỗi-sang-sequel) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSpeechSeq2Seq

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForSpeechSeq2Seq.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa speech-to-text dạng sequence-to-sequence) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForSpeechSeq2Seq

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForSpeechSeq2Seq.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForSpeechSeq2Seq.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForAudioXVector

lớp transformers.AutoModelForAudioXVector

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với khả năng truy xuất âm thanh qua đầu x-vector) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với đầu x-vector để truy xuất âm thanh) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioXVector

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForAudioXVector.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu x-vector để truy xuất âm thanh) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioXVector

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioXVector.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForAudioXVector.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTextToSpectrogram

lớp transformers.AutoModelForTextToSpectrogram

< >

( *args**kwargs )

AutoModelForTextToWaveform

lớp transformers.AutoModelForTextToWaveform

< >

( *args**kwargs )

AutoModelForAudioTokenization

lớp transformers.AutoModelForAudioTokenization

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mã hóa âm thanh thông qua các codebook) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với mã hóa âm thanh thông qua đầu codebooks) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioTokenization

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForAudioTokenization.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với mã hóa âm thanh thông qua đầu codebooks) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForAudioTokenization

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForAudioTokenization.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForAudioTokenization.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

Đa phương thức

Các lớp tự động sau đây có sẵn cho các tác vụ đa phương thức sau.

AutoModelForMultimodalLM

lớp transformers.AutoModelForMultimodalLM

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu sinh đa phương thức) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu sinh đa phương thức) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMultimodalLM

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForMultimodalLM.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu sinh đa phương thức) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForMultimodalLM

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForMultimodalLM.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForMultimodalLM.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForTableQuestionAnswering

lớp transformers.AutoModelForTableQuestionAnswering

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu câu trả lời câu hỏi bảng) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu bảng câu hỏi trả lời) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTableQuestionAnswering

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google/tapas-base-finetuned-wtq")
>>> model = AutoModelForTableQuestionAnswering.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu bảng câu hỏi trả lời) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTableQuestionAnswering

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTableQuestionAnswering.from_pretrained("google/tapas-base-finetuned-wtq")

>>> # Update configuration during loading
>>> model = AutoModelForTableQuestionAnswering.from_pretrained("google/tapas-base-finetuned-wtq", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForDocumentQuestionAnswering

lớp transformers.AutoModelForDocumentQuestionAnswering

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu câu hỏi trả lời tài liệu) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu câu hỏi trả lời tài liệu) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForDocumentQuestionAnswering

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3")
>>> model = AutoModelForDocumentQuestionAnswering.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu câu hỏi trả lời tài liệu) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForDocumentQuestionAnswering

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDocumentQuestionAnswering.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3")

>>> # Update configuration during loading
>>> model = AutoModelForDocumentQuestionAnswering.from_pretrained("impira/layoutlm-document-qa", revision="52e01b3", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForVisualQuestionAnswering

lớp transformers.AutoModelForVisualQuestionAnswering

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu hỏi đáp thị giác) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu hỏi đáp thị giác) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForVisualQuestionAnswering

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("dandelin/vilt-b32-finetuned-vqa")
>>> model = AutoModelForVisualQuestionAnswering.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ra cho câu hỏi trả lời trực quan) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForVisualQuestionAnswering

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForVisualQuestionAnswering.from_pretrained("dandelin/vilt-b32-finetuned-vqa")

>>> # Update configuration during loading
>>> model = AutoModelForVisualQuestionAnswering.from_pretrained("dandelin/vilt-b32-finetuned-vqa", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForImageTextToText

lớp transformers.AutoModelForImageTextToText

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu mô hình hóa từ ảnh-văn-bản-sang-văn-bản) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa từ ảnh-văn-bản-sang-văn-bản) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageTextToText

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForImageTextToText.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (với đầu mô hình hóa từ ảnh-văn-bản-sang-văn-bản) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForImageTextToText

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForImageTextToText.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForImageTextToText.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

AutoModelForDecision

lớp transformers.AutoModelForDecision

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (có đầu ra quyết định) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ra quyết định) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForDecision

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForDecision.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu ra quyết định) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForDecision

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForDecision.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForDecision.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True

Dãy thời gian

AutoModelForTimeSeriesPrediction

lớp transformers.AutoModelForTimeSeriesPrediction

< >

( *args**kwargs )

Đây là một lớp mô hình chung sẽ được khởi tạo thành một trong các lớp mô hình của thư viện (với đầu dự báo chuỗi thời gian) khi được tạo bằng phương thức lớp from_pretrained() hoặc phương thức lớp from_config().

Lớp này không thể được khởi tạo trực tiếp bằng __init__() (gây ra lỗi).

from_config

< >

( **kwargs )

Tham số

Khởi tạo một trong các lớp mô hình của thư viện (có đầu dự báo chuỗi thời gian) từ một cấu hình.

Lưu ý: Việc tải một mô hình từ tệp cấu hình của nó không tải trọng số của mô hình. Nó chỉ ảnh hưởng đến cấu hình của mô hình. Sử dụng from_pretrained() để tải trọng số của mô hình.

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTimeSeriesPrediction

>>> # Download configuration from huggingface.co and cache.
>>> config = AutoConfig.from_pretrained("google-bert/bert-base-cased")
>>> model = AutoModelForTimeSeriesPrediction.from_config(config)

from_pretrained

< >

( *model_args**kwargs )

Tham số

  • pretrained_model_name_or_path (str hoặc os.PathLike) — Có thể là:
    • Một chuỗi, model id của một mô hình được huấn luyện trước được lưu trữ trong một kho mô hình trên huggingface.co.
    • Đường dẫn đến thư mục chứa trọng số mô hình được lưu bằng save_pretrained(), ví dụ: ./my_model_directory/.
  • model_args (các đối số vị trí bổ sung, tùy chọn) — Sẽ được truyền đến phương thức __init__() của model bên dưới.
  • config (PreTrainedConfig, tùy chọn) — Cấu hình cho model cần sử dụng thay vì cấu hình được tải tự động. Cấu hình có thể được tải tự động khi:
    • Mô hình là một mô hình do thư viện cung cấp (được nạp bằng chuỗi model id của một mô hình đã được huấn luyện trước).
    • Mô hình đã được lưu bằng save_pretrained() và được nạp lại bằng cách cung cấp thư mục lưu.
    • Mô hình được nạp bằng cách cung cấp một thư mục cục bộ dưới dạng pretrained_model_name_or_path và một tệp cấu hình JSON có tên config.json được tìm thấy trong thư mục đó.
  • state_dict (dict[str, torch.Tensor], tùy chọn) — Một state dictionary để sử dụng thay cho state dictionary được tải từ tệp trọng số đã lưu. Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

    Tùy chọn này có thể được sử dụng nếu bạn muốn tạo một model từ một cấu hình đã được huấn luyện trước nhưng tải trọng số của riêng bạn. Tuy nhiên, trong trường hợp này, bạn nên kiểm tra xem việc sử dụng save_pretrained() và from_pretrained() có phải là một tùy chọn đơn giản hơn hay không.

  • cache_dir (str hoặc os.PathLike, tùy chọn) — Đường dẫn đến thư mục mà cấu hình mô hình được huấn luyện trước đã tải xuống sẽ được lưu đệm nếu không sử dụng bộ lưu đệm tiêu chuẩn.
  • force_download (bool, tùy chọn, mặc định là False) — Có nên buộc tải lại (re-download) trọng số mô hình và các tệp cấu hình, ghi đè lên các phiên bản đã được lưu trong bộ nhớ đệm nếu chúng tồn tại hay không.
  • proxies (dict[str, str], tuỳ chọn) — Một từ điển các máy chủ proxy để sử dụng theo giao thức hoặc điểm cuối, ví dụ: {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Các proxy này được sử dụng cho mỗi yêu cầu.
  • output_loading_info(bool, optional, mặc định là False) — Có nên trả về một từ điển chứa các khóa bị thiếu, các khóa không mong đợi và thông báo lỗi hay không.
  • local_files_only(bool, tuỳ chọn, mặc định là False) — Có nên chỉ xem các tệp cục bộ hay không (ví dụ: không thử tải xuống mô hình).
  • revision (str, tùy chọn, mặc định là "main") — Phiên bản mô hình cụ thể cần sử dụng. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • trust_remote_code (bool, tùy chọn, mặc định là False) — Có cho phép các model tùy chỉnh được định nghĩa trên Hub trong các file modeling riêng của chúng hay không. Chỉ nên đặt tùy chọn này thành True cho các repository mà bạn tin tưởng và đã đọc qua mã nguồn, vì nó sẽ thực thi mã có sẵn trên Hub trên máy cục bộ của bạn.
  • code_revision (str, tùy chọn, mặc định là "main") — Phiên bản cụ thể để sử dụng cho mã trên Hub, nếu mã nằm trong một kho lưu trữ khác với phần còn lại của mô hình. Nó có thể là tên nhánh, tên thẻ hoặc id commit, vì chúng tôi sử dụng hệ thống dựa trên git để lưu trữ các mô hình và các sản phẩm khác trên huggingface.co, do đó revision có thể là bất kỳ định danh nào được git cho phép.
  • kwargs (các tham số từ khóa bổ sung, tùy chọn) — Có thể được sử dụng để cập nhật đối tượng cấu hình (sau khi nó được tải) và khởi tạo mô hình (ví dụ: output_attentions=True). Hành vi khác nhau tùy thuộc vào việc có cung cấp config hay không hoặc được tải tự động:
    • Nếu một cấu hình được cung cấp thông qua config, **kwargs sẽ được truyền trực tiếp đến phương thức __init__ của model bên dưới (chúng tôi giả định rằng tất cả các cập nhật liên quan đến cấu hình đã được thực hiện)
    • Nếu không cung cấp cấu hình, kwargs sẽ được truyền trước tiên đến hàm khởi tạo của lớp cấu hình (from_pretrained()). Mỗi khóa của kwargs tương ứng với một thuộc tính cấu hình sẽ được dùng để ghi đè thuộc tính đó bằng giá trị kwargs được cung cấp. Các khóa còn lại không tương ứng với bất kỳ thuộc tính cấu hình nào sẽ được truyền đến hàm __init__ của mô hình cơ sở.

Khởi tạo một trong các lớp mô hình của thư viện (có đầu dự báo chuỗi thời gian) từ một mô hình được huấn luyện trước.

Lớp model cần khởi tạo được chọn dựa trên thuộc tính model_type của đối tượng config (được truyền dưới dạng đối số hoặc được nạp từ pretrained_model_name_or_path nếu có thể), hoặc khi thuộc tính này bị thiếu, bằng cách sử dụng khớp mẫu trên pretrained_model_name_or_path:

Mặc định, model được đặt ở chế độ đánh giá bằng model.eval() (ví dụ, các module dropout sẽ bị vô hiệu hóa). Để huấn luyện model, bạn cần đặt lại nó về chế độ huấn luyện bằng model.train()

Ví dụ:

>>> from transformers import AutoConfig, AutoModelForTimeSeriesPrediction

>>> # Download model and configuration from huggingface.co and cache.
>>> model = AutoModelForTimeSeriesPrediction.from_pretrained("google-bert/bert-base-cased")

>>> # Update configuration during loading
>>> model = AutoModelForTimeSeriesPrediction.from_pretrained("google-bert/bert-base-cased", output_attentions=True)
>>> model.config.output_attentions
True
Update on GitHub