Bu model 2022-10-20 tarihinde HF papers'ta yayımlandı ve 2023-06-20 tarihinde Hugging Face Transformers'a katkıda bulunuldu.

FLAN-T5

Genel Bakış

FLAN-T5, Scaling Instruction-Finetuned Language Models makalesinde yayımlandı - çeşitli görevlerin bir karışımında ince ayarı yapılmış, geliştirilmiş bir T5 sürümüdür.

Modeli ince ayar yapmadan FLAN-T5 ağırlıklarını doğrudan kullanabilirsiniz:

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer


model = AutoModelForSeq2SeqLM.from_pretrained("google/flan-t5-small", device_map="auto")
tokenizer = AutoTokenizer.from_pretrained("google/flan-t5-small")

inputs = tokenizer("A step by step recipe to make bolognese pasta:", return_tensors="pt").to(model.device)
outputs = model.generate(**inputs)
print(tokenizer.batch_decode(outputs, skip_special_tokens=True))
['Pour a cup of bolognese into a large bowl and add the pasta']

FLAN-T5, T5 sürüm 1.1 ile aynı iyileştirmeleri içerir (modelin iyileştirmelerinin tüm ayrıntıları için buraya bakın.)

Google aşağıdaki varyantları yayınladı:

• google/flan-t5-small

• google/flan-t5-base

• google/flan-t5-large

• google/flan-t5-xl

• google/flan-t5-xxl.

Orijinal denetim noktaları burada bulunabilir.

Tüm API referansları, kod örnekleri ve defterler için T5'in dokümantasyon sayfasına bakın. FLAN-T5'in eğitimi ve değerlendirilmesine ilişkin daha fazla ayrıntı için model kartına başvurun.