• ※ 試験的に、前回までの形式から少し変更しています。ご意見等ありましたら今回のNLP Hacksのアンケートなどで教えていただけますと幸いです 🙇
  • 前回まで: 1情報に5〜10分程度かけて深ぼる形
  • 今回: 1情報にかける時間を短くして、多めに情報掲載

Parti

• Pathways Autoregressive Text-to-Image Model

• paper: https://arxiv.org/abs/2206.10789

• repo: https://github.com/google-research/parti (上記URL、paper以上の情報はまだないかも)

• 自己回帰ベースのtext-to-imageモデル

  • ViT-VQGANにより画像をトークン化

  

• PartiPrompts (P2)

  • 1,600件超えの、多様なカテゴリ・難易度のpromptを含むベンチマーク

• モデルサイズが大きくなるほど高品質な画像が生成可能

  

• 拡散モデルとの比較

  

YaLM 100B

• Yandex Publishes YaLM 100B. It’s the Largest GPT-Like Neural Network in Open Source
• code: https://github.com/yandex/YaLM-100B
• huggingface: https://huggingface.co/yandex/yalm-100b