このパッチは、一部の入力が元の型を失う問題を特に解決します prepare_inputs_for_generation 中 generate、多モダルモデルに関する問題を引き起こす。また、下記のコミットで挙げられている他のいくつかの問題も解決する。
以下のコミットが含まれています：
- generate (#49731)でのinputs dictのキャスティングを修正する (#49731) @Cyrilvallez
- @qgallouedecによって、expertパラレル処理とep_size < fsdp_size (#49688)を使用して、bfloat16でのゼロのエキスプレスグラデーションを修正する
- VLMがテキストのみを報告する場合の入力形式を@qgallouedecによって宣言する (#49677)
- eager_mask (#49684)におけるホストからデバイスへのコピーを避けることについて、@hmellorが述べています。