Galore@RTX4090

背景

ＮＶＩｄｉＡ和Hugging Face發布可在4090微調數10 億LLM的方法

• 高階顯卡也能訓練模型，AI 研究人員提出「GaLore」減少記憶體用量
• 高效訓練 LLM，Galore 登上 Hugging Face 整合 Transformers 程式庫
• sudhir2016/test-galore -blog