准备好接收更多技术内容了吗？

ayesha983

[4] Dettmers, T.、Pagnoni, A.、Holtzman, A. 和 Zettlemoyer, L. (2023)。QLoRA：量化 LLM 的有效微调。http ://arxiv.org/abs/2305.14314

[5] Frantar, E.、Ashkboos, S.、Hoefler, T. 和 Alistarh, D. (2022)。GPTQ：生成式预训练 Transformer 的精确训练后量化。http ://arxiv.org/abs/2210.17323

[6] https://github.com/ggerganov/ggml

[7] Frantar, E. 和 Alistarh, D. (2023)。QMoE：万亿参 哥伦比亚电报数据 数模型的实用亚 1 位压缩。http ://arxiv.org/abs/2310.16795


如果您喜欢所看到的内容，请务必查看我们最近的其他技术文章，内容涉及参数有效的 LLM 微调、使用工具增强 LLM、用于文本分类的 LLM 以及更多有关我们的 Data From the Trenches Medium 的内容。如何避免陷入 QualityLand 并控制你的 AI
2024 年 1 月 9 日
Dataiku 产品，扩展 AI
柳博芙·沃尔科娃
人们过去和现在都十分担心人工智能会如何重塑和改变我们的日常生活。马克-乌韦·克林 (Marc-Uwe Kling) 于 2017 年出版了他的著作