Puzzle: Distillation-Based NAS for Inference-Optimized LLMs

Bibliographische Detailangaben

Veröffentlicht in:	arXiv.org (Dec 8, 2024), p. n/a
1. Verfasser:	Akhiad Bercovich
Weitere Verfasser:	Ronen, Tomer, Abramovich, Talor, Ailon, Nir, Nave Assaf, Dabbah, Mohammad, Galil, Ido, Geifman, Amnon, Geifman, Yonatan, Golan, Izhak, Haber, Netanel, Karpas, Ehud, Koren, Roi, Levy, Itay, Molchanov, Pavlo, Mor, Shahar, Zach, Moshe, Nabwani, Najeeb, Puny, Omri, Rubin, Ran, Schen, Itamar, Shahaf, Ido, Tropp, Oren, Omer Ullman Argov, Zilberstein, Ran, El-Yaniv, Ran
Veröffentlicht:	Cornell University Library, arXiv.org
Schlagworte:	Computing costs Integer programming Mixed integer Computer architecture Large language models Graphics processing units Hardware Constraints Parameters Inference
Online-Zugang:	Citation/Abstract Full text outside of ProQuest
Tags:	Tag hinzufügen Keine Tags, Fügen Sie das erste Tag hinzu!