Puzzle: Distillation-Based NAS for Inference-Optimized LLMs

Détails bibliographiques

Publié dans:	arXiv.org (Dec 8, 2024), p. n/a
Auteur principal:	Akhiad Bercovich
Autres auteurs:	Ronen, Tomer, Abramovich, Talor, Ailon, Nir, Nave Assaf, Dabbah, Mohammad, Galil, Ido, Geifman, Amnon, Geifman, Yonatan, Golan, Izhak, Haber, Netanel, Karpas, Ehud, Koren, Roi, Levy, Itay, Molchanov, Pavlo, Mor, Shahar, Zach, Moshe, Nabwani, Najeeb, Puny, Omri, Rubin, Ran, Schen, Itamar, Shahaf, Ido, Tropp, Oren, Omer Ullman Argov, Zilberstein, Ran, El-Yaniv, Ran
Publié:	Cornell University Library, arXiv.org
Sujets:	Computing costs Integer programming Mixed integer Computer architecture Large language models Graphics processing units Hardware Constraints Parameters Inference
Accès en ligne:	Citation/Abstract Full text outside of ProQuest
Tags:	Ajouter un tag Pas de tags, Soyez le premier à ajouter un tag!