Puzzle: Distillation-Based NAS for Inference-Optimized LLMs

Bibliografische gegevens

Gepubliceerd in:	arXiv.org (Dec 8, 2024), p. n/a
Hoofdauteur:	Akhiad Bercovich
Andere auteurs:	Ronen, Tomer, Abramovich, Talor, Ailon, Nir, Nave Assaf, Dabbah, Mohammad, Galil, Ido, Geifman, Amnon, Geifman, Yonatan, Golan, Izhak, Haber, Netanel, Karpas, Ehud, Koren, Roi, Levy, Itay, Molchanov, Pavlo, Mor, Shahar, Zach, Moshe, Nabwani, Najeeb, Puny, Omri, Rubin, Ran, Schen, Itamar, Shahaf, Ido, Tropp, Oren, Omer Ullman Argov, Zilberstein, Ran, El-Yaniv, Ran
Gepubliceerd in:	Cornell University Library, arXiv.org
Onderwerpen:	Computing costs Integer programming Mixed integer Computer architecture Large language models Graphics processing units Hardware Constraints Parameters Inference
Online toegang:	Citation/Abstract Full text outside of ProQuest
Tags:	Voeg label toe Geen labels, Wees de eerste die dit record labelt!