Colibrì: как запустить ИИ-модель на 744 млрд параметров всего на 25 ГБ ОЗУ без видеокарты
Итальянский разработчик JustVugg научился запускать ИИ-модель GLM-5.2 на 744 миллиарда параметров на обычном ПК всего с 25 ГБ оперативной памяти и без видеокарты — правда, ценой скорости: ответ на один вопрос может занимать несколько часов.
