Petals позволяет запускать крупные языковые модели (LLMs) на домашних компьютерах, используя распределённую сеть в стиле BitTorrent. Это обеспечивает до 10 раз более быструю настройку и вывод по сравнению с традиционными методами выгрузки.
Нажмите на любой сценарий, чтобы найти похожие сервисы