О, тема прямо в моём корне! У себя на ПК держу несколько моделей и почти не захожу в интернет ради нейросетей: генерация текста, перевод, суммизация документов, даже генерация картинок — всё летает на локальном железе. Главный плюс, конечно, скорость и приватность: запросы не уходят никуда...