LM Link: Запуск LLM на удалённом GPU стал проще
Разработчики часто сталкиваются с проблемой: мощный компьютер с видеокартой для работы с ИИ есть дома или в офисе, а в поездках приходится пользоваться менее производительным ноутбуком. Подключение к "большой машине" раньше требовало сложных настроек сети.
Теперь LM Studio и Tailscale представили LM Link — решение, которое позволяет обращаться к удалённому железу как к локальному. Это достигается за счёт создания зашифрованного туннеля и аутентификации через учётные записи пользователей.
Ключевая особенность LM Link — отказ от использования API-ключей и публичных конечных точек, что повышает безопасность. Для работы используется библиотека tsnet от Tailscale, которая работает в пользовательском пространстве, не требуя прав администратора. Подключение зашифровано по протоколу WireGuard.
LM Link интегрируется в существующие инструменты без изменений в коде. Достаточно загрузить модели на удалённый компьютер и подключиться к ним через локальный сервер LM Studio (порт 1234).
Авторизуйтесь, чтобы оставить комментарий.
Нет комментариев.
Тут может быть ваша реклама
Пишите info@aisferaic.ru