Как обучать LLM локально через федеративное обучение с LoRA и ещё 12 новости

Как обучать LLM локально через федеративное обучение с LoRA

Как обучать большие языковые модели локально без сбора данных в центре

В руководстве показано, как провести федеративное дообучение большой языковой модели с помощью LoRA, не объединяя приватные тексты в одном месте. Каждый из трёх виртуальных клиентов (как будто от разных организаций) дообучает общий базовый модель локально на своих данных, обмениваясь только легковесными параметрами адаптера LoRA.

Используется библиотека Flower для симуляции федеративного обучения и PEFT — для эффективного дообучения. Данные остаются распределёнными: клиенты используют внутренние заметки (например, про политики безопасности, риски и логистику), обучаются только на локальных копиях, а сервер агрегирует только веса LoRA. Поддерживается как GPU, так и CPU, при необходимости применяется 4-битная квантованная загрузка.

federated learning llm

Как ИИ помогает фигуристам выполнить квинт прыжок

Исследователи из MIT создали систему OOFSkate — инструмент на основе искусственного интеллекта для анализа прыжков в фигурном катании. С его помощью спортсмены могут получать метрические данные по высоте прыжка, числу оборотов и качеству приземления, сравнивая свои показатели с данными олимпийских чемпионов. Разработчик Джерри Лу, бывший сотрудник MIT Sports Lab, уже помогает сборной США, а в 2026 году будет работать с NBC, объясняя зрителям сложные аспекты оценки в катании, сноуборде и горных лыжах.

Профессор Анетт «Пеко» Хосой, соосновательница MIT Sports Lab, сейчас занимается другим направлением — исследует, как ИИ оценивает художественную составляющую катания. В рамках проекта с Массачусетским институтом гуманитарных исследований (MITHIC) они изучают, совпадают ли «мыслительные процессы» ИИ и людей при субъективной оценке красоты исполнения. Фигурное катание здесь — идеальный объект: оно атмосферно, эмоционально и при этом строго измеримо баллами.

Хосоя уверена: квинт (пятикратный прыжок) возможен — и его sooner или later удастся выполнить. Шестикратный — уже вряд ли, но пять, по её расчётам, в пределах возможного человеческого тела.

ИИ анализирует Мрт мозга за секунды и выявляет острые случаи

Учёные из Мичиганского университета разработали искусственный интеллект, способный распознавать патологии на снимках МРТ головного мозга за считанные секунды. Система определяет широкий спектр неврологических заболеваний и с высокой точностью оценивает, требует ли случай немедленного вмешательства.

Модель обучалась на сотнях тысяч реальных снимков и анамнезе пациентов. Её точность достигла 97,5 % — этот результат превосходит показатели других современных ИИ-решений в области медицинской визуализации.

ByteDance представляет Seedance 2.0 — новую модель для генерации видео

Китайская компания ByteDance запустила в бета-тестировании модель Seedance 2.0, которая вызвала шквал внимания в сообществе экспертов по искусственному интеллекту. По мнению пользователей, качество генерируемых видео — от реалистичных боевых сцен до анимации и графики — превосходит текущие лидеры рынка.

Система поддерживает текстовые, изображения, аудио и видеовходы, создаёт видео в разрешении 2K, длительностью до 15 секунд и с синхронизированным звуком. На данный момент Seedance 2.0 доступна только через платформу Jimeng AI. Одновременно ByteDance тестирует в сторонних приложениях модель Seedream 5.0 для генерации изображений.

5 полезных скриптов на Python для автоматизации рутинных файловых задач

Если вы устали от ручного поиска нужных файлов, ожидания завершения конвертаций или просто не знаете, что хранится на диске — Python может помочь. Здесь собраны пять мини-скриптов, которые берут на себя утомительную работу.

Первый скрипт удаляет дубликаты по хешу — даже если файлы названы иначе, он определит их как копии и предложит удалить лишние. Второй — сортирует файлы по расширению в отдельные папки. Третий ищет большие файлы по заданному порогу. Четвёртый проверяет целостность архивов, а пятый — генерирует отчёт о содержимом папки (объём, количество файлов, возраст).

Все скрипты простые, не требуют сторонних библиотек — только стандартная библиотека Python. Работают в Linux, macOS и Windows.

Студент выиграл суд у университета после обвинений в использовании ИИ

19-летний Орион Ньюби из Нью-Йорка победил Аделфийский университет, доказав, что сам написал историческое сочинение, а не полагался на искусственный интеллект. Суд постановил, что университет должен стереть пометку о нарушении академической этики из его зачета.

Преподаватель отправил работу в программу, распознающую тексты, созданные ИИ, и получил срабатывание — хотя студент утверждает, что писал работу 15–20 часов при помощи репетитора. Без личного разговора и обсуждения ему поставили «незачет» и вынесли дисциплинарное взыскание.

Эксперты отмечают: такие случаи — не единичны, и алгоритмы часто ошибаются, помечая оригинальные работы как сгенерированные. В университете сейчас пересматривают правила использования ИИ, чтобы избежать судов и несправедливых обвинений.

Искусственные агенты: как они работают и чем отличаются от простых ИИ

Искусственные агенты — это системы, которые не просто отвечают на запросы, а могут выполнять задачи автономно: планировать действия, принимать решения и взаимодействовать с окружающей средой.

Разработчики предлагают упрощённое объяснение концепции в трёх уровнях сложности — от базового до продвинутого. Это помогает новичкам понять, как агенты отличаются от традиционных моделей ИИ.

Как Copilot помогает строить город будущего в Саудовской Аравии

Абдульрахман Али, проектный менеджер на строительстве города kidqiya, использует Copilot от Microsoft для упрощения работы с огромным объёмом данных. Город, возводимый на площади 360 кв. км, — часть амбициозного плана «Vision 2030» по диверсификации экономики страны.

Copilot помогает анализировать архитектурные чертежи, координировать работу подрядчиков и оперативно находить нужные документы. Это особенно важно в условиях динамично меняющихся требований и множества этапов согласования. Система работает с внутренними базами данных компании, защищая конфиденциальную информацию.

Проект стал первым крупным кейсом внедрения Copilot в строительной отрасли Ближнего Востока. В будущем аналогичные решения могут применяться и в других масштабных инфраструктурных инициативах региона.

Появилась платформа для разработки и тестирования групповых диалогов с ИИ

Учёные представили систему, которая позволяет создавать, моделировать и проверять сценарии живых бесед между людьми и искусственным интеллектом в групповом формате. Инструмент выходит за рамки классических «один на один»-чатов и ориентирован на симуляцию сложных социальных взаимодействий.

Разработчики могут задавать правила поведения ИИ, настраивать реакции агентов и экспериментировать с разными паттернами диалога. Платформа поддерживает как автоматизированное тестирование, так и привлечение реальных пользователей для валидации сценариев.

Система доступна под открытой лицензией и уже используется в академических исследованиях по человеко-компьютерному взаимодействию.

Что малому бизнесу стоит знать об агентном ИИ

Генеративный ИИ, который мы привыкли использовать через чат-интерфейсы, уже давно помогает в повседневных задачах. Но у такого подхода есть существенный минус — система реагирует только после того, как вы сами ввели запрос.

Агентный ИИ работает по-другому: он может самостоятельно выполнять последовательность действий без постоянного вмешательства пользователя. Например, собирать данные, обрабатывать их и принимать решения на основе заданных правил. Это похоже на то, как работает цифровой ассистент, который не просто отвечает на вопросы, а решает задачи «от и до».

Технология пока в стадии активного развития. Некоторые решения уже доступны коммерчески, особенно в сфере автоматизации рутинных операций. Лицензии и условия использования зависят от конкретного продукта и поставщика.

Связь кригинга и больших нейросетей: глубокая взаимосвязь

Исследователи проанализировали взаимосвязь между кригингом — методом пространственной статистики — и нейронными сетями. На первый взгляд, эти подходы кажутся совершенно разными: кригинг и связанный с ним регрессионный анализ Гауссовских процессов базируются на теории вероятностей и случайных процессах, тогда как многие нейросети традиционно воспринимаются как «чёрные ящики».

Однако авторы показывают, что между ними существует глубокая связь. Изучение этой связи позволяет сделать нейросети более интерпретируемыми, надёжными и способными учитывать пространственную структуру данных.

Как писать сложные тензорные конвейеры в глубоком обучении с помощью Einops

В новом туториале показано, как использовать библиотеку Einops для компактного и понятного описания трансформаций тензоров в PyTorch. Через простые декларативные выражения — rearrange, reduce, repeat, einsum, pack/unpack — можно безопасно перестраивать, агрегировать и объединять тензоры, избегая ошибок при ручной работе с размерностями. Рассмотрены реальные паттерны: разделение изображений на патчи, многослойное внимание, объединение токенов из разных модальностей (текст, изображения, cls-токен). Примеры включают реализацию моделей на базе PyTorch с встроенными слоями Einops — например, модуль PatchEmbed для преобразования изображений в последовательность патчей и SimpleVisionHead для классификации. Библиотека работает прямо в PyTorch, совместима с CUDA и сохраняет семантическую ясность кода, что упрощает отладку, расширение и понимание моделей.

Новый ИИ-инструмент визуализирует нервные пути ствола мозга

Исследователи из Массачусетского технологического института, Гарварда и больницы Массачусетса разработали программное обеспечение на основе искусственного интеллекта — BrainStem Bundle Tool (BSBT). Оно позволяет автоматически выделять восемь отдельных пучков белого вещества в стволе мозга по данным диффузионной МРТ. Ранее такие структуры, передающие сигналы, управляющие сознанием, дыханием, пульсом и движением, были почти недоступны для детальной визуализации.

BSBT опубликован в открытом доступе и уже протестирован на более чем сотне МРТ-снимках пациентов с болезнью Альцгеймера, Паркинсона, рассеянным склерозом и черепно-мозговой травмой. Инструмент обнаружил характерные изменения в объёме и целостности волокон у всех групп, включая случай реабилитации пациента в коме — отслеживая, как повреждённые пути постепенно восстанавливались в течение семи месяцев.