Новости о больших языковых моделях

Языковые модели становятся товаром. В последние месяцы наблюдается значительный рост числа с открытым исходным кодом и коммерческих языковых моделей. Это привело к снижению цен и увеличению доступности.

Растущий рынок

На …

Multilevel Training for Kolmogorov Arnold Networks

5 марта 2026 года была представлена работа 2603.04827, авторы Ben S. Southworth, Jonas A. Actor, Graham Harper и Eric C. Cyr. Авторы утверждают, что …

Адаптивное прототипное интерпретируемое градирование рака простаты

Адаптивное прототипное интерпретируемое градирование рака простаты было представлено 5 марта 2026 года, авторы — Сушмита Митра, Риддхасри Бхаттачарья, Паллаби Дутта. Рак простаты является одним …

WaterSIC рассматривает задачу преобразования плотного линейного слоя в низкоточный. Торговый баланс между длиной сжатия и расхождением выходных данных анализируется с точки зрения теории информации (IT). Показано, что популярный алгоритм GPTQ …

Создание агентного ИИ нового поколения: полный фреймворк для когнитивных агентов, управляемых проектом во время выполнения с инструментами памяти и валидации.

Агенты нового поколения требуют фреймворка, который охватывает все аспекты их …

Ансамблирование языковых моделей с помощью последовательного Монте-Карло

5 марта 2026 года исследователи Jacob Hoover Vigly, Timothy J. O'Donnell, Ryan Cotterell, Tim Vieira, Robin Shing Moon Chan и другие представили работу, …

OpenAI представила Codex Security в качестве исследовательской предварительной версии для обнаружения уязвимостей, их проверки и генерации исправлений в кодовых базах с учетом контекста.

Codex Security разработан для помощи разработчикам в …

Насколько важна дистилляция для китайских больших языковых моделей?

Дистилляция – это метод, который используется для создания меньшей, более быстрой модели, имитирующей поведение большей модели. В последнее время появилось много исследований, …

В основе многих современных систем искусственного интеллекта лежит извлечение информации из больших объемов данных. Однако, традиционные подходы часто сталкиваются с ограничениями при работе с постоянно меняющейся информацией и контекстом. Новая …

MaBERT: Padding Safe Interleaved Transformer Mamba Hybrid Encoder for Efficient Extended Context Masked Language Modeling

MaBERT – это гибридный энкодер, который чередует слои Transformer для моделирования глобальных зависимостей со слоями …

Обучение больших языковых моделей (LLM) рассуждению, как байесовцы, является сложной задачей. Традиционные LLM часто испытывают трудности с заданиями, требующими вероятностного рассуждения и обновления убеждений в свете новых доказательств. Это связано …

Unsloth – это библиотека, предназначенная для создания стабильного и эффективного конвейера тонкой настройки QLoRA для больших языковых моделей. Она решает проблемы, связанные с нестабильностью и невоспроизводимостью, часто возникающими при использовании …