Статьи о промпт-инжиниринге и нейросетях

GradAlign — это новый метод выбора данных для обучения с подкреплением больших языковых моделей (LLM). Он решает проблему неэффективности традиционных методов, которые часто требуют огромного количества данных и вычислительных ресурсов.

Создание объяснимого конвейера анализа ИИ с использованием SHAP-IQ позволяет понять важность признаков, эффекты взаимодействия и разбивку решений модели.

SHAP-IQ – это инструмент, который помогает объяснить прогнозы моделей машинного обучения. Он …

Команда FireRedTeam выпустила FireRed-OCR-2B, использующую GRPO (Graph-enhanced Relation-aware Pre-training Optimization) для решения проблемы структурных галлюцинаций в таблицах и LaTeX, предназначенную для разработчиков программного обеспечения.

FireRed-OCR-2B – это модель оптического распознавания …

В данной работе представлен новый подход к предсказанию разреженной гауссовской занятости, который обобщает априорные знания о визуальной геометрии. Этот метод позволяет создавать более точные и детализированные модели 3D-объектов из разреженных …

Duel-Evolve – это метод масштабирования во время тестирования, который не требует использования вознаграждений. Он использует предпочтения, генерируемые большой языковой моделью (LLM) для самооценки.

В Duel-Evolve LLM генерирует несколько выходных данных, …

В области робототехники, обучение роботов выполнению задач путем имитации действий человека является важной задачей. Генерация действий – это критический компонент в робототехнической имитации. Обычно, модели, используемые для генерации действий, напрямую …

Обобщение RLHF при изменении вознаграждения и ограничении KL-регуляризации

Обучение с подкреплением на основе обратной связи от человека (RLHF) стало стандартным методом настройки больших языковых моделей (LLM). Однако производительность RLHF ухудшается …

Google AI представила STATIC — фреймворк для работы с разреженными матрицами, обеспечивающий ускорение декодирования с ограничениями для генеративных моделей извлечения на основе больших языковых моделей (LLM) в 948 раз.

STATIC …