Новости о больших языковых моделях

Обучение с подкреплением на основе обратной связи от человека (RLHF) играет важную роль в адаптации больших языковых моделей (LLM) к предпочтениям пользователей. Формулировка RLHF с ограничениями по ожидаемой награде как …

Модели трансформаторов совершили революцию в области обработки естественного языка, достигнув впечатляющих результатов в различных задачах. Однако их размер и вычислительные требования постоянно растут, что создает проблемы для обучения и развертывания. …

В сфере разработки искусственного интеллекта "контекстное проектирование" стало новым подходом к повышению производительности больших языковых моделей (LLM). Специалисты индустрии активно используют файлы AGENTS.md (и аналогичные, например CLAUDE.md) как ключевую точку …

Для современного AI-разработчика продуктивность часто привязана к физическому местоположению. У вас, вероятно, есть мощный компьютер дома или в офисе, оснащённый видеокартами NVIDIA RTX, и более компактный ноутбук для работы в …

Рассуждающие большие языковые модели (LLM) созданы для решения сложных задач, разбивая их на серию более мелких шагов. Эти мощные модели особенно хорошо справляются с задачами, требующими глубоких рассуждений, например, продвинутое …

Google: Новый подход к точности и экономии LLM

Ученые из Google и Университета Вирджинии предложили новый способ оценки "глубины мышления" больших языковых моделей (LLM). Ранее считалось, что чем длиннее рассуждения …

Вероятностное объяснение возникновения рассуждений в RLVR

Исследователи предложили новую интерпретацию, почему большие языковые модели (LLM), обучаемые через подкрепление с проверяемыми наградами (RLVR), начинают демонстрировать сложные рассуждения. По их гипотезе, это …

Как обучать LLM локально через федеративное обучение с LoRA

Как обучать большие языковые модели локально без сбора данных в центре

В руководстве показано, как провести федеративное дообучение большой языковой модели …