Статьи о больших языковых моделях

PPCR-IM — это система для рассуждений о последствиях государственной политики на основе многослойного направленного ациклического графа (DAG) и сопоставления социальных индикаторов. Система сочетает в себе представление знаний на основе DAG …

Параметры – это переменные, которые модель машинного обучения настраивает в процессе обучения, чтобы делать точные прогнозы. По сути, это "ручки", которые алгоритм крутит, чтобы подстроиться под данные. Чем больше параметров, …

Разработан слой памяти для AI-агента, разделяющий контекст, долговременную векторную память и эпизодические следы. Используется семантическое хранение с помощью векторных представлений и FAISS для быстрого поиска. Добавлена эпизодическая память, фиксирующая успешные …

Ученые разработали метод, позволяющий понять, как конкретные элементы больших языковых моделей (LLM) формируются в процессе обучения. Новая технология, названная Mechanistic Data Attribution (MDA), использует так называемые "функции влияния", чтобы определить, …