Новости о больших языковых моделях

Пятиуровневая структура безопасности для автономных агентов llm

Исследователи из Университета Цинхуа и Ant Group представили пятиуровневую структуру безопасности, ориентированную на жизненный цикл, для снижения уязвимостей автономных агентов LLM в OpenClaw.

Когда ИИ оценивает ИИ: скрытые опасности моделей рассуждений в процессе выравнивания

Модели рассуждений, такие как языковые модели больших размеров (LLM), все чаще используются для оценки других ИИ, чтобы убедиться, что …

Claw AI: безопасная альтернатива OpenClaw от Genspark

Genspark запустила ассистента Claw AI как безопасную альтернативу открытым платформам агентов, таким как OpenClaw. Claw AI позволяет предприятиям создавать и развертывать собственные агенты …

LangChain выпустила Deep Agents — структурированный механизм выполнения для планирования, памяти и изоляции контекста в многошаговых агентах ИИ. Deep Agents позволяют разработчикам создавать более надёжных и сложных агентов, которые могут …

Безопасные конвейеры llm с outlines и pydantic

В статье описывается способ создания безопасных, с ограничениями схем и управляемых функциями конвейеров больших языковых моделей (LLM) с использованием Outlines и Pydantic.

Использование …

Гарри Тан выпустил gstack, систему для планирования, ревью кода, тестирования и релиза, основанную на Claude. Это open-source система.

gstack позволяет пользователям планировать, писать, тестировать и развертывать код с помощью Claude. …

Протокол контекста модели (MCP) и навыки ИИ-агентов — это два разных подхода к структурированию инструментов и поведенческих рекомендаций для больших языковых моделей (LLM). MCP фокусируется на предоставлении LLM структурированных инструментов, …

Genesis AI Vivian Sun to Advance Commercialization

Beyond the Illusion of Consensus: From Surface Heuristics to Knowledge-Grounded Evaluation in LLM-as-a-Judge

Исследование "Beyond the Illusion of Consensus: From Surface Heuristics …

Мы создали агента, который мыслит как специалист по данным и занял первое место в рейтинге DABStep благодаря повторно используемому созданию инструментов. Агент использует подход, основанный на инструментах, и опирается на …

В настоящее время существует множество инструментов для организации работы агентов искусственного интеллекта (ИИ), однако выбор наиболее подходящего может быть сложной задачей. Ниже представлен обзор семи ведущих фреймворков для организации работы …

Инструмент от Google помогает небольшим моделям искусственного интеллекта превзойти гигантов.

Google разработал инструмент под названием "Parameter-Efficient Fine-Tuning" (PEFT). Этот инструмент предназначен для того, чтобы небольшие модели искусственного интеллекта могли конкурировать …

Будущее искусственного интеллекта и науки

В статье рассматриваются вопросы будущего искусственного интеллекта (ИИ) и его взаимосвязи с математическими и физическими науками. Обсуждаются возможности и ограничения ИИ, а также его потенциальное …