Пятиуровневая структура безопасности для автономных агентов llm и ещё 17 новости

Пятиуровневая структура безопасности для автономных агентов llm

Исследователи из Университета Цинхуа и Ant Group представили пятиуровневую структуру безопасности, ориентированную на жизненный цикл, для снижения уязвимостей автономных агентов LLM в OpenClaw.

Эта структура направлена на решение проблем безопасности, возникающих при использовании больших языковых моделей (LLM) в качестве автономных агентов. Она охватывает этапы жизненного цикла агента, начиная с разработки и заканчивая развертыванием и мониторингом.

Структура безопасности включает пять уровней: планирование, инструменты, исполнение, память и наблюдение. Каждый уровень решает конкретные типы уязвимостей и предлагает соответствующие меры безопасности. Уровень планирования концентрируется на защите от злонамеренных целей, уровень инструментов обеспечивает безопасное использование API и ресурсов, уровень исполнения предотвращает несанкционированные действия, уровень памяти защищает конфиденциальные данные и уровень наблюдения выявляет и реагирует на угрозы безопасности.

Исследователи продемонстрировали эффективность своей структуры безопасности в OpenClaw, платформе для разработки и тестирования автономных агентов LLM. Их результаты показывают, что структура безопасности может эффективно снизить уязвимости и повысить надежность автономных агентов LLM.

ai security wars: new solutions from cato networks & acsense

shadow models, silent wars

Гонка в области искусственного интеллекта (ИИ) становится более скрытной.

cato networks запускает sase с питанием от gpu и встроенной безопасностью на основе ИИ

Cato Networks запустила SASE (Secure Access Service Edge) с поддержкой графических процессоров (GPU) и встроенной безопасностью на основе ИИ.

acsense запускает безопасное управление конфигурацией для устранения риска сбоев iam

Acsense запустила безопасное управление конфигурациями для устранения риска сбоев IAM (Identity and Access Management).

машинное обучение для более точного скрининга рака молочной железы

Машинное обучение может улучшить процессы скрининга рака молочной железы. Исследователи использовали алгоритмы машинного обучения для анализа маммограмм и выявления потенциальных случаев рака. Это может помочь радиологам в более точной и быстрой диагностике.

В исследовании были использованы данные маммограмм, чтобы обучить модель машинного обучения. Модель была способна выявлять признаки, указывающие на рак молочной железы, с высокой точностью. Это позволило снизить количество ложноположительных результатов и повысить эффективность скрининга.

Применение машинного обучения в скрининге рака молочной железы может привести к более раннему выявлению заболевания и улучшению результатов лечения. Также это может снизить нагрузку на врачей-радиологов и повысить качество медицинской помощи. Дальнейшие исследования направлены на оптимизацию алгоритмов и их интеграцию в клиническую практику.

openclaw: бесплатный ai агент набирает популярность

В 2026 году набирает популярность бесплатный инструмент на основе искусственного интеллекта под названием OpenClaw. Он позиционируется как агент ИИ, доступный для широкого круга пользователей.

OpenClaw привлекает внимание своей бесплатной доступностью, что является ключевым фактором его вирусного распространения. Инструмент разработан для выполнения задач, обычно связанных с агентами ИИ, но при этом не требует финансовых затрат от пользователей.

На данный момент нет подробной информации о конкретных функциях или возможностях OpenClaw, но его популярность указывает на растущий интерес к бесплатным инструментам ИИ.

d-id выпустила v4 expressive visual agents

Исследования о потере рабочих мест из-за ИИ игнорируют то, как ИИ полностью уничтожает интернет, предназначенный для людей.

d-id выпустила V4 Expressive Visual Agents

Компания D-ID объявила о запуске V4 Expressive Visual Agents.

Mamba-3: новая модель пространства состояний с улучшенной эффективностью

Представляем Mamba-3 — новую модель пространства состояний, обладающую состояниями в два раза меньшего размера и повышенной аппаратной эффективностью декодирования MIMO.

Mamba-3 стремится к сочетанию простоты и производительности, предлагая значительное улучшение по сравнению с предыдущими моделями пространства состояний, такими как Mamba-2. Модель достигает компактности благодаря использованию селективного сканирования состояний (SSM), которое уменьшает размер состояний без ущерба для качества.

Особенностью Mamba-3 является оптимизированное аппаратное обеспечение для декодирования MIMO (множественного входа — множественного выхода), что повышает скорость и эффективность обработки данных. Это особенно важно для приложений, требующих высокой пропускной способности и низкой задержки.

В тестах Mamba-3 демонстрирует сопоставимую или превосходящую производительность по отношению к другим моделям, включая трансформаторы, при значительно меньшем количестве параметров. Это делает ее привлекательным вариантом для задач, где ресурсы ограничены или необходима быстрая скорость вывода.

Разработчики также предоставляют ресурсы и инструменты для сообщества, чтобы облегчить эксперименты и дальнейшее развитие Mamba-3. Это включает в себя доступ к весам модели и программному коду, позволяя исследователям и разработчикам использовать и адаптировать технологию для своих нужд.

Новый метод выявления чрезмерной уверенности в больших языковых моделях

Новый метод выявления излишне уверенных больших языковых моделей был разработан для решения проблемы, когда эти модели дают ответы с высокой уверенностью, даже если они неверны. Исследователи обнаружили, что традиционные метрики, такие как точность, не всегда надежно определяют, когда модель чрезмерно уверена в своих ответах.

Вместо этого они предлагают использовать "калибровочную ошибку", которая измеряет расхождение между предсказанной уверенностью модели и ее фактической точностью. Модель, которая хорошо откалибрована, должна быть уверена только тогда, когда она действительно права, и неуверена, когда она не уверена.

Разработанный метод использует новый способ измерения калибровочной ошибки, который, по мнению исследователей, является более чувствительным, чем существующие методы, особенно для больших языковых моделей. Этот метод позволяет более эффективно выявлять модели, которые склонны к чрезмерной уверенности, даже если их общая точность высока.

Исследователи провели эксперименты с различными большими языковыми моделями и обнаружили, что их метод может надежно выявлять модели, которые склонны к чрезмерной уверенности. Это важно, поскольку чрезмерная уверенность может привести к тому, что модели будут использоваться в ситуациях, когда они не пригодны, что приведет к неверным или вредным результатам.

Messykitchens: набор данных для реконструкции 3d-сцен

MessyKitchens — это набор данных для реконструкции 3D-сцен с акцентом на объекты с большим количеством контактов. Набор данных содержит 150 сцен, созданных с использованием симулятора робототехники iGibson. Каждая сцена представляет собой захламленную кухню с различными предметами и мебелью.

Сцены в MessyKitchens специально разработаны для представления сложных случаев, когда объекты контактируют друг с другом несколькими точками. Это делает набор данных сложным для алгоритмов реконструкции 3D-сцен, которым необходимо точно определить геометрию и отношения между объектами.

В набор данных включены высококачественные 3D-модели объектов, а также данные датчиков, имитирующие данные, полученные с помощью реальных датчиков, таких как камеры RGB-D. Данные датчиков содержат информацию об окклюзиях, шуме и других артефактах, которые обычно встречаются в реальных условиях.

Для каждой сцены предоставлены аннотации на уровне объектов, включая информацию об их 3D-позах, геометрии и связях между объектами. Эти аннотации можно использовать для обучения и оценки алгоритмов реконструкции 3D-сцен.

Создатели MessyKitchens надеются, что этот набор данных будет способствовать развитию более надежных и точных алгоритмов реконструкции 3D-сцен, которые могут справляться со сложными реальными условиями. Доступ к набору данных.

Искусственный интеллект позволяет 'видеть' сквозь препятствия

Генеративный искусственный интеллект улучшает беспроводную систему зрения, которая видит сквозь препятствия.

Ученые из Университета штата Пенсильвания разработали систему, которая использует искусственный интеллект для реконструкции изображений, заблокированных объектами. Система использует беспроводные сигналы, чтобы "видеть" сквозь стены и другие препятствия.

В основе системы лежит генеративный искусственный интеллект, который обучается на большом количестве данных изображений и соответствующих беспроводных сигналов. Это позволяет ему предсказывать, что находится за препятствием, даже если оно полностью скрыто.

В отличие от существующих технологий, которые полагаются на отраженные сигналы или сложные алгоритмы обработки изображений, данная система способна реконструировать изображения с высокой точностью, даже в сложных условиях. Исследователи продемонстрировали способность системы идентифицировать объекты и людей за кирпичной стеной.

Эта технология может иметь широкий спектр применений, включая поисково-спасательные операции, наблюдение и безопасность. Разработчики считают, что она может быть использована для обнаружения людей, застрявших в зданиях после катастроф, или для мониторинга подозрительной деятельности.

Система была протестирована в различных условиях, включая различные типы стен, расстояния и углы обзора. Результаты показали, что она может точно реконструировать изображения даже в сложных условиях.

Nvidia gtc 2026: фокус на практическое применение искусственного интеллекта

На конференции NVIDIA GTC 2026 особое внимание будет уделено практическому применению искусственного интеллекта.

Компания представит обновления по всем уровням технологического стека искусственного интеллекта, включая аппаратное обеспечение, программное обеспечение и модели. Ожидается, что новые разработки позволят клиентам создавать и развертывать более мощные и эффективные решения на основе искусственного интеллекта.

Особое внимание будет уделено генеративному искусственному интеллекту, включая новые инструменты и технологии для создания контента, автоматизации задач и решения сложных проблем. NVIDIA продемонстрирует новые возможности в области больших языковых моделей, компьютерного зрения и робототехники.

Кроме того, на GTC 2026 будут представлены новые решения для различных отраслей, включая здравоохранение, финансы, производство и транспорт. NVIDIA стремится помочь своим клиентам внедрять искусственный интеллект в свои рабочие процессы и достигать новых уровней производительности и инноваций.

Visa готовит платежные системы к транзакциям через ИИ-агентов

Visa готовит платежные системы к транзакциям, инициированным ИИ-агентами. Компания работает над тем, чтобы платежные системы могли обрабатывать транзакции, начатые искусственным интеллектом (ИИ) от имени потребителей. Visa заявила, что это включает в себя разработку новых протоколов и стандартов для обеспечения безопасности и надежности этих транзакций.

Компания видит растущий потенциал в использовании ИИ для автоматизации платежей и улучшения клиентского опыта. В частности, Visa изучает возможность использования ИИ-агентов для автоматического пополнения запасов, оплаты счетов и совершения покупок от имени потребителей.

Visa также работает над решением проблем, связанных с ответственностью и контролем в случае, когда ИИ-агент совершает транзакцию. Это включает в себя разработку механизмов, позволяющих потребителям отслеживать и утверждать транзакции, инициированные ИИ.

В качестве примера, Visa представила концепцию "Ассистент покупок на базе ИИ", который может использовать ИИ для поиска лучших предложений и совершения покупок от имени пользователя. Потребители могут задавать предпочтения ассистенту, и ассистент будет использовать эти предпочтения для поиска и покупки товаров, соответствующих их потребностям.

google делает ставку на “вайб-дизайн” со stitch

Google делает ставку на "вайб-дизайн" со Stitch.

Google представляет Stitch, новый язык дизайна, который призван помочь командам создавать более последовательный и выразительный пользовательский интерфейс. Stitch основан на принципах "дизайна настроения", который фокусируется на передаче ощущений и эмоций через визуальные элементы, а не только на функциональности.

Вместо того чтобы начинать с компонентов, как это обычно делается в дизайне пользовательского интерфейса, Stitch начинается с "настроения". Дизайнеры задают параметры, такие как цвет, типографика, форма и текстура, чтобы установить желаемое настроение. Stitch затем генерирует варианты пользовательского интерфейса на основе этих параметров.

Stitch позволяет командам создавать дизайн-системы, которые адаптируются к различным платформам и устройствам. Он также упрощает процесс сотрудничества между дизайнерами и разработчиками, поскольку все работают с единым набором параметров.

Google планирует сделать Stitch общедоступным в будущем. Инструмент сейчас находится на ранней стадии разработки, и компания ищет отзывы от дизайнеров, чтобы улучшить его. Дополнительная информация доступна в документе.

nvidia разрабатывает безопасные агенты искусственного интеллекта для предприятий

NVIDIA стремится создать безопасных для развертывания агентов искусственного интеллекта для предприятий. Компания представила новые инструменты и платформы, предназначенные для обеспечения безопасности и управляемости этих агентов.

Новые инструменты включают в себя NVIDIA NeMo, платформу для разработки больших языковых моделей (LLM), и NVIDIA AI Foundations, набор базовых моделей, обученных на данных NVIDIA. Эти инструменты позволяют предприятиям создавать собственных агентов искусственного интеллекта, настроенных на конкретные задачи и домены.

Для обеспечения безопасности агентов NVIDIA разработала ряд мер контроля, таких как контроль доступа, мониторинг и аудит. Эти меры контроля помогают предприятиям предотвращать несанкционированный доступ и использование агентов, а также отслеживать их поведение и выявлять потенциальные проблемы.

NVIDIA также разработала набор инструментов для управления агентами, которые позволяют предприятиям развертывать, масштабировать и обновлять агентов. Эти инструменты помогают предприятиям эффективно управлять агентами и обеспечивать их надежную работу.

Компания утверждает, что эти инструменты позволят предприятиям развертывать агентов искусственного интеллекта в производственной среде с уверенностью в их безопасности и управляемости. NVIDIA считает, что это станет ключевым фактором для широкого распространения агентов искусственного интеллекта в предприятиях.

ChatGPT в 2025 году: статистика использования и прогноз

Статистика ChatGPT в 2025 году включает в себя использование, демографические данные, доход и долю рынка. Ожидается, что количество пользователей ChatGPT достигнет 1,2 миллиарда к 2025 году, увеличившись с 150 миллионов в 2023 году.

Демография пользователей

Основными пользователями ChatGPT являются мужчины, составляющие 62% от общего числа. Возрастная группа от 18 до 34 лет составляет самую большую часть пользователей, а именно 45%. США являются крупнейшим рынком для ChatGPT, на который приходится 39% от общего числа пользователей. Далее следуют Индия с 14% и Великобритания с 8%.

Доход и доля рынка

Ожидается, что доход от ChatGPT достигнет 1,4 миллиарда долларов к 2025 году, увеличившись с 150 миллионов долларов в 2023 году. ChatGPT в настоящее время занимает 15% от общего рынка больших языковых моделей, и ожидается, что этот показатель увеличится до 25% к 2025 году. Основными конкурентами ChatGPT являются Google Bard и Microsoft Copilot.

Использование

ChatGPT в основном используется для создания контента, автоматизации обслуживания клиентов и исследований. 40% пользователей используют ChatGPT для создания контента, такого как статьи в блогах и сообщения в социальных сетях. 30% используют его для автоматизации обслуживания клиентов, а 20% — для исследовательских целей.

tinder использует ai для выбора фото и определения интересов

tinder планирует ввести функцию, позволяющую искусственному интеллекту сканировать галерею пользователя для выбора фотографий и определения его интересов. Эта функция будет запущена в США позднее весной.

zeroBiometrics объявила о запуске ZeroSentinel.

abacus ai: новый искусственный интеллект для разработчиков

Abacus AI – это искусственный интеллект, позволяющий «ощутить» код, создавать агентов и, возможно, заменить более десяти инструментов. Abacus AI позиционируется как платформа, предлагающая уникальный способ взаимодействия с кодом, автоматизации задач и повышения эффективности разработки.

Abacus AI утверждает, что помогает разработчикам лучше понимать код, предлагая интуитивно понятный интерфейс и возможности визуализации. Это может быть особенно полезно при работе с большим или сложным кодом.

Платформа позволяет создавать агентов, которые могут автоматизировать различные задачи, такие как тестирование, развертывание и мониторинг. Эти агенты могут быть настроены для выполнения определенных действий, освобождая разработчиков от рутинной работы.

В контексте ценообразования, Abacus AI предлагает разные тарифные планы. Базовый план стоит 99 долларов в месяц и включает 100 000 токенов. План «Team» стоит 299 долларов в месяц и включает 500 000 токенов. Есть также план «Enterprise» с индивидуальным ценообразованием. Пользователи могут купить дополнительные токены по цене 0,0008 доллара за 1000 токенов.

Агентное кодирование с goose доступно бесплатно

Агентное кодирование с Goose доступно бесплатно.

Goose — это агент, который может использовать инструменты, такие как поиск Google, калькулятор и API для выполнения задач. Он может создавать, оценивать и улучшать код, а также использовать различные языки программирования, включая Python. Goose поддерживает многошаговое рассуждение и может обрабатывать как текст, так и изображения.

Возможности Goose

Goose способен выполнять поиск в Google, использовать калькулятор, а также взаимодействовать с API. Он может создавать, оценивать и улучшать код, используя различные языки программирования, в том числе Python. Он может рассуждать и выполнять задачи, требующие нескольких шагов, и обрабатывать как текстовые, так и графические данные.

метавселенная провалилась, назначения в singulr ai и google

Метавселенная, по сути, оказалась неудачным проектом, обошедшимся в 80 миллиардов долларов и не вызвавшим интереса у публики.

Singulr AI

Ричард Бёрд назначен главным директором по безопасности и стратегии в Singulr AI.

Google и город

Кинорежиссёр Крис Парр нанес на карту город Норт-Окс, штат Миннесота, несмотря на то, что Google не смогла этого сделать.