Безопасные конвейеры llm с outlines и pydantic и ещё 15 новости

Безопасные конвейеры llm с outlines и pydantic

В статье описывается способ создания безопасных, с ограничениями схем и управляемых функциями конвейеров больших языковых моделей (LLM) с использованием Outlines и Pydantic.

Использование Outlines позволяет определять структуру ответов LLM, гарантируя, что они соответствуют ожидаемой схеме. Pydantic используется для определения и проверки этих схем, обеспечивая типобезопасность конвейеров LLM.

Outlines и Pydantic вместе позволяют создавать конвейеры LLM, которые одновременно безопасны, надежны и просты в обслуживании. Такой подход упрощает интеграцию LLM в существующие системы и уменьшает риск ошибок.

В статье рассматривается использование функций в конвейерах LLM. Это позволяет реализовать сложную логику и выполнять операции на основе ответов LLM. Использование функций в сочетании с Outlines и Pydantic обеспечивает создание мощных и гибких конвейеров LLM.

Nvidia представит инфраструктуру для ai-экономики на gtc

На предстоящей конференции GTC (GPU Technology Conference) Nvidia представит инфраструктуру, необходимую для работы искусственного интеллекта (ИИ). Эта инфраструктура оценивается в 1 триллион долларов и является основой "AI-экономики".

Nvidia разрабатывает не только чипы, но и системы, необходимые для их эффективной работы. Это включает в себя сети, программное обеспечение и инструменты для управления огромными объемами данных, необходимых для обучения и развертывания моделей ИИ.

Компания стремится предоставить полную платформу для разработки и внедрения ИИ, охватывающую все этапы – от исследования до производства. Nvidia позиционирует себя как поставщика инструментов для создания "AI фабрики", где модели ИИ разрабатываются, обучаются и развертываются в масштабе.

Особое внимание уделяется ускорению обучения больших языковых моделей (LLM), таких как Gemma, с использованием новых аппаратных и программных решений. Решения включают в себя графические процессоры, специализированные сетевые соединения и программное обеспечение для параллельных вычислений.

Nvidia также уделяет внимание оптимизации энергоэффективности и снижению затрат на обучение и развертывание ИИ. Новые архитектуры чипов и программные инструменты направлены на снижение потребления энергии и повышение производительности. Компания представит решения для облачных вычислений, центров обработки данных и периферийных устройств.

Трэвис каланик запускает роботизированный стартап atoms

Соучредитель Uber Трэвис Каланик запускает роботизированный стартап Atoms.

Трэвис Каланик, бывший генеральный директор и соучредитель Uber, основал новую компанию под названием Atoms, занимающуюся робототехникой. Компания планирует разрабатывать роботов для различных отраслей, начиная с складов. Atoms является ребрендингом холдинга City Storage Systems (CloudKitchens), работающего в сфере робототехники и логистики; новый отдельный раунд финансирования при запуске не объявлялся.

Каланик описал Atoms как "компанию по созданию роботов", с акцентом на разработку роботов, способных выполнять рутинные задачи в складских помещениях. Он считает, что существует значительный рынок для автоматизации в этой области, и стремится создать роботов, которые будут более доступными и простыми в использовании, чем существующие решения.

Команда Atoms состоит из бывших сотрудников Uber и других технологических компаний. Компания намерена использовать свой опыт в области разработки программного обеспечения и аппаратного обеспечения для создания роботов, которые будут надежными и эффективными. Кроме того, Каланик заявил, что компания будет использовать искусственный интеллект и машинное обучение для улучшения возможностей своих роботов.

Gumloop привлек 50 миллионов долларов для ai автоматизации

Компания Gumloop привлекла 50 миллионов долларов финансирования для развития своей платформы автоматизации на основе искусственного интеллекта. Раунд финансирования возглавила компания Insight Partners, а в нем также участвовали другие инвесторы, включая Koch Disruptive Technologies и Jump Capital.

Gumloop предоставляет платформу, позволяющую компаниям автоматизировать процессы, связанные с обработкой входящих обращений от клиентов, таких как электронная почта, чаты и звонки. Платформа использует искусственный интеллект для понимания намерений клиентов и автоматического маршрутизации запросов соответствующим командам или агентам.

Компания утверждает, что ее платформа помогает предприятиям сократить время ответа, повысить удовлетворенность клиентов и снизить затраты. Gumloop заявляет о росте в 15 раз за последние 18 месяцев.

aws предоставит доступ к чипу cerebras wse-3

Amazon Web Services (AWS) предоставит доступ к чипу Cerebras WSE-3 размером с пластину на своей облачной платформе. Чип WSE-3 представляет собой гигантский процессор, предназначенный для рабочих нагрузок, связанных с искусственным интеллектом.

Этот чип является преемником WSE-2 и обеспечивает значительное увеличение производительности. Cerebras утверждает, что WSE-3 предлагает 9-кратное увеличение скорости обработки по сравнению с WSE-2.

AWS будет предлагать WSE-3 как часть своего сервиса машинного обучения, предоставляя клиентам доступ к его огромной вычислительной мощности для обучения и развертывания моделей искусственного интеллекта. Это позволит компаниям, у которых нет ресурсов для самостоятельного приобретения и обслуживания такого специализированного оборудования, воспользоваться передовыми возможностями в области искусственного интеллекта.

zhipu ai представляет glm-ocr для извлечения данных

Zhipu AI представила GLM-OCR, многомодальную модель оптического распознавания символов (OCR) размером 0,9 миллиарда параметров, предназначенную для разбора документов и извлечения ключевой информации (KIE). Модель разработана для обработки изображений документов и извлечения из них структурированных данных.

GLM-OCR способна выполнять задачи, связанные с пониманием визуального контента в документах, и извлекать важную информацию, такую как текст, таблицы и изображения. Модель обучена на большом объеме данных, что позволяет ей эффективно работать с различными типами документов и макетами.

Zhipu AI позиционирует GLM-OCR как решение для автоматизации процессов обработки документов, снижения трудозатрат и повышения точности извлечения данных. Модель может быть использована в различных отраслях, включая финансы, юриспруденцию, здравоохранение и логистику.

Дополнительная информация о GLM-OCR доступна по ссылке GLM-OCR.

aws стремится к лидерству в искусственном интеллекте

Двадцать лет спустя после того, как Amazon Web Services (AWS) стала пионером в области облачных технологий, компания стремится к следующему большому достижению – искусственному интеллекту (ИИ). AWS доминирует на рынке облачных вычислений, занимая примерно треть рынка, но рост замедляется. ИИ рассматривается как следующий значительный двигатель роста.

AWS предлагает широкий спектр инструментов ИИ, включая Bedrock, который позволяет клиентам получить доступ к моделям ИИ от других компаний, таких как AI21 Labs, Anthropic и Cohere. Amazon также разрабатывает собственные модели ИИ.

Компания инвестировала миллиарды долларов в ИИ и машинное обучение. AWS предоставляет клиентам возможность создавать, обучать и развертывать модели ИИ, используя облачные ресурсы.

AWS сталкивается с конкуренцией со стороны Microsoft Azure и Google Cloud, которые также активно развивают свои сервисы ИИ. Конкуренты предлагают собственные большие языковые модели (LLM) и сервисы ИИ.

В течение последних двух лет AWS представила более 100 новых возможностей, связанных с ИИ и машинным обучением. Компания сосредоточена на предоставлении клиентам инструментов для создания специализированных моделей ИИ, адаптированных к их конкретным потребностям.

AWS предлагает такие сервисы, как Amazon SageMaker, который позволяет разработчикам создавать, обучать и развертывать модели машинного обучения. Компания также предоставляет сервисы для работы с данными, такие как Amazon S3 и Amazon Redshift.

Бум финансирования стартапов в области ИИ и перспективы aws и nvidia gtc

Финансирование стартапов в области искусственного интеллекта переживает бум, что вызывает вопросы о дальнейших шагах Amazon Web Services (AWS) и о том, что будет представлено на мероприятии Nvidia GTC.

Наблюдается всплеск инвестиций в компании, занимающиеся разработкой ИИ, причём значительная часть финансирования поступает от венчурных фондов. Это свидетельствует о растущем интересе к потенциалу ИИ и о стремлении инвесторов занять позиции в этой быстро развивающейся области.

В контексте AWS возникает вопрос о том, как компания будет реагировать на этот бум. AWS является крупным поставщиком облачных услуг и имеет значительные ресурсы для инвестирования в ИИ. Вероятно, AWS будет стремиться расширить свои предложения в области ИИ, чтобы удовлетворить растущий спрос со стороны клиентов.

Особое внимание уделяется предстоящему мероприятию Nvidia GTC, которое является важным событием для индустрии ИИ. Ожидается, что на GTC будут представлены новые разработки в области аппаратного и программного обеспечения для ИИ. Это может оказать существенное влияние на развитие ИИ в будущем.

Axiom привлек 200 миллионов долларов для проверки кода ИИ

Стартап Axiom, разрабатывающий инструменты для проверки искусственного интеллекта, привлек 200 миллионов долларов финансирования. Компания стремится доказать, что код, сгенерированный искусственным интеллектом, безопасен для использования.

Axiom разрабатывает инструменты для формальной верификации, чтобы подтвердить, что программное обеспечение, написанное ИИ, ведет себя так, как задумано, и не содержит уязвимостей. Это особенно важно, поскольку разработчики все чаще полагаются на инструменты ИИ, такие как Copilot от GitHub и ChatGPT от OpenAI, для автоматизации процесса кодирования.

Компания планирует использовать полученное финансирование для расширения своей команды и разработки новых инструментов. Инвестиции возглавила компания Insight Partners, в раунде также участвовали другие инвесторы, включая Andreessen Horowitz и Coatue.

Axiom была основана в 2023 году. Ее основателями являются специалисты из Массачусетского технологического института и Стэнфордского университета, которые занимались исследованиями в области формальной верификации. Компания позиционирует себя как решение для проблем безопасности, связанных с использованием ИИ в разработке программного обеспечения.

Стартап wonderful привлек $150 млн для разработки ai-агентов

Стартап Wonderful, занимающийся разработкой AI-агентов, привлек 150 миллионов долларов финансирования. Компания планирует использовать полученные средства для ускорения разработки и расширения команды.

Wonderful специализируется на создании AI-агентов, которые автоматизируют сложные процессы. Компания утверждает, что ее технология позволяет предприятиям повысить эффективность и снизить затраты.

Инвесторы видят большой потенциал в технологиях Wonderful и считают, что AI-агенты сыграют важную роль в будущем автоматизации. Подробности о конкретных инвесторах не разглашаются.

Wonderful была основана в 2023 году.

claude получил интерактивные визуальные элементы для обучения

Антропоник (Anthropic) добавил в Claude интерактивные визуальные элементы, чтобы улучшить обучение. Теперь пользователи смогут взаимодействовать с визуальными материалами прямо в чате, что позволяет лучше понимать сложные концепции.

Новая функция позволяет пользователям исследовать визуализации, задавать вопросы и получать ответы, основанные на данных, представленных в графиках и диаграммах. Это полезно для обучения, анализа данных и принятия решений.

Примером является возможность загрузить график и попросить Claude объяснить ключевые тенденции или предсказать будущие результаты, основываясь на отображенных данных. Визуальные элементы можно загружать в формате изображений.

Разработчики утверждают, что такая интеграция визуализаций и чата делает обучение более эффективным и интуитивно понятным. Интерактивные визуальные элементы доступны пользователям Claude 2 и Claude 3 на разных планах подписки.

google maps представляет ask maps: навигация стала проще

Google Maps упрощает навигацию благодаря новой функции «Ask Maps», основанной на принципах диалога. Эта функция позволяет пользователям задавать вопросы о маршруте в режиме разговора и получать ответы в голосовом формате.

«Ask Maps» позволяет пользователям задавать вопросы о пунктах назначения, маршрутах и ориентирах, используя естественный язык. Функция доступна на Android и iOS, но пока только на английском языке.

Google утверждает, что «Ask Maps» помогает снизить когнитивную нагрузку, особенно при вождении, позволяя пользователям не отвлекаться от дороги. Функция разработана для улучшения безопасности и удобства навигации.

«Ask Maps» доступна для пользователей Google Maps на Android и iOS, начиная с сегодняшнего дня. Google планирует расширить поддержку языков в будущем.

Более подробная информация

openviking: база данных контекста с открытым исходным кодом для ai

Представляем OpenViking: базу данных контекста с открытым исходным кодом, которая предоставляет память на основе файловой системы и извлечение информации для систем искусственного интеллекта, таких как OpenClaw.

OpenViking — это база данных контекста с открытым исходным кодом, разработанная для AI-агентов. Она позволяет агентам хранить, извлекать и использовать информацию, подобно тому, как люди используют память. OpenViking использует файловую систему для хранения данных, что делает ее простой в использовании и расширяемой.

В основе OpenViking лежит идея контекста как набора файлов, организованных в иерархическую структуру. Каждый файл представляет собой фрагмент информации, а файловая система обеспечивает механизм для поиска и извлечения релевантных фрагментов информации. OpenViking использует простой текстовый формат для хранения данных, что позволяет легко читать и редактировать информацию вручную.

OpenViking разработана для работы с системами AI-агентов, такими как OpenClaw. OpenClaw — это платформа для создания автономных агентов, способных выполнять сложные задачи. OpenViking предоставляет OpenClaw механизм для хранения и извлечения знаний, необходимых для выполнения этих задач.

OpenViking имеет лицензию Apache 2.0 и доступна на GitHub. OpenViking на GitHub

replit привлек $400 млн, оценка $9 млрд

Стартап Replit, занимающийся "vibe coding", привлек 400 миллионов долларов в раунде финансирования, в результате чего его оценка составила 9 миллиардов долларов. Replit предоставляет облачную среду разработки (IDE). Компания утверждает, что ее платформа позволяет разработчикам писать код на любом языке и запускать его в браузере. Replit поддерживает совместную работу и имеет встроенные инструменты для обучения программированию.

microsoft запускает copilot health на основе искусственного интеллекта

Microsoft запустила Copilot Health, чтобы помочь потребителям понимать свои медицинские данные. Этот инструмент, основанный на искусственном интеллекте, предназначен для того, чтобы люди могли задавать вопросы о своем здоровье и получать понятные ответы.

Copilot Health может суммировать информацию о здоровье, такую как результаты анализов и заметки врачей. Он доступен в приложении Microsoft Copilot и на веб-сайте Copilot Health.

Microsoft заявляет, что Copilot Health не предназначен для диагностики или предоставления медицинских советов. Инструмент предназначен для расширения возможностей пациентов и помощи в понимании их здоровья. Copilot Health работает с данными, хранящимися в медицинских записях, но требует согласия пользователя для доступа к этой информации.

Инструмент использует модели больших языков, разработанные Microsoft. Разработчики заявляют о соблюдении стандартов безопасности и конфиденциальности, включая соответствие требованиям HIPAA. Copilot Health находится на стадии предварительного просмотра и доступен по платной подписке. Microsoft планирует внедрить дополнительные функции в будущем.

salesforce, zoom и ringcentral представили ии-агентов

Salesforce, Zoom и RingCentral представили ИИ-агентов, которые призваны изменить качество обслуживания клиентов.

Salesforce представила свои ИИ-агенты на конференции Dreamforce 2023, объявив о доступности Einstein GPT и новых возможностях, позволяющих компаниям создавать персонализированные ИИ-агенты для обслуживания клиентов. Эти агенты смогут взаимодействовать с клиентами через различные каналы, включая голос и чат.

Zoom представила Zoom IQ Service для продаж и обслуживания клиентов, также использующий ИИ. Zoom IQ Service позволит анализировать разговоры в реальном времени и предоставлять агентам рекомендации. Кроме того, Zoom IQ Service может автоматически создавать сводки встреч и определять следующие шаги.

RingCentral представила RingCentral Total Office с RingCentral IQ, предлагая ИИ-агентов для автоматизации задач обслуживания клиентов, таких как ответы на вопросы и обработка запросов.