Tiny Aya: компактная языковая модель для 70 языков

Cohere выпустила Tiny Aya – семейство небольших языковых моделей (SLM) с 3,35 миллиардами параметров. Модель демонстрирует высокую эффективность в переводе и генерации текста на 70 различных языках.

В линейку входят пять моделей: Tiny Aya Base (базовая, предобученная), Tiny Aya Global (универсальная, настроенная для следования инструкциям), а также три региональных варианта – Earth (Африка/Западная Азия), Fire (Южная Азия) и Water (Азия-Тихоокеанский регион/Европа).

Особенность Tiny Aya – оптимизация для работы на устройствах с ограниченными ресурсами. Благодаря 4-битной квантизации модель занимает всего 2,14 ГБ и способна генерировать 10–32 токена в секунду на iPhone 13 и iPhone 17 Pro соответственно, с минимальной потерей качества.

Модель показала превосходные результаты в сравнении с конкурентами, включая Gemma3-4B и QWEN3-4B, в задачах перевода, математического рассуждения и обеспечения безопасности.