Anthropic готовится внедрить технологию, позволяющую математически до…

Anthropic готовится внедрить технологию, позволяющую математически доказать, что ответ был сгенерирован конкретной ИИ-моделью.

Компания представила прототип системы FlashProve и опубликовала технический отчёт о её работе.

Технология доказуемого инференса позволяет разработчикам подтверждать, что ответ действительно получен от заявленной модели, а не от её более слабой, дистиллированной или каким-либо образом изменённой версии.

При этом раскрывать веса самой модели не требуется.

https://www.anthropic.com/research/provable-inference