OpenAI выделил $7.5 млн на исследования безопасности ИИ

OpenAI направит 7,5 миллиона долларов на поддержку независимых исследований в области «выравнивания» искусственного интеллекта (AI alignment). Эти средства будут переданы через The Alignment Project – организацию, занимающуюся обеспечением безопасности и контроля над развитием продвинутого ИИ.

“Выравнивание” в контексте ИИ означает приведение целей искусственного интеллекта в соответствие с человеческими ценностями и намерениями. Это особенно важно в связи с развитием систем общего искусственного интеллекта (AGI), которые потенциально могут обладать способностью к самостоятельным действиям и принятию решений.

Данный грант позволит финансировать независимые исследования, направленные на смягчение рисков, связанных с AGI, и обеспечение его безопасного развития. OpenAI надеется, что это усилит глобальные усилия в этой критически важной области.