Грег Амодей критикует OpenAI за приоритет скорости над безопасностью

Утекшая памятная записка показала, что бывший главный научный сотрудник OpenAI, Грег Амодей, критикует компанию за то, что она отдает приоритет движению вперед, а не безопасности. Амодей покинул OpenAI в апреле, чтобы основать собственную компанию искусственного интеллекта, Anthropic.

В памятной записке, датированной 22 сентября 2023 года и адресованной руководству OpenAI, Амодей выражает обеспокоенность по поводу того, что компания «сдвинулась с акцента на безопасность» и вместо этого сосредоточилась на «движении вперед, чего бы это ни стоило». Он утверждает, что OpenAI упустила из виду серьезные риски, связанные с развитием мощного искусственного интеллекта.

Амодей критикует OpenAI за то, что она поставила скорость разработки выше безопасности, утверждая, что компания не прилагает достаточных усилий для понимания и смягчения потенциальных опасностей, связанных с передовыми моделями искусственного интеллекта. Он предостерегает от потенциальных негативных последствий, если OpenAI продолжит свой нынешний курс.

В памятной записке подчеркивается важность приоритета безопасности и осторожного подхода к разработке искусственного интеллекта. Амодей призывает OpenAI пересмотреть свои приоритеты и уделять больше внимания безопасности, прежде чем внедрять более мощные модели.