«Готовьтесь к плохому»: глава OpenAI призвал мир смириться с рисками ради искусственного интеллекта

Глава OpenAI Сэм Альтман заявил, что человечество должно принять некоторые негативные последствия развития ИИ (включая взломы и мошенничество), чтобы получить доступ к преимуществам технологии, передаёт РБК.

«Мы считаем, что мир должен принять, что некоторые плохие вещи будут происходить, ради преимуществ этой технологии и возможности людей самостоятельно принимать решения», — сказал Альтман в подкасте Decoded издания Politico.

Альтман выступил против жестких ограничений. Он заявил, что не согласился бы ограничить доступ к ИИ в обмен на гарантии отсутствия взломов и мошенничества.

«Я думаю, люди будут делать на порядки больше хорошего, чем плохого», — объяснил он.

Однако глава OpenAI провел «красную черту». Он назвал «неприемлемыми» «действительно катастрофические риски», в частности серьезную потерю контроля над ИИ.

«Я считаю совершенно неприемлемым, если мощную технологию будет контролировать одна лаборатория, самостоятельно определяя, как распределять её преимущества», — подчеркнул Альтман.

Позиции OpenAI и их главного конкурента Anthropic (чей глава Дарио Амадио также призывает к осторожности) сближаются. Обе компании теперь поддерживают привлечение независимых экспертов для оценки безопасности моделей.

На фоне этих дискуссий OpenAI уже проявляет осторожность: 27 сентября компания приостановила обучение новейших моделей из-за непредсказуемых действий ИИ-агентов. Ранее эксперты, включая Нобелевского лауреата Джеффри Хинтона, предупреждали, что потеря контроля над суперинтеллектом может привести к вымиранию человечества.

При этом президент США Дональд Трамп выступил против идеи замедления развития передовых моделей искусственного интеллекта, к чему призвали главы американских ИИ-корпораций. По его словам, для США главное — не уступить Китаю лидерство в этой сфере. 

«Сейчас мы опережаем Китай в том, что касается ИИ, и хотел бы, чтобы так было и дальше, потому что тот, кто победит в гонке за ИИ, победит и во всем остальном», — заявил Дональд Трамп, отвечая на вопрос журналистов. По его словам, можно было бы «подумать о неких защитных механизмах», но не стоит «бить тревогу по поводу вещей, которые на самом деле никогда не произойдут».