ИИ обгоняет человека: глава OpenAI предупредил Совбез ООН о потере контроля над технологиями

Глава компании OpenAI Сэм Альтман выступил на заседании Совета Безопасности ООН с предупреждением: развитие искусственного интеллекта может опередить способность человечества контролировать последствия. По его словам, главный риск заключается в экспоненциальной скорости прогресса. По мере того как системы приближаются к способности самостоятельно совершенствовать свой код и создавать следующие версии себя, темпы развития технологий могут стать неконтролируемыми, передаёт газета "Ведомости".

Особую тревогу у главы OpenAI вызывает возможность автоматизации самого процесса создания ИИ машинами.

Напомним, ранее 12 сентября Альтман совместно с Илоном Маском поддержал призыв главы Anthropic Дарио Амодеи замедлить разработку нейросетей из соображений безопасности.

«Недостаточно просто инвестировать в безопасность, — считает Амодеи. — Нам необходимо контролировать саму скорость развития возможностей, чтобы системы защиты успевали эволюционировать вместе с технологией».