Взломы, мошенничества и биотeррoризм: Гейтс предупредил о «неприятных сюрпризах» с ИИ в 2027 году

В течение следующего года злоумышленники могут использовать искусственный интеллект для кибератак и вымогательства. Об этом в интервью CNN заявил сооснователь Microsoft Билл Гейтс. По его словам, нынешних мер защиты ИИ недостаточно, а злоумышленники могут применять новые модели для атак на инфраструктуру и создания сбоев на финансовых рынках.

Прозрачность технологических лидеров

Гейтс считает, что индустрия ИИ необычайно открыта в отношении своих опасений. Проблема не в сокрытии рисков, а в том, что учёные, политики и общество пока слабо осознают, насколько мощными и сложными являются эти инструменты.

Масштаб угрозы

Гейтс называет ИИ не просто технологическим прорывом, а «эволюционным событием», которое изменит мир сильнее, чем все предыдущие технологии (включая ПК и интернет). Он предупреждает, что ИИ может стать для людей тем, чем люди являются для собак или кошек.

Ближайшие риски

Самый серьёзный риск на ближайший год — не выход ИИ из-под контроля, а использование ИИ злоумышленниками, особенно в киберсфере (вымогательство, манипуляции на рынках). Гейтс отмечает, что сейчас можно отключить все защитные механизмы ИИ, что создаёт опасную комбинацию: «плохие люди + отсутствие защит + новейшие модели».

Биотерроризм

Гейтс ранее заявлял, что риск биотeррoристической атаки теперь в 50 раз выше риска естественной пандемии. Он считает, что лидеры делают недостаточно для предотвращения этого.

Ответ на критику «думеризма»

В ответ на слова Сэма Альтмана о «ловушке думеризма» Гейтс говорит, что все ответственные лидеры ИИ (включая Альтмана и Дарио Амодеи) предупреждают об опасностях. Преувеличение — когда говорят о неминуемой гибели человечества. Но ИИ опаснее автомобилей, самолётов и лекарств, и без контроля возможны мрачные сценарии.

Регулирование

Гейтс уверен, что в течение следующего года мир выйдет за рамки саморегулирования компаний. Для самой опасной технологии в истории нужны государственные органы безопасности — по аналогии с FAA (авиация) или FDA (лекарства). Он будет активно выступать за это.

Потеря рабочих мест

Гейтс предупреждает о беспрецедентных потерях рабочих мест во всех секторах. Он призывает зарезервировать некоторые профессии (в образовании, здравоохранении) за людьми и обсуждать налогообложение использования ИИ и роботов. По его мнению, общество придёт к этому, когда осознает мощь технологии.

Контакты с властью

Гейтс общался с рядом политиков и надеется на разговор с президентом Трампом и его командой. Чем больше времени уделяется этой теме, тем лучше, поскольку текущее положение дел недостаточно.

Ранее глава OpenAI Сэм Альтман заявил, что человечество должно принять некоторые негативные последствия развития ИИ, включая взломы и мошенничество, чтобы получить доступ к преимуществам технологии.