Илон Маск: Сверхразумный ИИ представляет собой экзистенциальный риск для человечества

Оригинальное название: Elon Musk: Superintelligent AI is an Existential Risk to Humanity Ссылка на оригинальное видео: Дата публикации оригинала: 12 декабря 2020 г. Переведенное описание: Илон Маск считает, что появление цифрового сверхинтеллекта представляет собой гораздо более опасную угрозу для человечества, чем ядерное оружие. Он считает, что область исследований ИИ должна регулироваться государством. Опасности передового искусственного интеллекта были популяризированы в конце 2010-х годов Стивеном Хокингом, Биллом Гейтсом и Илоном Маском. Но один лишь Маск, пожалуй, самый известный публичный человек, выражающий обеспокоенность по поводу искусственного сверхинтеллекта. Экзистенциальный риск, связанный с развитым ИИ, заключается в гипотезе о том, что существенный прогресс в области искусственного интеллекта может когда-нибудь привести к вымиранию человечества или какой-либо другой необратимой глобальной катастрофе. Одна из многих проблем, связанных с ИИ, заключается в том, что управление сверхразумной машиной или привитие ей ценностей, совместимых с человеком, может оказаться гораздо более сложной проблемой, чем считалось ранее. Многие исследователи полагают, что сверхразум естественным образом будет сопротивляться попыткам отключить его или изменить свои цели. Экзистенциальный риск — это любой риск, который потенциально может уничтожить все человечество или, по крайней мере, поставить под угрозу или даже уничтожить современную цивилизацию. Такие риски проявляются в виде стихийных бедствий, таких как извержения супервулканов или ударов астероидов, но экзистенциальный риск также может быть вызван самим собой или создан человеком, как, например, оружие массового уничтожения. По мнению большинства экспертов, это, безусловно, самая опасная угроза для человечества. Но Илон Маск думает иначе. Он считает, что сверхразумный ИИ представляет собой гораздо большую угрозу для человечества, чем ядерное оружие. Некоторые исследователи ИИ и ОИИ, возможно, неохотно обсуждают риски, опасаясь, что политики не обладают глубокими знаниями в этой области и склонны быть убежденными «паникерскими» сообщениями, или опасаясь, что такие сообщения приведут к сокращению финансирования ИИ. Невозможно не задаться вопросом, действительно ли финансирование исследований ИИ более важно, чем возможность уничтожения человечества сильным ИИ. Будем надеяться, что у нас будет возможность коллективно решить, что нам лучше сделать, а не оставлять этот вопрос в руках небольшой группы людей, которые в одностороннем порядке примут это решение за нас. #ИИ #Илонмуск #сверхинтеллект ПОДПИСЫВАЙТЕСЬ на наш канал «Время науки»: ПОДДЕРЖИТЕ нас на Patreon: КУПИТЬ товары Science Time: Источники: Илон Маск выступает на: Национальная ассоциация губернаторов Илон Маск выступает на: SXSW Ник Бостром TedTalk: