Искусственный суперинтеллект, искусственный интеллект в коробке и машинное сознание с Ником Бостромом

Оригинальное название: Artificial Superintelligence, AI in a Box & Machine Consciousness With Nick Bostrom Ссылка на оригинальное видео: Дата публикации оригинала: 15 мая 2021 г. Переведенное описание: Искусственный сверхинтеллект или сокращенно ИСИ, также известный как цифровой сверхинтеллект, — это появление гипотетического агента, который обладает интеллектом, намного превосходящим интеллект самых умных и одаренных людей. Если нам как виду удастся не уничтожить себя до появления настоящего искусственного интеллекта, момент следующего этапа нашего выживания в мире после ОИИ станет еще более важным. Эксперты по искусственному интеллекту пришли к единому мнению, что время, необходимое для перехода от AGI или общего искусственного интеллекта к ASI или искусственному сверхинтеллекту, исключительно короче, чем время, необходимое для достижения AGI с помощью нынешних узких систем искусственного интеллекта. Так что у нас действительно есть только одна попытка все исправить. Философ Ник Бостром выразил обеспокоенность появлением ИСИ. Он считает, что искусственный сверхинтеллект может представлять самую большую экзистенциальную угрозу человечеству. Помимо Ника Бострома, среди других известных общественных мыслителей, обеспокоенных ИСИ, есть Илон Маск. Одной из самых больших проблем теоретиков сверхразума является гипотеза сингулярности, которая утверждает, что сверхчеловеческий ИИ будет создан в течение короткого времени после первого интеллектуального взрыва. Сингулярность знаменует резкий переход интеллекта за пределы человеческого уровня, ведущий к сверхразуму. Если такая сущность появится на свет, она получит немедленный доступ к гораздо большим вычислительным ресурсам, чем люди, и сможет использовать их как в добрых, так и в злонамеренных целях. Одним из решений этого риска является внедрение принципа предосторожности, возможно, в сочетании с регулированием, обеспечивающим соответствие машинной этики нашей собственной. Другая сторона медали концепции машинной этики — то, как МЫ будем относиться к системам искусственного интеллекта. Будет ли нас волновать цитата за цитатой, благополучие машин связано с концепцией искусственного сознания или машинного сознания, и будем ли мы убеждены, что у них есть субъективный опыт. Если нынешняя тенденция технологического роста сохранится, однажды мы неизбежно проложим путь к появлению искусственного сверхинтеллекта. Станет ли оно сознательным или нет. #ИИ #АСИ #AGI ПОДПИСЫВАЙТЕСЬ на наш канал «Время науки»: ПОДДЕРЖИТЕ нас на Patreon: КУПИТЬ товары Science Time: Источники: Суперинтеллект