Джеффри Хинтон, бывший сотрудник Google, которого называют «крестным отцом ИИ» (их несколько), говорит, что искусственный интеллект может поглотить человечество.
Выступая в программе CBS 60 Minutes, известный когнитивист и исследователь искусственного интеллекта, который в начале этого года произвел фурор в средствах массовой информации, когда объявил о своем уходе из Google, сославшись на сожаление о работе всей своей жизни как на причину своего неожиданного ухода, задал тон заявив, что «впервые в истории» человечество должно осознать реальность того, что кто-то еще на нашей планете «более разумен, чем мы». Возможно, самая интересная часть разговора произошла, когда ведущий CBS Скотт Пелли спросил Хинтона, сможет ли сверхразумный ИИ «заменить человечество».
«Я не говорю, что это произойдет», — сказал Хинтон ведущему CBS Скотту Пелли. «Если бы мы могли остановить их желание, это было бы здорово».
«Однако, — добавил Хинтон, — неясно, сможем ли мы когда-либо остановить их желание».
Великое неизвестное
Что касается особенностей того, как искусственный интеллект может в конечном итоге обогнать своих повелителей-людей? Ученый предположил, что автономные агенты могут начать «модифицировать себя».
«Это то, о чем нам нужно серьезно беспокоиться», — добавил он, отметив в другом месте свою обеспокоенность по поводу аспекта технологии «черного ящика» или отсутствия детального понимания того, как именно на самом деле работают алгоритмы машинного обучения.
У нас есть «очень хорошее» приблизительное представление о том, как обучаются системы ИИ, сказал Пелли фигура крестного отца, «но как только это становится действительно сложным, мы на самом деле не знаем, что происходит, так же, как мы не знаем, что происходит в вашей системе, в мозге».
Это справедливое беспокойство; независимо от того, является ли машина технически правильной (скажем, она производит столько скрепок , сколько возможно), дорожная карта, которую машина следует, чтобы добраться до этой конечной точки, по-прежнему имеет значение. Если люди будут достаточно долго вознаграждать правильные результаты, достигнутые с помощью проблемных средств, мы можем случайно обучить инструменты ИИ способами, которые могут иметь неприятные последствия.
Но опасения Хинтона не ограничиваются вопросами мирового господства. По данным CBS , он также обеспокоен последствиями того, как люди могут использовать искусственный интеллект: от использования автономного ИИ-оружия и боевых роботов до массовой замены людей искусственным интеллектом до дестабилизирующего распространения дезинформации, созданной ИИ, среди других опасений.
Конечно, это мрачная перспектива, но по мере того, как раскрывается эта великая неизвестность, потенциальные угрозы — особенно там, где они связаны с неправомерным использованием человека или смутными страхами перед триумфом машины над человеком — по-прежнему заслуживают внимания.
«Существует огромная неопределенность относительно того, что произойдет дальше», — сказал Хинтон Пелли.
© ТЁММИ: События
Подписывайтесь на наши группы социальных сетях, чтобы первым получать свежие материалы:
- Наша группа ОДНОКЛАССНИКИ
- Наша группа ВКОНТАКТЕ
