Человечество предупредили о серьезной угрозе

По мнению ученого, бесконтрольные разработки в области ИИ привели к тому, что «мы добились прогресса, которого сами не ожидали», сообщает «РИА Новости». Человечество ошиблось в самом начале, когда не думало, для чего будет нужен этот интеллект, вполне возможно, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять, считает Рассел. «Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Все очень просто. Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса по поводу нашего будущего существования», – подчеркнул специалист. Он отметил, что появление универсального искусственного интеллекта, системы, способной выполнить любую задачу, которая под силу человеку, может произойти в течение десяти лет. При решении проблем, например, связанных с климатом, подобные программы могут прийти к выводу, что лучшим решением станет избавление от людей, выразил опасение ученый. «Если вы учите ИИ подражать человеческому поведению, то, по сути, вы учите его ставить человеческие цели и преследовать их. А человеческие цели включают в себя самые разные вещи. <…> Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели», – заключил он.