+0
Сохранить Сохранено 7
×

Ученые заявили о «точке невозврата» в создании Терминатора


Ученые заявили о «точке невозврата» в создании Терминатора

Самосовершенствующийся искусственный интеллект вполне может поработить или убить людей, если захочет этого.

Об этом заявил ученый Амнон Иден, считающий, что риски от появления высокоинтеллектуального и свободомыслящего сознания слишком велики, и «если не озаботиться вопросами контроля ИИ сегодня, то завтра может и не настать».

Как пишет Express, человечество, по мнению эксперта, находится в «точке невозврата» для претворения в жизнь сюжета киносаги «Терминатор».

Доктор Иден является руководителем проекта по анализу потенциального разрушительного воздействия искусственного интеллекта.

Без правильного понимания последствий разработки ИИ его создание грозит катастрофой, считает ученый.

«На сегодняшний день общество плохо проинформировано о спорах, которые ведутся в научных кругах об анализе потенциального воздействия ИИ. В 2016-м анализ этих рисков должен получить гораздо большее распространение в мышлении правительств и корпораций, политиков и лиц, принимающих решения», — заявил Иден.


© Peyri Herrera/flickr.com (CC BY ND 2.0)

Научная фантастика об уничтожающих человечество роботах «вот-вот станет нашей проблемой», уверен Иден, так как создание ИИ вышло из-под контроля.

Например, Илон Маск при поддержке предпринимателя Сэма Альтмана создал новую некоммерческую организацию стоимостью $1 млрд, которая занимается созданием искусственного интеллекта с открытым исходным кодом, который превзойдет человеческий разум. При этом сам миллиардер Маск называет искусственный интеллект «самой большой угрозой нашему существованию». Стив Возняк, соучредитель Apple, в марте рассказал, что «будущее выглядит пугающим и весьма опасным для людей… в конце концов, компьютеры будут думать быстрее, чем мы, и они избавятся от медленных людей, чтобы компании заработали более эффективно».

Такую позицию разделяет и профессор Оксфордского университета, известный своими работами об антропном принципе, — Ник Бостром.

Он также утверждает, что «суперинтеллект подошел к точке, за которой следует несовместимость с человеком».


© Jeff Keyzer/flickr.com (CC BY ND 2.0)

Бостром отмечает, что в отличие от изменений климата и генной инженерии, для контроля которых правительство выделяют огромные суммы, «ничего не делается, чтобы контролировать эволюцию ИИ».

По мнению ученого, в отношении ИИ сегодня ведется «политика правового вакуума, который необходимо заполнить».

Даже технология вроде беспилотных автомобилей, которая кажется полезной и безобидной, вызывает ряд вопросов. Например, должен ли такой автомобиль совершать экстренное торможение для спасения своих пассажиров и кто отвечает в случае ДТП, совершенного беспилотным автомобилем?

Обсуждая потенциальные риски, Быстром заявил, что «компьютер неспособен определить пользу и вред для человека» и «не имеет ни малейшего представления о человеческой морали».

Кроме того, циклы самосовершенствования в компьютере происходят со скоростью, за которой человеку не уследить, и с этим практически ничего нельзя сделать, отмечает ученый.

«На этапе, когда компьютеры смогут думать сами за себя, никто не может предсказать, приведет ли это к хаосу или значительно улучшит мир, — заявил он, в качестве примера называя простое решение компьютера — отключить отопление в странах с холодным климатом для оздоровления людей и повышения их выносливости, которое «может прийти в голову ИИ».
© Ben Husmann/flickr.com (CC BY ND 2.0)

Кроме того, Бостром отметил и проблему чипирования мозга для повышения биоинтеллекта человека.

«Во многих отношениях это может быть полезно, если будет контролируемо, но что, если чип сможет перепрограммировать сам себя? К чему это может привести — к появлению сверхчеловека или к появлению компьютера, который только выглядит человеком?» — задается вопросами ученый.

Способы, с помощью которых компьютеры решают людские проблемы, сильно отличаются от человеческих. Например, в шахматах человек рассматривает лишь узкий набор ходов, выбирая наилучший вариант. Компьютер же, наоборот, рассматривает все возможные ходы и выбирает лучший из всех. При этом компьютер не рассчитывает удивить или огорчить противника. В отличие от людей, при игре в шахматы компьютер может сделать тонкий и хитрый ход только случайно.

ИИ может посчитать лучшим способом устранить ошибку из любой системы — удаление оттуда «человеческого фактора», однако, в отличие от человека, робот не готов совершать подвиги, способные спасти жизнь людям.

Кроме того, увеличение числа умных машин представляет собой новую промышленную революцию. Это означает, что в скором времени мы столкнемся с грядущими социальными изменениями. Работа станет уделом высококвалифицированных специалистов, ведь все простые задания возьмут на себя системы на основе искусственного интеллекта.

Ученые сходятся во мнении, что за ИИ «нужен глаз да глаз», иначе Земля быстро превратится в планету «Железяка», населенную роботами.

Читайте также:


  • Телеграм
  • Дзен
  • Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.

Нам важно ваше мнение!

+0

 

   

Комментарии (0)