| | Эксперты рассказали, при каких условиях искусственный интеллект может выйти из-под контроля
Наука

Эксперты рассказали, при каких условиях искусственный интеллект может выйти из-под контроля

Эксперты рассказали, при каких условиях искусственный интеллект может выйти из-под контроля
Причиной "восстания машин" видят в создании сообщества роботов.

Если компьютеры разовьют собственный, непонятный нам язык и создадут свою социальную сеть, они могут выйти из-под контроля и начать управлять нами, предостерегает издание Venture Beat, информирует Киевские Ведомости со ссылкой на Хвиля.

Число социальных сетей растет, их функционал развивается, количество активных пользователей увеличивается с каждым днем. К 2020 году число последних, по прогнозам, должно возрасти до 2,9 млрд. И все более значительную роль в их маркетинге играет искусственный интеллект. Его способностей уже хватает на то, чтобы воспринимать естественный язык и учиться на прошлом опыте. Что произойдет, если разработчики станут использовать ИИ как основу для новых социальных сетей?

Мы разрабатываем машины и технологии для того, чтобы облегчить себе жизнь. Однако, если ИИ начнет создавать свой язык без помощи человека, у нас возникнут сложности в понимании. Машины, которые общаются между собой на собственном, непонятном нам языке, окажутся бесполезны для нас. И мы не сможем ими управлять.

Возможность самостоятельного обучения, появившаяся недавно у компьютеров, позволяет им стать гораздо умнее человека. Если ИИ разработает собственный язык, машины смогут создать свою сеть, которую человек не в состоянии будет отключить. Это значит, что они смогут писать программы, инструкции и другие семантические коды, чтобы соперничать с людьми.

ИИ сможет развиться до такой степени, что начнет действовать без разрешения, то есть не получая инструкций от человека. В этом случае, машины сами смогут решать, что правильно, а что нет, и начнут управлять нами через виртуальных «помощников».

Если несколько машин сможет общаться на неизвестном нам языке, существует вероятность, что люди не смогут тягаться с машинами. Об этом риске предупреждают Стивен Хокинг, Стив Возняк и Билл Гейтс. Развитие человека ограничивается медленной работой эволюции, но у машин такого ограничения нет. Потенциальные последствия создания «социальной сети ИИ» могут оказаться плачевными для человека.

Читайте также: Искусственный интеллект от Google научат писать новости

К числу тех, кто призывает с осторожностью относиться к развитию ИИ и не пускать это дело на самотек, относится и глава SpaceX и Tesla Илон Маск. Недавно он написал, что от искусственного интеллекта исходит более реальная угроза, чем от Северной Кореи...

Еще по теме

Facebook отключил искусственный интеллект и машинное обучение

Facebook отключил искусственный интеллект и машинное обучение

1-08-2017, 22:45
Facebook отключил слишком самостоятельный искусственный интеллект

Facebook отключил слишком самостоятельный искусственный интеллект

1-08-2017, 18:30
Стивен Хокинг предсказал, от чего погибнет человечество

Стивен Хокинг предсказал, от чего погибнет человечество

30-04-2017, 15:47
Google-переводчик разработал собственный язык

Google-переводчик разработал собственный язык

15-12-2016, 15:05
Искусственный интеллект Google придумал собственный язык

Искусственный интеллект Google придумал собственный язык

24-11-2016, 02:43
Google придумал, как остановить

Google придумал, как остановить "робокалипсис"

12-06-2016, 16:34
Наука

Редактор раздела Наука
Написать на e-mail