Нажмите "Enter", чтобы перейти к контенту

У человечества нет никаких шансов контролировать сверхразумный искусственный интеллект — ученые

Ученые из Общества Макса Планка бьют тревогу и предупреждают, что  нынешние технологии  человечества не  в состоянии контролировать сверхразумный искусственный интеллект, способный спасти или уничтожить человечество.

Согласно сообщению “Interesting Engineering“, статья, недавно опубликованная исследовательским институтом в Журнале исследований искусственного интеллекта, была сосредоточена исключительно на способности человечества реагировать на гипотетический ИИ в стиле Скайнета, который решает покончить с человечеством.

В статье приводился сценарий, спрашивающий: «Если бы сверхразумный искусственный интеллект будущего решил, например, что наиболее эффективным способом положить конец человеческим страданиям,  было бы просто покончить с человечеством? То,  что бы мы сделали, чтобы остановить его”? Этот вопрос был задан членами Общества Макса Планка в их недавно опубликованном исследовании.

Ответ, который  дали ученые, был тревожным. По мнению этих исследователей, человечеству в значительной степени придется стоять в стороне и смотреть, как нас уничтожают. Ученые были настолько напуганы этим сценарием, что они настаивают на том, чтобы исследователи разработали то, что они называют “алгоритмом сдерживания”, который имитирует опасное поведение сверхразумного ИИ и предотвращает его от совершения чего-либо вредного.

Эти исследователи также предупреждают, что ИИ, способный принимать эффективные решения для человечества, уже не за горами. «Сверхинтеллектуальная машина, которая управляет миром, звучит как научная фантастика», — сказал в пресс-релизе соавтор исследования Мануэль Себриан, руководитель группы цифровой мобилизации в центре людей и машин Института человеческого развития Макса Планка.

«Но уже есть машины, которые выполняют определенные важные задачи самостоятельно, без полного понимания программистами того, как они этому научились. Поэтому возникает вопрос, Может ли это в какой-то момент стать неконтролируемым и опасным для человечества”, — подытожил Себриан.

Оригинал новости на английском языке