Один из основоположников технологий искусственного интеллекта, учёный-информатик Джеффри Хинтон уволился из компании Google, чтобы высказать независимую точку зрения об опасности развития нейросетей, передаёт France 24.
Он указал, что такие технологии могут стать умнее человека и выйти из-под контроля, поэтому необходимо регулировать прогресс в этой области на мировом уровне.
Эта технология может превосходить возможности человеческого мозга. Один из основоположников (искусственного интеллекта. — прим.) говорит, что теперь часть его сожалеет о той роли, которую он сыграл в её создании. 75-летний учёный-информатик Джеффри Хинтон рассказал, что оставил работу в компании Google, чтобы поделиться собственными опасениями по поводу технологий искусственного интеллекта, среди которых дезинформация и сокращение рабочих мест, а также гораздо более серьёзные вещи.
ДЖЕФФРИ ХИНТОН, психолог-когнитивист и учёный-информатик:
Что мы делаем, чтобы минимизировать долгосрочный риск того, что контроль на себя возьмут технологии, которые умнее нас? Такие создания, как GPT-4, превосходят человека по общему уровню знаний и превосходят значительно. Я имею в виду, она несильна с точки зрения умозаключений, но она уже делает простые умозаключения. Принимая во внимания темпы прогресса, мы ожидаем улучшения уже довольно скоро, так что нам нужно беспокоиться об этом.
Такое заявление — ещё одно свежее предупреждение о том, что технологические компании, возможно, создают монстра, которого не могут контролировать. В марте, когда компания Open AI выпустила новейшую версию своего чатбота GPT-4, свыше одной тысячи людей, работающих в технологической сфере, — включая миллиардера Илона Маска и соучредителя компании Appla Стива Возняка, — подписали письмо с призывом ввести мораторий на развитие ИИ.
Хинтон также призвал разработчиков нажать на паузу. Старшие научные сотрудники Google ответили на его интервью в официальном заявлении:
ДЖЕФФ ДИН, старший научный сотрудник Google:
Мы продолжаем придерживаться ответственного подхода к ИИ. Мы постоянно учимся понимать возникающие опасности, при этом смело внедряя инновации.
Хинтон сам признал, что пока Google правильно распоряжался технологией, однако начинает попадать под усиливающееся давление из-за конкуренции. Он предупредил, что технологические гиганты оказались втянуты в гонку, для прекращения которой потребуется введение регулирования на мировом уровне.
