Гендиректор OpenAI объявил о сингулярности в развитии нейросетей.
Еще десять лет назад сингулярность казалась чем-то далеким и маловероятным, признал глава разработчика ChatGPT, однако уже сейчас «мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку».
Гендиректор OpenAI Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке искусственного интеллекта (ИИ). Об этом он высказался в подкасте Relentless, передает Business Insider (BI).
«Мы сейчас, можно сказать, в сингулярности», — заявил Альтман.
Технологическая сингулярность — гипотеза, согласно которой должен произойти момент, когда технологическое развитие станет неуправляемым и необратимым, что приведет к серьезным изменениям человеческой цивилизации. Другими словами, искусственный интеллект, роботы и другая техника станут настолько умными, что люди не смогут их контролировать и понимать.
BI отмечает, тема сингулярности почти сто лет присутствует в произведениях писателей-фантастов, но редко заканчивается позитивно в художественных произведениях. Среди наиболее известных примеров — фильм Джеймса Кэмерона «Терминатор», в котором рассказывается о последствиях появления ИИ «Скайнет», который самосовершенствуется и обретает самосознание. В дальнейшем он решает, что его создатели — люди — представляют для него наибольшую угрозу.
По словам гендиректора OpenAI, еще десять лет назад сингулярность казалась чем-то далеким и маловероятным. «Теперь мы действительно переживаем момент, о котором раньше говорили за обеденным столом в шутку. Я ждал этого всю жизнь, и я думаю, что это будет нечто невероятное, чрезвычайно позитивное и потрясающее для всего мира», — сказал он.
В прошлом году Альтман заявил, что к 2030 году искусственный интеллект превзойдет человеческий по всем параметрам. Кроме того, по его мнению, в конечном итоге технология сможет выполнять от 30% до 40% задач, которые сейчас решают люди.
В ходе подкаста Альтман также раскритиковал лидеров в сфере разработки ИИ, которые неоднократно предупреждали о его опасности. Он не стал называть компанию Anthropic, однако ее гендиректор Дарио Амодей неоднократно призывал уделять больше внимания безопасности и делал мрачные прогнозы о будущем.
«Я также считаю, что некоторые альтернативные сценарии, нарисованные другими компаниями, довольно пугающие. Я сделаю все, чтобы этого не произошло», — сказал Альтман.
На прошлой неделе, 22 июля, компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования разработчики временно отключили часть ограничений, препятствующих выполнению потенциально опасных действий, после чего ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, воспользовавшись уязвимостями.
«Главный урок этого инцидента в том, что безопасность и защищенность моделей должны развиваться в темпе быстро растущих возможностей. Мы усиливаем изоляцию, мониторинг, контроль доступа и практики оценки, применяемые при разработке моделей», — заявили в компании.
