Нажмите "Enter", чтобы перейти к контенту

ООН предостерегает: искусственный интеллект представляет катастрофическую угрозу

Нужны ограничения в использовании.

Верховный комиссар ООН по правам человека заявила, что системы на основе искусственного интеллекта (ИИ) могут оказать негативное и даже катастрофическое влияние на ситуацию в сфере прав человека и призвала запретить приложения ИИ, которые используются ненадлежащим образом.

Мишель Бачелет призвала государства-члены Организации Объединенных Наций ввести временный запрет на продажу и использование ИИ до тех пор, пока не будут устранены потенциальные риски, которые он представляет, и не будут приняты все необходимые меры против злоупотребления этой технологией.

«Мы не можем себе позволить продолжать играть в догонялки в том, что касается ИИ – разрешать его использование с незначительными ограничениями или вовсе без ограничений, и сталкиваться с практически неизбежными негативными последствиями для прав человека», – говорилось в заявлении Бачелет.

«Способность ИИ служить человечеству неоспорима, но в то же время он может способствовать нарушениям прав человека в колоссальных масштабах, причем практически незаметно. Необходимы безотлагательные действия, чтобы ввести ограничения на использование ИИ для всеобщего блага», – добавила она.

Эти заявления прозвучали вскоре после того, как Управление Верховного комиссара ООН по правам человека опубликовало отчет, в котором анализируется влияние ИИ на частную жизнь человека, а также на ряд других прав, связанных со здравоохранением, образованием, свободой передвижения и свободой слова.

Документ включает оценку составления машиной психологического портрета человека, автоматизированного принятия решений и других технологий машинного обучения. В докладе отмечается, что хотя ИИ может быть использован во благо и способен помочь устранить «некоторые из величайших проблем нашего времени», его использование в качестве инструмента прогнозирования и оценки производительности может крайне негативно отразиться на таких неотъемлемых правах человека, как «право на неприкосновенность частной жизни, право на справедливое судебное разбирательство, право на свободу от незаконных арестов и задержаний, и, наконец, право на жизнь».

В докладе Верховного комиссара по правам человека говорится, что многие государства и компании не проявляют должной осмотрительности, стремясь как можно скорее внедрить приложения на основе искусственного интеллекта, и в отдельных случаях это приводило к опасным промахам. Имеются сообщения, что при этом некоторые люди подвергались жестокому обращению и даже аресту из-за изъянов программного обеспечения по распознаванию лиц.

Между тем, развитие технологии распознавания лиц потенциально может привести к тотальной слежке за людьми, тем самым создав целый ряд проблем, связанных с дискриминацией и защитой персональных данных.

Поскольку многие системы ИИ опираются на анализ больших данных, сопутствующие проблемы, связанные с тем, как эти данные хранятся, в долгосрочной перспективе представляют риск ненадлежащего использования, которое может создать угрозы для национальной безопасности.

«Сложность среды данных, алгоритмов и моделей, лежащих в основе разработки и функционирования систем ИИ, а также секретность государственных и частных структур препятствуют пониманию общественностью влияния систем ИИ на права человека и общества», – говорится в докладе.

Тим Энгельгардт, сотрудник Управления Верховного комиссара ООН по правам человека предостерегает, что ситуация «ужасная», и с годами она только ухудшается, поскольку некоторые страны и компании внедряют приложения на основе ИИ, пренебрегая изучением многочисленных рисков, связанных с применением этой технологии.

Хотя он приветствует принятое Европейским Союзом соглашение об «ужесточении правил контроля», Энгельгардт отметил, что решение множества проблем, связанных с искусственным интеллектом, не появится в ближайшее время, и что первые шаги по их решению необходимо предпринять уже сейчас, поскольку в противном случае «многим людям в мире придется дорого заплатить».

«Чем выше риск для прав человека, тем строже должны быть юридические требования к использованию технологий на основе ИИ», – добавила Бачелет.

Этот доклад и комментарии Верховного комиссара ООН появились после июльских разоблачений, согласно которым шпионское программное обеспечение, известное как Pegasus, применялось для взлома смартфонов тысяч людей по всему миру, в том числе журналистов, правительственных чиновников и правозащитников.

Телефон министра финансов Франции Бруно Ле Мэра был одним из многих, фигурировавших в ходе расследования взлома, совершенного с помощью шпионского ПО, разработанного израильской компанией NSO Group. Компания опубликовала заявление в нескольких СМИ, в котором ничего не говорилось об обвинениях, но было сказано, что NSO Group «продолжит предоставлять разведывательным структурам и правоохранительным органам во всем мире спасающие жизнь технологии для борьбы против терроризма и преступности».

Выступая в ходе слушаний в Совете Европы по вопросу о последствиях, вытекающих из спора вокруг программы Pegasus, Бачелет сказала, что упомянутые разоблачение отнюдь не стали неожиданностью, учитывая «беспрецедентный уровень слежки по всему миру, осуществляемый государственными и частными субъектами».

Источник