Новости

Студенты узнали об угрозах, возможностях и вызовах AI в борьбе с терроризмом

14 марта, 2022

14 марта 2022 года г-н Одран Маккарти, программный офицер Межрегионального научно-исследовательского института Организации Объединенных Наций по вопросам преступности и правосудия (ЮНИКРИ), провел гостевую лекцию на тему «Угрозы, возможности и вызовы AI в борьбе с терроризмом». Эта лекция была частью курса «Современные проблемы безопасности», которую ведет д-р Елена Жирухина в рамках магистерской программы «Политика и безопасность».

Г-н Маккарти представил обзорную информацию о проектах ЮНИКРИ, исследованиях новых и появляющихся технологий, и подробно рассказал об искусственном интеллекте (AI). AI имеет огромный потенциал для развития. По оценкам, рост рынка к 2025 году достигнет нескольких триллионов евро. Ссылаясь на цитату Генерального секретаря ООН Антониу Гутерриш: «Искусственный интеллект меняет правила игры, он может стимулировать развитие, а также впечатляющим образом изменить жизнь людей. Но он также может оказать серьезное влияние на рынок труда и, более того, на глобальную безопасность и саму структуру общества», — г-н Маккарти подчеркнул двойственность применения AI, что также видно из истории использования новых технологий различными законными и незаконными сторонами.

Принимая это во внимание, ЮНИКРИ в партнерстве с Контртеррористическим центром ООН при Управлении ООН по борьбе с терроризмом изучил использование AI правоохранительными органами в контексте борьбы с терроризмом, а также злонамеренное использование и злоупотребление AI в террористических целях со стороны негосударственных субъектов.

В совместном отчете о противодействии терроризму в Интернете с помощью AI (с которым можно ознакомиться здесь) предложено несколько направлений использования AI для улучшения работы правоохранительных органов по борьбе с терроризмом. Например, предиктивная аналитика террористической деятельности может выявлять террористические атаки до их совершения путем анализа онлайн-данных в режиме реального времени, отражающих поведение групп или отдельных лиц, подвергающихся риску. Предиктивная аналитика является этически, юридически и технически проблематичной на индивидуальном уровне, однако на более высоком и коллективном уровне в некоторых исследованиях изучалось, как ее можно использовать для выявления тенденций и прогнозирования будущего поведения террористических групп, а не отдельных лиц. Еще одним примером, приведенным г-ном Маккарти, является возможность выявления признаков радикализации. AI может помочь в поиске лиц, подверженных риску радикализации в цифровой среде, и позволить использовать целевые вмешательства. Признавая, что единого пути к радикализации не существует, технологии на базе AI могут играть роль, передавая сигнал о потреблении или поиске террористических материалов и использовании ключевых слов, указывающих на возможную радикализацию или уязвимость для террористических нарративов.

В совместном отчете о злонамеренном использовании AI в террористических целях (с которым можно ознакомиться здесь) проанализировано потенциальное применение технологии AI насильственными негосударственными субъектами, такими как террористические группы. В отчете определены области повышенной опасности для правоохранительных органов, которые должны подготовиться к будущему злонамеренному использованию AI в расширении кибервозможностей террористов для проведения распределенных атак «отказ в обслуживании» (DDoS), распространения вредоносных программ и программ-вымогателей либо взлома систем с помощью более эффективного угадывания пароля и взлома CAPTCHA. Технология на базе искусственного интеллекта также открывает окно возможностей для реализации физических атак путем злоупотребления различными автономными транспортными средствами, в том числе дронами с распознаванием лиц. Отдельное беспокойство, подчеркнул г-н Маккарти, вызывает использование пропаганды, дезинформации в террористических целях, подкрепленных дипфейками и манипулированием контентом.

Г-н Маккарти сделал вывод, что для того, чтобы использовать весь потенциал AI во благо и еще больше обезопасить наши общества, международному сообществу еще предстоит пройти долгий путь в обсуждении этических вопросов и обеспечении соблюдения режимов прав человека, а также в разработке соответствующей политики и правовые рамки. Это масштабное мероприятие требует сотрудничества и координации многочисленных заинтересованных сторон на многих уровнях, от низового до международного.

full-news

Назад к списку

Версия для печати

X