Уважаемые коллеги,
Для меня большая честь и большое удовольствие быть сегодня здесь с вами в великолепном городе Нур-Султан и прежде всего позвольте мне поблагодарить организаторов за приглашение на эту международную конференцию и обсудить проблему насколько новую настолько и актуальную.
Проблема автономных систем смертоносного оружия до недавнего времени, казалось, была предметом, извлеченным из фантастических фильмов, но благодаря головокружительному развитию технологий, эта тема шаг за шагом становится все более реальной. И хотя технический прогресс, особенно развитие искусственного интеллекта, должен в первую очередь служить человечеству в мирных целях, ген самоуничтожения людей делает эти технологии также нацеленными на насилие, особенно в том смысле, что решение о причинении смертельного ущерба может быть оставленной автономным системам неконтролируемым человеческим фактором.
Таким образом, я хочу признать, что, хотя я специализируюсь на вопросах безопасности, вопрос об автономных системах смертоносного оружия мне не был полностью известен, и, готовясь к этому событию, я поняла, насколько важен этот вопрос и как мало внимания ему уделяется. Этот вопрос должен решаться не только государствами, которые обладают и развивают такие технологии, но, возможно, еще более энергично обсуждаться со стороны тех государств, которые по мере своих существующих возможностей могут легко стать испытательным полигоном или объектом таких новых методов насилия.
В этом контексте всем нам известно, что вопрос о смертельном автономном оружии обсуждается с 2014 года в Женеве группой экспертов государств-участников Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие, или также называемой Конвенция о «негуманном» оружии (КНО).
Республика Молдова присоединилась к КНО 27 апреля 2000 года. Для Республики Молдова КНО вступила в силу 28 марта 2001 года. Все мы знаем, что структура КНО является сложной, поэтому в самой Конвенции содержатся только общие положения о запрещении или ограничении действия Конвенции, использование определенных категорий обычных вооружений, конкретные положения которых содержатся в пяти дополнительных протоколах к Конвенции. Республика Молдова является участницей всех этих протоколов.
Конечно, дополнительный протокол к КНО по обсуждаемым нами сегодня вопросам был бы очень своевременным, в качестве шага до кодирования, возможно, в отдельном международном договоре, для ограничений использования автономных систем смертоносного оружия. Эта тема пока широко не обсуждается в молдавском общественном пространстве, но, безусловно, специализированные круги следят за развитием событий в этой области, иногда наши представители участвуют и в женевских переговорах.
Учитывая, что ассоциация, которую я представляю, ведет конструктивный диалог с Министерством обороны, и мы также планируем инициировать совместные проекты по наращиванию потенциала, сегодняшняя тема, безусловно, будет в повестке дня нашего взаимодействия с силовыми ведомствами, что я уверена и большинство из вас сделает.
Хороший момент заключается в том, что европейские структуры уже занимаются этим вопросом, и, учитывая, что европейская интеграция является стратегической целью Молдовы, a нашa странa имеет статус ассоциированного партнерa ЕС, я уверенa, что на европейской платформе, если речь пойдёт о общеевропейской консенсусной позиции, предмет автономных систем смертоносного оружия будет продвинут на более убедительный и реалистичный уровень.
Например, в заявлении Европейской службы внешних действий на женевской встрече в 2018 году правительственной группы экспертов по автономным системам смертоносного оружия ЕС вновь заявил о своей поддержке продолжения работы над этим вопросом и рассматривает более регулярный обзор развития технологий, в том числе искусственный интеллект, позволяющий экспертам обмениваться информацией в области автономных технологий. Отметив, что работа Группы не должна замедлять прогресс в области гражданских исследований и разработок, инноваций и высоких технологий, таких как роботы, она должна осуществляться в духе ответственных инноваций и соответствовать этическим и ответственным принципам в соответствии с международным правом, включая Международное гуманитарное право и права человека. Возможно, самым важным тезисом было то, что люди должны сохранить контроль над разработкой, поставкой и использованием возможных военных применений новых технологий, включая искусственный интеллект, и предотвращение вредоносных использований.
К сожалению, в обращении мы видим только стремление повысить осведомленность и просвещать все вовлеченные стороны, чтобы они оставались в рамках существующей международной нормативно-правовой базы, хотя я считаю, что совместными усилиями неправительственной и правительственной среды мы можем добиться продвижения международного документа специализирующегося на вопросах, которые мы обсуждаем сегодня.
В этом контексте представители европейских наций более решительны в этом отношении, что вселяет оптимизм. Таким образом, Резолюция Европейского парламента от 12 сентября 2018 года об автономных системах оружия призывает вице-президента Комиссии / Высокого представителя Союза по иностранным делам и политике безопасности, государства-члены и Совет принять меры для начала международных переговоров по принятию обязательного документа по запрету на применение автономных систем смертоносного оружия. Надеюсь, что новый состав Европарламента после выборов этого года будет еще более настойчивым в этом контексте.
По крайней мере, тот факт, что к проведению нынешней женевской встречи в марте Генеральный секретарь ООН, Антонио Гутерриш, призывал к экспертам в области искусственного интеллекта для достижения прогресса в ограничении разработки автономных систем смертоносного оружия, дает нам дополнительные надежды на то, что на еще большей платформе как например, Организация Объединенных Наций, этот вопрос будет и впредь активно включаться в повестку дня.
Однако, честно говоря, на первый взгляд, существует логика в рассмотрении конкретного вопроса в рамках Конвенции о контроле над некоторыми обычными вооружениями, а именно в контексте отсутствия человеческого фактора при определении масштабов ущерба, причиняемого таким оружием.
Но, в то же время, первый вопрос, который я задаю себе – как долго будет продолжаться, пока этот вопрос не перейдет в область нераспространения оружия массового уничтожения. Возможно, многие энтузиасты, которые разрабатывают роботизированные автономные системы и оснащены искусственным интеллектом, надеются вывести человеческую цивилизацию в новую эру развития и прогресса. Возможно, что те ученые, которые открыли ядерную энергию, хотели, чтобы она служила человечеству, но в конце концов любая технология используется для разрушения, а не только для созидания. Таким образом, я считаю, что противники автономных систем смертоносного оружия знают, что они могут быть использованы для сведения к минимуму человеческих жертв только для тех, кто использует такие системы, тогда как те, на которых такие системы могут быть использованы, могут понести огромный ущерб и в неконтролируемом масштабе.
Более того, в контексте, в котором технологии не только проникают во все жизненно важные сферы, но и от которых мы стали чрезвычайно зависимыми, как долго это будет продолжаться, пока автономная система, управляемая программой типа искусственного интеллекта, не станет той, которая будет решать, откуда исходит опасность и как ее устранить? Откуда мы знаем, что эти «негуманные» автономные системы решат, что «человеческая» раса не представляет опасности. Откуда мы знаем, что эти «гаджеты», которые каждый из нас, от мала до велика, носит их в своем кармане и которые уже способны читать наши сердцебиения, откуда мы знаем, что эти «устройства» не смогут импульсом, остановить это самое сердце. Итак, я думаю, что мы идем к следующему этапу оружия массового уничтожения – тотальному глобальному оружию. И наша обязанность – привлечь внимание широкой общественности, особенно лиц, принимающих решения, чтобы защитить будущее наших детей, которое может даже и не наступить.
На этом, дорогие друзья, я хотелa бы остановиться чтобы слишком долго не задерживаться между вами и перерывом на кофе, и я готовa поддерживать связь и вести диалог чтобы совместными усилиями обсудить максимально эффективно проблему автономных систем оружия летального действия.
Спасибо! Рахмет!
18.04.2019
