Магистранты юридического факультета ГУ Анастасия Шмырова, Елена Сухинина и Александр Курмачев приняли участие в круглом столе «Автономные системы вооружений и военное применение искусственного интеллекта», организованном Международным Комитетом Красного Креста (МККК) на региональной площадке по вопросам гуманитарного права «Гуманитариум». Организаторами были предоставлены две онлайн-площадки для беспрепятственного участия в связи с ковидными ограничениями. Свои доклады и мнения представили как русскоязычные, так и иностранные коллеги, что имеет особую ценность для экспертизы международного гуманитарного права и поддержки связей экспертов.
Тема автоматизации систем вооружения важна на региональном и мировом уровнях. Сформированная в мае МККК позиция раскрывает вопрос конкретизации границ использования искусственного интеллекта (ИИ) в сфере повышения качества человеческой жизни, рынка услуг и проблематики угроз и безопасности ИИ для человечества.
Уже сейчас мы можем сделать вывод о явных плюсах автоматизации: искусственный интеллект широко используется в сфере медицины, повышая качество аппаратной диагностики, помогает избегать пробок на дорогах, предсказывать природные катастрофы и предотвращать гибель людей. Тревогу вызывают вопросы автономности вооружения (особенно в связи с огромными тратами в регионах), так как «машины никогда не смогут действовать с истинной гуманностью». Государства могут и должны договориться, сделав ответственный выбор по целям и условиям использования ИИ в сферах, касающихся жизни и смерти.
Приглашенные эксперты осветили сразу несколько плоскостей тематического дискурса, в ходе которого на первое место вышли вопросы понятийной определенности и информационной осведомленности. Недостаток знаний приводит к когнитивным ошибкам и параноидальным страхам потери контроля над ИИ со стороны тех, кто принимает правовые решения. На данный момент автоматизированное вооружение полностью подконтрольно человеку, «максимально безопасно и максимально эффективно». ИИ, имеющий подобие человеческого мышления с возможностью самостоятельно принимать разумные решения, все еще является научной фантастикой. Однако, темпы НТР поражают: то, что казалось невозможным 100 лет назад, возможно сейчас. Компьютеризация и автоматизация всех сфер человеческого бытия не оставляет сомнений, что «наше будущее – человеко-машинная цивилизация, которая наступит естественным образом». Правовые основы помогут человечеству гармонично вступить в новую эру.
На данный момент «право отстаёт от регулирования актуальной действительности: отсутствует определение ИИ в законодательных документах, отсутствует нормативное регулирование ответственности». Не оставляет сомнений, что использование ИИ должно производиться в соответствие с Женевскими принципами, особенно это касается статей 36 и 57 ЖК.
Впечатления участников:
Александр Курмачев: «На мой взгляд, конференция была проведена на очень высоком уровне. Докладчики очень глубоко и хорошо ознакомлены в проблематике. Все было доступно объяснено, использовались материалы, которые помогли усвоить информацию. Также были привлечены специалисты из разных сфер, приглашены гости из других стран. Существует ряд технологий, развитие которых должно быть запрещено. Специальное создание и использование ИИ для оружия массового поражения как раз из этого перечня. Лично я считаю, что развитие Искусственного интеллекта будет неизбежным этапом. Но использование его в военных целях должно быть строго регламентировано. Должны быть составлены правила, по которым нельзя направлять его против человека (имеется ввиду сфера устранения и уничтожения)».
«Автономные системы могут стать реальностью очень скоро. Это заставляет задуматься о том, как технологии должны использоваться и для чего они не должны использоваться. Машины могут признать гражданского человека за военного, семейный автомобиль за военную машину и уничтожить их. Также, используя автономное оружие, человек не всегда может оценить риски последствий удара для гражданского населения. В целом, мне очень понравились лекции и дискуссии, так как я знала про ИИ и автоматическое вооружение только из статей и фильмов, а здесь смогла услышать и познакомиться с мнением людей, которые напрямую работают с ИИ и автоматическим вооружениями», – Анастасия Шмырова.
Мы живем в особое время, когда фантастика становится реальностью и только от нас зависит, будет ли это этот сюжет оптимистичным.
Материал подготовила Сухинина Елена