Документ представили 28 февраля в рамках конференции по Искусственному интеллекту, организованной Папской академией защиты жизни. Специально для этого лидеры двух технологических компаний прибыли в Рим. Президент Microsoft Брэд Смит подчеркнул, что сейчас «миру необходимо, чтобы разные люди собирались вместе» и решали возникающие вопросы. На встрече, помимо Брэда Смита и исполнительного вице-президента IBM Джоном Келли III, присутствовали архиепископ Винченцо Палья, глава Папской академии защиты жизни, а также руководитель Продовольственной и сельскохозяйственной организации ООН Цюй Дунюй и министр по технологическим инновациям и цифровизации Италии Паола Пизано.
Архиепископ Палья подчеркнул, что встреча стала возможной после того, как он подружился с лидерами Microsoft и IBM.
Ватикан и опасности ИИ
Папа римский Франциск никогда не был замечен за систематическим осуждением новых технологий, но к развитию таких разработок как машинное обучение и нейросети предпочитал относиться с вдумчивой осторожностью. Он подчеркивал важность создания этического движения, в которое были бы вовлечены общественные институты и деятели, которые посвящают свое время защите человеческой жизни, здоровья и наследия.
Понтифик неоднократно подчеркивал, что технологиям необходимы теоретические и практические моральные принципы, потому что достижения в области ИИ «могут привести к новой форме варварства, где общее благо сброшено верховенством слова сильнейшего».
В последний раз проповедь об этом прозвучала на семинаре «Общее благо в эпоху цифровых технологий» в сентябре 2019 года. Среди слушателей были руководители Facebook, Mozilla, LinkedIn и Western Digital, а также нобелевские лауреаты, правительственные чиновники, католики и бизнесмены. На конференции обсуждались такие вопросы, как кибершпионаж, онлайн-буллинг и неправомерное использование личных данных.
Риторика папы Франциска не была консервативной: напротив, понтифик поприветствовал «замечательные» технологические разработки современной эпохи и постарался напомнить, что они требуют «открытых и конкретных» дискуссий для решения проблемы растущего присутствия ИИ во всех областях деятельности человека. Глава Римско-католической церкви выразил уверенность в «фундаментальном параллелизме» между «неоспоримым преимуществом», которое человечество может извлечь из технологий, и этическими принципами, на которых удерживаются новые возможности.
Этика технологий и гений человека
Участники нынешней встречи в Ватикане разделили обеспокоенность папы Франциска о судьбе человечества и распространении искусственного интеллекта. В своих выступлениях спикеры учли возможность злоупотребления технологией распознавания лиц, которую уже используют в правоохранительных органах.
Первая в истории Римско-католической церкви «строгая» этическая инструкция к ИИ предназначена «для поддержки этического подхода к использованию искусственного интеллекта и развития ответственного отношения среди организаций, правительств и учреждений с целью создания будущего, в котором цифровые инновации и прогресс будут служить гению и творчеству человека, а не их постепенной замене».
Документ содержит следующие принципы:
— прозрачность: все системы ИИ должны быть доступны для понимания;
— инклюзивность: необходимо учитывать потребности всех людей, чтобы каждый мог получить пользу. Всем людям необходимо предоставлять наилучшие условия для самовыражения и развития;
— ответственность: все, кто разрабатывает и внедряет использование ИИ, должны действовать ответственно и прозрачно;
— беспристрастность: при разработке ИИ действовать непредвзято, чтобы гарантировать справедливость и сохранение человеческого достоинства;
— надежность: системы ИИ должны быть в состоянии работать надежно;
— безопасность и конфиденциальность: системы ИИ должны работать безопасно и уважать конфиденциальность личных данных пользователей.
Подчеркивается, что вышеперечисленные принципы не что иное, как фундаментальные элементы «полезных инноваций».
По словам Пальи, первое подписание этого призыва не кульминация, а отправная точка для обязательств, которые кажутся еще более неотложными и важными, чем прежде. Это первый шаг и первая попытка сформулировать набор этических критериев, опираясь на общепринятые моральные ориентиры и нравственные ценности.
«Microsoft гордится подписанием призыва к этике ИИ, — отметил Брэд Смит. — Это важный шаг в продвижении вдумчивого, уважительного и всеобъемлющего разговора о пересечении цифровых технологий и человеческой жизни. Меня вдохновляет приверженность Его Святейшества этому диалогу».
Джон Келли III заключил: «Римский призыв напоминает нам, что мы должны тщательно выбирать, для кого ИИ будет полезен… Общество будет больше доверять искусственному интеллекту, когда люди увидят, что он зиждется на этических принципах».
