Несмотря на то, что эта тема является популярной и крайне важной, многих удивило, что Святой Престол опубликовал Antiqua et Nova («Древнее и новое»), Записку об отношениях между искусственным интеллектом и интеллектом человеческим. Мы часто воспринимаем технологии, а следовательно, и ИИ, как нечто далекое от Церкви и религии. Однако посредством этого документа, выпущенного двумя ватиканскими департаментами, которые совместно размышляли над этими темами (Дикастерия вероучения и Дикастерия культуры и образования), Папа Римский хочет сказать нам, что он внимательно следит за развитием технологий и заботится о наших отношениях с ними. Именно его предупреждения об ИИ, высказанные в последние годы, послужили основой для «Antiqua et Nova»
Цифровой мир сегодня — это важное измерение человеческого опыта. Церковь не уклоняется от суждений на эту тему и призывает нас поступать так же. Новый документ адресован в первую очередь «тем, кому доверено передавать веру», но также и «тем, кто разделяет убеждение, что научно-технический прогресс должен быть направлен на служение человеческой личности и общему благу» [5].
В 117 параграфах «Antiqua et Nova» освещаются проблемы и возможности развития искусственного интеллекта (ИИ) в сферах образования, экономики, труда, здравоохранения, международных отношений и ведения войны.
Вот краткий обзор основных мыслей:
Опасности и прогресс
В частности, в документе перечислены не только риски, но и прогресс, связанный с ИИ, который поощряется как «часть сотрудничества мужчины и женщины с Богом» [2]. Однако данный документ не избегает опасений, которые сопутствуют всем инновациям, последствия которых по-прежнему непредсказуемы.
Различие между искусственным и человеческим интеллектом
Несколько параграфов Записки посвящены различию между ИИ и человеческим интеллектом. Ссылаясь на Папу Франциска, в документе утверждается, что «само использование слова „интеллект“ в связи с ИИ „может ввести в заблуждение“… в свете этого ИИ следует рассматривать не как искусственную форму человеческого интеллекта, а как его продукт» [35]. «Как и любой продукт человеческой изобретательности, ИИ также может быть направлен на достижение положительных или отрицательных целей» [40]. «ИИ «может привнести важные инновации» [48], но есть риск, что он также может усугубить ситуации дискриминации, бедности, расширения «цифрового разрыва» и социального неравенства [52]. «Концентрация власти над основными приложениями ИИ в руках нескольких влиятельных компаний вызывает серьезные этические опасения», включая риск того, что ИИ может быть подвергнут манипуляциям в личных или корпоративных интересах или использован для влияния на общественное мнение в пользу определенной отрасли“ [53].
Война
Что касается войны, «Antiqua et Nova» подчеркивает, что автономные и смертоносные системы вооружений, способные «идентифицировать и поражать цели без непосредственного вмешательства человека, являются „причиной для серьезной этической обеспокоенности“ [100]. В документе содержится предупреждение о том, что искусственный интеллект способен расширить «количество средств ведения войны, выходящих далеко за рамки человеческого контроля, и спровоцировать дестабилизирующую гонку вооружений с катастрофическими последствиями для прав человека» [99]. Папа Франциск призвал запретить их использование, так как такие системы несут «экзистенциальный риск», поскольку могут выйти из-под контроля и поставить под угрозу существование целых регионов или даже всего человечества» [101]. «Эта опасность требует серьезного внимания, — говорится в документе, — отражая давнюю озабоченность технологиями, которые наделяют войну «неконтролируемой разрушительной силой, способными истреблять огромное количество невинных людей, не щадя даже детей» [101].
Отношения между людьми
Что касается человеческих отношений, то в документе отмечается, что ИИ может привести к «пагубной изоляции» [58], что «антропоморфизация ИИ» создает проблемы для развития детей [60] и что неправильное представление ИИ как личности является «серьезным этическим нарушением», если это делается «в мошеннических целях». Аналогичным образом, «использование ИИ для обмана в других контекстах — например, в образовании или в человеческих отношениях, включая сферу сексуальности, — также должно считаться безнравственным и требует тщательного контроля» [62].
Экономика и труд
Такая же бдительность необходима и в финансово-экономической сфере. В «Antiqua et Nova» отмечается, что, особенно в сфере труда, «хотя ИИ обещает повысить производительность… нынешние подходы к технологии могут парадоксальным образом снижать квалификацию работников, подвергать их автоматизированному наблюдению и сводить их функции к жестким и повторяющимся задачам» [67].
Здоровье
В Записке также уделяется внимание вопросу здравоохранения. Напоминая об «огромном потенциале» различных приложений в медицинской сфере, авторы предупреждают что если ИИ заменит отношения между врачом и пациентом, то это может «усугубить одиночество, которое часто сопровождает болезнь» [73]. Авторы также предупреждают, что «интеграция ИИ в здравоохранение также несет риск усиления существующих различий в доступе к медицинской помощи», а также угрозу «укрепления модели «медицины для богатых», при которой лица с финансовыми возможностями пользуются передовыми профилактическими инструментами и персонализированной информацией о здоровье, тогда как другие сталкиваются с трудностями даже в получении базовых медицинских услуг» [76].
Образование
В области образования «Antiqua et Nova» отмечает, что «ИИ представляет как возможности, так и проблемы». При разумном использовании ИИ может улучшить доступ к образованию и обеспечить учащимся «мгновенную обратную связь» [80]. Одна из проблем заключается в том, что многие программы «просто предоставляют ответы, вместо того чтобы побуждать студентов самостоятельно находить ответы или написать текст», что может привести к неспособности развивать навыки критического мышления [82]. В Записке также содержится предупреждение о том, что некоторые программы могут генерировать «необъективную или сфабрикованную информацию» и фейки [84].
Фейковые новости и дипфейки
Что касается фейковых новостей, то документ предупреждает, что ИИ также несёт в себе серьезный риск создания контента, подвергнутого манипуляциям, и ложной информации, которая может легко ввести людей в заблуждение из-за своего сходства с правдой» [85], который усугубляется, когда распространяется с целью обмана или причинения вреда [87]. «Antiqua et Nova» настаивает на том, что „те, кто производит и распространяет контент, созданный с помощью ИИ, всегда должны проявлять осмотрительность в проверке истинности того, что они распространяют, и во всех случаях должны “избегать распространения слов и изображений, унижающих человеческое достоинство, разжигающих ненависть и нетерпимость, разрушающих добро и интимность человеческой сексуальности или эксплуатирующих слабых и уязвимых» [89].
Приватность и контроль
В отношении неприкосновенности частной жизни и контроля в Записке отмечается, что некоторые типы данных могут заходить настолько далеко, что «могут затрагивать его внутренний мир, а возможно, даже его совесть» [90], что чревато опасностью превращения всего «в своего рода спектакль, который смотрят и изучают, так как человеческая жизнь теперь находится под постоянным наблюдением» [92]. Системы наблюдения «также могут быть использованы не по назначению для контроля над жизнью верующих и тем, как они выражают свою веру» [90].
Общий дом
Что касается заботы о творении, то «Antiqua et Nova» отмечает, что «ИИ имеет много перспективных применений для улучшения взаимоотношений с нашим «общим домом» [95]. «В то же время современные модели ИИ и необходимое для их поддержки оборудование, потребляют огромное количество энергии и воды, что значительно увеличивает выбросы CO2 и истощает ресурсы» [96].
Отношения с Богом
Наконец, в Записке предупреждается об опасности того, что человечество станет «рабом своей собственной работы» [105]. Искусственный интеллект, настаивает «Antiqua et Nova», «должен использоваться только как инструмент, дополняющий человеческий интеллект, а не заменяющий его богатство» [112].
Во времена стремительных перемен, когда мы сталкиваемся с технологиями, которые так часто застают нас врасплох, благодатью является то, что рядом с нами звучит мудрый голос Церкви, напоминающий нам о наших образовательных (и профессиональных, каждый в своей сфере) обязанностях, помогающий нам вновь обрести ясность в целях и задачах наших действий и культурных начинаний. Конечно, ни одна технология не может полностью охватить реальность во всех ее аспектах. Как отмечает Церковь в Antiqua et Nova, при столкновении с искусственным интеллектом благоразумие должно быть на первом месте.
Полный текст Antiqua et Nova на русском языке можно скачать по ссылке > или прочесть онлайн >
Подготовлено по материалам Vatican News, Word on Fire, Communion and Liberation
