Анализ проблематики робоэтики в контексте православной антропологии

Московская Сретенская  Духовная Академия

Анализ проблематики робоэтики в контексте православной антропологии

1040



Предлагаем к прочтению статью доктора технических наук Юрия Викторовича Подураева, опубликованную в третьем номере журнала «Сретенское слово»

file_6140a1f818e90 (1).jpg

Введение

Недавно термину «робот», который впервые ввел чешский драматург Карел Чапек в пьесе «R.U.R.» («Россумские универсальные роботы»), исполнилось 100 лет. За прошедшее столетие робототехника прошла путь от научной фантастики до современной интердисциплинарной научно-­технологической области.

Понятийными аналогами в славянских языках термина «робот» могут служить слова «раб», «рабочий», «каторга» и т. п. Перечисленные синонимы определили первоначальное назначение робототехники — это освобождение человека от выполнения тяжелых и утомительных операций, которые вредны и опасны для его здоровья и жизни. Однако сегодня интеллектуальные роботы используются отнюдь не только в промышленности, но активно входят в домашнюю и личную жизнь людей, становясь таким образом неотъемлемой компонентой цифровизации современного общества.

В настоящее время робоэтика (РЭ) находится на стадии становления, происходит формирование базовых принципов РЭ и определение путей их практической реализации на всех этапах жизненного цикла современной робототехники.

Проблематика робоэтики и тесно связанные с ней этические аспекты новых цифровых технологий, и особенно систем искусственного интеллекта (ИИ), стали предметом широкого изучения в авторитетных международных организациях, профессиональных сообществах, фирмах и университетах. Приняты «Рекомендация ЮНЕСКО об этических аспектах искусственного интеллекта», «Кодекс этики в сфере ИИ» (утвержден 26 октября 2021 г. на основе «Национальной стратегии развития ИИ в РФ на период до 2030 г.»), европейские нормы гражданского права по робототехнике. В сфере регуляторной политики по робоэтике разработан ряд нормативных документов и актов технического и административного регулирования международного и национального уровней; созданы профильные рабочие группы во многих государственных организациях и бизнес-структурах.

Характерно, что в научных публикациях и художественной литературе, в ведущихся дискуссиях присутствует весь спектр мнений по отношению к интеллектуальной робототехнике: от резкого отторжения роботов как прямой угрозы человечеству, изначально прозвучавшего уже в пьесе К. Чапека, — через скептицизм и настороженность — до восхищения и даже обожествления систем с искусственным интеллектом [Леонов Вадим, прот. 2021: T. 6, № 2; он же 2021: № 2]. Подчас встречается в инженерных, особенно в молодежных и ИТ-коллективах, неосмысленное, а подчас и сознательное игнорирование нравственно-этических аспектов глубоких воздействий роботов на группы людей и конкретного человека.

Представляется, что первопричина столь широкого диапазона мнений о целях и функциях интеллектуальной робототехники заключается в существенных, а подчас и в полярных различиях в фундаментальных взглядах авторов на природу человека.

В ряде исследований в основу анализа нравственно-этических аспектов, которые породили новые цифровые технологии, в том числе интеллектуальная робототехника, положены принципы и подходы трансгуманизма или его коррелятов (сциентизма, технологизма, рационализма и т. п. [Ларше 2021. № 1: 21–31]. В основе данных моделей лежит доминанта технологического развития. Так, во введении к докладу «Этика и “цифра”: Этические проблемы цифровых технологий» отмечено:

«Однако в каждый конкретный момент времени базовые ценности в зависимости от контекста получают разное прочтение и преломление в конкретных этических требованиях. В данном случае контекст — это устройство повседневной жизни, включая технологии, которые его формируют. <…> Четвертая технологическая революция, с которой ассоциируются цифровые технологии, меняет общественный уклад <…> Технологии, сильно изменяя материальный и социальный контекст нашей жизни, приводят к изменению наших поведенческих норм и представлений об этичном и неэтичном поведении в конкретных ситуациях» [Этика и «цифра»: Этические проблемы цифровых технологий 2021].

При таком подходе этические принципы становятся вторичными и податливыми, они формируются в контексте достигнутого технологического уровня развития общества.

В предельном случае разработчики и правообладатели новых интеллектуальных технологий стремятся по сути «обожествить» свои аппаратно-­программные комплексы, переложив с людей на компьютеры принятие нравственно-этических решений. Для этого предпринимаются многочисленные попытки формализации и алгоритмизации механизмов решения этических проблем. Для этой цели, например, в монографии психолога В. А. Лефевра предложен алгебраический метод, использующий ряд введенных автором количественных параметров: «Используя стандартный язык логики, мы можем сказать, что при таком взгляде на природу человека он становится моделью особого “алгебраического объекта” <…> Если мы на верном пути, то у нас есть потенциальная возможность найти глубокие алгебраические связи между феноменом человека и феноменом физического мира» [Veruggio 2008: 1499–1522].

В настоящей статье анализируется проблематика робоэтики в контексте православной антропологии, когда в центре внимания находится человек, который был сотворен целостным, в совокупности разумной души и тела. Именно человек должен стать основным фокусом исследований в области робоэтики.

Значительная часть робоэтических рисков связана с воздействием на физическую природу (тело) человека. Но наиболее сложным для исследования и крайне важным с точки зрения предотвращения глубоких негативных последствий роботизации является ее воздействие на душевную и духовную сущности человеческой личности. Подход к изучению проб­лематики робоэтики в контексте православной антропологии позволяет сформировать и выделить две базовые группы робоэтических рисков и предложить подходы для их анализа.

Предмет и актуальность проблемы робоэтики

Термин «робоэтика» (“roboethics”) был предложен итальянским инженером-робототехником доктором Дж. Веруджио (Dr. G. Veruggio) и затем редакционно корректировался в его научных трудах в 2005–2011 гг.:

Робоэтика — это прикладная этика, целью которой является разработка научных, культурных и технических инструментов, которые могут быть общими для разных социальных групп и убеждений. Эти инструменты направлены на продвижение и стимулирование развития робототехники для прогресса человеческого общества и человека, а также на предотвращение ее злоупотребления против человечества [Ibid.].

Очевидно, что для научно-технического прогресса в интересах общества человек и робот должны содействовать и взаимодействовать друг с другом на всех этапах проектирования, управления и применения роботизированных систем.

Однако зачастую кажется, что «мир подобен коню, которым правит пьяный всадник. Виноват всадник, но со стороны кажется, что конь беснуется». В таких ситуациях люди подчас начинают считать роботов независимо существующими субъектами, которые могут быть «добрыми» или «злыми» по отношению к человеку в зависимости от заложенных в них моделей поведения. Такое мнение зачастую возникает у студентов-­робототехников, которые знакомятся с классическими тремя законами робототехники, предложенными писателем-фантастом А. Азимовым (1942):

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

  2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

Законы робототехники А. Азимова в своей основе являются роботоцентричными. Так, второй и третий законы предполагают по сути полностью автономное поведение роботов в ситуациях, когда нарушены условия первого закона и робот получает право выйти из подчинения человеку. Именно поэтому законы Азимова в последующие десятилетия неоднократно подвергались критике и были предложены новые редакции данных законов, например в публикации Ф. Паскуале в 2020 г. [Pasquale 2020: 1–32]. Роботоцентричные подходы к анализу проблематики робоэтики порождают зачастую радикально отрицательные точки зрения на робототехнику как опасную для людей область науки и техники, но они не находят широкой поддержки в современном обществе.

«Изделие скажет ли сделавшему его: “зачем ты меня так сделал?” Не властен ли горшечник над глиною, чтобы из той же смеси сделать один сосуд для почетного употребления, а другой для низкого?» — сказано апостолом Павлом (Рим. 9, 20–21).

В связи с поставленным вопросом отношения к робототехнике обратимся к трудам И. А. Ильина, известного русского философа и писателя. В философском этюде «Машина» (1945) выделим следующую ключевую мысль о взаимоотношениях человека и машин:

И спасение здесь видится не в отречении от машины — обратного хода нет; ведь машина — это устройство, экономящее силы, а экономия сил — это один из основополагающих законов природы и культуры <…> От этих возможностей и перспектив человек уже не откажется никогда — просто не сможет отказаться. Он попытается максимально использовать их и реализовать. <…> Но ясно одно: машина не должна диктовать человеку содержание и ритм жизни. <…> Человек не должен быть рабом машины: дух дан ему затем, чтобы стремиться к высшим целям, чтобы машину сделать себе послушной [Ильин 2006]

Таким образом, робоэтика является по сути своей человекоцентричной областью, поэтому проблематика роботизации не может быть сосредоточена только в сфере технических и ИТ-знаний, без сопутствующего рассмотрения нравственно-этических аспектов ее влияния на человека. 

Следует подчеркнуть интердисциплинарный характер робоэтики как научно-прикладной области, которая формируется путем синергии знаний и методов целого ряда фундаментальных направлений: интеллектуальной робототехники и информационных технологий, гуманитарных наук (философии, антропологии, этики, теологии, психологии и др.), медицины и нейробиологии. Важно отметить, что в течение многих десятилетий перечисленные сферы деятельности развивались весьма обособленно в научной, образовательной и прикладных аспектах. Причем каждая из перечисленных базовых областей в свою очередь является системной сферой. Так, интеллектуальная робототехника построена путем интеграции прецизионной механики, микроэлектроники и компьютерных технологий, в том числе с использованием методов ИИ.

Актуальность проблемы робоэтики в современном мире обусловлена трендами развития интеллектуальной робототехники, среди которых выделим три ключевых направления:

  • рекордные темпы развития в последние годы сервисных роботов по сравнению с промышленной робототехникой;

  • появление принципиально новой области роботизации — роботических операции с биологическими и биотехническими объектами, в том числе робото-медицинских манипуляций на органах человека или животных;

  • интенсивные разработки автономных роботов, которые принимают решения о своих действиях без непосредственного участия человека, используя методы искусственного интеллекта.

Исторически серийно выпускаемые роботы предназначались для автоматизации производственных процессов и производств различных отраслей промышленности (автомобилестроения, металлургии и др.). По данным Международной федерации робототехники [URL: https://ifr.org/ifr-press-releases/news (дата обращения: 27.07.2022)], в 2020 г. мировой парк промышленных роботов (ПР) составил 3,015 млн единиц и продолжает расти на 6–10 % ежегодно. Так, по сравнению с 2010 г. в мировой промышленности количество используемых ПР выросло примерно в три раза.

С точки зрения анализа проблематики робоэтики особый интерес представляют сервисные роботы, рынок которых бурно развивается в настоящее время. Только в 2020 г. установлено 19 млн единиц сервисных роботов для личного и домашнего использования, что более чем в шесть раз превышает весь парк ПР. В число роботов этой категории входят роботы для домашней работы (уборка полов, стрижка газонов, чистка бассейнов, мытье окон и др.) и для досуга (роботы-игрушки; мультимедийные роботы; обучающие роботы и др.); социальная робототехника для помощи престарелым людям и инвалидам (робототехнические кресла-каталки; робототехнические ортопедические аппараты и протезы); персональные транспортные роботы; роботы, обеспечивающие безопасность и надзор за домом; роботы-­собеседники, экскурсоводы и многие другие виды. Сервисная робототехника для профессионального использования также бурно развивается, причем темпы ее роста в 2020 г. в мире составили 41 %, что в четыре раза выше темпов прироста ПР. Наиболее распространены следующие роботы данной категории: роботы для логистики и клининга, медицинские и военные роботы и сельскохозяйственная робототехника. Глобальный скачок по внедрению сервисной робототехники ежегодно вовлекает в число ее потребителей миллионы новых пользователей, не имеющих профильного образования и специальных навыков. 

Для развития медицинской робототехники, которая стала в последнее время новой и быстро развивающейся областью роботизации, анализ робоэтических рисков (РЭ-рисков) является очевидной необходимостью. Медицинская робототехника представляется одной из наиболее актуальных областей для становления робоэтики, так как позволяет использовать накопленный опыт в медицинской этике, в том числе представленный в трудах митрополита Антония Сурожского, известного врача-христианина и выдающегося богослова [Митрополит Сурожский Антоний 2014: Кн. 3].

Целью медицинской робототехники является повышение качества лечения пациентов на этапах исследования и диагностики при выполнении медицинских операций и хирургических вмешательств путем системного сочетания медицинских, робототехнических и биологических методов. Поставленная цель достигается через целенаправленный научно-технический поиск интеллектуальных роботических систем и технологий, позволяющих принципиально превысить возможности мануальных медицинских манипуляций путем их роботизированного выполнения. В настоящее время в медико-роботических системах для хирургии используются следующие формы взаимодействия врача и медицинских роботов:

  • роботизация вспомогательных действий обслуживающего медицинского персонала;

  • робот является ассистентом врача, роботизированные операции выполняются под постоянным управлением врача в операционной зоне;

  • робот исполняет в автоматическом режиме отдельные части медицинских операций под контролем врача и медицинского персонала;

  • робот реализует не только исполнительные, но и интеллектуальные функции, формируя варианты решения медицинских задач, например по планированию типовых манипуляций и подбору оптимальных режимов движения хирургических инструментов.

Применение сервисной робототехники предполагает тесную коллаборацию человека и робота, и в этой связи встает вопрос о целесообразном уровне интеллектуализации современных роботов. Созданные методы «сильного» ИИ позволяют оснащать роботы системами управления, которые способны работать в автономных режимах. Важно отметить, что в международном определении робота, которое утверждено в качестве Нацио­нального стандарта РФ [Национальный стандарт ГОСТ 60.0.0.4-2019 «Роботы и робототехнические устройства. Термины и определения»: 2019], наличие определенного уровня автономности является необходимым свойством любого робота. Примерами таких роботов могут служить автономные транспортные системы, роботы-курьеры, военные роботы и т. п.

Формирование робоэтических рисков в современной робототехнике

Рассмотрим основные этапы процесса проектирования и внедрения роботов, который представлен укрупненно на рис. 1.

Рисунки_v3-1(1).jpg

Начальным этапом является формирование целей и постановка задач роботизации, т. е. даются ответы на вопросы целеполагания («ЗАЧЕМ?»). Сегодня основными заказчиками в данной области являются государство, бизнес-структуры, международные организации, а также инновационные программы цифровой трансформации (использующие бюджетные либо смешанные или частные источники финансирования). Фокусными объектами, на которые нацелены разработки современных сервисных роботов, как правило, являются группы населения. К таким группам можно отнести людей, объединяемых по возрастным или социально-экономическим признакам (дети, молодежь, пенсионеры, инвалиды и т. д.), по профессиональным областям (образование, наука, ИТ-области, малый бизнес и пр.).

На втором этапе разрабатываются роботизированные технологии, т. е. проводится поиск и определяется набор технологических решений, отвечающих на вопросы: «КАК?» обеспечить выполнение поставленных функциональных задач. На заключительном третьем этапе разрабатываются конкретные роботические системы, которые практически реализуют роботизированные технологии с заданными показателями технико-экономического качества. Именно разработанные системы — это ответ на вопрос: «ЧТО?» внедряется на практике и доступно для анализа человека как ядра данной системы. При этом человеку весьма трудно сформировать «обратную связь» на верхние уровни (целей и технологий),  в полной мере он может оценить только эффективность роботических систем, с которыми взаимодействует непосредственно.

В основу предлагаемого подхода к анализу проблематики робоэтики положим двухчастное понимание природы человека, объединяющей в себе два начала: тело, относящееся к вещественному (физическому) миру, и душа, принадлежащая к духовному (невидимому) миру (рис. 2). Такое представление природы человека в православной антропологии называется дихотомией [Леонов Вадим, прот. 2016: 456]. Тогда можно выделить две базовые группы РЭ-рисков, главным признаком которых является приоритетное воздействие при роботизации, соответственно, на физическую (группа 1) и духовную составляющие природы человека (группа 2).

Отметим, что РЭ-риски возникают на всех трех этапах при проектировании и внедрении роботов (уровнях целей, технологий и систем — рис. 2). Проведенный анализ показал, что на каждом уровне возникают РЭ-риски, которые оказывают как физическое, так и духовное воздействие на человека. На рис. 3 и 4 указаны для каждой группы по три существенных РЭ-риска, непосредственно влияющих на человека, которые выявлены в результате анализа научных источников и опыта, накопленного в области медицинской робототехники.

Рисунки_v3-2.jpg

Для группы 1 (рис. 3) можно выделить РЭ-риски, связанные с физической безопасностью человека, проблемой технической и информационной надежности роботических систем и многофункциональностью роботов. Например, в медицинской робототехнике риски физической безопасности обусловлены механическими, электрическими, электромагнитными, тепловыми и др. воздействиями на органы пациента через медицинские инструменты, которыми оперирует робот в операционном поле в процессе медико-роботических операций. Проблема надежности означает риски технических и программных сбоев в работе робота, которые приводят к возникновению травмоопасных и аварийных ситуаций. Новым видом РЭ-рисков становится проблема многофункциональности роботов. Это связано со все более широким использованием в робототехнике интеллектуальных систем управления, которые позволяют роботу решать универсальные задачи, каждая из которых содержит свой набор РЭ-рисков. В частности, повышаются угрозы потери оперативного контроля человеком за манипуляциями роботов в процессе их действий. Для решения проблемы подотчетности системы управления робота человеку в настоящее время используются методы предварительной симуляции движений и сенсорного контроля.

Рисунки_v3-3.jpg

К РЭ-рискам 2-й группы (рис. 4) можно отнести проблемы психологической и информационной безопасности человека, юридической ответственности за действия роботов и возникновения интеллектуальной и эмоциональной привязанности, доверия человека при общении с роботом. В настоящее время вопрос информационной безопасности для систем ИИ решается путем контроля за получением, хранением и передачей личных данных по внешним сетям [Этика и «цифра»: Этические проблемы цифровых технологий 2020; Этика и «цифра»: от проблем к решениям 2021]. Актуальным примером из медицинской робототехники может служить РЭ-риск «двойного использования» микрочипов-­имплантов, введенных подкожно в организм человека, например, при автоматическом переходе имплантируемого устройства на программное обеспечение новой версии. Проблема юридической ответственности при роботизации связана с определением зон ответственности как разработчиков роботов, так и лиц, использующих роботизированные систем на практике. Вопрос эмоциональной привязанности человека и робота представляется особенно актуальным для молодежи и детей, когда зачастую реальное общение между людьми заменяется коммуникацией с «виртуальным другом». Причем робот, по сравнению с программами ИИ, может быть не только собеседником, но и выполнять желаемые действия в интересах пользователя.

Рисунки_v3-4.jpg

Особенно существенные РЭ-риски 2-й группы возникают при использовании роботических технологий и систем, практически реализующих задачи «киборгизации», вплоть до создания «нового рода людей», обладающих фантастическими физическими, психическими и интеллектуальными ресурсами.

Для этих целей применяются методы, например роботической биопечати искусственных органов, причем не только для лечения заболеваний человека, но и ставятся задачи борьбы со старением, вплоть до преодоления смерти и создания «бессмертного человечества». Вспомним, что идея «сверхчеловечества» как глобальная цель роботизации прозвучала изначально в пьесе К. Чапека «R.U.R.», которая была представлена автором как «коллективная драма в трех действиях со вступительной комедией», где в результате революции роботов герои приходят к трагическому финалу. Но эта футуристическая идея, цель которой — построить «мир без людей», звучит и сегодня в трансгуманистической модной литературе: «Судя по всему, в XXI в. будет сделана серьезная заявка на бессмертие». «Главная задача современной медицины — победить смерть и подарить человечеству вечную молодость» [Харари 2019].

Позиция христианства, поддерживая медицину в ее борьбе с недугами тела человека, направлена на развитие всех составляющих природы человека в их совокупности, и в первую очередь его души и духа [Леонов Вадим, прот. 2021: № 2; Ларше 2021: № 1, 21–31].

Заключение

В заключение подчеркнем, что робоэтика сегодня находится на этапе формирования базовых принципов и подходов к их практической реализации при создании интеллектуальных роботов. Особенность робоэтики как научно-практической области определяется ее многогранным интердисциплинарным характером, где происходит синтез знаний технических и информационных наук, теологии и философии, медицины и нейробиологии. При этом робоэтика по сути своей является человекоцентричной областью, и фокусом ее исследований должен быть человек, непосредственно взаимодействующий с роботами.

В настоящей статье в основу анализа проблем робоэтики предлагается положить двухчастное понимание природы человека, которое в православной антропологии называется дихотомией. Такой подход дал возможность структурно выделить и рассмотреть особенности двух базовых групп робо­этических рисков, признаками которых является приоритетное воздействие при роботизации соответственно на физическую и духовную составляющие природы человека. Комплексный анализ робоэтических рисков на базе нравственно-этических принципов православной антропологии позволяет определять пути дальнейшего развития робототехники и вводить необходимые ограничения при создании и применении роботов нового поколения.

Ю.В. Подураев

Научный журнал СДА "Сретенское Слово"


Литература

Европейские нормы гражданского права по робототехнике. [Электронный ресурс]. URL: https://ethics.cdto.ranepa.ru/3_8 (дата обращения: 27.07.2022).

Ильин И. А. Машина // Книга надежд и утешений. Москва : Апостол веры, 2006. 384 с.

Кодекс этики в сфере искусственного интеллекта. [Электронный ресурс]. URL: https://d-russia.ru/wp-content/uploads/2021/10/kodeks_etiki_ii.pdf (дата обращения: 27.07.2022).

Ларше Жан-Клод. Границы светского трансгуманизма и христианское предложение подлинного трансгуманизма // Сретенское слово. 2022. № 1. С. 21–31.

Леонов Вадим, прот. Основы православной антропологии: Учебник. 2-е изд., испр. и доп. Москва : Изд-во Московской Патриархии Русской Православной Церкви, 2016. 456 с.

Леонов Вадим, прот. Перспективы христианской антропологии в эпоху трансгуманизма // Актуальные вопросы церковной науки : научный журнал. Санкт-Петербург : Изд-во СПбПДА. 2021. № 2. С. 72–79.

Леонов Вадим, прот. Цифровая трансформация в жизни современного общества: религиозный аспект / Институт психологии РАН // Социальная и экономическая психология. 2021. Т. 6. № 2 (22).

Лефевр В. А. Формула человека: Контуры фундаментальной психологии / Пер. с англ. Москва : Когито-Центр, 2012. 108 с.

Митрополит Сурожский Антоний. Вопросы медицинской этики. 3-е изд. // Труды. Кн. 1. Москва : Практика, 2014. 1097 с, 51 ил.

Национальный стандарт ГОСТ 60.0.0.4-2019 «Роботы и робототехнические устройства. Термины и определения», 2019.

Харари Ю. Н. Homo Deus. Краткая история будущего. Москва : Синдбад, 2019. 496 с.

ЮНЕСКО приняла рекомендацию об этических аспектах искусственного интеллекта. [Электронный ресурс]. URL: https://d-russia.ru/junesko-prinjala-rekomendaciju-ob-jeticheskih-aspektah-iskusstvennogo-intellekta... (дата обращения: 27.07.2022)

Этика и «цифра»: Этические проблемы цифровых технологий. Москва : РАНХиГС, 2020. 207 с.

Этика и «цифра»: от проблем к решениям / под ред. Е. Г. Потаповой, М. С. Шклярук. Москва : РАНХиГС, 2021. 184 с.

IFR present World Robotic 2021 reports. [Электронный ресурс]. URL: https://ifr.org/ifr-press-releases/news (дата обращения: 27.07.2022).

Langman S., Capicotto N., Maddahi Y., Zareinia K. Roboethics principles and policies in Europe and North America. SN Applied Sciences, 2021, vol. 3, i. 12, 857 p.

Maddahi Y., Kalvandi M., Langman S., Capicotto N., Zareinia K. RoboEthics in COVID-19: A Case Study in Dentistry. Frontiers in Robotics and AI, 2021, Vol. 8.

Pasquale F. Introduction in New Laws of Robotics. Cambridge, Massa­chu­setts : Belknap Press, 2020. Р. 1–32.

Veruggio G. Roboethics: Social and Ethical Implications of Robotics / Ed. B. Sici­liano and O. Khatib // Handbook of Robots. Springer Verlag, 2008. Р. 1499–1522.