Человеческое в человеко-машинном гибриде искусственного интеллекта
Ключевые слова:
антропоцентризм; инструментализм; агентность; моральная агентность; социотехническая система; искусственный интеллект; проблема ответственности.
Статья посвящена вопросу о том, что происходит со статусом человека в современный период распространения технологий искусственного интеллекта (далее — ИИ). Демонстрируется недостаточность ресурсов антропоцентризма для определения реального положения человека на том основании, что в качестве следствия он ведет к фиксации простой инструментальности за системами ИИ. Такое распределение ролей между человеком и технологией не соответствуют реальной сложности функционирования и взаимодействия человека и ИИ на современном этапе. ИИ в силу своего устройства обладает определенной степенью автономии, непрозрачности и непредсказуемости, что позволяет в целом говорить о нем как об агенте. Однако если допустить расширение поля морали в результате ее переориентации с субъекта действия на объект и его морально значимые изменения, то искусственные агенты могут расцениваться как моральные агенты (проект информационной этики Лучано Флориди).
Однако эти агенты проектируются и обучаются людьми на основе данных, которые производятся, собираются, размечаются людьми. Реальность производства технологии в ее социальном аспекте настолько сложна, что в итоге не представляется возможным учесть отдельный вклад всех агентов (человеческих и нечеловеческих) в ее функционирование. Поэтому для фиксации этой ситуации используется понятие социотехнической мультиагентной системы.
Она характеризуется различными уровнями агентности: каузальной, моральной и моральной с возможностью несения ответственности.
Человеческое в социотехнической системе является источником моральной агентности и ответственности в силу того, что они являются
его сущностными свойствами.
Дальнейшее направление исследования социотехнической системы
определяется необходимостью проработки проблемы пробела в ответственности.
Однако эти агенты проектируются и обучаются людьми на основе данных, которые производятся, собираются, размечаются людьми. Реальность производства технологии в ее социальном аспекте настолько сложна, что в итоге не представляется возможным учесть отдельный вклад всех агентов (человеческих и нечеловеческих) в ее функционирование. Поэтому для фиксации этой ситуации используется понятие социотехнической мультиагентной системы.
Она характеризуется различными уровнями агентности: каузальной, моральной и моральной с возможностью несения ответственности.
Человеческое в социотехнической системе является источником моральной агентности и ответственности в силу того, что они являются
его сущностными свойствами.
Дальнейшее направление исследования социотехнической системы
определяется необходимостью проработки проблемы пробела в ответственности.