Когда-нибудь американские солдаты смогут управлять оружием с помощью своих мыслей. Вот почему это сложно.

Этика интерфейсов мозг-компьютер отстает от науки.

Отредактировано 2023-25-06
Интерфейсы мозг-компьютер могут принимать различные формы например в виде шапочки ЭЭГ или имплантата в мозгИнтерфейсы мозг-компьютер могут принимать различные формы, например, в виде шапочки ЭЭГ или имплантата в мозг.

Представьте себе, что солдату в кровь вводится крошечное компьютерное устройство, которое с помощью магнита можно направлять в определенные области мозга. Потренировавшись, солдат сможет управлять системами оружия, находящимися за тысячи миль от него, используя только свои мысли. Встраивание подобного компьютера в мозг солдата может подавить его страх и тревогу, что позволит ему более эффективно выполнять боевые задачи. Если пойти еще дальше, то устройство, оснащенное системой искусственного интеллекта, сможет напрямую управлять поведением солдата, предсказывая, какие варианты он выберет в текущей ситуации.

Хотя эти примеры могут показаться научной фантастикой, научные разработки для создания подобных нейротехнологий уже ведутся. Интерфейсы мозг-компьютер, или BCI, - это технологии, которые декодируют и передают сигналы мозга внешнему устройству для выполнения желаемого действия. По сути, пользователю нужно будет только подумать о том, что он хочет сделать, а компьютер сделает это за него.

В настоящее время BCI тестируются на людях с тяжелыми нервно-мышечными расстройствами, чтобы помочь им восстановить повседневные функции, такие как общение и мобильность. Например, пациенты могут включить выключатель света, визуализируя это действие, а BCI декодирует сигналы их мозга и передает их на выключатель. Аналогичным образом, пациенты могут сосредоточиться на определенных буквах, словах или фразах на экране компьютера, которые BCI может переместить курсором для выбора.

Однако этические соображения не успевают за развитием науки. В то время как этики настаивают на более этичном исследовании нейронной модификации в целом, многие практические вопросы, связанные с интерфейсами мозг-компьютер, не были полностью рассмотрены. Например, перевешивают ли преимущества BCI существенные риски взлома мозга, кражи информации и контроля поведения? Следует ли использовать BCI для сдерживания или усиления определенных эмоций? Какое влияние окажут ИБК на моральную свободу, личную идентичность и психическое здоровье их пользователей?

Эти вопросы представляют большой интерес для нас, философа и нейрохирурга, изучающих этику и науку нынешнего и будущего применения BCI. Рассмотрение этики использования этой технологии до ее внедрения может предотвратить ее потенциальный вред. Мы утверждаем, что ответственное использование BCI требует сохранения способности людей функционировать в различных областях, которые считаются основными для того, чтобы быть человеком.

Расширение BCI за пределы клиники

Исследователи изучают возможности немедицинского применения интерфейса мозг-компьютер во многих областях, включая игры, виртуальную реальность, художественное исполнение, военные действия и управление воздушным движением.

Например, компания Neuralink, соучредителем которой является Элон Маск, разрабатывает мозговой имплантат для здоровых людей, который потенциально сможет общаться по беспроводной связи с любым человеком, имеющим аналогичный имплантат и компьютер.

В 2018 году Агентство передовых оборонных исследовательских проектов вооруженных сил США запустило программу по разработке "безопасной, портативной системы нейронного интерфейса, способной считывать информацию с нескольких точек мозга и записывать ее в них одновременно". Цель программы - к 2050 году создать нехирургическую систему BCI для трудоспособных военнослужащих в целях обеспечения национальной безопасности. Например, солдат в подразделении специального назначения мог бы использовать BCI для передачи и приема мыслей с сослуживцами и командиром подразделения, что представляет собой форму прямой трехсторонней связи, позволяющей получать информацию в режиме реального времени и более оперативно реагировать на угрозы.

Насколько нам известно, эти проекты не открыли публичную дискуссию об этике этих технологий. Хотя американские военные признают, что для успешного внедрения ИБК необходимо преодолеть "негативное общественное и социальное восприятие", необходимы практические этические рекомендации для лучшей оценки предлагаемых нейротехнологий перед их внедрением.

Утилитаризм

Один из подходов к решению этических вопросов, которые поднимает BCI, - утилитарный. Утилитаризм - это этическая теория, которая стремится максимизировать счастье или благосостояние каждого, кого затрагивает то или иное действие или политика.

Усовершенствование солдат может принести наибольшее благо, улучшая боевые способности нации, защищая военные активы за счет удаленности солдат и поддерживая боеготовность армии. Утилитаристские защитники нейроулучшения утверждают, что новые технологии, такие как BCI, морально эквивалентны другим широко принятым формам улучшения работы мозга. Например, стимуляторы, такие как кофеин, могут повысить скорость обработки информации мозгом и улучшить память.

Однако некоторые опасаются, что утилитарные подходы к ИБК имеют моральные "слепые пятна". В отличие от медицинских приложений, призванных помочь пациентам, военные приложения призваны помочь нации выиграть войну. В этом процессе ИБК может попирать права личности, такие как право на психическое и эмоциональное здоровье.

Например, солдаты, управляющие беспилотным оружием в дистанционных боевых действиях, сегодня отмечают более высокий уровень эмоциональных расстройств, посттравматических стрессовых расстройств и распавшихся браков по сравнению с солдатами на земле. Конечно, солдаты обычно идут на жертвы ради общего блага. Но если нейроусиление станет обязательным требованием при приеме на работу, это может вызвать особые опасения по поводу принуждения.

Нейрорайтс

Другой подход к этике BCI, нейрорайтс, отдает приоритет определенным этическим ценностям, даже если это не максимизирует общее благополучие.

Сторонники нейроправа отстаивают права человека на когнитивную свободу, психическую конфиденциальность, психическую целостность и психологическую непрерывность. Право на когнитивную свободу может запрещать необоснованное вмешательство в психическое состояние человека. Право на психическую приватность может требовать обеспечения защищенного психического пространства, в то время как право на психическую целостность запрещает причинение конкретного вреда психическому состоянию человека. Наконец, право на психологическую непрерывность может защищать способность человека сохранять целостное восприятие себя во времени.

BCI могут влиять на нейроправа различными способами. Например, если BCI изменяет восприятие мира пользователем, он может оказаться не в состоянии отличить свои собственные мысли или эмоции от измененных версий себя. Это может нарушить такие нейроправа, как психическая конфиденциальность или психическая целостность.

Однако солдаты уже лишены подобных прав. Например, американским военным разрешено ограничивать свободу слова и свободу вероисповедания солдат способами, которые обычно не применяются к широкой публике. Будет ли ущемление нейроправа чем-то отличаться?

Человеческие возможности

Подход, основанный на человеческих способностях, настаивает на том, что защита определенных человеческих способностей имеет решающее значение для защиты человеческого достоинства. В то время как нейрорайт концентрируется на способности человека мыслить, подход, основанный на способностях, рассматривает более широкий спектр того, что человек может делать и чем он может быть, например, способность быть эмоционально и физически здоровым, свободно перемещаться с места на место, общаться с другими людьми и природой, проявлять чувства и воображение, чувствовать и выражать эмоции, играть и отдыхать, а также регулировать непосредственное окружение.

Мы считаем подход, основанный на использовании возможностей, убедительным, поскольку он дает более четкое представление о человечности и уважении человеческого достоинства. Опираясь на эту точку зрения, мы утверждаем, что предлагаемые приложения ИБК должны разумно защищать все центральные возможности пользователя при минимальном пороге. ИБК, предназначенные для расширения возможностей, выходящих за пределы средних человеческих возможностей, должны применяться таким образом, чтобы реализовать цели пользователя, а не только других людей.

Например, двунаправленный BCI, который не только извлекает и обрабатывает сигналы мозга, но и передает соматосенсорную обратную связь, например, ощущения давления или температуры, обратно пользователю, будет представлять неоправданный риск, если он нарушит способность пользователя доверять своим собственным чувствам. Аналогичным образом, любая технология, включая BCI, которая управляет движениями пользователя, будет ущемлять его достоинство, если она не дает пользователю возможности отменить ее.

Ограничение представления возможностей заключается в том, что может быть трудно определить, что считается пороговой возможностью. Эта точка зрения не описывает, какие новые возможности стоит развивать. Тем не менее, нейроусиление может изменить то, что считается стандартным порогом, и в конечном итоге может привести к появлению совершенно новых человеческих способностей. Для решения этой проблемы необходимо дополнить подход к возможностям более полным этическим анализом, призванным ответить на эти вопросы.