Войти
Почему нам становится грустно, когда «умирают» роботы?

Почему нам становится грустно, когда «умирают» роботы?

В 2019 году Илон Маск едва избежал судебного преследования за «убийство», которое совершил электрокар Tesla: работая в беспилотном режиме, он сбил робота российской компании Promobot. Если оставить в стороне рассуждения о возможной фальсификации этого инцидента, то на первый план выходят два вопроса: можно ли «убить» систему на основе искусственного интеллекта и что отличает ее от человека?

Почему нам становится грустно, когда «умирают» роботы?

Хорошо задокументировано, что люди испытывают к ИИ сложные чувства. В 2013 году американские солдаты в Таджи, Ирак, со всеми почестями похоронили робота, известного как Boomer. Он был многофункциональным маневренным радиоуправляемым роботом (MARCbot, Multi-function Agile Remote-Controlled Robot), который очень дорого стоил (около $20 тысяч) и использовался для обнаружения бомб. Персонификация Boomer в «жизни» и «смерти» выглядит особенно удивительно с учетом распространенности военных техник дегуманизации. Речь идет о ситуациях, когда говорят «столкновение», а не «убийство», «сопутствующий ущерб», а не «гибель мирного населения». И уж точно американская армия не устраивала похороны тысячам граждан Ирака, умершим в тот же год, что и Boomer.

Из циничной трактовки этого несоответствия следует, что солдаты видели в Boomer больше человеческого, чем в безымянных жертвах. Можно подумать, что именно поэтому ему устроили пышные похороны, но есть и другой вариант — вероятно, военные решили, что робот достоин этого из-за его ценности для людей. Таким образом, похороны Boomer могли провести из уважения к оказанной им помощи, а не потому, что он был чем-то значительным сам по себе. Но если это действительно так, то что насчет других жизненно важных объектов наподобие офисного кулера? Они имеют ценность для людей, но все же их похороны покажутся большинству из нас странной идеей.

При таком взгляде на ситуацию Boomer противопоставляется людям, чья жизнь уважается и ценится не (только) потому, что они полезны другим людям, а потому, что они обладают разумом. Boomer нуждается в программировании, а люди мыслят самостоятельно. Вот почему мы ценим их самих, а не только то, что они для нас делают.

Философ Джефф Макмэхан делает следующий шаг и предлагает многоуровневую модель морального статуса, основанную на психологических способностях: чем сложнее разум живого существа, тем больше ценность его жизни (до определенного порога, после которого все становятся равны). По словам Макмэхана, люди находятся на более высоком уровне наряду с такими животными, как дельфины, осьминоги и так далее.


Хотя Макмэхан не упоминает в своей работе ИИ, эта технология могла бы оказаться в его модели выше некоторых людей. Когнитивно сложные системы будут цениться сами по себе, и даже у сторонников их развития есть поводы для беспокойства. Илон Маск назвал достаточно продвинутый ИИ реальной угрозой для человечества. И хотя другие эксперты сомневаются, что он сможет когда-либо превзойти интеллект человека, теория Макмэхана добавляет в эту дискуссию новый аспект: вопрос не только в том, смогут ли роботы обогнать человечество с помощью интеллектуальной силы, но и в том, потребуют ли они свободу и будут ли готовы предоставить ее сами.

Ход мыслей Макмэхана действительно имеет определенный смысл применительно к ИИ: если согласиться с мыслью, что в людях мы ценим прежде всего разум, значит, верхний уровень в модели ученого в конце концов займет кто-то, кто не является человеком.

Это важное «если», пожалуй, лучше обсудить в контексте поп-культуры, а именно сериала «В лучшем мире» от NBC, в котором очень много говорят о философии. Например, в первом сезоне главные герои решили «убить» Джанет, всемогущего и всеведущего робота, выглядящего как человек. Она уверяет, что не чувствует боли, но ради безопасности запрограммирована умолять убийцу сохранить ей жизнь в манере, максимально приближенной к человеческой. Главные герои настроены решительно, но в итоге оказываются неспособны пройти через это испытание. Что случилось? Неужели они вдруг вспомнили, что это существо, обладающее разумом? Или на них повлияли эмоции Джанет?

Похожим вопросам было посвящено исследование, опубликованное в академическом журнале Social Cognition. Его авторы решили выяснить: будут ли люди спасать «роботов-друзей» вместо «анонимных человеческих жизней», если роботы проявят достаточно сильные эмоции. Оказалось, что люди легко жертвуют роботами ради спасения человеческих жизней при условии, что те выглядят и ведут себя как машины. Однако чем ярче выражена антропоморфность робота, тем вероятнее, что человек спасет его, а не незнакомца. Ученые пришли к следующему выводу: чем более явно робот демонстрирует эмоции, тем вероятнее, что люди посчитают нанесение ему вреда неправильным.

Если эти результаты соответствуют действительности, то интеллект имеет мало общего с тем, почему нам небезразличен ИИ. И об этом говорится не только в уже упомянутом исследовании: в нескольких работах Кристофа Бартнека, голландского профессора в области промышленного дизайна, написанных в 2007 году, утверждается, что ИИ-система с телом человека будет лучше защищена от повреждений, которые ей могут нанести люди.

Но если бы у исследователей действительно были неопровержимые доказательства того, что однажды мы посчитаем роботов более человечными, чем окружающих людей, это были бы новости для первой полосы. Сделать такие выводы из абстрактного мысленного эксперимента, участниками которого стали студенты, будет излишне поспешным.

Что можно утверждать уже сейчас, так это то, что эмоциональная привязанность человека к роботу зависит от контекста и ее уровень может измениться, если робот будет каким-то образом очеловечен. В качестве примеров здесь можно привести военного робота Boomer, о котором мы уже поговорили, и марсоход Opportunity. Люди развили особый вид отношений с этими машинами, и скорбь после их потери в данном контексте понятна. Boomer долгое время «служил» на поле боя, а война всегда создает странные узы. То же самое можно сказать и об Opportunity, который после 14 лет работы «умер» в жестокой пыльной буре.

Ни Boomer, ни Opportunity не обладали внешним сходством с человеком, и привязанность людей к ним не была основана на этом параметре. Эти роботы приобрели человеческие черты, выполняя жизненно важные задачи для людей, которые от них зависели.

Обратной стороной этого явления можно назвать приписывание человеческих качеств неодушевленным предметам и игнорирование реальных людей. Вспомните, как Трамп говорит о «караванах нелегальных иммигрантов», а не о семьях, нуждающихся в помощи.

Многое остается неясным относительно того, как люди будут относиться к высокоинтеллектуальным роботам, особенно похожим на людей. Но как только ИИ-системы станут антропоморфнее с точки зрения физической передачи чувств и желаний, люди могут начать воспринимать их как более близких к себе существ.

Нам стоит отложить вопрос «Убили ли вы кого-нибудь, чтобы спасти Сири?» и вместо этого подумать: какие качества делают людей ценными самих по себе, без учета их действий? В одиночку наука не сможет это выяснить.

Источник.

Источник

Об авторе

Оставьте ответ

четыре × 2 =

WhatsApp chat
Мы используем cookie-файлы для наилучшего представления нашего сайта. Продолжая использовать этот сайт, вы соглашаетесь с использованием cookie-файлов.
Принять