Технологии

Нерешаемая дилемма

Почему активисты выступают против беспилотных автомобилей и считают их угрозой демократии

Автор: Пётр Иванов

13 марта

Беспилотный личный автомобиль — одна из главных составляющих современной дискуссии о транспорте. Желание покоя и безопасности испокон веков двигало вперёд человеческую цивилизацию. И ещё не так давно в отношении транспорта существовало строгое противоречие: можно либо доверить себя водителю, а значит терпеть все издержки коммуникации с как минимум одним человеком, либо наслаждаться одиночеством, взвалив на себя груз ответственности за своё перемещение. При выборе между двумя формами стресса больше всего мечтается выбрать третий вариант — отсутствие этого самого стресса. И кажется, что самоуправляемый автомобиль дарует нам такой вариант. Тем не менее находятся те, кто утверждают, что это опасное искушение, которого лучше избегать.

Личное автомобилепользование рассматривается многими транспортными движениями и теоретиками как худшее из зол с точки зрения как общественного здоровья, так и социальной справедливости.

В 2011 году в Public Health Journal вышла статья Are cars the new tabacco?, описывающая вред автомобилепользования для здоровья. Авторы показывают тесную связь этого способа передвижения с ожирением, болезнями опорно-двигательного аппарата и дыхательной системы. Исследования также демонстрируют, что при ежедневных длительных поездках на машине человек вероятнее всего будет больше курить, пить и страдать от недосыпа. Связь вождения и ментального здоровья изучена мало, хотя есть работы, связывающие вождение с повышенным стрессом, в особенности у таксистов.

Автомобилист не только вредит себе, но ещё и представляет немалый, зачастую смертельный риск для окружающих. И стимулировать оба этих риска снятием с автомобилиста ответственности за происходящее крайне неразумно. Такой позиции придерживается Ларс Штромгрен, один из основателей шведского движения Vision Zero, направленного на достижение нулевой смертности на дорогах.

«Какую роль мы позволим играть самоуправляемым автомобилям? Прежде чем внедрять новые технологии, нужно создать условия, чтобы они работали на наши ценности и цели. Очень важно понимать, что с беспилотными машинами мы двигаемся ещё меньше. Транспорт и вождение — это не просто транспорт и вождение сами по себе, это ещё и ключевой способ решения вопросов активной мобильности и здоровья горожан», — рассказал нам Штромгрен на Международном велоконгрессе в 2018 году

В прошлом году движение Штромгрена отпраздновало своё двадцатилетие и трансформировалось в новое — Moving Beyond Zero. Его главная идея — уже не столько безопасность мобильности, сколько использование мобильности для решения более комплексных задач в области общественного блага.

Среди этих задач — не только борьба с ожирением, сердечно-сосудистыми заболеваниями и депрессией, но также защита демократических принципов, стоящих в основе шведского общества. И в логике сторонников Moving Beyond Zero самоуправляемые автомобили — самая что ни на есть опасная угроза для демократии.

Почему это так? Начнём издалека. Философы любят дилеммы, в которых нет правильного ответа, зато есть пара трупов. Классический пример: дилемма вагонетки, которая едет к развилке. У решающего эту дилемму есть выбор, куда направить стрелку на развилке. Если налево, то вагонетка раздавит маленькую девочку. А если направо, то толстяка. Или: если налево, то трёх пожилых мужчин, а если направо, то одну женщину. Варианта, что вагонетка не раздавит никого в результате действий решающего, не предусматривается. Зато в процессе оправдания того или иного решения можно многое узнать о ценностях людей.

Учёные из Массачусетского технологического университета, проанализировав около 2,3 миллиона ответов людей из 133 стран, составили рейтинг тех, кого жители нашей планеты скорее предпочтут спасти, а кого предпочтут задавить. Со времён победы над гитлеровской Германией в европеизированном мире считается дурным тоном делить людей на более хороших и более плохих. Однако результат эксперимента показывает, что жизнь малышей в колясках люди ценят больше, чем жизнь стариков, а жизнь спортсменов больше, чем жизнь толстяков. Больше всего людям не жаль жизни собак, кошек и преступников. При этом собаки людям чуть ценней преступников, а кошки чуть менее ценны.

Чем этот эксперимент важен в контексте разговора про беспилотные автомобили? В первую очередь тем, что ставит вопрос об экстренных ситуациях. Ещё по опыту самолётов мы знаем, что автопилот справляется с дежурным управлением транспортными средствами заметно лучше живого пилота. Однако пилоты сидят в кабине самолётов на каждом рейсе для того, чтобы брать на себя управление во время взлёта, посадки, аварии и в других экстренных случаях. Очевидно, что снабжать беспилотные автомобили штатными пилотами на случай сложных ситуаций — это, по сути дела, заново изобретать такси. Поэтому в размышлении о беспилотных автомобилях речь идёт о том, что и в экстренных ситуациях управление остаётся за роботом. А значит, роботу нужно как-то самому, в отсутствие человека принимать этическое решение — давить кошку или толстяка.

Нормы административного и уголовного права подразумевают, что человек самостоятельно принимает некое этическое решение и несёт за него ответственность. То есть водитель, по собственной воле выбравший давить маленькую девочку, а не старика, сделал свой моральный выбор. Робот же, задавивший на основании программы старика, а не маленькую девочку, не делает морального выбора. Он выполняет программу. А стало быть, мы должны допустить легитимность существования программы, делящей людей на более ценных и менее ценных. Чего допускать вроде как нельзя, потому что все мы помним, чем такое допущение закончилось в прошлый раз.

В разных странах по-разному пытаются подойти к решению этой задачи. Так, в Германии в 2017 году был собран консилиум специалистов, от промышленников до теологов, которые пришли к двадцати ключевым замечаниям по этому вопросу. Многие из них начинаются с утверждения, что любой разговор о развитии беспилотного транспорта должен ставить во главу угла именно безопасность человека.

Немцы утверждают, что уже на этапе проектирования автоматизированных транспортных систем необходимо категорически исключить саму возможность развёртывания сценария дилеммы вагонетки. Проще говоря, не допускать, чтобы роботизированные системы, управляющие машинами, могли учиться на основании каких бы то ни было личных характеристик жертв ДТП, будь то возраст или социальный статус, а также ни в коем случае не допускать программирования этического выбора в ситуации, когда любое решение системы приведёт к чьей-то гибели или травме. Такого рода решения должны приниматься роботами на основании случайного выбора, а не протокола.

До тех пор, пока нет никаких убедительных доказательств, что автоматизированный транспорт является по всем параметрам безопаснее, нежели управляемый человеком (включая риски взлома систем управления и навигации, а не только риски случайных ДТП или появления роботов-фэтшеймеров и роботов-эйджистов), идею беспилотных автомобилей стоит считать этически неоднозначной и скорее футуристической, полагают немецкие специалисты

Что характерно, в немецком докладе нет ни слова про комфорт. Конечно, многие из нас мечтают ехать с работы домой на самодвижущемся автомобиле, включив на планшете любимый сериал и открыв бутылочку просекко, не дожидаясь встречи с диваном. Но так вышло, что люди испокон веков создавали города не для достижения личного комфорта, а для обеспечения коллективной безопасности.

Концентрированный приватный комфорт, выраженный в мечте о беспилотном автомобиле, заставляет нас забывать не только об идее города, но и о личной ответственности за происходящее вокруг нас. Автомобиль на автопилоте всё ещё остаётся опасным предметом, столкновение с которым может оказаться смертельным для велосипедиста или пешехода. А снимая с человека ответственность за ДТП, он делает своего пользователя нечувствительным к окружающим, выключает его из общего дела заботы о коллективной безопасности. Тренируя навыки вождения, внимательно глядя на дорогу, садясь за руль трезвым, водитель помнит о том, что вокруг есть другие люди, границы комфорта и безопасности, которые ему следует учитывать. Эти размышления позволяют водителю понимать, что свобода, демократия и республика — общее дело.

Именно поэтому шведские общественники выступают против самоуправляемых автомобилей, затрагивая эту тему на различных конференциях. Если такие практики, как выбор одежды и любовь к селёдке со взбитыми сливками касаются личных отношений человека со своим телом, то в ситуации городской мобильности человек вступает в царство публичного. А это царство должно управляться демократическим процессом, с правилами которого каждый горожанин должен быть знаком.

Что же касается прогнозов о будущей мобильности, то вряд ли стоит верить словам маркетологов, рисующих картину полной и безоговорочной победы самоуправляемого транспорта над всеми другими видами передвижения. Эти утверждения мало чем отличаются от утверждений Генри Форда о наступлении автомобильной эры в начале XX века. А они на без малого столетие затормозили развитие общественного транспорта по всему миру.

Имея опыт сноса и последующего восстановления трамвайных путей и возвращения на дороги электротакси, спустя сто лет забвения, городские исследователи и проектировщики склонны считать, что в будущем самоуправляемый транспорт определённо займёт свою нишу. Например, в Америке рассматривают самоуправляемые машины как хорошее решение для пригородов, населённых пожилыми людьми. В любом случае, как сейчас мы стремимся к сбалансированным мультимодальным транспортным системам, где есть место и троллейбусу, и велосипеду, и пешеходу, и автомобилю, и даже гироскутеру, так и в будущем мы, скорее всего, останемся достаточно разумными и чуткими к функциям разных форм мобильности.

Ещё?

Подпишитесь на обновления

Нажимая кнопку «Подписаться», я даю согласие на получение e-mail рассылки.