Кого убьет беспилотный автомобиль? Машина, спаси как можно больше людей, но больше всего спаси меня!

Wann eng Situatioun entsteet, wou den autonomen System vun engem Auto e séiere Choix muss maachen, wiem en am Fall vun engem zoustännegen Accident opfert, wéi soll en reagéieren? Passagéier opferen fir Foussgänger ze retten? Wann néideg, e Foussgänger ëmbréngen fir ze schounen, zum Beispill eng Famill vu véier, déi an engem Auto reest? Oder vläicht sollt hien sech ëmmer fir d'éischt schützen?

В то время как только в Калифорнии более шестидесяти компаний уже получили разрешение на личное тестирование, трудно сказать, что отрасль готовится столкнуться с этическими дилеммами. На данный момент он борется с более базовыми проблемами — работой и навигационной эффективностью систем и просто предотвращением столкновений и непредвиденных событий. В таких ситуациях, как недавнее убийство пешехода в Аризоне или последующие аварии (1), пока речь шла просто о системных сбоях, а не о каком-то «этическом выборе» машины.

Retten déi räich a jonk

Kwestie podejmowania na drodze tego rodzaju decyzji nie są abstrakcyjnymi problemami. Może to poświadczyć każdy doświadczony kierowca. Naukowcy z MIT Media Lab przeanalizowali w ubiegłym roku ponad czterdzieści milionów odpowiedzi respondentów z całego świata, które zebrali w trakcie badań zainaugurowanych jeszcze w 2014 r. System ankietujący nazwany przez nich «Maszyną Etyczną», wykazał, że w różnych miejscach świata na podobne pytania padają różne odpowiedzi.

Самые общие выводы предсказуемы. В экстремальных ситуациях люди предпочитают спасать людей заботе о животных, стремясь сохранить как можно больше жизней, и, как правило, моложе, чем пожилые люди (2). Есть также некоторые, но не столь явные предпочтения, когда речь идет о спасении женщин перед мужчинами, людей с более высоким статусом перед более бедными и пешеходов, а не пассажиров автомобилей..

2. Кого должна спасти машина?

Well bal eng hallef Millioun Befroten demographesch Questionnaire ausgefëllt hunn, war et méiglech hir Virléiften mat Alter, Geschlecht a reliéisen Iwwerzeegungen ze korreléieren. D'Fuerscher hunn ofgeschloss datt dës Differenzen net "bedeitend" d'Entscheedunge vun de Leit beaflossen, awer e puer kulturell Aflëss bemierkt. D'Fransousen, zum Beispill, tendéieren Entscheedungen op Basis vun der geschätzter Zuel vun den Doudesfäll ze weien, wärend a Japan de Schwéierpunkt am mannsten war. Wéi och ëmmer, am Land vun der Rising Sun ass d'Liewen vun den eelere Leit vill méi geschätzt wéi am Westen.

"Ier mir eis Autoen erlaben hir eege ethesch Entscheedungen ze treffen, musse mir eng global Debatt doriwwer hunn. Wann Firmen, déi un autonome Systemer schaffen, iwwer eis Virléiften léieren, da entwéckelen se ethesch Algorithmen a Maschinnen op Basis vun hinnen, a Politiker kënnen ufänken adäquat gesetzlech Bestëmmungen anzeféieren ", hunn d'Wëssenschaftler am Oktober 2018 an der Natur geschriwwen.

Один из исследователей, участвовавших в эксперименте «Моральная машина», Жан-Франсуа Боннефон, счел тревожным предпочтение спасения людей с более высоким статусом (например, руководителей, а не бездомных). По его мнению, это очень сильно связано с уровень экономического неравенства в данной стране. Там, где неравенство было больше, предпочтение отдавалось принесению в жертву бедных и бездомных.

Одно из предыдущих исследований показало, в частности, что, по мнению респондентов, автономный автомобиль должен защищать как можно больше людей, даже если это означает потерю пассажиров. При этом, однако, респонденты заявляли, что не стали бы покупать запрограммированный таким образом автомобиль. Исследователи объяснили, что хотя люди считают более этичным спасать больше людей, они также руководствуются собственными интересами, что может быть сигналом для производителей о том, что клиенты будут неохотно покупать автомобили, оснащенные альтруистическими системами.. Некоторое время назад представители компании Mercedes-Benz заявили, что если бы их система спасала только одного человека, то они бы выбрали водителя, а не пешехода. Волна общественного протеста вынудила компанию отозвать свою декларацию. Но исследование ясно показывает, что в этом святом негодовании было много лицемерия.

В некоторых странах это уже происходит первые попытки правового регулирования в поле. В Германии принят закон, который требует, чтобы автомобили без водителя любой ценой избегали травм или смерти. В законе также говорится, что алгоритмы никогда не могут принимать решения на основе таких характеристик, как возраст, пол, здоровье или пешеходы.

Audi iwwerhëlt

Конструктор не в состоянии предугадать все последствия эксплуатации автомобиля. Реальность всегда может предоставить комбинацию переменных, которые никогда раньше не проверялись. Это подрывает нашу веру в возможность «этичного программирования» машины вообще. Нам кажется, что в ситуациях, когда возникает ошибка и происходит трагедия «по вине автомобиля», ответственность должен нести производитель и разработчик системы.

Возможно, это рассуждение правильно, но, возможно, не потому, что оно было ошибочным. Скорее потому, что было разрешено движение, которое не было на 2019% свободно от возможности его совершения. Похоже, именно в этом и причина, и от общей ответственности не уклоняется компания, недавно заявившая о том, что возьмет на себя ответственность за аварии с участием A8 3 года при использовании в ней автоматической системы Traffic Jam Pilot (XNUMX).

3. Интерфейс Audi Traffic Jam Pilot

С другой стороны, есть миллионы людей, которые водят машины и тоже совершают ошибки. Так почему же машины, которые по статистике совершают гораздо меньше ошибок, чем люди, что подтверждается многочисленными ошибками, должны подвергаться дискриминации в этом отношении?

Wann iergendeen denkt datt d'Dilemmas vun der Ethik a Verantwortung an der Welt vun den autonomen Gefierer einfach sinn, denkt weider ...