Полиция штата Аризона выложила в Твиттере кадры последних секунд перед тем, как автономный автомобиль Uber сбил 49-летнюю женщину-пешехода Элейн Херцберг. Вскоре она умерла в больнице.

Авария произошла в сумерках в конце прошлой недели. Херцберг шла с велосипедом по плохо освещенной дороге. На видео видно, что от момента, когда женщина возникает из темноты и моментом столкновения проходит всего примерно 1,4 секунды.

На видео также видны действия контролирующего водителя, Рафаэлы Васкес, за секунды до аварии. Она довольно часто отвлекается от дороги на свой смартфон (так и было за секунду до столкновения), однако неизвестно, смогла бы она как-то повлиять на ситуацию за такой короткий промежуток времени или нет.

https://hi-tech.mail.ru/news/uber-avasiya-video/?frommail=1

Кто виноват в данном ДТП? Я склоняюсь к мысли, что виноват пешеход. С другой стороны, возникает морально-этическая проблема. Есть ли здесь вина робота или контролирующего водителя?

(141) Cэкономили на *арах)

(143) почему только робота? Люди что-ли не сбивают никого?

(142) На капоте и лобовом стекле.

(144) Логично сэкономили. ПДД написаны для людей. И дороги под них приспособлены.
Какого хрена робот должен обеспечивать абсолютную безопасность?

Если падает самолет,  то всегда виноват пилот, а не автопилот.

(148) Фишка в том, что если бы вел водитель, то он бы все равно не смог бы затормозить. И был бы оправдан.

(137) Поздно. Джин выпущен из бутылки.

(134) Маск еще придумал идеальный способ спрятать тело.

(151) Отправить его в космос к скафандре?

(120) Ты забыл добавить: "Кожаные ублюдки"

(141) Говорят, что заметили. Алгоритм не смог предсказать действия пешехода.

(152) В багажнике тесла мобиля :)

+ Отправленного в космос

(154) Мог бы действовать интуитивно, объехать пешехода и при этом сбросить скорость...
Я же писал, виноват программист :)

(148) Как знать, если автопилот заблокировал управление и не отключился, а самолет упал. То виноват инженер (программист), разрабатывающий этот автопилот.

Т.е. будут произведены тесты на работающем экземпляре, что бы либо наказать того, кто ответственен за блок, либо оправдать :)

(157) Это тебе не 1С-ник, который сам ТЗ составляет, сам согласовывает и внедряет, а еще и делает нормально, а не как заказчик хотел. Там целые цепочки ответственных. Программист делал по ТЗ, ТЗ составлял 2-й, тот кто составлял учитывал требования 3-х и т.д. и т.п.

(157) А вот тут нюанс: сейчас, в результате анализа, баг будет отловлен, патч накачен и больше ни один автопилот так не облажается. С мясными водителями так не получится.
Я - за роботов.

(158) тогда пилот должен снять блокировку и продолжить пилотирование.
(104) это невозможно. Существующий мат. аппарат этого не позволит. Либо будут ложные срабатывания, либо иногда будет не определять.

(149) в данном случае водитель увидел бы. Мы же не сферического коня в вакууме обсуждаем?

(160) Все за роботов до тех пор, пока их робот не сбивает.

(162) либо не сядет в тюрьму за работа, который сбил

(161)  > в данном случае водитель увидел бы.

На видео видно, что от момента, когда женщина возникает из темноты и моментом столкновения проходит всего примерно 1,4 секунды.

Увидел бы, но сделать ничего не смог бы.

(164)
а) человеческий глаз видит несколько иначе, чем камера.
б) опытный водитель при выборе скорости движения учитывает видимость.

в) водитель начинает уворачиваться и/или тормозить при обнаружении препятствия.

Вот тут самое интересное. Робот видел человека. Он вообще видит все вокруг на 360 градусов на полкилометра в любых условиях. Тут он круче любого водителя. Вопрос к алгоритму. Я думаю следует сделать какую-то систему "свой-чужой". Робот должен отличать робота от человека. И строить свою траекторию исходя из того, что человек может быть неадекватен.

(167) тогда он ехать не будет. А будет стоять и бояться

(165) Ты хочешь сказать что водитель бы увидел пешехода сильно раньше? Или ехал бы 30км/ч?

(162) Гламурные кисы с макияжем и айфончиком в руках гораздо опаснее

*маникюром)))

(169) лично мои глаза еще видят в зоне полумрака в отличие от камеры на записи, а это еще примерно 50-100м плюс к 50 освещаемых ближним светом. При такой видимости (туман/дождь/снег) я больше 40км/ч не поеду.

Нормальных на видео нет. Самое подозрительное, что робот даже тормозить не стал.

(172) +1

езжу по трассе в том числе и в ночное время, частенько выбегают всякие животные, которые ниже ростом, чем тетка с видео, но притормозить всегда места хватает

(170) +1 отвлекают от бриться. Станок вечно в стакан с кофе падает.

(145) Людей не заставишь, и уже сложилась традиция помещать на переднюю плоскость автомобиля все что угодно (номера, фары, воздухозаборники...), кроме мягкой подушки 50 см.
Роботов же можно вот так ограничить, и будет сразу видно где человек, а где-робот. Это не исключает того, что на эту же систему перейдут затем и человеческие водители (если таковые при развитии технологии).

... останутся

Робот также может выдвигать мягкие лапки, чтобы смягчить столкновениеи или отодвинуть жертву в сторону.

Лапки могут совершать вот такое движение:


А если поезд собьёт, поезд виноват?

(172) Это были испытания современной модели. У нее кроме видео еще несколько каналов получения информации из внешнего мира.

(177) Не останутся. Лет через 10 управление автомобилем будет приравниваться к покушению на убийство.

(178) А если эта лапка снесёт ребёнку голову?

(180) Баловство. Сейчас деньги хомячков освоят и свернут проекты.
У разработчиков слишком низкая социальная ответственность для таких глобальных проектов.

(182) Мягкую лапку, чтобы как у кошки. Если не совсем затормозит, то сделает удар по касательной.
(Уменьшит эффективную скорость соударения).

(182) Можно не выдвигать - смотря по ситуации.
Если она слегка отодвинет от угла, а сама машина вывернет, то он не впечатается.

Люди с роботами не могут ужиться на одной дороге. Их надо разводить по разным дорогам.

(186) Если на автопилоте уже сейчас десятки тысяч ездят, то процесс дальше пойдет по нарастающей. Лет через 10 и правда живых водил не останется. Это как с мобильной связью, стремительное проникновение в жизнь.

(183) Смеешься? БМВ, Тойота, Рено-Ниссан - это, по твоему, хомячки?

Робот не виноват.

Робот не может быть виноват по определению. Вина состоит из двух составляющих объективной и субъективной.
Нет субъекта, нет вины.

(190) Надо делать таких роботов, чтобы чувствовали вину.
Роботы должны сдавать экзамены на право вождения, как и люди.

(188) Мерс, Камаз, Яндекс, Нвидиа- скорее всего с гуглом, но не точно, там 10-к корпораций с охренительными бюджетами

(191) Надо записать 4-ым законом роботехники.

где-то с год назад слышал высказывание "дети, которые рождаются сейчас, никогда не будут управлять автомобилем"

Забудьте, законодательство под роботов уже принято и в РФ и в США еще в прошлом году

Если посмотреть видео внимательнее, видно, что робот "притопил" на желтый сигнал светофора. Совсем, как человек.
Фигня какая-то. Наверно, все-таки, у робота были только видеокамеры. Надо запретить роботов, которые не "видят" на полкилометра в трех модах. Видео, радиоволны, звуковые волны.

(194) Это ты на Метро-33 намекаешь, что-ли?

С другой стороны. Этот же беспилотник устраивает дтп среди бела дня в аналогичной ситуации.

https://www.vedomosti.ru/technology/articles/2017/03/31/683501-bespilotnik-uber-avariyu

По данным полиции, Александра Коул, чья Honda CRV врезалась в машину Uber, пыталась повернуть на перекрестке налево и не успела уступить дорогу беспилотнику.

Машина Uber – внедорожник Volvo XC90 – двигалась со скоростью примерно 61 км/ч, т. е. медленнее действовавшего в этом месте ограничения в 96 км/ч. Сотрудник Uber Патрик Мерфи, сидя за рулем, наблюдал за функционированием машины, но не управлял ею. «Когда я выехал на перекресток, направляясь прямо, то увидел машину, поворачивавшую влево, – пишет Мерфи. – Времени среагировать у меня не было, другие машины загораживали обзор».


Видимо, программу писал московский бомбила.

(197) Нет, на повсеместное распространение автопилотов.

Ну точно программистский баг. Запутался в условных операторах, и "затоп" на желтый вышел в приоритет перед всем прочим. Бывает.
Надо с этим что-то делать.

(191) чувствовать вину невозможно.
ее можно только понимать с помощью словесно-логического мышления.
далее человек уже может эмоционально отреагировать на результат своего мышления (например, с помощью угрызений совести).

чтобы организовать эмоциональную реакцию у робота, ему необходимо организовать дыхание и сердцебиение, а также снабдить сенсорами, имитирующими нервную систему, как у обычных белково-нуклеиновых людей с этой планеты.

(201) Значит придётся всё это делать.

(0) почему у "автопилота" не предусмотрены средства НЕвизуального контроля? Вроде напрашивается...

Если водитель едет в условиях низкой видимости, может сбросить скорость, автопилот будет мчать на предельно допустимой, ему же не садится в тюрьму...

(99) "тетка" вряд ли куда подаст...

Если робот пока не может правильно анализировать информацию с датчиков, пусть проецирует что-либо на лобовик и привлекает водителя для анализа.

(203) По идее, можно предусмотреть GPS-трекеры и прогнозный путь у всех участников движения.

Тогда столкновения могут быть с прыгающими под колеса лесными оленями (но на них, по идее, тоже можно повесить датчик - на рога маячок).

(203) Да все у него предусмотрено. Программистский баг, который проявляется в конкретной ситуации с желтым сигналом сфетофора. Я в этом убедился, когда прочел о предыдущем происшествии. Этот робот всегда, когда включается желтый, прет напролом.

(206) Вот этого я и ожидал.
Именно этого.
Всех пометить и вживить датчики.

А из Ромикса неплохой бы вышел Большой Брат )

Насчет роботов-водителей, изначально гуляет вопрос на который их разработчики пока вроде-бы отмалчиваются? если будет ситуация, когда роботу нужно будет выбрать - кого убить, а кого спасти - другого участника движения или своего пассажира, то кого робот по алгоритму предпочтет убить, а кого спасти?

(209) По идее минимизировать вред.
Но у губернатора по-любому будет больший весовой коффициент для робота, так что- убить тебя.

(209) Это вообще не вопрос. Убьет того, кого ты, пользователь, поставишь в настройках.

(210)ага, то есть в роботов будет заложен список всех землян с индивидуальным рангом ценности каждого землянина? и в случае конфликта интересов робот сверит по списку и убьет землянина с меньшим рангом?

(211)такие настройки должны быть запрещены

(213) Будут запрещены роботы, у которых затруднен доступ к таким настройкам. А также будет введен запрет на пользование роботами для тех, кто испытывает трудности с заданием настроек.

(212) С чего ты взял, что будет нечто общемировое.
На территории каждого государства робот будет загружать местные приоритеты )

По ходу. Надо заканчивать баловство с нейросетями и писать по-человечески: если ... тогда

Нужен быстродействующий дистанционный анализатор ДНК всех окружающих объектов.
Каждую 10-ю долю секунды робот получает 3D снимок ДНК окружения и вычисляет что двигается и куда, выявляет опасные направления и принимает меры.
Например, неожиданно на дороге оказался "человек" и незаметная металлическая бочка на обочине. Проведённый анализ показал, что в бочке прячутся дети, а на дороге пластмасса. Робот не успевая затормозить направляет автомобиль на манекен.
Человек-водитель в этой ситуации может инстинктивно отвернуть на обочину и оказаться виновным во всём.

(217) При таком уровне технологии проще взлететь или перейти в другое измерение.

Пункт "Виноват робот" для меня - непонятен. Как железка может быть в чем-то виновата? Виноват всегда человек. Который сделал, настраивал, эксплуатировал... эту железку.
В данном случае - виноват пешеход. Он нарушил правила. То, что он пострадал - ничего не меняет.
Если бы поперек трассы двигался другой автомобиль с выключенным светом, и его на всей скорости долбанули в бок - вопрос "кто виноват?" даже не возник бы. А в чем разница с пешеходом? Виноват - получи.
Да, жалко человека. Но водил, которых из-за таких дур сажают - мне жальче.

(219) Робот однозначно виноват. У него даже прав нет.

(220) У руля, двигателя, инжектора, кузова...тоже прав нет ;-)
Робот - такая же часть автомобиля.

Intel: сбитую беспилотником Uber женщину можно было спасти
https://hi-tech.mail.ru/news/Intel-uber-bespilotnik/?frommail=1

(219) Программер виноват! Программер!
Понабрали индусов по объявлению

А существуют автомобильные радары, метров на 200-8000 что-нибудь, едешь в тумане, например, а он такой пип, пип, пип, до препятствия 500м - это типа автомобиль впереди догоняешь?

В луч курсового сканера попадает лопающийся комар с человеческой кровью, в луч бокового сканера попадает днк собачьего волоса, приставшего к одежде одного из группы детей, идущих по обочине. На что жать и куда рулить?

Главное что все забыли про чувака, который должен был контролировать детище Uber, а не пялится в телефон. Даже для снятия статистики.

(226) Может она пялилась в экран радара?

(227) А ей, за рулем, нужно было контролировать работу радара?

(228) Радар дальше видит. По радару она могла заметить эту женщину раньше.

(229) У любых бомбил есть подставки под телефон, крепящиеся на лобовое стекло авто. Пусть бы совмещала.

(223) Все еще хуже. Программу никто не писал.

(226) Все забыли про программистов, которым лень писать условные операторы.

(222) Врут они. У них тоже нейросеть. Конечно, их нейросеть, скорее всего не глючит на желтый сигнал. Она глючит на что-то другое, что еще не обнаружили.

Кстати красный в РФ везде по разным таймингам срабатывает, сколько раз так выезжал

Думаю, что понятие "вина" к роботам не применимо.

Водительница - овца тупая и ей не место в подобных экспериментах.

Но виновата однозначно сама пешеходница. Будь машина обычная, вопросов бы не было. Переходит по темноте в неположенном месте, не глядя по сторонам.

(222) Убер имеет удручающую программу-навигатор, она значительно уступает и Гуглу, и Яндексу. И его все время заносит в разные стороны, чтобы удлиннить маршрут.

(оценочное суждение по результатам двух поездок).

Skynet?

Это процесс оттачивания мастерства программистов и разработчиков оборудования для управления авто без водителей в разных условиях. Процесс не тормознут и через 5-10 лет как минимум такси и часть грузоперевозок будут без водителей.
Куда пойдут эти люди? Чем будут зарабатывать? в сельское хозяйство? но там тоже трактора без водителей.

(239) Нет там никакого мастерства программистов. В том-то и дело.

(240) я думаю все это очень похоже на то, когда врач профессионально растет. Как наберет хорошее кладбище, так и вырос.

(234) Но ты ведь при этом не таранил сознательно все, что находится на твоем пути.

(241) Дело в том, что нет врача. Никто не прописывает алгоритм проезда перекрестка.