Программное обеспечение впервые убило человека

Инцидент произошел в США в штате Аризона. Беспилотный автомобиль, принадлежащей компании Uber, совершил наезд на 49-летнюю женщину. Полиция установила тот факт, что автомобиль двигался со скоростью 65 километров в час и перед столкновением даже не пытался снизить скорость. Факт столкновения беспилотного автомобиля с человеком первый зафиксированный в истории человечества.

Однако, по мнению полиции, компания Uber не будет обвинена в убийстве или непредумышленном убийстве человека. На момент столкновения в автомобиле находился человек, который подтвердил, что человек бы точно также не смог бы вовремя отреагировать, так как жертва выскочила на дорогу из тени. Тем не менее в Uber начали свое расследование.

Вопрос этики в современных беспилотных технологиях является одним из животрепещущих. При возникновении критической ситуации, когда водителю нужно избежать столкновения с одним человеком или препятствием и стать жертвой самому, водитель делает выбор и, в соответствии с ним, несет или не несет ответственность. В отношении программного обеспечения судить будет сложно.

Искусственный интеллект делает выбор основываясь на логике — возраст, количество пострадавших, вероятность смерти и травм и прочее. На данный момент нет готового механизма решения таких этических задач и во всем мире это понимают. Но кого же винить в смерти человека в таком случае. В данном случае полиция оставила виновной жертву ДТП. Однако датчики установленные автомобиль должны были в полной темноте определить нахождение любого живого существа на достаточно большом расстоянии и, как минимум, система должна была готова на совершение маневра уклонения. Все подробности произошедшего доступны только полиции и руководству Uber.

Стоит отметить, что разработки Google, Uber и других беспилотных систем доставки пассажиров достаточно сильно различаются. В том числе основные различия иду в датчиках распознавания полос и дорожных знаков, но все они созданы таким образом, что не допустят ущерба человеку, будь то пассажир или пешеход. В Аризоне базой для беспилотной системы стал новейший Volvo XC90, который по праву считается одним из самых безопасных автомобилей в мире и для пешеходов тоже, но и он не смог сохранить жизнь человеку. Будем надеяться, что крупные автопроизводители и разработчики программного обеспечения сделают выводы и смогут создать систему, которая станет эталоном безопасности и качества.