Cамоуправляемая машина Uber «увидела» велосипедистку, но всё равно сбила её

Искусственный интеллект не стал снижать скорость или сигналить из-за сбоя в логике распознавания объектов.

Cамоуправляемый автомобиль Uber насмерть сбил велосипедистку в Аризоне из-за сбоя программного обеспечения, определяющего, какие объекты на дороге нужно игнорировать, а на какие обращать внимание. Об этом сообщили The Information источники, близкие к расследованию инцидента.

По данным собеседников издания, система не могла «не увидеть» велосипедистку Элен Херцберг перед столкновением, так как та находилась прямо перед лидаром («глазами» автомобиля) и передними камерами. Однако машина не стала сигналить и даже не снизила скорость.
Источники The Information пояснили, что во всём виновата часть программного обеспечения машины, отвечающая за логику после распознавания объектов. Чтобы самоуправляемая машина «не паниковала» при виде каждого нового препятствия, в систему заложили возможность на манер людей игнорировать какие-то незначительные вещи, например, припаркованный у дороги мотоцикл.

Cпециалисты вручную устанавливали чувствительность этой функции. И, похоже, что машина, сбившая велосипедистку, была настроена игнорировать даже те объекты, на которые должна была обращать внимание. Она распознала девушку, но не посчитала её присутствие на дороге причиной для остановки.

19 марта самоуправляемая машина Uber насмерть сбилавелосипедистку, когда та переходила дорогу в неположенном месте. За рулём машины был водитель, но он отвлёкся от управления на несколько секунд, как раз в тот момент, когда автомобиль ещё мог остановиться.

После этого Uber принесла семье погибшей соболезнования и договорилась о досудебном урегулировании инцидента. Все испытания самоуправляемых машин приостановили на неопределённый срок, а к расследованию подключились американские власти.