自動運転でよくある「人間より事故率が低ければいい」という主張は変だと思う (ほとんどの開発会社はそんなこと言っていないが)。合理的に回避可能であった事故を起こせば、人だろうと機械だろうと責任を問われる。事故率が平均を下回っていれば免責されるということはない。
人が過失のある重大事故を起こせば免許取り消しになる。これを Lv. 4+ 自動運転システムに当てはめるなら、最低でもその事故が回避できるように改善されるまで利用禁止になるだろう。「人間よりは事故率が低い」というレベルでは、たぶん常に利用禁止状態になる。
まあ大規模に展開するとき、この水準はちょっと厳しすぎる気はする。でも、明らかに回避可能な事故を起こして、「現在の技術ではこの状況に対応できません。でもトータルでは人間より事故率が低いからいいよね」とはならないと思う。同じ事故を起こさないよう、事後に対処できる技術レベルには達している必要がある。