우버의 자율 주행 자동차 사고 : 인공 지능은 우리를 실패 시켰습니까?

3 월 12 일, MIT Technology Review 는 다음과 같은 이야기를 시작했습니다. "2023 년이되어 자율 주행 자동차가 마침내 우리 도시의 거리를 항해하고 있습니다. 처음으로 보행자 중 한 명과 보행자가 광범위한 언론 보도. 중대한 소송이있을 수 있지만 어떤 법률을 적용해야합니까?"

날짜를 제외하고 예측에 관한 모든 것이 옳았습니다. 이 기사가 출판 된 지 정확히 일주일 후 자율 주행하는 Uber는 자율 주행 모드에서 작동하면서 애리조나 템피에서 보행자를 때리고 보행자를 죽였습니다.

이 사건은 여전히 ​​조사 중이지만, 그 결과로 인공 지능을 중요한 업무와 결정에 성공적으로 통합하는 데 얼마나 걸리지 않았는지 알 수 있습니다.

많은 경우, 문제는 AI가 아니라 AI에 대한 우리의 기대와 이해에 있습니다. Wired 에 따르면 작년에 미국에서만 도로 사고로 약 4 만 명이 사망했으며 그 중 6, 000 명이 보행자였습니다. 그러나 Uber 사건과 같은 방식으로 헤드 라인을 만든 사람은 거의 없습니다.

동네 짱 충돌이 그런 동요를 일으킨 이유 중 하나는 우리가 일반적으로 새로운 기술이 아직 개발 중일 때에도 높은 기대를 가지고 있기 때문입니다. 순수한 수학이 AI 알고리즘을 구동한다는 환상 아래, 우리는 그들의 결정을 신뢰하는 경향이 있으며 그들이 실수를 할 때 충격을받습니다.

자율 주행 자동차 휠 뒤의 안전 운전자조차도 경비를 떨쳐 버릴 수 있습니다. 우버 사건의 영상은 운전자가주의가 산만 해져 충돌이 발생하기 몇 초 전에 내려다보고 있음을 보여주었습니다.

2016 년, 오토 파일럿 모드에서 작동하는 Tesla S Model의 운전자는 차량이 트럭에 충돌 한 후 사망했습니다. 조사 결과, 운전자는 충돌 당시 해리포터 영화를보고 있었을 수 있습니다.

완벽에 대한 기대는 높고 실망은 강력합니다. 비평가들은이 사건 이후 우버의 자율 주행 자동차 프로젝트 전체에 의문을 제기했다. 회사는 여파로 자율 주행 차 테스트를 일시적으로 중단했다.

AI는 인간이 아니다

추락에 따른 비판 중 하나는 인간 운전자가 사고를 쉽게 피할 수 있다는 것이었다.

한 전문가는 CNN에 말했다.

그녀가 옳아. 숙련 된 운전자가 아마도 그녀를 발견했을 것입니다. 그러나 AI 알고리즘은 인간이 아닙니다.

자율 주행 자동차에서 발견되는 딥 러닝 알고리즘은 수많은 예제를 사용하여 도메인의 규칙을 "학습"합니다. 이동 중에 시간을 보내면서 수집 한 정보를 분류하고 다양한 상황을 처리하는 방법을 배웁니다. 그러나 이것이 반드시 인간 운전자와 동일한 의사 결정 프로세스를 사용한다는 것을 의미하지는 않습니다. 그렇기 때문에 일부 상황에서는 인간보다 성능이 좋고 인간에게 사소한 것으로 보이는 경우에는 실패 할 수 있습니다.

완벽한 예는 이미지 분류 알고리즘으로, 수백만 개의 레이블이 붙은 사진을 분석하여 이미지를 인식하는 방법을 배웁니다. 수년에 걸쳐 이미지 분류는 초 고효율화되어 많은 환경에서 인간을 능가합니다. 그렇다고해서 알고리즘이 인간이하는 것과 같은 방식으로 이미지의 맥락을 이해한다는 것은 아닙니다.

예를 들어, Microsoft와 Stanford University의 전문가들의 연구에 따르면 흰 개 사진이 고양이를 대표한다고 믿어 흰 고양이의 이미지로 훈련 된 딥 러닝 알고리즘은 인간의 아이가 쉽게 피할 수있는 실수라고합니다. 그리고 악명 높은 경우에 Google의 이미지 분류 알고리즘은 어두운 피부색의 사람들을 고릴라로 잘못 분류했습니다.

이를 "에지 케이스"라고하며 AI 알고리즘이 데이터 부족으로 인해 처리하도록 훈련되지 않은 상황입니다. Uber 사고는 여전히 조사 중이지만 일부 AI 전문가들은 이것이 또 다른 최첨단 사례가 될 수 있다고 제안합니다.

딥 러닝은 중요한 상황에 적용되기 전에 극복해야 할 많은 과제가 있습니다. 그러나 그것의 실패가 우리를 방해해서는 안됩니다. 우리는 인식과 기대를 조정하고 진화하는 동안 모든 위대한 기술이 실패한다는 현실을 수용해야합니다. AI도 다르지 않습니다.