차례:
비디오: Hì i í ì i í i i ì í ì (십월 2024)
심층 신경망이 2012 년 세계에서 가장 중요한 이미지 인식 공모전에서 우승 한 이후로, 모든 사람들이 인공 지능이 발휘할 수있는 것에 대해 흥분했습니다. 그러나 새로운 AI 기술과 응용 프로그램을 개발하려는 경쟁에서 부정적인 영향이 뒤쳐 질 수 있습니다.
법 집행의 안면 인식
과거에는 안면 인식 응용 프로그램을 만드는 것이 힘들고 리소스를 많이 사용하며 오류가 발생하기 쉽습니다. 그러나 컴퓨터 비전 (컴퓨터 비전-컴퓨터가 이미지와 비디오의 내용을 인식 할 수있게 해주는 AI의 하위 집합)이 발전함에 따라 얼굴 인식 응용 프로그램을 만드는 것이 훨씬 쉬워졌으며 모든 사람이 접근 할 수있게되었습니다.
Microsoft, Amazon 및 IBM과 같은 대기업은 얼굴 인식 기술을 소프트웨어에 통합 할 수있는 클라우드 기반 서비스를 제공하기 시작했습니다. 이는 신원 보호 및 인증, 스마트 홈 보안 및 소매와 같은 다른 도메인의 많은 새로운 사용 사례와 응용 프로그램의 잠금을 해제했습니다. 그러나 프라이버시 권리 운동가들은 오용 가능성에 대해 우려를 표명했다.
2018 년 5 월 미국 민사 연합은 아마존이 실시간 비디오 분석 기술인 Rekognition을 법 집행 기관과 정부 기관에 마케팅하고 있다고 밝혔다. ACLU에 따르면, 적어도 3 개 주에있는 경찰은 감시 비디오 피드에서 얼굴 인식을 위해 Rekognition을 사용하고있었습니다.
"Rekognition을 통해 정부는 이제 누구나 신원 확인 및 추적을 자동화 할 수있는 시스템을 구축 할 수 있습니다. 예를 들어 경찰 기관 카메라에 얼굴 인식 기능이 장착 된 경우 경찰관의 투명성 및 책임을위한 기기는 감시 시스템으로 더욱 전환 될 것입니다. ACLU는 경고했다. "대량 감시를 자동화함으로써 Rekognition과 같은 안면 인식 시스템은 이러한 자유를 위협하고 현재 정치 환경에서 이미 부당하게 타겟팅 된 커뮤니티에 특별한 위협을가합니다. 이와 같은 강력한 감시 시스템이 구축되고 배치되면 해를 입히기가 매우 어려울 것입니다."
ACLU의 우려는 6 월 회사의 CEO 인 Jeff Bezos에게 편지를 써서 Rekognition을 법 집행 기관에 팔지 말 것을 요구 한 아마존 직원들에 의해 제기되었습니다. "우리 회사는 감시 사업에 있어서는 안되고, 정책 사업에 있어서는 안되며, 소외된 인구를 감시하고 억압하는 사람들을 지원하는 사업에 있어서는 안된다"고 편지는 읽었다.
10 월, 익명의 아마존 직원이 최소 450 명의 직원이 Bezos와 다른 임원들에게 Rekognition을 경찰에 팔지 말라고 요청하는 또 다른 서한에 서명했다고 밝혔습니다. "우리는 지역 사회를 희생시키면서 강력한 고객의 하위 집합으로부터 이익을 얻을 수 없으며, 우리 사업의 인적 비용으로부터 시선을 피할 수 없습니다. 우리는 국가 나 다른 곳에서 사람들을 억압하고 죽이는 기술을 자동으로 구축하지 않을 것입니다. "라고 말했다.
구글의 군사 AI 프로젝트의 낙진
아마존이 이러한 내부 반발을 처리하는 동안 구글은 프로젝트 메이븐 (Project Maven)이라고 불리는 미군 용 AI 개발 계약에 대해 비슷한 투쟁을 겪고 있었다.
구글은 국방부가 드론 비디오 영상을 처리하는 컴퓨터 비전 기술을 개발하도록 돕고 있다고 보도했다. 매일 드론이 기록한 비디오의 양은 인간 분석가가 검토하기에는 너무 많았으며 국방부는 프로세스의 일부를 자동화하기를 원했습니다.
Google의 대변인은 논란의 여지가 많은 작업의 성격을 인정하면서 비디오 피드에서 객체를 감지하기 위해 머신 러닝 플랫폼 인 TensorFlow에 API 만 제공한다고 규정했습니다. 구글은 또한 기술의 윤리적 측면을 다루기위한 정책과 보호 수단을 개발하고 있다고 강조했다.
그러나 프로젝트 메이븐은 수십 명의 엔지니어를 포함하여 3, 000 명이 구글 선다 피 차이 (Sundar Pichai) CEO에게 공개 서한에 서명 한 후 구글 직원들과 잘 어울리지 않았다.
"우리는 구글이 전쟁에 종사해서는 안된다고 생각한다"고 편지는 읽었다. 이 회사는 "Google과 계약 업체 모두 전쟁 기술을 구축하지 않을 것이라는 명확한 정책을 작성, 홍보 및 시행 할 것"이라고 요청했다.
구글 직원들은 또한 고용주가 자신의 명성과 미래의 인재 경쟁 능력을 위태롭게하고 있다고 경고했다. 구글 직원들은 "우리는 기술의 도덕적 책임을 제 3 자에게 아웃소싱 할 수 없다"고 강조했다.
얼마 지나지 않아 90 명의 학자와 연구원들이 서명 한 탄원서에서 최고 Google 경영진에게 군사 기술에 대한 작업을 중단하도록 요청했습니다. 서명자들은 구글의 작업이 "자동화 된 표적 인식 및 자율 무기 시스템"의 무대를 열 것이라고 경고했다. 그들은 또한 기술이 발전함에 따라 "인간의 감독이나 의미있는 인간의 통제없이 자율 무인 항공기가 자동으로 죽 이도록 허가하는 것으로부터 멀지 않을 것"이라고 경고했다.
긴장이 커지면서 여러 Google 직원이 항의에 사임했습니다.
기술 리더의 반응
구글은 6 월에 프로젝트 메이븐 국방부와 계약이 2019 년에 만료 된 후에는 계약을 갱신하지 않을 것이라고 압력을 가했다.
블로그 게시물에서 CEO 인 Sundar Pichai (아래 그림)는 회사의 AI 기술 개발 및 판매에 적용되는 일련의 윤리적 원칙을 선언했습니다. Pichai에 따르면, 회사는 이제부터 사회 전체를위한 프로젝트를 고려하고 기존의 불공정 한 편견을 강화하거나 공공 안전을 저해하는 AI의 개발을 피할 것입니다.
Pichai는 또한 그의 회사가 인권 규범을 위반하는 기술에 대해서는 노력하지 않을 것이라고 명시 적으로 밝혔다.
아마존의 베조스는 Rekognition에 대한 분노 때문에 덜 화려했다. 베조스는 10 월 샌프란시스코에서 열린 테크 컨퍼런스에서“우리는 DoD를 계속 지원할 것이며 앞으로도 그렇게해야한다고 생각한다. "선임 리더십의 직무 중 하나는 인기가 없을 때에도 올바른 결정을 내리는 것입니다."
베조스는 또한 기술 공동체가 군대를 지원할 필요성을 강조했다. 그는“대기업들이 DoD를 거부 할 경우이 나라는 어려움에 처하게 될 것”이라고 말했다.
ICE와의 업무에 대한 비판에 직면 한 Microsoft의 Brad Smith 회장은 7 월 블로그 게시물을 게시하여 정부 기관에 민감한 기술을 판매 할 수있는 측정 방법을 요청했습니다. Smith는 법 집행 기관과 군대에 안면 인식 서비스 판매를 배제하지 않았지만 기술 부문의 규제 및 투명성을 개선 할 필요성을 강조했습니다.
- AI 윤리 연구 프로그램에 10 억 달러를 지출하는 MIT AI 윤리 연구 프로그램에 10 억 달러를 지출하는 MIT
- AI가 실제로 우리 언어를 말하는가? AI가 실제로 우리 언어를 말하는가?
- 중국의 멈출 수없는 AI 공장 세분화 중국의 멈출 수없는 AI 공장 세분화
"우리는 의회에 선출 된 대표자들이이 새로운 기술을 평가할 때 필요한 모든 도구와 도구를 가지고 있습니다. 우리는 양초부터 인공 지능 시대까지 우리를 본 헌법의 점검과 균형으로부터 혜택을받습니다. 스미스는``과거에 여러 번, 법의 지배에 따라 새로운 발명품이 민주적 자유에 기여할 수 있도록해야한다.
2018 년에는 킬러 로봇과 대량 실업에 대한 먼 위협으로 인해 AI의 즉각적인 윤리적, 사회적 영향에 대한 우려가 제기되었습니다. 여러 가지면에서 이러한 개발은 AI 알고리즘이 중요한 작업에서 더욱 두드러짐에 따라 업계가 성숙하고 있음을 나타냅니다. 그러나 일상 생활에서 알고리즘과 자동화가 점점 더 심화되면서 더 많은 논쟁이 일어날 것입니다.
