10 난처한 알고리즘 실패

기술은 괴짜만을위한 것이 아니라 모든 사람을위한 것이며 많은 사람들입니다. 애플과 아마존에서 페이스 북, 마이크로 소프트, 구글에 이르기까지 대부분의 하드웨어와 소프트웨어를 통제하는 소수의 회사들만이 지갑과 안구를 통제하기 위해 많은 일을 할 수 있습니다. 가난하고 거대 기업은 무엇입니까? 중요한 결정을 내리려면 알고리즘에 의존하십시오.

옥스포드 리빙 딕셔너리는 알고리즘을 "특히 컴퓨터에 의한 계산 또는 기타 문제 해결 작업에서 따라야하는 프로세스 또는 규칙 세트"로 정의합니다. 완벽한 예는 Facebook 뉴스 피드입니다. 게시물의 일부가 일부 사람들의 뉴스 피드에 표시되는지 여부는 아무도 모르지만 Facebook은 그렇지 않습니다. 아니면 관련 서적을 보여주는 아마존은 어떻습니까? Google 관련 검색어? 이 모든 것들이 회사를 위해 많은 일을하고 당신의 삶에 큰 영향을 줄 수있는 비밀을 지키고 있습니다.

그러나 알고리즘은 완벽하지 않습니다. 그들은 실패하고 일부는 훌륭하게 실패합니다. 소셜 미디어의 눈부심에 추가하면 작은 결함이 PR 악몽으로 빠르게 변할 수 있습니다. 거의 악의적이지 않습니다. 이들은 뉴욕 타임즈 가 "프랑켄슈타인 순간" 이라고 부르는 경향이 있는데, 여기서 누군가가 만든 생물체가 괴물이됩니다. 그러나 이런 일이 발생하고 아래에서 가장 심각한 최근 예를 정리했습니다. 아래 의견에 당신의 마음에 드는 것을 알려주십시오.

1 인스 타 그램의 의심스러운 광고

The Guardian이 보도 한 것처럼 Facebook은 자체 사용자의 게시물로 Instagram 서비스에 대한 광고를 게재하는 것을 좋아합니다. 그러나 알고리즘은 잘못된 "사진"을 선택하여 자신이 The Guardian 의 기자 인 Olivia Solon의 친구에게 밀어 붙여서 위협하는 이메일로 찍은 한 살짜리 스크린 샷을 선택했습니다.



타겟팅 된 인종 차별 광고 2 개

지난주, ProPublica는 페이스 북을 통해 광고주가 "유대인 증오"와 같은 공격적인 범주의 사람들을 타겟팅 할 수 있다고보고했습니다. 이 사이트는 "유대인들이 세상을 망치는 이유"와 "히틀러가 아무 잘못도하지 않은 것"과 같은 것에 긍정적으로 반응하는 잠재 고객을 타겟팅하는 광고 (위)에 30 달러를 지불했습니다. 15 분 내에 승인되었습니다.

슬레이트도 비슷하게 공격적인 범주를 발견했으며, 페이스 북이 사과해야 할뿐만 아니라 인간의 감독으로 고쳐야 할 긴 항목의 또 다른 범주가되었다. 러시아 선거에서 10 만 달러 상당의 선거 광고를 게재했을 때와 같습니다.

COO Sheryl Sandberg는 페이스 북 게시물에서 "혐오감을 느꼈으 며 실망했다"고 광고 도구 변경을 발표했습니다.

BuzzFeed는 Google이 유사한 작업을 처리하는 방법을 확인했으며 인종 차별 및 빅 토트가 볼 수 있도록 타겟팅 된 광고를 쉽게 설정할 수 있음을 확인했습니다. 데일리 비스트 (Daily Beast)는 트위터에서이를 확인하고 "Nazi", "wetback"및 N 단어와 같은 용어를 사용하여 수백만 개의 광고를 발견했습니다.



리뷰에 3 페이스 북 년 화가

Facebook에 있다면 지난 12 개월 동안 하이라이트가 표시된 연말 알고리즘 생성 비디오를 보았을 것입니다. 또는 일부는 저조도입니다. 2014 년 한 아버지는 딸의 사진을 보았고, 다른 아버지는 자신의 집의 사진을 불길에서 보았습니다. 다른 예로는 애완 동물이 늦은 사람, 부모의 재로 가득 찬 항아리, 사망 한 친구 등이 있습니다. 2015 년까지 페이스 북은 슬픈 추억을 걸러 내겠다고 약속했다.

• 4 테슬라 자동 조종사 충돌

  대부분의 알고리즘 스너프는 치명적이지는 않지만 자율 주행 자동차의 세계는 완전히 새로운 수준의 위험을 초래할 것입니다. 이미 한 번 이상 발생했습니다. 플로리다 고속도로의 테슬라 소유주가 반 자율 모드 (자동 조종 장치)를 사용하여 트랙터 트레일러로 추락했습니다. 테슬라는 신속하게 업그레이드를했지만 실제로 오토 파일럿 모드의 결함입니까? National Highway Traffic Safety Administration은 위의 비디오에서 볼 수 있듯이 시스템이 운전자에게 문제에 대해 경고해야하기 때문에 그렇지 않을 수도 있다고 말합니다. 이제 Tesla는 운전자가 시각적 신호에 먼저 응답하지 않으면 자동 조종 장치가 작동하지 않도록 방지합니다.



5 인종 차별 주의자 Microsoft AI 테이

2 년 전, 채팅 봇은 고객 서비스 담당자를 교체하고 온라인 세계를 정보를 얻을 수있는 대화 장소로 만들면서 폭풍으로 세상을 지배해야했습니다. 마이크로 소프트는 2016 년 3 월 사람들, 특히 18 세에서 24 세 사이의 사람들이 트위터에서 상호 작용할 수있는 Tay라는 AI를 발표함으로써 응답했습니다. Tay는 대중을 위해 공개 트윗을 만들 것입니다. 그러나 24 시간도 채되지 않아 테이는 대중으로부터 배우면서 완전한 인종 차별 주의자가되었다. 마이크로 소프트는 테이를 즉시 철수시켰다. 그녀는 2016 년 12 월에 Zo라는 새로운 AI로 돌아 왔으며, 그녀를 악용으로부터 보호하기 위해 강력한 점검과 균형을 유지했습니다.



6 (존재하지 않는) 아기를 축하합니다!

전체 공개:이 글을 쓸 때 아내는 실제로 임신했습니다. 우리는 누군가 아마존에서이 이메일을 받았습니다. 누군가 누군가 우리 아기 레지스트리에서 우리를 위해 무언가를 구입했다고 말합니다. 우리는 아직 공개하지 않았지만 그렇게 충격적이지 않았습니다. 한편, 수백만 명의 다른 아마존 고객들도 레지스트리가없는 고객이나 도중에 아기를 포함하여 같은 메모를 받았습니다. 피싱 계획의 일부일 수도 있지만 그렇지 않았습니다. 아마존은 오류를 발견하고 후속 사과 이메일을 보냈습니다. 그때까지 많은 사람들은 이것이 부적절하거나 민감하지 않다고 불평했습니다. 이것은 결함이있는 전자 메일 서버보다 알고리즘이 적었지만 항상 기분이 상쾌하다는 것을 보여줍니다.



7 아마존 '추천'폭탄 자료

Fox News 에서 New York Times에 이르기까지 영국의 Channel 4 News에서 보도 된 후 모두 가이 문제에 뛰어 들었습니다. 아마 아마존의 "자주 구매"기능은 사람들이 재료 중 하나로 시작했을 때 폭탄을 만드는 데 필요한 것을 보여줄 것입니다.

아마존의 알고리즘이 실제로 한 일은 구매자에게 블랙 파우더를 소량으로 만드는 성분을 보여주었습니다. 영국에서는 완전히 합법적이며 불꽃과 같은 모든 종류의 물건에 사용됩니다. 유휴 단어의 블로그 게시물. 대신, 모든 보고서는 아마존이 어떻게 조사하고 있는지에 대한 것입니다. 테러와 논리를 두려워하는 세계에서 그들이하고있는 말이 기 때문입니다.



8 구글지도는 인종 차별을 얻는다

2015 년 Google지도에서 "n ***** king"과 "n *** a house"를 검색 할 때 사과해야했는데 당시 백악관은 당시 버락 오바마가 점령하고있었습니다. 이는 "Googlebomb"의 결과로, 검색 엔진에서 계속해서 사용되는 용어가 선택되고 "인기"로 표시되어 결과가 검색의 맨 위로 이동합니다. "Santorum"이라는 단어가 새로운 정의를 얻었습니다.



9 구글 태그 인간을 고릴라

Google 포토는 모든 사진 등을 저장하는 놀라운 앱 / 서비스입니다. 그 중 하나는 사진에있는 사람과 사물에 자동 태그를 추가하는 것입니다. 사람들이 얼굴 인식을 사용하여 올바른 사람으로 바로 좁 힙니다. 나는 모든 개들의 폴더를 가지고 있었고, 그들 중 어느 것도 태그하지 않았습니다. 그것이 잘 작동했을뿐만 아니라, 2015 년 구글이 컴퓨터 프로그래머 인 Jacky Alciné와 그 친구 (흑인 모두)가 고릴라로 서비스를 받았을 때 사과해야했을 때 그것은 엄청났다. 구글은 PCMag에 "이런 일이 생겨서 정말 기쁘다"고 말했다.



로봇 보안 10 명, 어린이 사망, 자살

Knightscope는 순찰 학교와 쇼핑몰 및 인근 지역을 위해 K5라는 자율 보안 로봇을 만듭니다. 바퀴 달린 5 인치 높이의 Dalek-esque 콘 (자신의 베타 테스트가 진행되고 있음)은 범죄를 막는 것이 아니라 글리치에 대한 뉴스를 만드는 경향이 있습니다.

예를 들어, 2016 년 7 월, 팔로 알토에있는 스탠포드 쇼핑 센터의 K5는 16 개월 된 소년의 발 아래로 달려 갔으며 Knightscope는 공식적으로 사과해야했습니다. 같은 위치 (동일한 드로이드)는 주차장에 취한 상태에서 변경되었지만 최소한 K5의 잘못은 아닙니다. 배심원은 워싱턴 DC에있는 사무실 / 쇼핑 단지 인 Georgetown Waterfront의 K5 부대에 아직 남아 있습니다. 일주일 만에 계단을 내려 분수로 내려갔습니다. 스카이 넷 군대에는 좋지 않습니다.