코드, 양심 및 저의 박물관에 관한 Ellen Ulman

Fast Forward의 이번 에피소드에서 저는 Life in Code의 저자 인 Ellen Ullman과 1994 년 실리콘 밸리에서 프로그래머로 시작한 일련의 에세이와 이야기했습니다. 그녀는 현재 자신의 소설을 대부분 소설로 만들지 만 Ullman은 지역, 기술 산업, 그리고 우리가 만드는 도구가 매일 우리를 어떻게 변화시키고 있는지에 대한 예리한 관찰자로 남아 있습니다.

댄 코스타: 프로그래밍의 뿌리는 꽤나 오래된 길입니다. 1978 년, 당신은 프로그래밍으로 전환하기로 결정한 영국의 전공이었습니다. 왜 그런 식으로 하시겠습니까?

Ellen Ullman: 음, 나는 비디오를하는 그룹에 참여했고, Sony Portapak은 PC와 같은 기계 중 하나였습니다. 거대 기업들에 의해 통제 된 것들이 갑자기 당신 손에있었습니다. 나만의 비디오와 이야기를 만들 수 있습니다. 돌아 다니면서 보여줄 수 있습니다. 제한이 없었습니다. 당신은 포르노 등을 할 수 있었고, 매우 흥미로운 시간이었습니다. 나는 기계 작업을 좋아한다는 것을 배웠다. 사회 변화와 예술을 위해이 기계들과 함께 일할 가능성은 흥미로웠다. 결국, 나는 Ithaca를 떠나 샌프란시스코로 갔다.

대학가를 떠나거나 불쌍해 져야합니다. 어느 날 나는 Market Street를 걷고 있었고, 떠난 Radio Shack 창에는 TRS-80 (Trash-80으로 잘 알려져 있음)이 있습니다. "아, 이것은 Portapak과 같은 것입니까? 예술, 사회 행동주의를 만들 수 있습니까?

충동으로 나는 그것을 샀다. 그리고 프로그래밍 문제가있었습니다. Portapak을 시작하는 것보다 조금 어렵습니다. 버튼을 누르십시오. 나는 어렵다는 것을 알았지 만 좋은 것은 어렵다. 소프트웨어 엔지니어링에 들어가고 싶은 사람은 "그렇습니다.하지만 힘든 일이지만 사냥의 즐거움"이라고 생각해야한다고 생각합니다. 문제 해결에 대한 유혹이 없다면 그것은 매우 불행한 경험이 될 것입니다.

그리고 오늘날 사람들은 Radio Shack에서 TRS-80을 구입했을 때 많이하지 않았다는 것을 이해하지 못합니다. 해야 할 일을해야합니다. 그것을 사용하는 방법을 배워야하는데, 그것은 당신이 그것을 초대 한 일종의 초대입니까?

예, 빈 화면이있었습니다. 당시에는 이미 쓸모없는 텔레비전이었습니다. 키보드가 있고 릴 투 릴 카세트에 프로그램을 녹화했습니다. 그리고 나는 그것이 4K를 가지고 있다고 생각합니다. 최대 프로그램 크기였습니다. 그리고 그것은 기본 언어를 가지고있었습니다. 그리고 사람들이 통역 언어와 컴파일 언어의 차이점을 알고 있는지 모르겠습니다. 해석은 바로 당신 앞에서 그것을 실행한다는 것을 의미합니다. 2 점을 입력하면 2 더하기 2는 4가됩니다. 첫 번째 작은 일이 일어나기 쉽습니다. 특히 초기 BASIC에 많은 함정이 있었기 때문에 중요한 일을하는 것은 매우 어려웠습니다. "Go To"라고 말할 수 있지만 자동으로 돌아 가지 않았습니다. 따라서 엉킴으로 길을 잃을 수 있으며 Geddy 코드로 알려져 있습니다. 다시, 그것은 좌절과 호기심이 많았습니다.

제가이 책을 살펴보면서 그 초기에 대해 이야기 할 때, 당신과 함께 일했던 사람들이 저를 놀라게했습니다. 엔지니어 나 하드 코어 프로그래머보다 예술가들의 모음집처럼 보인다. esprit de corps 또는 작업중인 사람들에 대해 조금 이야기 할 수 있습니까?

예. 되돌아 보면 Stewart Brand가 누군지 알 수 있습니다. 이는 최초의 온라인 커뮤니티 중 하나 인 Whole Earth 'Lectronic Catalog, The Well-입니다. 그리고 사람들은 그것에 매료되었습니다. 당신은 John Markoff의 저서, Dormouse가 말한 것을 알고 있습니까?

확실한.

아시다시피, 사기꾼과 중퇴자, 그리고 미친 듯이 재미 있기를 원하는 사람들. 그것은 Portapak처럼 나를 끌어 들인 분위기였습니다. 이들은 재미 있고 탐험하는 사람들이었습니다. 그리고 일을하고 생계를 꾸려야 할 때 처음으로 일했던 사람들도 그와 같았습니다. 전 수피 댄서, 논문 및 예술사를 전공하는 여성, 프랑스에서 온 어떤 사람들은 흡연이 허용되지 않았지만 골로 이즈를 피운 사람입니다. "컴퓨터가 담배를 끊으라고 말한 적이 없어요." 이들은 우리와 함께 일하는 사람들입니다.

83 년에서 86 년경 어딘가에 바뀌었다. 컴퓨터 공학은 소프트웨어 공학의 공통 학위가되었습니다. 그리고 우리는 컴퓨터 과학을 학사 학위로 공부 한, 엄청나게 남성이 스스로 선택한 그룹에 합류했습니다. 그리고 분위기가 완전히 바뀌 었습니다. 사람들은 말하기가 더 어려웠습니다. 내 경험에 따르면 반올림되지 않았습니다. 그것은 매우 광범위한 일반화입니다.

나는 매우 잘 둥글었던 남자들과 일했다. 셰익스피어를 가장 잘 인용 할 수 있습니다. 그러나 그 전체 분위기가 바뀌 었습니다. 직업이 무죄를 잃어야했기 때문인 것 같습니다.

코딩에 대해 어떻게 영감을 얻었습니까?

다시, "와, 이게 뭐야?" 첫 번째 실제 프로그램을 실행했을 때 기쁨이 가득했습니다. "와우, 작동합니다. 그렇게했습니다." 아무것도 아닌 것에서 갔다. 기화기를 처음 고쳤을 때와 같았습니다. 알다시피, 당신은 물건을 분해합니다. 다시 조립하면 자동차가 시작됩니다. 그래서 이것은 드문 즐거움이며, 가기가 어렵습니다. 일단 그런 느낌이 들었다면, 그것은 마약과 조금 같았습니다. 당신은 그 높이를 얻었고 그것을 잃어버린 다음 그것을 다시 얻거나 시도합니다.

당신은 책에서 이것에 대해 많이 이야기합니다. 모든 사람은 코드 작성이 어렵 기 때문에 코드 작성 방법을 배워야한다고 말합니다. 그리고 그 어려움은 결국 당신이 얻는 만족감을 느끼게됩니다.

나는 모든 사람에게 코딩을 배우라고 말하지 않습니다. 내가 말했듯이 사람들은 그것에 노출되어야합니다. 요점은 코드를 이해하는 것입니다. 우리는 우리를 제어하는 ​​알고리즘으로 둘러싸여 있으며, 예를 들어 Equifax에 의해 해킹당한 사람에게는 뉴스가 아닙니다. 미국 성인 인구의 3 분의 1 따라서 요점은 사람들이 작성하고 사람들이 변경할 수 있다는 것을 충분히 아는 것입니다.

브롱크스의 한 의원은 보로가 그들이 사용하는 모든 알고리즘을 살펴보고 경찰 할당에서 쓰레기 수거 일정, 아이들이가는 학교에 이르기까지 편견을 찾는 법안을 제안하고 있습니다. 그들 안에. 이것이 내가 바라는 과정이며, 일반인들이 이러한 것들이 바뀔 수 있음을보기 시작합니다. 그들은 편견이 있으며 그 편견을 해결할 수 있습니다.

그래서 이것은 우리에게 주요 요점 중 하나를 가져옵니다. 즉, 코드 자체에는 내용에 편향이 있습니다. 그리고 알고리즘을 사용하면 완전히 다른 수준으로 생각합니다. 그러나 누가 코드를 작성했는지에 따라 특정 정치적 편견과 문화적 편견이 반영됩니다. 그것이 코드 자체에 어떻게 포함되는지에 대해 조금 이야기 할 수 있습니까?

글쎄, 소프트웨어 엔지니어는 어떤 코드를 작성할 것인지 결정하지 않습니다. 이것은 정상에서 온다. 그리고 정상에있는 사람들은 매우 부유하고 압도적으로 백인 남자이며, 그들의 욕구는 그들이 사회 나 임무에 큰 도움이된다고 생각하는 것입니다.

예를 들어 간단한 배송 앱에서 우편 번호를 선택했습니다. 그게 무슨 뜻이야? 한계 소득을 가진 사람들과 돈을 벌 수 없다고? 아니면 거기에 차를 보내고 싶지 않습니까? 간단한 예입니다. 들어갑니다, 모두 쇼핑입니까? 사람들이 필요한 것입니까? 어떤 사회적 견해를 표현합니까?

그것은 알고리즘까지, 그리고 그보다 훨씬 깊습니다. 방금 Phillip Rogaway의 논문을 읽었습니다. 그는 2015 년에 그것을 전달했으며 암호의 도덕적 영향에 관한 것입니다. 그리고 그는 암호화 기술을 힘으로 이야기합니다. 누구를 위해 쓰고 있습니까? 그들은 무엇을 사용하고 있습니까? 따라서 가장 간단한 앱에서 수학으로 간주되는 것의 맨 아래까지 바이어스가 내장되어 있습니다.

"쇼핑이 다 되었습니까?"에 대해 이야기 할 때 손가락을 대고 있다고 생각합니다. 지금은 모든 상거래에서 동기가 부여 되었기 때문에 특정 우편 번호를 타겟팅하는 이유는 우편 번호로 돈을 벌 수 있기 때문입니다. 그리고 그것은 제품을 형성하고이 강화 사이클이됩니다. 모든 기관에서 동일한 일이 발생합니다. 이것이 아마존이 Stop & Shop이 아닌 Whole Foods를 구입 한 이유입니다. 그것은 인구 통계적 편견 때문이며, 그것은 단지 시장의 일뿐입니다. 그러나 이러한 시장 세력은 현재 기술 개발을 결정하고 있습니다.

나는 단지 훌륭하다고 생각되는 것에 대한 예를 가지고 있습니다. "이것은 처음부터 코딩 중입니다." 아니요, 사람들은 우리가 일하는 유리로 둘러싸인 공간에 앉아 있지 않습니다. "나는 비영리 단체이며 이것이 사회에 이익이되고 세상을 바꿀 것입니다." 이것은 문서화되지 않은 노동자들과 함께 작업하는 그룹입니다.

이제이 사람들은 길 모퉁이에 서서 픽업 트럭이나 밴에있는 누군가에게서 픽업을 받고 나중에 하차하고 일부는 돈을받지 않습니다. 그래서 그들은 "우리는 어떻게 서로에게 신호를 보낼 수 있습니까? 이것에 들어 가지 마십시오. 이것은 나쁜 사람입니다." 그것은 우울증 시대와 같은 것입니다. 이 표지판을 썼던 호 보스는 "나쁜 사람은 여기에 산다. 친절한 여자는 여기에 산다."

그래서 그들은 그룹에 접근했습니다. 다시, 그것은 지상에서 코더들에게 왔습니다. 그리고 그들은 "우리에게 무언가를 만들 수 있습니까?"라고 말했습니다. 이 사람들의 대부분은 모바일 앱을 가지고 있습니다. 물론 앱은 익명 성을 유지하며이 번호판에 넣을 수 있습니다. "당신은 그것을 찾고 일을하지 않습니다." 물어볼 수있는 사람은 누구입니까? 결국, 그렇습니다. 일에 절박한 사람들은 많이 속이지 않기 때문입니다.

평판 시스템과 같습니다. 동일한 등급의 평판, Uber에 내장 된 것과 동일한 평판, 라이더 등급 및 드라이버 등급, 이상적으로 최고의 드라이버 및 최고의 라이더는 어떤 방식 으로든 보상을받습니다. 매혹적인 예입니다. 코딩을 처음 사용하거나 커리어 옵션으로 탐구하고자하는 사람들에게 조언이 있습니까?

조언을 찾는 사람들이 있습니까? 우선, 사방에 모임이 있습니다. 아니, 나는 아무데도 말해서는 안된다. 그들은 또한 선택된 우편 번호에 있습니다. 베이 에어리어에는 수천 명의 사람들이 등록되어 있으며 코딩을 가르치는 다른 사람들과 가입하고 만날 수 있습니다. 특히 여성을위한 몇 가지가 있습니다. 매우 도움이됩니다.

나는 그 나라의 다른 곳을 찾았다. 버팔로, 뉴욕, 유 티카, 뉴욕. 그리고 아무것도 없었다. 그래서 우리는 어떻게해야합니까? 따라서 대규모 온라인 과정이 가능해 보입니다. 제가 쓴 것들 중 하나와 제가 한 일은 감사에 등록하는 것이 었습니다. 그리고 선생님들도 모두 같은 편견을 보았습니다.

그들은 미국 문화에 대한 가정을하고있었습니다. 그리고 당신은 10 억 달러를 벌고 싶습니다. 백만이면 충분하지 않습니다. 모두 같은. 사람들이이 비디오를 다운로드하고 그룹을 만들 수 있다고 생각합니다. 당신은 사회적 말도 안되는 사람에게 혀를 내밀어. 서로 도와주고 코딩하는 법을 배우십시오.

수천 달러의 비용이 드는 코드 아카데미도 있으며 실제로 폐쇄되었습니다. 그들은 사람들을 보장합니다, 당신은 8 개월 안에 3 개의 숫자를 얻을 것입니다. 나는 그것이 좋은 길이라고 생각하지 않습니다. 이상적으로 학교는 그것을 가르 칠 것입니다. 그리고 코딩이 인문학을 기본 문해력으로 결합한다는 의미는 아닙니다. 인류를 가진 사람들은 역사와 사회학과 외국어를 공부 한 사람들, 다른 사람들이 어떻게 세상에 사는지에 대한 지식을 갖기 위해 코딩을 조사해야한다고 생각합니다. 이를 코딩 분야로 가져 오십시오.

소셜 미디어에 대해 조금 이야기하고 싶습니다. 1998 년에 당신은 '나의 박물관'이라는 에세이를 썼습니다. 그러나 당신은 1998 년에 처음 글을 썼으며, 인터넷이 우리가 "사적인 생각의 거품"을 구축 할 수있게한다고 말했고, 오늘날 우리가 원하는 것처럼 자신이 원하는 신념을 강화하는 웹 사이트 만 읽습니다.

당신은 그것을 일종의 전화, 당신은 일반적으로 인터넷을 설명하고 있지만, 소셜 미디어는 이것을 완전히 새로운 수준으로 끌어 올린 것 같습니다. 그것에 대해 유감스럽게 생각합니다. 내가 본 일이 있었는데, 내 마음에는 경고가 있기를 바랐습니다. 하지만 난 그냥 작은 출판물을 위해 글을 썼습니다

아마 이것이 하퍼의 것 같아요. 그래서 셀카 세대는 불행히도 하퍼의 기사를 놓쳤다.

글쎄, 그들은 무엇을 읽고 있습니까? 그들은 피드를 읽고 있습니다. 피드는 오늘 무슨 일이 일어나고 있는지 알려줍니다. 라스 베이거스에서 끔찍한 학살이 있은 지 하루 만에 오늘날 기술에 대해 이야기하고 이야기하는 것은 매우 어렵습니다. 그리고 50 명 이상이 사망하고 수백명이 부상을 입었습니다. 우리는 정말로 그것의 정도를 모른다.

그리고 총은 기술입니다. 산업 디자인은 기술입니다. 아시다시피, 우리는 단지 멋진 폰과 랩탑, AI, 서버 및 알고리즘으로 생각하는 경향이 있습니다. 그러나 사람들은 총이 한 번의 폭발로 수백 개의 총알을 쏠 수있는이 장치를 설계합니다. 그리고 그것은 정말로 나를 멈춘다. 이런 날에는 기분이 좋아지기 어렵습니다. 나는 일반적으로 우울의 대표자이지만, 이것은 특히 나를 막았다.

모두가 이런 날에 하루를 끝내는 것은 어렵습니다. 그러나 당신이 계속 제기하는 점 중 하나는 모든 기술이 이러한 암묵적 영향을 미치며 중립적이지 않다는 것입니다. 정책, 정치, 사회 문제에 관한 모든 종류의 다른 논쟁을 둘러싼 많은 윤리적 대화는 그렇지 않습니다. 기술 분야에서 발생합니다. 엔지니어가 건설하기 때문에 시장에서 요구합니다. 디자이너들은 그것을 만들어서 배송 한 다음 그 결과에 따라 살아갑니다.

그러나 총 기술, 소프트웨어 코드, 서비스 액세스 여부에 관계없이 모든 결과에서 그 결과에 대한 대화가 필요합니다.

그것은 나의 희망일 것입니다. 그렇기 때문에 제가이 책을 저술 한 이유는 다른 수준에서 대화를 시작하기를 희망하는 것입니다. 미래의 목표가 아닙니다. 미래는 당신이 지금 대화를 나누는 것입니다. 인간의 욕망은 미래를 주도합니다. 그것이 우리의 특권입니다. 또한 과거를 보려고합니다. 내가 90 년대 중반으로 돌아가고 싶은 또 다른 이유는 우리가 과거로부터 배웠기 때문입니다.

모든 것이 환상이기 때문에 기대 만해도 거의 배울 수 없습니다. 그러나 우리가 돌아가서 우리가 어디로 왔는지, 그리고 우리를 여기로 가져간 트렌드, 사람들이 과거에 얻은 성공, 배운 것들을 볼 수 있습니다. 우리보다 앞서 살았던 사람들이 있으며 그들은 우리보다 컴퓨팅 기술을 연구하고 있습니다. 우리는 100 년을 겪고 있습니다. 어떤 시점에서 그것에 대한 아이디어로 시작합니다. 그래서 사람들이 스스로 멈추고 교육하기를 바랍니다. 뒤돌아 보면서 그들이 어디로 왔는지 보려고 노력하십시오.

리더의 규모 측면에서 기술 산업의 본질에 대해 어떻게 생각하십니까? Google, Amazon 및 Apple 및 Microsoft를 통해 전체 산업을 절대적으로 지배하는 4 개 회사에 대해 이야기하고 있습니다. 웹 산업, 소매 산업, 엔터테인먼트 산업. 이 회사들 자체가 문제를 일으키는 너무 큰 것에 대한 것이 있습니까?

그건 좋은 질문이야. 예, 너무 큽니다. 우리 모두는 아주 오랫동안 그들과 함께 살아야합니다. 그리고 애플과 같은 회사는 스스로를 사회적 진보적이라고 묘사합니다. 그러나이 회사들은 자유 주의적입니다. 그들은 정부가 그들에게 관심을 갖기를 원할 때를 제외하고는 정부가 그들을 통제하기를 원하지 않습니다.

이 모든 도시에서 아마존이 그들에게 오기를 간절히 바라면서 무슨 일이 일어나고 있는지 살펴보십시오. "아, 당신은 20 년 동안 세금을 내지 않아도됩니다." 그래서 정부가 그들을 도와줍니다. 그것이이 회사들이 원하는 것입니다. 그들은 규제를 원하지 않습니다. 저는이 정치적 분위기에서 우리가 어떻게 그렇게 할 것인지 알 수 없습니다. 우리는 대법원이 없습니다. "이것들은 독점입니다. 우리는 그것들을 해체 할 것입니다."

이것이 올바른 질문입니다. 예, 너무 큽니다. 많은 사람들이 여기서 우리가하는 일을 해결해야합니다.

그들에게 무슨 문제가 있습니까? 회사가 있기 때문에 더 많은 규제를 요구하는 개인 회사를 본 적이 없습니다. 이 거대 기업을 가질 위험은 무엇입니까? 그들이 소비자를 착취하기 위해 시장의 힘을 사용할 것인가? 그들이이 모든 다른 산업에서 본질적으로 독점권을 가지고 있기 때문에 혁신하지 않을 것인가?

음, 그들은 소비자를 이용하려고합니다. 우리는 더 많은 감시를 할 것입니다. 더 많은 경쟁이 있습니다. 나는 그들이 앉아서 R & D를하고 있지 않다. 그러나 나는 다른 회사를 사들이면서 많은 일이 벌어지고 있습니다. 신생 기업은 이러한 아이디어를 가지고 있으며 구매합니다. 그런 다음이 대기업에서 흥미 진진한 힘이 있다면 해산합니다.

그러나이 기업들은 앉아서 아무것도 할 수 없습니다. Microsoft에 무슨 일이 있었는지보십시오. 정말 뒤에 떨어졌습니다. 인텔을보십시오. 인텔은 거인 중 하나였습니다. 지금은 뒤에 있습니다. 사람들은 더 이상 큰 컴퓨터를 사용하지 않으며 랩톱에는 다른 칩이 있으며 모바일에 전혀 기여하지 않습니다. 그래서 그들은 혁신해야 할 것입니다. 나는 그들이 다른 사람들의 회사를 사서 그 회사의 영향을 희석 시켜서 그렇게하지 않기를 바랍니다.

밀레니엄 버그 (Millennium Bug)에 대한 에세이가 있습니다. 대부분의 사람들은 그것이 무엇인지 알아 내기 위해 구글에 가야합니다. 하지만 1999 년 새해 전날 뉴스 룸에 실렸다는 소식을 전했지만 아무도 무슨 일이 있을지 아무도 몰랐습니다. 우리 는 개인용 컴퓨터가 괜찮을지도 모른다는 것을 알고 있었지만, 10 년 동안 아무도 확인하지 않은 백룸의 해당 컴퓨터를 사용하여 발전소에서 어떤 일이 발생하는지 모두 걱정하고있었습니다. 그러나 그때 일어난 일과 오늘날 우리에게 어떤 교훈을 줄 수 있는지 조금 이야기 해 줄 수 있습니까?

멋진 점 중 하나는 60 년대에이 코드를 작성한 프로그래머들을 "이 코드가 이렇게 오래 살 것이라고 예상 한 적이 없다"고 말한 이유입니다. Texaco 회사는 "이것은 사기가 아닙니다. 이것이 우리가하는 일입니다. 우리가 직면 한 문제입니다."

그리고 그들의 노력은 영웅적이었습니다. 그리고 알려지지 않은 작은 지역 물건들이있었습니다. 그러나 저는이 헌신적 인 프로그래머들과 프로젝트 리더들과 이야기하면서 그들이 실제로 계획하고 있기 때문에 괜찮을 것임을 내 마음 속에 알고있었습니다. 지금 우리에게 교훈은이 오래된 코드를 모두 사용하고 있다는 것입니다. 우리는이 화려한 프론트 엔드를 가지고 있고 당신은 인터넷을 가지고 있습니다. 실제로 스트레스를 받고 있습니다. 그리고 그것은 매우 오래된 코드입니다.

우리가이 모든 핵을 가지고있는 이유는 인터넷이 사생활과 익명 성을 위해 설계된 적이 없기 때문입니다. 그것은 공동적이고 개방되도록 설계되었습니다. 이 천둥이가있을 것이라는 생각을 가진 사람은 아무도 없습니다. 따라서 취약점이 있습니다. 우리는 리눅스라는 운영체제에서 알고리즘을 수행하는 서버로 돌아갑니다. 리눅스는 되돌아 간다.

예쁜 것들 뒤에 숨어있는 것에 대해 더 깊이 들어가면 오래된 코드, 오래된 코드, 오래된 코드를 찾을 수 있습니다. 그리고 프로그래머들은 다른 코드 위에 올라가는 것들을 작성하지만, 항상 그렇지는 않지만 그들이 인터페이스하는 것들의 세부 사항을 이해하지는 않습니다. 수업은 계속됩니다.

우수한. AI에 대해 조금 이야기하고 싶습니다. 우리는 인터넷과 함께이 위치에있는 것처럼 보이며, 이로 인해 우리는 여전히 정렬하려고하는 모든 의도하지 않은 결과를 얻습니다. 이제 우리는 완전히 새로운 기술을 탄생 시켰습니다. 많은 회사에 가서 운영중인 AI 시스템을 가지고 있으며 비즈니스 의사 결정과 권장 사항을 제공하며 문자 그대로 회사에 어떻게 도달했는지 파악할 수 없습니다. 결론에 도달 한 프로세스를 식별 할 수 없습니다. 그들은 그것이 작동한다는 것을 알고 있습니다. 그 의미에 대해 조금 이야기 할 수 있습니까?

그들은 그것이 효과가 있다고 생각합니다. 인공 지능 (AI)의 트렌드, 인간이 말할 수없는 휴머노이드 로봇의 아이디어는 실제로 길가를지나 갔다. 그것은 인간이 자신의 방식대로 기능하는 방식을 이해하는 것이 매우, 매우 어렵다는 것을 증명합니다. 이제 기계 학습입니다. 아이디어는 알고리즘을 작성하는 것입니다. 결과를보고 스스로 변한 다음 결과를보고 배웁니다.

이제 원래 알고리즘을 작성한 사람들은 여러 번 반복 한 후에 어떤 일이 일어나는지 실제로 알지 못합니다. 그리고 코드는 코드를 이해하는 사람들로부터 멀어지고 멀어집니다. 따라서 그것은 스스로 작동한다는 의미에서 일종의 괴물입니다. 그리고 그렇습니다. 그러나 무엇이 빠졌습니까?

편향이있는 데이터에서 작동합니다. 우선 과거에 대한 편견이 있습니다. 오류가 있습니다. 따라서 배우는 것이 편향되고 오류가 발생하기 쉽습니다. 나는 특히 자율 주행 차라는 아이디어와 관련하여 AI에 대해 걱정하고 있습니다. 그리고 우리는 실제 인간 피해에 대해 이야기하고 있습니다. 그리고 그것에 대해 너무 오래 이야기 할 수 있으므로 멈추는 것이 좋습니다.

대부분의 예측에 따르면 자율 주행 자동차는 인간 운전자보다 더 안전 할 것입니다. 오늘날 인간 도로 운전자가 문제의 큰 부분이라고 생각합니다.

인간 운전자는 100 년 동안 자동차를 운전 해 왔습니다. 여기 인간이 할 수있는 것이 있습니다. 그들은 단지 주변의 근접성을 보지 않습니다. 운전 중일 때, 부주의하더라도, 경험이 있다면, 혼잡 한 언덕 위의 쿼터 마일, 반 마일 앞을 볼 수 있으며, 멈출 준비를해야합니다.

당신은 자동차의 성격을 읽을 수 있습니다. 누군가 저기 선에옵니다. 운전자의 제조사, 모델, 공격성을 볼 수 있습니다. 차가 움직일 때 차가 막히게 될 것입니다. 근접 경보를 기다리지 않습니다. 인간은 순식간에 내가 충돌을 일으키거나이 차와 함께 도로의 분노에 빠질 수있는 방법을 알고있다. 아니면 "알겠습니다."라고 말할 것입니다.

자율 주행 차가 추락 할 수있는 방법을 알아 보겠습니다. 다시 말하지만, 이들은 머신 간 인터페이스에 의존합니다. 그리고 그 코드에는 버그가있을 것입니다. 그래서 그들은 인터넷이나 무선 네트워크를 통해 통신 할 것입니다. 거기에 큰 취약점이 있습니다. 우리는 무선으로 작동하는 자동차가 이미 백인 마약 중독자에 의해 해킹되어 "자기 자동차를 도로에서 운전하게 만들 수 있습니다"라고 표시했습니다.

그렇다면 어떻게 보호됩니까? 그리고 다른 제조사와 모델 사이에는 인터페이스가 있습니다. 이제 모두가 프리우스를 운전할 것이라고 생각하십니까? 아니요, 인간은 다른 종류의 성능을 원합니다. 따라서 자동차 작동 방식, 운전자 또는 탑승자가 도로에있을 때 느끼고 싶어하는 방식에 대한 경쟁이 다시 일어날 것입니다.

오류가 발생하기 쉬운 표준 API 인 응용 프로그램 인터페이스가 있습니다. 그러나 여기서 발생할 수있는 많은 실패 지점이 있습니다. 또한 눈 속에서 운전할 수 없습니다.

있습니다.

있습니다. 당신은 알다시피, 당신은 쓸모 없을 것입니까?

오류가 발생하기 쉬우 며 보안 위험에 처하게 될 자율 주행 자동차가 있다고 생각하십니까? 아니면 실제로 안전한자가 운전 차량을 만들 수 있고 사람들이 생각하는 것보다 기술이 훨씬 오래 걸릴 것이라고 생각하지 않습니까?

나는 그것이 일어날 것이라고 생각합니다. 나는 고속도로와 같은 제한된 접근 도로에서 잘 작동한다고 생각합니다. 눈이 내리거나 폭우가 없다면 라인을 봐야합니다. 그리고 나서 브레이크 라이트와 그 주변의 자동차 라이트를 봐야합니다. 그래서, 제한된 관점에서 그들은 다른 LIDAR 등을 추가하고 있습니다.

결국 작동합니다. 시간이 조금 더 걸립니다. 지금은 타운 센터에 자동차 인프라를 구축하는 도시가 있다고 생각합니다. 그러나 우리는 맨해튼에 있으며 지하철 운행에 어려움을 겪고 있습니다. 맨하탄을 자율 주행 차용 센서가있는 장소로 바꾸려면 수십억 달러가 필요하다고 생각하십니까? 맨해튼이 떠오르는 바다에서 범람하지 않았다면 지금부터 수백 년이 지난 지금은 모르겠습니다.

거기있을 것입니다. 그러나 그것은 행복감 (그리고 평소와 같이 나는 우울한 대표자)이라고 생각합니다. 저는 시소에있는 것처럼 느낍니다. 끝을 조금 아래로 내리고 관점을 평준화하려고합니다. 기대를 강화하십시오. 놀라운 기대를 이루기 전에 우리가해야 할 노력을 모두 알아야합니다.

쇼에 나오는 모든 사람들에게 물어볼 몇 가지 질문을하겠습니다. 그리고 이것은 당신에게 쉬운 것이어야합니다. 어떤 기술 트렌드가 가장 중요합니까? 밤에 당신을 지키는 것이 있습니까? 우리는 또 다른 쇼를 할 수 있습니다.

모든것 위에. 밤에 나를 유지하지 않습니다. 하루 종일 생각하면서 충분한 시간을 보냅니다. 내가 알고 싶은 질문 중 하나는 사람들이이 모든 것에서 잠시 쉬어야 하는가? 예.

오늘, 나는 누군가가 스쿠터를 타고 오는 길에 거의 던져졌다.

그리고 전화?

이어 버드와 전화. 그래서 이것은 정말로 저에 관한 것입니다. 사람들은 정말 다칠 수 있습니다.

사람들은 모두 자신의 전화를보고 걷고 있기 때문에 뉴욕시에서 매일 상처를받습니다.

그래, 나는 South of Market 지역에 산다. 샌프란시스코에 기반을두고 있으며, Second Street의 Startup Alleys입니다. 이제는 모든 사람이 자신의 전화를보고 있다고 말하는 것이지만, 모두가 남쪽으로 향할 때 북쪽으로 향하는 길을 걸어 가려고 할 때 100 명이 자신의 전화를 들여다 보면 실제로는 마치 외계 세계에 살고 있습니다.