gdpr이 AI 산업에 미치는 영향 | 벤 딕슨

일종의 무기 경쟁으로 설명 될 수있는 기술 회사는 응용 프로그램과 플랫폼을 구동하는 인공 지능 알고리즘을 연마하기 위해 많은 양의 사용자 데이터를 모으고 있습니다. 지금까지, 그들은 그들의 관행이 법적으로 윤리적으로 회색의 영역으로 밀려 났을 때 책임을 회피 할 수있었습니다.

그러나 이는 유럽 연합의 일반 데이터 보호 규칙 (GDPR)이 발효 된 5 월 25 일에 변경 될 수 있습니다. GDPR은 EU 지역에서 사용자 데이터의 수집 및 처리에 전례없는 제한을 부과하고이를 준수하지 않는 회사에 큰 처벌을 가할 것입니다.

AI 알고리즘을 사용하는 회사에게는 희소식처럼 들릴 수 있는데, 이는 느슨한 데이터 수집 규정 (그리고 길고 지루하며 모호한 서비스 약관 문서)의 혜택을 누리고 있습니다. 엄격한 규칙이 많은 응용 프로그램 및 도메인에서 인공 지능의 혁신 및 배포를 방해 할 것이라고 우려하는 사람들도 있습니다. 다른 사람들은 새로운 지침이 AI 응용 프로그램의 안정성과 신뢰성을 높일 수있는 기반을 만들 것이라고 믿습니다.

어떤 경우이든 AI 산업은 GDPR 시대에 큰 변화를 가져 왔습니다.

데이터 소유권 및 개인 정보

Digital Reasoning의 설립자이자 사장 인 Tim Estes는“GDPR은 AI에 큰 영향을 미칩니다. 왜냐하면 우리가 데이터를 수집하고 사용하는 방법에 대해 다르게 생각할 필요가 있기 때문입니다. "기술 회사들은 너무 오랫동안 제품과 서비스로부터 가치를 받기 위해서는 데이터를 포기해야한다고 주장했습니다."

이전에는 회사가 모든 종류의 데이터를 수집하기 위해 사용자로부터 모호한 동의를 받아야했습니다. Estes는 "AI는 빅 데이터의 과대 광고를 유지하는 데 도움이되었으며 기업이 사용 가능한 모든 데이터를 수집하고 마이닝해야하는 또 다른 이유를 제공했습니다. "많은 회사들이 AI를 구현하여 데이터를 분석하기 위해 AI를 구현하기 시작했습니다. 사용자 프라이버시 나 데이터 소유권에 영향을주지 않으면 서 생각해야한다는 것입니다."

GDPR의 가장 기본적인 전제는 데이터가 사용자에게 속한다는 것입니다. GDPR에 따라 회사는 수집 한 모든 정보의 범위와 정보 사용 방법 및 정보 보호 방법 및 무단 액세스를 방지해야합니다. 새로운 규칙으로 인해 AI 회사는 사용자 정보를 저장, 처리 및 공유하기를 원치 않고 수집 한 데이터에 대해 더 세심한주의를 기울여야합니다.

잊을 권리

GDPR은 회사가 서버에서 모든 데이터를 삭제하도록 요구할 수있는 권한을 사용자에게 제공합니다. 트렌드 및 사용자 행동 예측과 같은 작업을 수행하기 위해 가능한 한 많은 사용자 데이터를 유지하는 데 관심이있는 AI 회사에는 적합하지 않습니다.

GrowthChannel의 CEO 인 Maryna Burushkina는“결국 GDPR은 데이터를 수집하고 관리하는 방법에 관한 것이지, 데이터의 양이 반드시 필요한 것은 아닙니다. "대부분의 회사가 직면하게 될 주요 어려움은 옵트 인 (opt-in)을 얻는 것이 아니라 데이터를 관리하고 사용자에게 데이터 사용을 알리며 사용자가 데이터를 삭제할 수있는 기회를 얻는 것입니다."

AI 회사는 여전히 이러한 통찰력에 액세스하려는 경우 데이터를 익명화하기 위해 추가 단계를 수행해야합니다. 그러나 다른 문제는 이미 많은 사용자 데이터 저장소가있는 회사가 직면하고 있습니다.

Octopai의 암논 드 로리 (Amnon Drori) CEO는“GDPR 아래에서 회사가 특정 PII를 지우려면 모든 곳에서 지워 져야한다. 데이터가 다른 서버에 분산되어 있고 구조화되고 구조화되지 않은 형식으로 저장 될 때 수동으로 수행하는 것은 어려운 작업이 될 수 있습니다.

예를 들어, 사용자의 신용 카드 번호 (특히 민감한 정보)를 삭제하면 회사는 정보가 저장된 모든 보고서, 데이터베이스, 데이터베이스 개체 및 ETL을 조사해야합니다. "경우에 따라 동일한 항목에 대해 다른 메타 데이터 이름이 표시되는 경우가 있습니다 (예: '신용 카드 번호', 'cc 번호', 신용 카드 번호 ', '카드 번호 ', '신용 카드 번호 '). Drori는 말합니다. Drori는 어디를보아야하는지 알기가 불가능하고 프로세스는 몇 주 또는 몇 달이 걸릴 수 있으며, 많은 수동 프로세스와 마찬가지로 인적 오류와 부정확 한 경향이 있다고 Drori는 말합니다.

GDPR은 또한 데이터 처리에서 인적 실수 비용을 증가시킬 것입니다. Drori는 "오늘날 많은 회사들이 메타 데이터를 정확하게 관리하기위한 자동화 된 솔루션을 찾고있는 이유입니다."라고 말합니다. 아이러니하게도 AI 자체가 이와 관련하여 해결책이 될 수 있습니다. AI 기반 메타 데이터 관리 도구는 조직 내의 모든 데이터 소스를 스캔하고 다른 도구와 데이터 소스 간의 관계를 통합 할 수 있습니다.

설명 할 권리

AI와 관련하여 GDPR에서 가장 중요한 부분 중 하나는 "설명 권"으로 알려진 것입니다. 이 지침은 회사가 "자동 의사 결정의 존재"에 대해 사용자에게 알리고 "관련된 논리에 대한 의미있는 정보뿐만 아니라 데이터 주체에 대한 이러한 처리의 의미 및 예상 결과"를 제공해야한다고 명시하고 있습니다.

이는 기본적으로 사용자가 AI 알고리즘에 직접 또는 간접적으로 영향을받는 시점을 알고 알고리즘이 내린 결정에 이의를 제기하고 결론이 도출 된 방법에 대한 증거를 요청할 수 있어야 함을 의미합니다. 이것은 AI 산업이 직면 할 가장 큰 도전 중 하나입니다.

현대 AI 알고리즘의 주요 기술인 딥 뉴럴 네트워크는 대규모 데이터 세트를 분석하고 상관 관계 및 패턴을 찾아서 고유 한 기능 규칙을 생성하는 복잡한 소프트웨어 구조입니다. 신경망이 복잡 해짐에 따라 그들의 행동은 점점 더 어려워지고 있습니다. 종종 엔지니어조차 AI 알고리즘이 내린 결정의 이유를 설명 할 수 없습니다.

"블랙 박스 (black box)"문제라고 불리는 AI 알고리즘의 설명 불가능으로 인해 법정 결정, 법 집행, 대출 및 신용 신청, 채용, 건강 관리 및 기타 중요한 영역에서 구현하기가 어려워졌습니다. 그러나 법적 레버리지가 없다면 AI 회사는 AI 알고리즘을보다 투명하게 만들려는 동기가 거의 없었습니다. 특히 영업 비밀과 밀접한 관련이있을 때 더욱 그러했습니다.

이제 GDPR은 인공 지능 회사가 알고리즘의 결정을 설명하도록 할 것입니다.

Radware의 보안 연구원 인 Pascal Geenens는“GDPR의 일환으로 조직은 주제에 대한 동의를 요구하면서 인간 언어로 처리 방법을 명확하게 설명 할 책임이있다. "딥 러닝이 발전하고 데이터 과학자들이 신경망의 추론을 뒷받침하는 결정 론적 특성을 특성화 할 수 없기 때문에이 설명은 더욱 복잡하고 설명하기 어려워 질 수 있습니다."

기본적으로 GDPR은 데이터를 처리하는 사람이 책임을지게하는 것입니다. 따라서 기계 학습 알고리즘을 사용하여 처리를 수행하는 경우 사용자를 대신하여 의사 결정을 설명 할 수있는 방식으로 알고리즘을 설계해야합니다.

소수의 조직이 AI를보다 투명하게 만들기위한 기술을 개발하려고합니다. 그 중에서도 AI 기반 의사 결정을 이해할 수 있도록하는 연구 프로젝트 인 DARPA의 Explainable AI (XAI)가 눈에 ent니다.

아웃소싱 AI

GDPR은 또한 제 3 자에게 데이터를 제공하는 조직에 영향을 미칩니다. 그러한 회사의 대표적인 예는 Facebook입니다. Cambridge Analytica 스캔들에서 소셜 미디어 대기업은 데이터 마이닝 회사가 8 천 8 백만 명의 사용자 데이터를 수집하고 남용하는 것을 막지 못했습니다. 그러나 GDPR은 AI 기능을 아웃소싱하고 데이터를 AI 제공 업체에 제공하는 회사에도 영향을 미칩니다.

"많은 사람들이 AI 제공 업체가 다른 서비스 제공 업체와 같다고 생각하지만 (단순히 보상을 대신하여 기술을 제공하는 경우) AI 제공 업체는 또한 기술을 기반으로하고 기술을 발전시키는 방법으로 비즈니스 파트너십을 체결합니다." Digital Reasoning의 임원. 이는 AI 제공자가 클라이언트의 데이터를 유지하여 자체 알고리즘을 더욱 훈련시키고 다른 도메인에서 사용하기를 원할 수 있음을 의미합니다.

예를 들어, 의료 기관이 증상의 패턴을 찾고 진단을 개선하도록 돕는 AI 제공자는 독점 알고리즘을 개선하는 데이터 세트를 발견 할 수 있습니다. AI 회사는 데이터를 활용하여 다른 유형의 환자 치료에 대한 알고리즘을 개선하고 다른 의료 서비스 제공 업체를 돕는 기능을 발전 시키려고합니다. GDPR에 따라 데이터를 담당하는 의료 기관은 AI 제공 업체의 비 윤리적 사용을 설명하기 위해 개최됩니다. Estes는 기업이 데이터가 아닌 알고리즘을 소유한다고 믿고있는 AI 제공 업체를 찾는 것이 핵심이라고 생각합니다.

Estes는 "GDPR은 기업이 데이터 사용 방법과시기, 저장 위치 및 프로젝트 완료 후 발생하는 상황에 더욱주의를 기울여야 할 것"이라고 말했다. "이는 AI 알고리즘의 성공을 도울 수있는 방법을 방해하지 않으면 서 데이터 소유권 라인을 정의하고 사용자 정보를 보호하는 전략을 구현하는 AI 제공 업체와 협력하는 것을 의미합니다."

GDPR이 AI 혁신을 방해 할 것인가?

전문가들은 새로운 규정이 AI 회사가 채택한 현재의 관행과 습관에 도전 할 것이지만, 혁신과 개인 정보 보호 및 윤리 기준에 대한 존중을 유지할 새로운 방법을 찾도록 강요 할 것이라고 말했다.

GrowthChannel의 Burushkina는“GDPR 규제가 시행되면서 모든 주요 소프트웨어 회사는 규정 준수를 보장 할뿐만 아니라 시장에서 새로운 기회를 찾기 위해 혁신과 사고를하기 위해 필요한 조치를 취하고있다”고 말했다.

Octopai의 Drori는“혁신은 GDPR에 의해 방해받지 않고 지시되고 동기 부여되지 않을 것이다. 한편 GDPR은 조직이 GDPR 준수를 달성하고 유지하는 데 도움이되는 새로운 비즈니스와 기술을 개발할 것입니다.

GDPR이 설정 한 표준은 실제로 AI 기반 서비스 제공 업체와 사용자 사이의 신뢰 격차를 해소하는 데 도움이 될 수 있습니다. Estes는 GDPR이 AI 제공 업체와 해당 기술을 구현하는 공급 업체 모두가 데이터 리소스를 사용하는 방법과 위치에 대한 책임을 더욱 강화하고이를 사용자에게 이익을 가져다 줄 것을 믿습니다. "결국 AI 서비스 제공 업체는 데이터가 아닌 알고리즘 만 소유하면 기능과 솔루션을 혁신하기 만하면됩니다."