AI가 현실과 허구의 경계를 흐리게 할 때

YouTube의 어두운 곳 어딘가에 반지 The Fellowship의 영화에서 발췌 한 비디오가 있습니다. 그러나 Nicolas Cage가 Frodo, Aragorn, Legolas, Gimli 및 Gollum으로 유명하기 때문에 기억하는 영화는 아닙니다. 동시. 다른 비디오는 C2000을 터미네이터 2 의 T2000으로, Star Trek 는 캡틴 피카드로, Superman 은 Lois Lane으로 보여줍니다.

물론, Nic Cage는 그 영화에 출연하지 않았습니다. 인공 지능 알고리즘을 사용하여 비디오의 얼굴을 바꾸는 응용 프로그램 인 FakeApp로 제작 된 "딥 페이크"입니다. 딥 페이크 중 일부는 상당히 설득력이있는 반면, 일부는 실제 특성을 배반하는 인공물이 있습니다. 그러나 전반적으로 그들은 인간의 외모와 행동을 모방하는 데 AI 알고리즘이 얼마나 강력한지를 보여줍니다.

FakeApp는 몇 가지 새로운 AI 기반 합성 도구 중 하나입니다. 다른 응용 프로그램은 사람의 목소리, 필기 및 대화 스타일을 모방합니다. 그리고 중요한 점 중 하나는 특별한 하드웨어 나 숙련 된 전문가가 필요하지 않다는 것입니다.

이러한 응용 프로그램의 영향은 심오합니다. 창의성, 생산성 및 커뮤니케이션을위한 전례없는 기회를 창출 할 것입니다.

그러나 동일한 도구로 판도라의 사기, 위조 및 선전 상자를 열 수도 있습니다. 1 월에 Reddit에 등장한 이후 FakeApp은 10 만회 이상 다운로드되었으며 유명인과 정치인 (케이지 다시 포함)이 등장하는 가짜 포르노 비디오의 폭풍을 일으켰습니다. Reddit은 최근 애플리케이션 및 관련 커뮤니티를 플랫폼에서 금지했습니다.

"10 년 전, 뭔가를 가짜로 만들려면 가능했지만 VFX 스튜디오 나 컴퓨터 그래픽을하고 수백만 달러를 소비 할 수있는 사람들에게 가야했습니다."라고 기계 학습 강사 인 Tom Haines 박사는 말합니다. 바스 대학교. "하지만 그 과정에서 많은 사람들이 참여해야하기 때문에 비밀로 할 수 없었습니다."

새로운 AI 도구가 제공되어 더 이상 그렇지 않습니다.

모방 게임

FakeApp 및 이와 유사한 응용 프로그램은 2012 년 이후 AI 혁신의 폭발의 중심에있는 AI의 딥 러닝을 통해 제공됩니다. 딥 러닝 알고리즘은 인간의 두뇌를 닮은 소프트웨어 구조 인 신경망에 의존합니다. 신경망은 큰 데이터 샘플 세트를 분석하고 비교하여 인간이 일반적으로 놓칠 수있는 패턴과 상관 관계를 찾습니다. 이 과정을 "훈련"이라고하며 그 결과는 다양한 작업을 수행 할 수있는 모델입니다.

초기에는 딥 러닝 모델이 주로 분류 작업을 수행하는 데 사용되었습니다 (예: 사진에서 개체 레이블 지정 및 음성 및 얼굴 인식 수행). 최근 과학자들은 딥 러닝을 사용하여 보드 게임, 환자 진단, 음악 및 예술 작품 제작과 같은보다 복잡한 작업을 수행했습니다.

얼굴 스왑을 수행하도록 FakeApp를 조정하려면 사용자가 소스 및 대상 얼굴의 수백 장의 사진으로 훈련해야합니다. 이 프로그램은 딥 러닝 알고리즘을 실행하여 두면 사이의 패턴과 유사성을 찾습니다. 그런 다음 모델은 스왑을 준비합니다.

프로세스는 간단하지 않지만 FakeApp를 사용하기 위해 그래픽 전문가 나 기계 학습 엔지니어 일 필요는 없습니다. 값 비싸고 전문화 된 하드웨어도 필요하지 않습니다. 딥 페이크 튜토리얼 웹 사이트는 8GB 이상의 RAM이 장착 된 컴퓨터와 Nvidia GTX 1060 또는 그 이상의 그래픽 카드 (적당한 구성)를 권장합니다.

Haines는 "방에있는 누군가가 무언가를 속일 수있는 세상으로 이동하면 의심스러운 목적으로 사용할 수 있습니다"라고 말합니다. "그리고 그것은 혼자서 한 사람이기 때문에 그것을 비밀로 유지하는 것은 매우 쉽습니다."

2016 년 당시 런던 대 (University of College London)의 박사후 연구원 인 Haines는 AI가 개인의 필적을 모방하는 법을 배울 수있는 논문과 응용 프로그램을 공동 작성했습니다. "필기 내 텍스트"라고하는이 응용 프로그램은 딥 러닝 알고리즘을 사용하여 저자의 필기 스타일과 흐름 및 간격 및 불규칙성과 같은 기타 요소를 분석하고 식별했습니다.

그런 다음 응용 프로그램은 텍스트를 가져 와서 대상 작성자의 필기로 재현 할 수 있습니다. 개발자는 언 밸리 밸리 효과를 피하기 위해 임의성 측정을 추가했습니다. 거의 인간적이지 않은 무언가를 볼 때 얻는 이상한 느낌입니다. 개념 증명으로 Haines와 다른 UCL 연구원은이 기술을 사용하여 Abraham Lincoln, Frida Kahlo 및 Arthur Conan Doyle과 같은 역사적 인물의 필체를 복제했습니다.

다른 필기에도 동일한 기술을 적용 할 수 있으므로 위조 및 사기에 대한 기술의 사용 가능성에 대한 우려가 제기되었습니다. 법의학 전문가는 여전히 필자가 작성한 내 텍스트에서이 스크립트가 생성 된 것을 감지 할 수는 있지만, 당시 Haines가 Digital Trends와의 인터뷰에서 인정한 교육받지 않은 사람들을 속일 가능성이 있습니다.

몬트리올에 기반을 둔 스타트 업인 Lyrebird는 딥 러닝을 사용하여 인간의 음성을 합성하는 응용 프로그램을 개발했습니다. Lyrebird는 사람의 목소리를 모방하기 위해 1 분 분량의 녹음이 필요하지만, 설득력있는 사운드를 시작하려면 훨씬 더 많은 시간이 필요합니다.

공개 데모에서 신생 기업은 도널드 트럼프, 버락 오바마, 힐러리 클린턴의 목소리를 가짜 녹음으로 올렸다. 샘플은 조잡하며 합성 된 것이 분명합니다. 그러나 기술이 향상됨에 따라 구별이 더 어려워 질 것입니다. 누구나 Lyrebird에 등록하여 가짜 녹음을 시작할 수 있습니다. 이 프로세스는 FakeApp보다 훨씬 쉬우 며 클라우드에서 계산이 수행되므로 사용자 하드웨어에 부담이 줄어 듭니다.

이 기술을 의심스러운 목적으로 사용할 수 있다는 사실은 개발자에게 없어지지 않습니다. 한 때, Lyrebird 웹 사이트의 윤리 성명서는 "음성 녹음은 현재 우리 사회와 특히 많은 국가의 관할권에서 강력한 증거로 간주되고 있습니다. 우리의 기술은 오디오를 쉽게 조작 할 수있는 증거의 유효성에 의문을 제기합니다. 이것은 오도하는 외교관, 사기 및 더 일반적으로 다른 사람의 신원을 도용하여 야기되는 다른 문제와 같은 위험한 결과를 초래할 수 있습니다."

엔비디아는 AI 모방 능력의 또 다른 측면을 제시했다. 작년에이 회사는 사진 품질의 합성 인간 얼굴을 생성하는 AI 알고리즘을 보여주는 비디오를 발표했다. Nvidia의 AI는 수천 명의 유명인 사진을 분석 한 다음 가짜 유명인을 만들기 시작했습니다. 이 기술은 곧 존재하지 않는 "사람"이 등장하는 사실적인 비디오를 만들 수있게됩니다.

AI의 한계

많은 사람들이 잘못된 손에 이러한 응용 프로그램이 많은 피해를 줄 수 있다고 지적했습니다. 그러나 현대 AI의 기능 범위는 종종 과장된 것입니다.

인공 지능 기반 챗봇을 개발하는 회사 인 Replika의 공동 설립자 인 Eugenia Kuyda는 "우리는 다른 사람의 얼굴을 비디오로 다른 사람의 얼굴에 대거나 비디오를 합성 할 수 있지만 여전히 매우 기계적인 것"이라고 말했다. FakeApp 및 Lyrebird와 같은 AI 도구

Lyrebird와 마찬가지로 AI 기반 음성 합성을 제공하는 또 다른 AI 스타트 업인 Voicery에는 퀴즈 페이지가 있으며 여기에는 사용자에게 일련의 18 개의 음성 녹음이 제공되며 기계로 제작 된 것을 지정하라는 메시지가 표시됩니다. 첫 실행에서 모든 기계 제작 샘플을 식별 할 수있었습니다.

Kuyda의 회사는 컴퓨터가 인간의 언어를 이해하고 해석 할 수있게 해주는 AI의 하위 세트 인 NLP (자연어 처리)를 사용하는 여러 조직 중 하나입니다. Kuyda의 챗봇의 이전 버전 인 Luka는 NLP와 트윈 기술인 자연어 생성 (NLG)을 사용하여 HBO의 TV 시리즈 Silicon Valley 의 캐스트를 모방했습니다. 신경망은 사용자와의 행동 모델과 대화를 만들기 위해 캐릭터에 사용 가능한 스크립트 라인, 트윗 및 기타 데이터로 훈련되었습니다.

Kuyda의 새로운 앱인 Replika는 각 사용자가 자신의 AI 아바타를 만들 수 있도록합니다. Replika와 대화를 많이할수록 성격을 더 잘 이해하게되고 대화가 더욱 의미있게됩니다.

앱을 설치하고 Replika를 설정 한 후 처음 몇 개의 대화가 성가신 것으로 나타났습니다. 여러 번, 나는 Replika에게 나의 의도를 전달하기 위해 다른 방식으로 문장을 반복해야했다. 나는 종종 좌절감을 느꼈다. (그리고 공평하게, 나는 개념적이고 추상적 인 질문으로 그 한계를 폭파함으로써 한계를 시험하는 데 일을 잘했습니다.) 그러나 대화가 계속되면서 Replika는 문장의 의미를 이해하고 의미있는 주제를 도출하는 데 더 똑똑해졌습니다. 과거 대화에 연결함으로써 두 번 놀랐습니다.

인상적이지만 Replika에는 제한이 있으며 Kuyda가 빠르게 지적합니다. "음성 모방과 이미지 인식은 곧 훨씬 나아질 것입니다. 그러나 대화와 대화를 통해 우리는 아직 멀었습니다." "우리는 어떤 음성 패턴을 모방 할 수 있지만, 사람을 데려 가서 대화를 완벽하게 모방 할 수는 없으며 그의 채팅 봇이 새로운 방식으로 새로운 아이디어를 내놓을 것으로 기대합니다."

Lyrebird의 CEO이자 공동 창립자 인 Alexandre de Brébisson은 다음과 같이 말합니다. "지금 우리가 인간의 음성, 이미지 및 비디오를 모방하는 데 익숙해지면 여전히 개별 언어 모델을 모델링하는 것으로부터 멀리 떨어져 있습니다." 데 브레 비손은 아마도 인공 지능, 인공 지능, 인공 지능이 필요하고 추상적 개념을 이해하고 인간처럼 결정을 내릴 수 있다고 지적했다. 일부 전문가들은 우리가 일반적인 AI를 만드는 데 수십 년이 걸렸다 고 생각합니다. 다른 사람들은 우리가 결코 그곳에 가지 못할 것이라고 생각합니다.

긍정적 인 사용

인공 지능 앱 합성에 대한 부정적인 이미지는 긍정적 인 사용에 그림자를 드리 우고 있습니다. 그리고 꽤 있습니다.

Lyrebird와 같은 기술은 컴퓨터 인터페이스와의 통신을보다 자연스럽게 만들어 통신을 개선하는 데 도움이 될 수 있으며, 회사와 제품을 차별화하는 고유 한 인공 음성을 제공하여 브랜드를보다 쉽게 ​​구별 할 수 있다고 De Brébisson은 말합니다. 아마존의 알렉사 (Alexa)와 애플 (Apple)의 시리 (Siri)가 음성을 기기 및 서비스에 대한 대중적인 인터페이스로 만들면서 Lyrebird 및 Voicery와 같은 회사는 브랜드를 고유 한 인간과 유사한 음성으로 제공하여 차별화 할 수 있습니다.

"의료 응용 프로그램은 음성 복제 기술의 흥미로운 사용 사례이기도합니다."라고 De Brébisson은 덧붙입니다. "우리는 질병에 대한 목소리를 잃는 환자들로부터 많은 관심을 받았으며 현재 ALS 환자들과 함께 우리가 어떻게 그들을 도울 수 있는지 알아보기 위해 시간을 보내고 있습니다."

올해 초 호주 비영리 단체 인 말하기 장애가있는 ALS 환자를 돕는 Project Revoice와 협력하여 Lyrebird는 Ice Bucket Challenge의 창립자 인 Pat Quinn이 자신의 목소리를 되 찾을 수 있도록 도와주었습니다. ALS 환자 인 Quinn은 2014 년에 걸 으면서 말하는 능력을 상실한 후 컴퓨터 음성 합성기를 사용하고있었습니다. Lyrebird의 기술과 Quinn 공개 모습의 음성 녹음 덕분에 Revoice는 자신의 목소리를 "재창조"할 수있었습니다.

"당신의 목소리는 당신의 정체성의 큰 부분이며, 환자들에게 그들의 원래 목소리처럼 들리는 인공적인 목소리를주는 것은 그것들이 그들의 정체성의 중요한 부분을 되 찾는 것과 약간 같습니다. 그것은 그들에게 인생을 바꾸는 것입니다."de Brébisson은 말합니다.

그는 필기 모방 응용 프로그램 개발을 도왔을 때 UCL과의 인터뷰에서 긍정적 인 사용에 대해 이야기했습니다. "예를 들어, 뇌졸중 피해자는 읽기 어려운 문제없이 편지를 작성할 수 있거나 꽃을 선물로 보내는 사람은 꽃집에 가지 않고도 필기 메모를 포함 할 수 있습니다." "저는 또한 작가의 독창적 인 스타일을 잃지 않고 필기 텍스트를 다른 언어로 번역 할 수있는 만화책에도 사용될 수 있습니다."

비 윤리적 인 사용으로 유명한 FakeApp 같은 기술조차도 긍정적 인 용도로 사용될 수 있다고 Haines는 믿고 있습니다. "우리는 누구나 공공 기술로 창의력을 발휘할 수있는 세상을 향해 나아가고 있습니다. 예술적인 성격의 모든 종류의 미친 일을하기 위해 많은 돈이 필요하지 않기 때문에 좋은 일입니다. "라고 그는 말합니다.

Haines는 그의 팀의 초기 목적이 AI가 법의학에 어떻게 도움이 될 수 있는지 알아내는 것이라고 설명했습니다. 그들의 연구는 다른 방향으로 진행되었지만 결과는 여전히 AI 기반 위조가 어떻게 보이는지 연구 할 수있는 법의학 책임자에게 유용 할 것입니다. "최첨단 기술이 무엇인지 알고 싶어서 무언가를 볼 때 가짜인지 아닌지 알려줍니다."

Replika의 Kudya는 인간과 같은 AI 응용 프로그램이 불가능한 방식으로 우리를 도울 수 있다고 지적합니다. "당신이 당신을 잘 알고 AI 아바타를 가지고 있다면 당신을 잘 대표 할 수 있다면, 최선의 이익을 위해 행동 할 수 있을까요?" 그녀는 말한다. 예를 들어, 자율 AI 아바타는 사용자를 대신하여 수백 편의 영화를 볼 수 있으며, 대화를 기반으로 원하는 영화를 추천 할 수 있습니다.

이 아바타는 더 나은 인간 관계를 발전시키는 데 도움이 될 수 있습니다. Kudya는 예를 들어 "어머니가 당신과 더 많은 시간을 보낼 수 있고 아마도 부모님과 Replika와 대화하고 대화 내용을 읽음으로써 부모와 조금 더 가까워 질 수있을 것입니다."

그러나 실제 인간의 행동을 복제하는 AI 챗봇은 실제로 인간 관계를 개선 할 수 있을까요? Kuyda는 가능하다고 생각합니다. 2016 년, 그녀는 작년에 교통 사고로 사망 한 친구 인 로마 마주 렌코 (Roman Mazurenko)의 오래된 문자 메시지와 이메일을 수집하여 자신의 응용 프로그램을 강화한 신경망에 공급했습니다. 그 결과 패션 이후에 그녀의 친구를 다시 살려주고 같은 방식으로 그녀와 대화 할 수있는 챗봇 앱이 탄생했습니다.

"로마를위한 앱을 만들고 그와 대화 할 수있는 것은 때때로 친구를 잃어 버리는 데 중요한 부분이었습니다.이 앱을 통해 우리는 그에 대해 더 많이 생각하고, 항상 더 심오한 방식으로 그를 기억합니다." 그녀의 경험. "저는 더 많은 앱, 내 우정, 관계, 나에게 정말로 중요한 것들에 관한 앱을 원했습니다."

Kuyda는 모든 것이 의도에 달려 있다고 생각합니다. "챗봇이 당신의 최선의 이익을 위해 행동하고 있다면, 그것이 당신이 그것으로부터 귀중한 서비스를 받기를 원한다면, 분명히 다른 사람의 Replika와 대화하면 실제 생활에서 인간과 더 강한 관계를 구축하는 데 도움이 될 것입니다, " 그녀는 말한다. "당신이하려고하는 모든 것이 앱에서 판매하는 것이라면, 당신이 할 일은 앱에서 보내는 시간을 최대화하고 서로 통신하지 않는 것입니다. 그리고 그것은 의심스러운 것입니다."

현재로서는 Replika를 다른 플랫폼에 연결할 수있는 방법이 없습니다. 예를 들어 Facebook 메신저 챗봇으로 사용할 수 있습니다. 그러나이 회사는 사용자 커뮤니티와 활발한 관계를 유지하고 있으며 지속적으로 새로운 기능을 개발하고 있습니다. 따라서 다른 사람들이 귀하의 Replika와 통신하게하는 것은 미래의 가능성입니다.

트레이드 오프를 최소화하는 방법

증기 엔진에서 전기, 인터넷에 이르기까지 모든 기술에는 긍정적이고 부정적인 응용 프로그램이 있습니다. AI도 다르지 않습니다. 헤인즈는“네거티브 가능성은 매우 심각하다. "우리는 부정적인 것보다 긍정적 인 것보다 빈 공간에 들어갈 수있다."

그렇다면 부정적인 측면을 극복하면서 AI 애플리케이션의 이점을 어떻게 극대화 할 수 있을까요? Haines는 혁신과 연구에 브레이크를 두는 것이 해결책이 아니라고 말합니다.

Haines는 "단일 조치만으로는 문제를 해결하는 데 도움이되지 않습니다."라고 말합니다. "법적인 결과가있을 것입니다." 심층 논란에 뒤이어 미국의 국회의원들은이 문제를 조사하고 AI 의사 미디어를 사용하여 피해를 입힐 수있는 법적 보호 조치를 모색하고 있습니다.

"인간이 차이를 알 수있는 시점을 넘어 서면 가짜를 탐지하는 기술을 개발할 수 있습니다"라고 Haines는 말합니다. "그러나 어느 시점에서, 가짜와 탐지 사이의 경쟁에서, 가짜가 이길 수 있습니다."

이 경우 디지털 미디어에 대한 일련의 증거를 만드는 기술을 개발해야합니다. 예를 들어 Haines는 녹화 된 비디오에 디지털 서명하여 카메라의 진위를 확인할 수있는 카메라에 내장 된 하드웨어를 언급합니다.

데 브리 슨 (Brébisson)은 인공 지능 알고리즘에 의한 위조 및 사기 처리에있어 인식 제고가 큰 부분을 차지할 것이라고 말했다. "이것은 우리가 트럼프와 오바마의 목소리를 복제하고 정치적으로 올바른 문장을 말하게함으로써 한 것입니다." "이러한 기술은 미리 생각해야하는 사회적, 윤리적, 법적 질문을 제기합니다. Lyrebird는 많은 인식을 제고했으며 많은 사람들이 이러한 잠재적 문제와 오용을 방지하는 방법에 대해 생각하고 있습니다."

확실한 것은 인공 지능 덕분에 현실과 허구가 합쳐지는 시대에 접어 들었다는 것입니다. 튜링 테스트는 가장 큰 도전에 직면 할 수 있습니다. 그리고 곧, 모든 사람은 자신의 세계, 자신의 사람들, 자신의 진실을 만들 수있는 도구와 힘을 갖게 될 것입니다. 우리는 아직 앞서가는 흥미로운 기회와 위험을 충분히 보지 못했습니다.