클라우드가 늪에 다다르면 엣지 컴퓨팅입니다.

호주 뉴 사우스 웨일즈 (NSW)주의 해안선을 따라 드론을 싣고 물을 안전하게 지키십시오. 올해 초 드론은 뉴욕 주 파 노스 코스트의 구조 대원들이 서핑에 어려움을 겪고있는 두 명의 십대를 구출하는 데 도움을 주었다.

드론은 인공 지능 (AI) 및 머신 비전 알고리즘으로 구동되며 비디오 피드를 지속적으로 분석하고 상어 또는 길 잃은 수영 선수와 같이주의가 필요한 항목을 강조 표시합니다. 이는 Google 포토가 사진을 정렬하고, 홈 보안 카메라가 낯선 사람을 감지하고, 스마트 냉장고가 부패하기 쉬운 물건이 만료 날짜에 가까워지면이를 경고 할 수있는 것과 같은 종류의 기술입니다.

그러나 이러한 서비스와 장치는 AI 기능을 위해 클라우드에 지속적으로 연결해야하지만 NSW 드론은 견고한 인터넷 연결 여부에 관계없이 로컬에서 딥 러닝 계산을 수행 할 수있는 신경 컴퓨팅 칩 덕분에 이미지 감지 작업을 수행 할 수 있습니다..

이 칩은 소프트웨어로 구동되는 장치가 클라우드에 지속적으로 연결되지 않고 최소한 몇 가지 중요한 기능을 수행 할 수 있도록하는 첨단 컴퓨팅 혁신 트렌드의 일부입니다. 엣지 컴퓨팅의 부상으로 새로운 문제와 오래된 문제를 해결하고 차세대 스마트 장치를위한 길을 열었습니다.

클라우드 부담

지난 20 년 동안 클라우드는 정당한 이유로 애플리케이션을 호스팅하는 사실상의 방법이되었습니다.

IBM Watson의 CTO 인 Rob High는 "클라우드를 매력적으로 만드는 것은 수행하려는 모든 활동을 시작하는 비용을 낮추는 경향이 있다는 것입니다. "클라우드는 사람들이 인프라 생성 비용을 들이지 않고도 오늘날의 실제 문제를 해결할 수있게 해줍니다."

유비쿼터스 인터넷 연결과 무수한 클라우드 애플리케이션, 서비스 및 개발 플랫폼으로 인해 애플리케이션을 만들고 배포하는 데 따른 장벽이 크게 줄었습니다. IBM, Google, Amazon과 같은 클라우드 제공 업체의 방대한 자원은 사소한 비즈니스 애플리케이션뿐만 아니라 방대한 양의 계산 및 스토리지를 필요로하는 복잡한 소프트웨어 (AI 및 머신 러닝 알고리즘, 스트리밍 및 AR)의 개발을 가속화했습니다. (증강 현실) 응용 프로그램.

그러나 이러한 발전으로 인해 문제가 발생했습니다. 우리가 사용하는 대부분의 애플리케이션은 클라우드에 연결되어 있지 않으면 작동 할 수 없습니다. 여기에는 냉장고, 온도 조절기, 도어 잠금 장치, 감시 카메라, 자동차, 드론, 날씨 센서 등의 소프트웨어뿐만 아니라 컴퓨터 및 전화에서 실행되는 대부분의 응용 프로그램이 포함됩니다.

사물 인터넷 (IoT)의 출현으로 점점 더 많은 장치에서 소프트웨어를 실행하고 데이터를 생성하고 있으며, 대부분의 데이터를 저장하고 처리하려면 클라우드에 대한 링크가 필요합니다. 해당 데이터를 클라우드로 전송하는 데 필요한 전력 및 대역폭의 양은 엄청 나며, 데이터를 저장하는 데 필요한 공간은 가장 강력한 클라우드 거대 기업의 리소스에도 도전 할 것입니다.

High는“우리가이 시스템에서 수집하고있는 데이터는 가장자리에 있든 IoT 장치 또는 다른 장소에 있든 상관없이 거의 신경 쓰지 않기로 결정할 수 있습니다. 그러나 클라우드에서 모든 결정을 내려야하는 경우 모든 데이터를 네트워크를 통해 클라우드 서버로 전송하여 스크러빙 및 필터링해야합니다.

예를 들어, High는 현대 비행기의 이름을 지정합니다.이 비행기에는 제트 엔진을 모니터링하고 각 비행 중에 수백 기가 바이트의 상태 및 성능 데이터를 수집하는 수백 개의 센서가 있습니다. "집계를 통해 데이터를 분석하려는 경우이 데이터 중 얼마나 중요한가? 아마도 데이터의 일부일 것"이라고 High는 말합니다. "왜 다른 일을 할 필요가 없을 때 소스에서 제거하지 않는가?"

High가 클라우드 외부에서 제안한 것은 이전에는 불가능했지만 저전력, 저비용 SoC (System-on-Chip) 프로세서의 발전으로 에지 장치에 더 많은 컴퓨팅 성능을 제공하고 컴퓨팅 비용의 일부를 부담하게했습니다. 실시간 분석 수행 또는 데이터 필터링과 같은 생태계.

"에지 환경에는 데이터가 너무 많기 때문에 일부 클라우드 컴퓨팅 기능을 엣지 장치의 계산 용량으로 가져 오는 것이 합리적입니다."라고 High는 말합니다.

개인 정보 보호 문제

엣지 컴퓨팅의 이점은 클라우드 리소스 확보에만 국한되지 않습니다.

Movidius (Intel)의 신기술 그룹이자 총괄 책임자 인 Remi El-Ouazzane은 엣지 컴퓨팅이 큰 차이를 만들 수있는 또 다른 예로 상용 보안 카메라를 인용했습니다. 이 카메라는 신호등, 공항 및 건물 입구에서 24 시간 내내 네트워크를 통해 고품질 비디오를 녹화 및 스트리밍합니다.

El-Ouazzane은 "서버 나 데이터 센터로 다시 가져 오는 데 필요한 데이터가 적을수록 로컬에서 수행 할 수있는 스크러빙 및 세분화가 많을수록 전반적인 소유 비용은 스토리지 및 전송 관점에서 더 좋을 것"이라고 말합니다.

즉, 카메라에 자체 비디오 피드를 분석하고주의가 필요한 프레임 또는 길이의 비디오를 결정하고 해당 데이터 만 서버로 전송하는 기능을 제공합니다.

이러한 카메라를 가정, 사무실 또는 개인 위치에 설치하면 클라우드 연결이 잠재적 인 보안 문제가됩니다. 해커와 보안 연구원은 가전 제품과 클라우드 서버 간의 연결을 손상시켜 민감한 비디오 피드를 가로 챌 수있었습니다. 데이터를 로컬로 구문 분석하면 가정, 사생활 및 서비스 제공 업체간에 비디오 도관이 필요하지 않습니다.

2016 년 인텔이 인수 한 Movidius는 음성 인식 및 컴퓨터 비전과 같은 AI 작업에 특화된 컴퓨터 칩을 만드는 여러 신생 기업 중 하나입니다. 이 회사는 클라우드로 다시 보낼 필요없이 디지털 이미지의 상황을 분석하고 "이해하는"신경망을 실행하는 저전력 프로세서 인 VPU (Vision Processing Unit)를 제조합니다.

Movidius Myriad 2는 전력이 제한된 환경을 위해 제작 된 상시 가동 비전 프로세서입니다.

El-Ouazzane은“카메라가보고있는 것의 의미를 이해하면 카메라가 할 수있는 것과 할 수없는 것에 관한 규칙을 적용 할 수있는 능력이 매우 쉬워지고있다”고 말했다. "당신은 주어진 시간에 개가 소파 앞에서 카펫을 건 that다는 것을 알기 위해 다음 12 시간 동안 거실을 실제로 잡아 둘 필요는 없습니다."

다른 회사들은 사용자 개인 정보를 보호하기 위해 특수 AI 기반 에지 컴퓨팅의 사용을 모색하고 있습니다. 예를 들어, Apple iPhone X는 AI 작업을 로컬로 실행할 수있는 A11 Bionic 칩으로 구동되므로 사용자 얼굴을 클라우드로 보내지 않고도 복잡한 안면 인식을 수행 할 수 있습니다.

가장자리에 AI 처리가 많을수록 분산 형 인공 지능의 길을 열 수 있습니다.이 경우 인공 지능 응용 프로그램을 사용하기 위해 대기업과 사용자가 적은 데이터를 공유해야합니다.

지연 시간 감소

빅 클라우드 제공 업체의 또 다른 문제는 데이터 센터가 대도시 외부에 위치하고 애플리케이션을 사용하는 사람과 장치에서 수십만 마일 떨어진 곳에 위치한다는 것입니다.

대부분의 경우 클라우드를 오가는 데이터로 인한 대기 시간은 성능이 저하되거나 치명적인 결과를 초래할 수 있습니다. 충돌을 피하거나 고르지 않은 땅에 착륙을 시도하는 무인 항공기이거나, 장애물이 있거나 보행자가 있는지 여부를 결정하려는 자율 주행 차량 일 수 있습니다.

Movidius의 심층 신경망 및 컴퓨터 비전의 경량 구현은 드론과 같은 모바일 에지 장치에 적합하며 GPU와 같은 전력 소비 하드웨어가 적합하지 않습니다. 드론은 AI 계산에 대한 지연 시간이 짧은 액세스가 필요하고 오프라인 설정에서 계속 작동해야하기 때문에 특히 흥미로운 연구입니다.

에지 컴퓨팅이 드론 경험을 향상시키는 데 도움이되는 또 다른 영역 인 제스처 감지. El-Ouazzane은 "목표는 많은 사람들이 드론을 접근 할 수있게하는 것이며, 제스처는 사람들이 그것을 사용할 수있는 좋은 방법 인 것 같다"고 말했다.

근로자 및 최초 대응자를 구출하기 위해 무거운 무인 항공기 서비스를 제공하는 Skylift Global과 같은 신생 기업의 경우 대기 시간이 짧은 AI 및 컴퓨팅 리소스에 액세스하면 돈과 생명을 구할 수 있습니다. Skylift의 CEO이자 설립자 인 Amir Emadi는 "이는 데이터 수집 비용을 크게 줄이고 네트워크 대기 시간을 줄이며 보안을 강화하며 스트리밍 데이터를 실시간 의사 결정으로 전환하는 데 도움이 될 것입니다."라고 말합니다.

1 차 대응 자에게 공급품을 배송하려면 1 초 단위의 결정이 필요합니다. "예를 들어 산불과 싸우는 데 더 많은 시간이 걸리면 상황을 해결하는 데 비용이 더 많이 듭니다. 드론은 연결이 끊어 지더라도 가장자리에서 실시간 결정을 내릴 수있게되어 더 많은 비용을 절약 할 수 있습니다. Emadi는 말합니다.

거의 실시간 계산이 필요한 다른 영역은 증강 현실 및 가상 현실 응용 프로그램과 자율 주행 차량입니다. 뉴욕에 위치한 스타트 업인 Packet의 CEO Zachary Smith는 개발자들이 고도로 분산 된 하드웨어에 액세스 할 수 있도록하는 데 중점을두고있다.

사용자의 움직임을 따라 잡을 수없는 AR 또는 VR 응용 프로그램은 현기증을 유발하거나 경험이 몰입적이고 실감 나는 것을 방지합니다. 컴퓨터 비전과 머신 러닝 알고리즘에 크게 의존하는 자율 주행 자동차가 주류가 될 때 대기 시간은 더욱 큰 문제가 될 것입니다.

스미스는“30 밀리 초의 대기 시간은 웹 페이지를로드하는 데는 중요하지 않지만, 어린 소녀와 충돌하지 않도록 왼쪽이나 오른쪽으로 회전해야한다면 자동차가 60mph를 결정하는 것이 중요하다”고 말했다.

에지의 도전에 부응

Smith는 컴퓨터를 에지에 더 가까이 가져와야하지만 모든 장치에 특수 하드웨어를 배치하는 것이 최종 답변이 아닐 수도 있다고 Smith는 인정합니다. "모든 컴퓨터를 자동차에 넣는 이유는 무엇입니까? 나는 그것이 당신의 수명주기를 얼마나 빨리 제어 할 수 있는지에 대한 진화와 관련이 있다고 생각합니다."

Smith는 "하드웨어를 세계에 배치 할 때 일반적으로 5 년에서 10 년 동안 유지됩니다."라고 말하면서 이러한 경험 기반 사용 사례를 구현하는 기술은 6 개월에서 12 개월마다 발전하고 있습니다.

공급망이 복잡한 대기업조차도 종종 하드웨어 업데이트로 어려움을 겪습니다. 2015 년 피아트 크라이슬러는 5 년 전에 노출 된 보안 취약점을 해결하기 위해 140 만 대의 차량을 리콜해야했습니다. 그리고 거대한 칩 제조업체 인 인텔은 여전히 ​​수억 대의 장치를 해커에게 노출시키는 설계 결함을 다루기 위해 노력하고 있습니다.

Movidius의 El-Ouazzane은 이러한 과제를 인정합니다. "우리는 매년 다양한 제품을 변경해야한다는 것을 알고 있습니다. 매년 우리는 더 많은 인텔리전스를 제공 할 것이며, 고객에게 업그레이드를 요구할 것입니다."

지속적인 리콜을 피하고 고객이 에지 하드웨어를 장기간 사용할 수 있도록 Movidius는 프로세서에 추가 리소스와 용량을 제공합니다. El-Ouazzane은 "향후 몇 년간 해당 제품에 대한 업그레이드를 수행 할 수있는 능력이 필요합니다."라고 말합니다.

Smith의 회사 인 Packet은 다른 접근 방식을 사용합니다. 이는 사용자에게 더 가까운 도시에 배포 할 수있는 마이크로 데이터 센터를 만듭니다. 그러면 회사는 실제 하드웨어를 가장자리에 두지 않고도 사용자에게 접근 할 수있을 정도로 대기 시간이 짧은 계산 리소스를 개발자에게 제공 할 수 있습니다.

스미스는“전 세계 모든 도시의 개발자가 액세스 할 수있는 하드웨어를 배치하기 위해서는 인프라 제공 메커니즘이 필요하다”고 말했다. 이 회사는 이미 15 개 지역에서 운영되고 있으며 결국 수백 개 도시로 확장 할 계획입니다.

그러나 Packet의 야망은 Google 및 Amazon 등이 운영하는 거대한 시설의 소형 버전을 만드는 것보다 더 나아갑니다. Smith가 설명했듯이 퍼블릭 클라우드에서는 특수 하드웨어를 배포하고 업데이트 할 수 없습니다. Packet의 비즈니스 모델에서 제조업체와 개발자는 회사의 에지 데이터 센터에 특수 하드웨어를 배포하여 필요할 때 신속하게 업데이트하고 새로 고칠 수 있으며 사용자가 컴퓨팅 리소스에 신속하게 액세스 할 수 있습니다.

Packet의 고객 중 하나 인 Hatch는 Angry Birds를 만든 모바일 게임 회사 인 Rovio의 분사입니다. 이 회사는 에지 컴퓨팅 서버에서 Android를 실행하여 저 지연 Android 기기 사용자에게 지연 시간이 짧은 멀티 플레이어 게임 스트리밍 서비스를 제공합니다.

Smith는“전 세계 모든 시장에서 상당히 전문화 된 ARM 서버가 필요합니다. "서버 제공 구성을 사용자 정의하여 유럽 전역의 8 개 글로벌 시장에 배치했으며 곧 20 또는 25 개 시장이 될 것입니다. Amazon과 같은 느낌이 들지만 유럽의 모든 시장에서 맞춤형 하드웨어를 실행할 수 있습니다."

이론적으로 Hatch는 퍼블릭 클라우드에서 동일한 작업을 수행 할 수 있지만 비용 때문에 비효율적 인 비즈니스가 될 수 있습니다. Smith는“CPU 당 100 명의 사용자를 배치하는 것과 CPU 당 10, 000 명의 사용자를 배치하는 것의 차이점이 있습니다.

Smith는이 모델이 차세대 소프트웨어 혁신을 주도 할 개발자 세대에게 호소력이 있다고 생각합니다. Smith는“우리가 중점을 둔 것은 소프트웨어 세대와 클라우드에서 자란 사람들을 특수한 하드웨어 프리미티브와 연결하는 방법”이라고 말했다. "우리는 내부를보기 위해 MacBook을 열 수없는 사용자들에 대해 이야기하고 있으며, 이것이 하드웨어 / 소프트웨어 스택을 혁신 할 사람입니다."

구름이 사라질까 요?

엣지 디바이스가 복잡한 계산 작업을 수행 할 수있게되면 클라우드의 미래가 위험에 처해 있습니까?

IBM Watson의 High는 "나에게 에지 컴퓨팅은 자연스럽고 논리적으로 클라우드 컴퓨팅의 다음 발전"이라고 말합니다.

실제로 2016 년에 IBM은 개발자가 에지와 클라우드간에, 특히 에지 디바이스가 이미 즉각적인 환경에 대한 많은 데이터를 수집하는 IoT 에코 시스템에서 태스크를 원활하게 분배 할 수있는 도구 세트를 출시했습니다. 2016 년 후반에 또 다른 주요 클라우드 개발 플랫폼 인 Amazon Web Services는 IoT 개발자가 클라우드 애플리케이션의 일부를 에지 디바이스에서 실행할 수있는 서비스 인 Greengrass를 발표했습니다.

이 중 어느 것도 클라우드가 사라진다는 것을 의미하지 않습니다. 하이는“클라우드에서 더 많은 일을 할 수있다. 심지어 많은 작업이 여전히 진행 중일 때에도 마찬가지다. 여기에는 다양한 소스에서 데이터를 집계하고 대규모 데이터 세트로 대규모 분석을 수행하는 등의 작업이 포함됩니다.

"이러한 에지 디바이스에서 사용하는 AI 알고리즘으로 모델을 생성해야하는 경우 이러한 모델을 생성하고 훈련하는 것은 여전히 ​​매우 계산 집약적 인 문제이며 종종 에지 디바이스에서 사용할 수있는 것보다 훨씬 많은 계산 용량이 필요합니다." 말한다.

El-Ouzzane도 동의합니다. "AI 모델을 로컬로 훈련시키는 능력은 극히 제한적이다"라고 그는 말한다. "딥 러닝의 관점에서 볼 때 교육은 한 곳에만 앉을 수 있으며 클라우드에서 충분한 컴퓨팅 리소스와 충분한 스토리지를 확보하여 대규모 데이터 세트를 처리 할 수 ​​있습니다."

또한 El-Ouazzane은 에지 디바이스에 미션 및 시간 결정적인 작업이 할당되는 유스 케이스를 프로비저닝하는 한편 클라우드는 대기 시간에 의존하지 않는 고급 추론을 처리합니다. "우리는 클라우드와 엣지 사이의 연속성 세계에 살고 있습니다."

"에지 컴퓨팅과 클라우드 컴퓨팅 간에는 매우 공생적이고 시너지적인 관계가 있습니다."