Nền tảng siêu máy tính biên (Edge Supercomputing Platform) NVIDIA EGX giúp tăng tốc thực thi, giảm độ trễ các dịch vụ biên về AI, IoT và 5G.

Vừa qua, tại sự kiện Mobile World Congress (MWC 2019) diễn ra ở Los Angeles, NVIDIA đã chính thức giới thiệu nền tảng siêu máy tính EGX mới. NVIDIA EGX là nền tảng đám mây, hiệu năng cao, cho phép các tổ chức khai thác dữ liệu nhanh chóng từ các nhà máy, dây chuyền sản xuất và đường phố, nhằm cung cấp an toàn các dịch vụ dựa trên AI, IoT và 5G với độ trễ thấp.

Những đối tác ứng dụng nền tảng EGX đầu tiên – kết hợp phần mềm NVIDIA CUDA-X với máy chủ và thiết bị dùng GPU NVIDIA – gồm: Walmart, BMW, Procter & Gamble, Samsung Electronics và NTT East, cũng như thành phố San Francisco và Las Vegas.

“Chúng ta đang bước vào một kỷ nguyên mới, nơi có hàng tỉ cảm biến IoT luôn hoạt động sẽ kết nối với nhau nhờ mạng 5G và thực thi bởi AI. Nền tảng của nó đòi hỏi những chiếc máy tính nối mạng có độ bảo mật cao, có thể vận hành từ xa dễ dàng. Chúng tôi tạo ra nền tảng siêu máy tính biên NVIDIA EGX cho thế giới này, nơi điện toán vượt ra ngoài khuôn khổ cá nhân, vượt cả những đám mây để hoạt động ở quy mô hành tinh.” – Jesen Huang, nhà sáng lập và CEO của NVIDIA nói.

Nền tảng EGX có phần mềm hỗ trợ nhiều ứng dụng, bao gồm NVIDIA Metropolis, có thể được sử dụng để xây dựng thành phố thông minh và ứng dụng phân tích video thông minh, cũng như bộ công cụ phát triển phần mềm NVIDIA Aerial. Aerial cho phép các công ty viễn thông xây dựng các mạng truy cập vô tuyến 5G ảo hóa hoàn toàn, với khả năng lập trình cao, có thể mở rộng và tiết kiệm năng lượng. Nó có thể cho phép họ cung cấp các dịch vụ mới như nhà máy thông minh, AR | VR và chơi game trên đám mây.

Các đối tác hệ sinh thái đầu tiên với NVIDIA gồm có Microsoft, Ericsson và Red Hat.

Các công ty lớn dùng NVIDIA EGX cho Edge AI

Walmart tiên phong trong việc triển khai EGX tại phòng thí nghiệm bán lẻ thông minh (Intelligent Retail Lab) của mình ở Levittown, New York. Đây là một cửa hàng tạp hóa độc đáo, nơi khám phá ra những cách mà AI có thể cải thiện hơn nữa trải nghiệm mua sắm tại cửa hàng. Sử dụng khả năng về AI và Egde của EGX mà Walmart có thể tính toán theo thời gian thực hơn 1.6 TB dữ liệu sinh ra trong mỗi giây. AI từ đây sẽ báo tín hiệu khi nào cần thêm hàng lên kệ, mở thêm làn tính tiền, thu hồi xe đẩy cũng như đảm bảo độ tươi của thịt.

Samsung Electronics cũng là một trong những công ty triển khai EGX đầu tiên, đang sử dụng AI ở biên cho các quy trình thiết kế bán dẫn có tính phức tạp cao, cũng như quá trình sản xuất chúng.

BMW sử dụng khả năng phân tích video thông minh trong cơ sở sản xuất ở Nam Carolina nhằm tự động hóa quá trình kiểm tra. Bằng việc thu thập dữ liệu từ nhiều camera và các cảm biến khác trên làn kiểm tra, BMW muốn đảm bảo tất cả những chiếc xe xuất xưởng đều có chất lượng cao nhất.

NTT East sử dụng EGX cho trung tâm dữ liệu của mình để phát triển các dịch vụ hỗ trợ AI mới ở vùng sâu vvùng xa thông qua mạng băng thông rộng. Nhờ EGX, NTT East sẽ cung cấp cho người dân sức mạnh tính toán và khả năng kết nối cần thiết để xây dựng và triển khai hàng loạt ứng dụng AI biên.

Procter & Gamble hợp tác với NVIDIA để phát triển các ứng dụng hỗ trợ AI trên nền tảng EGX nhằm kiểm tra sản phẩm và bao bì để đảm bảo đáp ứng các tiêu chuẩn chất lượng, an toàn cao nhất. EGX sẽ giúp hãng phân tích hàng ngàn giờ video từ các dây chuyền kiểm tra và tìm ra sản phẩm không hoàn hảo.

Las  Vegas sử dụng EGX để thu thập dữ liệu về xe cộ và người đi bộ để đảm bảo giao thông an toàn hơn, cũng như mở rộng cơ hội kinh tế. Thành phố này có kế hoạch sử dụng dữ liệu để quản lý tự động tín hiệu cũng như các khả năng hoạt động khác.

San Francisco dùng EGX để kiểm soát số lượng người đi bộ theo thời gian thực cho các nhà bán lẻ địa phương, cung cấp cho họ công cụ kinh doanh thông minh, mạnh mẽ để có thể gắn kết hiệu quả hơn với khách hàng. Với dữ liệu này, các nhà bán lẻ BID có thể mang lại trải nghiệm tốt hơn cho khách hàng, giảm thời gian chờ đợi, từ đó hiệu quả hoạt động cao hơn.

Mở rộng hệ sinh thái EGX

Hệ sinh thái NVIDIA EGX bao gồm hơn 100 công ty công nghệ trên toàn thế giới, từ các công ty mới thành lập đến các nhà cung cấp phần mềm, nhà cung cấp dịch vụ đám mây, các nhà sản xuất máy chủ và thiết bị toàn cầu.

Để đẩy nhanh việc chuyển đổi sang điện toán biên, NVIDIA đã mở rộng chương trình chứng nhận máy chủ của mình với NGC-Ready for Edge. Chứng nhận mới dành cho các hệ thống trang bị GPU NVIDIA T4, Quadro RTX 8000 và V100 Tensor Core có khả năng xử lý khối lượng công việc AI ở biên. Dell Technologies, Hewlett Packard Enterprise, Lenovo, QCT và Supermicro là những đối tác đầu tiên của NVIDIA để chứng nhận hệ thống của họ. Hiện tại có hơn 20 máy chủ được xác nhận từ nhiều nhà sản xuất trên toàn thế giới.

Kiến trúc phần mềm xếp chồng EGX được hỗ trợ bởi các đối tác đám mây lai hàng đầu như Canonical, Cisco, Nutanix, Red Hat và Vmware.