Giám đốc Intel Việt Nam: “Doanh nghiệp Việt đang chuyển từ thử nghiệm sang triển khai Edge AI”

Ông Phùng Việt Thắng, Giám đốc Intel Việt Nam, nói về cơ hội, rào cản và cách chia tải CPU, GPU, NPU khi doanh nghiệp Việt đưa AI từ cloud về thiết bị biên.

9 phút đọc

XTelegram
Ông Phùng Việt Thắng - Giám đốc Intel Việt Nam

Edge AI, tức chạy mô hình AI ngay tại thiết bị thay vì gửi dữ liệu lên cloud, đang rời phòng thí nghiệm để vào nhà máy, cửa hàng và hạ tầng đô thị. Tại Computex 2026, Intel cho biết các vi xử lý Series 3 đã có hơn 130 dự án thiết kế cho thiết bị biên. Migovi gửi 6 câu hỏi tới ông Phùng Việt Thắng, Giám đốc Intel Việt Nam, về việc doanh nghiệp trong nước nên bắt đầu từ đâu.

Ý chính trong 60 giây

  1. Doanh nghiệp Việt Nam đang chuyển từ thử nghiệm sang triển khai Edge AI thực tế
  2. Lợi ích chính: giảm chi phí băng thông và lưu trữ, giảm độ trễ, giữ dữ liệu tại chỗ
  3. Có 4 rào cản: tích hợp hệ thống cũ, dữ liệu huấn luyện, tối ưu mô hình, phần cứng không đồng nhất
  4. Intel khuyên chia tải theo nguyên tắc đúng việc - đúng nhân xử lý giữa CPU, GPU và NPU
  5. OpenVINO cho phép huấn luyện 1 lần rồi triển khai trên nhiều loại phần cứng
Migovi Intel nhận định Edge AI đang bước sang giai đoạn mới với Agentic AI và Physical AI. Doanh nghiệp Việt Nam trong sản xuất, bán lẻ, hạ tầng đô thị đang ở đâu trong tiến trình này? Cơ hội và rào cản kỹ thuật khi chuyển xử lý AI từ cloud về edge là gì?

Phùng Việt Thắng Doanh nghiệp Việt Nam đang chuyển trọng tâm từ thử nghiệm sang triển khai Edge AI trong thực tế với cơ hội trước mắt là chi phí. Bạn hãy thử hình dung 1 nhà máy linh kiện có 500 camera IP độ phân giải 4K giám sát dây chuyền, nếu truyền liên tục video thô lên cloud, họ phải trả hàng chục ngàn USD mỗi tháng cho băng thông và lưu trữ. Khi mô hình suy luận chạy ngay tại thiết bị biên bằng bộ công cụ OpenVINO, camera chỉ gửi dữ liệu lúc phát hiện lỗi.

Kế đến là độ trễ. Xử lý tại chỗ cho phép phản hồi theo thời gian thực, điều rất cần cho giám sát chất lượng, phát hiện lỗi trên dây chuyền hay giao thông thông minh. Dữ liệu nhạy cảm của sản xuất, y tế, hạ tầng không phải rời khỏi cơ sở nên dễ đáp ứng yêu cầu bảo mật. Hệ thống cũng vẫn chạy ổn định khi đường truyền gián đoạn, vốn là chuyện thường gặp ở môi trường công nghiệp hoặc nơi hạ tầng viễn thông chưa đồng đều.

Rào cản thì có 4 nhóm. Đầu tiên là tích hợp, vì đa số doanh nghiệp đang vận hành trên nhiều nền tảng khác nhau. Thứ hai là dữ liệu huấn luyện: môi trường sản xuất thực tế khác xa dự tính, còn việc thu được dữ liệu đồng nhất từ hàng ngàn cảm biến vẫn là bài toán khó. Thứ ba là mô hình phải được tối ưu rất kỹ mới chạy được trên phần cứng tiết kiệm điện ở biên. Cuối cùng là thiết bị, hệ điều hành và giao thức kết nối không đồng nhất, gây khó cho việc bảo mật và quản lý ứng dụng AI ở quy mô lớn.

Intel Edge AI Physical AI Doanh Nghiep Migovi
Migovi Phần cứng edge của Intel trải đều từ phân khúc phổ thông tới hiệu năng cao, kết hợp CPU, GPU và NPU. Xét về chi phí đầu tư và hiệu năng trên mỗi watt điện, doanh nghiệp nên phân bổ tải AI ra sao trên Edge PC và Edge Server?

Phùng Việt Thắng Nguyên tắc chúng tôi khuyến nghị là đúng việc - đúng nhân xử lý. CPU điều phối dữ liệu tuần tự, lo các tác vụ cần độ trễ thấp và chạy mô hình machine learning truyền thống. GPU có năng lực xử lý song song lớn nên gánh phần AI nặng như phân tích video đa luồng hay mô hình ngôn ngữ lớn (LLM). NPU hợp với tác vụ chạy ngầm liên tục như nhận diện giọng nói, khuôn mặt. Đẩy phần này sang NPU sẽ giải phóng CPU và GPU, đồng thời giảm điện năng của cả hệ thống.

Mục tiêu là dùng vừa đủ tài nguyên. Nếu năng lực AI tích hợp trên vi xử lý như Core Ultra Series 3 đã đáp ứng ứng dụng, doanh nghiệp có thể không cần thêm bộ tăng tốc đồ họa rời. Thiết kế nhờ vậy đơn giản hơn, ít tốn điện hơn và tổng chi phí sở hữu thấp hơn. Với tác vụ AI nặng, bộ tăng tốc rời vẫn có thể cần thiết.

Ella của Sensory AI là một ví dụ. Trên một con chip Core Ultra Series 3, hệ thống cùng lúc nhận diện hình ảnh, trò chuyện với khách, phân tích dữ liệu kinh doanh, chạy nhiều tác nhân AI và điều khiển robot theo thời gian thực. Các tác vụ được chia cho CPU, GPU và NPU thông qua OpenVINO thay vì phải dùng nhiều chip riêng cho AI và điều khiển. Đó cũng là lý do chúng tôi khuyên kỹ sư phần mềm Việt Nam dùng OpenVINO để việc phân bổ tải diễn ra tự động, không cần phải viết lại mã nhiều lần.

Đúng việc, đúng nhân xử lý: mục tiêu là dùng vừa đủ tài nguyên.

Phùng Việt Thắng
Migovi Nhiều doanh nghiệp ngại phụ thuộc vào kiến trúc đóng khi đầu tư AI. Với lượng đóng góp cho Linux Kernel và bộ công cụ OpenVINO, Intel giúp họ chuyển mô hình AI giữa các nền tảng phần cứng thế nào mà không phải viết lại mã từ đầu?

Phùng Việt Thắng Khi đầu tư vào AI, doanh nghiệp quan tâm nhất tới 3 chuyện: kiểm soát rủi ro, tổng chi phí sở hữu dài hạn và khả năng kế thừa của dự án. Phụ thuộc vào 1 kiến trúc đóng duy nhất đang khiến nhiều nơi ngần ngại mở rộng hệ thống Edge AI.

Với OpenVINO, doanh nghiệp huấn luyện mô hình 1 lần trên framework bất kỳ rồi triển khai trên nhiều loại thiết bị chỉ bằng cách đổi cài đặt, không cần sửa code. Họ cũng có thể chạy song song nhiều loại phần cứng trong cùng một hệ thống. Chi phí phát triển phần mềm giảm, thời gian triển khai ngắn lại. Quan trọng hơn, doanh nghiệp không bị khóa vào 1 nhà cung cấp nên được tự do đàm phán giá và chọn phần cứng cho từng giai đoạn.

Về Linux, Intel là công ty đóng góp mã nguồn nhiều nhất cho Linux Kernel suốt hơn 15 năm liên tiếp, gần gấp đôi nhà cung cấp đứng thứ 2. Phần cứng từ Xeon tới Core Ultra vì vậy được hỗ trợ đầy đủ trên các bản Linux phổ biến như Ubuntu LTS hay Red Hat Enterprise Linux. Doanh nghiệp có thể nâng cấp hạ tầng mà không lo mất tương thích, đồng thời mở rộng từ edge sang cloud hoặc ngược lại nhờ các nền tảng cloud và container đã được tích hợp sẵn.

Phùng Việt Thắng

Doanh nghiệp không bị khóa vào một nhà cung cấp nên được tự do đàm phán giá và chọn phần cứng cho từng giai đoạn.

Phùng Việt Thắng

Giám đốc Intel Việt Nam

Migovi Xử lý thời gian thực kết hợp AI Vision rất quan trọng với nhà máy đang chuyển đổi số. Robotics Reference Platform và Robotics AI Suite giải quyết độ trễ, băng thông và độ ổn định ra sao cho cobot và xe tự hành AGV/AMR trong nhà máy, kho vận tại Việt Nam?

Phùng Việt Thắng Hai nền tảng này đưa phần suy luận AI về thẳng thiết bị để xử lý 3 vấn đề: độ trễ, băng thông và độ ổn định.

Về độ trễ, năng lực suy luận nằm ngay trên vi xử lý của robot. Cảm biến và AI Vision hợp nhất dữ liệu để ra quyết định tức thời. Cobot dừng ngay khi phát hiện có người bước vào vùng cấm. AMR có thể chạy ở tốc độ cao hơn để tăng số vòng luân chuyển hàng.

Về băng thông, robot tự xử lý hình ảnh tại chỗ, chỉ gửi về hệ thống quản lý những gói tin rất nhỏ như “Đang ở kệ số 3” hay “Đã phát hiện vật cản”. Hạ tầng mạng nhẹ gánh hơn, việc mở rộng đội xe cũng dễ hơn.

Về độ ổn định, NPU tiết kiệm điện trên Core Ultra Series 3 giúp từng AMR tự vận hành hoàn toàn, không bị gián đoạn khi rớt mạng hay đi vào điểm mù sóng. Robot nhờ đó làm việc lâu hơn và ít phải sạc hơn.

Migovi Hệ thống Edge AI thường phải chạy trong môi trường khắc nghiệt: nhiệt độ cao, phương tiện di chuyển liên tục, máy không quạt có ít không gian tản nhiệt. Intel tối ưu hiệu năng trên mỗi watt điện thế nào để vừa chạy AI Vision nặng vừa bền bỉ 24/7?

Phùng Việt Thắng Core Ultra Series 3 có những phiên bản thiết kế riêng cho Edge AI công nghiệp, hướng tới hiệu năng cao trên mỗi watt điện và khả năng vận hành 24/7. Với AI Vision, kiến trúc kết hợp CPU, GPU và NPU chia nhỏ công việc thay vì dồn hết vào bộ xử lý. Hệ thống nhờ vậy chạy thuật toán ở mức điện năng thấp và duy trì được cường độ làm việc liên tục.

Phần mềm cũng góp phần quan trọng: OpenVINO tối ưu mô hình bằng kỹ thuật lượng tử hóa (quantization), làm thuật toán gọn lại mà vẫn giữ độ chính xác. Doanh nghiệp có thể chọn những mẫu Edge PC nhỏ gọn, ít tốn điện mà vẫn đáp ứng được nhu cầu.

Migovi Xử lý AI tại biên giúp giải quyết bài toán về quyền riêng tư. Intel tích hợp những công nghệ bảo mật phần cứng nào để dữ liệu thị giác và mô hình AI của doanh nghiệp không bị can thiệp hay rò rỉ ngay tại điểm thu thập?

Phùng Việt Thắng Dữ liệu thị giác từ camera giám sát, kiểm tra chất lượng sản phẩm cùng các mô hình AI như thuật toán phát hiện lỗi là tài sản chiến lược của doanh nghiệp. Chúng tôi bảo vệ chúng bằng công nghệ bảo mật phần cứng, tùy theo quy mô thiết bị.

Với Edge Server hiệu năng cao dùng Xeon, giải pháp điện toán bảo mật (Confidential Computing) gồm Intel SGX và Intel TDX tạo ra các phân vùng mã hóa độc lập. Dữ liệu và thuật toán được bảo vệ ngay cả khi hệ thống đang xử lý.

Với thiết bị Edge AI dùng Core Ultra, lớp bảo mật dựa trên phần cứng được tích hợp sẵn trên silicon. Cơ chế khởi động an toàn ngăn firmware giả mạo. Bộ nhớ vật lý được mã hóa để bảo vệ mô hình và dữ liệu, kể cả khi có người can thiệp trực tiếp vào thiết bị. Doanh nghiệp giữ được sở hữu trí tuệ và đáp ứng khung pháp lý về quyền riêng tư mà không phải đánh đổi hiệu năng.

GÓC NHÌN MIGOVI

Phần trả lời trên là góc nhìn của nhà cung cấp phần cứng, vì vậy doanh nghiệp cần tự kiểm chứng bằng dự án thí điểm với dữ liệu riêng. OpenVINO là mã nguồn mở nhưng được tối ưu trước hết cho phần cứng Intel, các kỹ sư luôn tích cực cải tiến và nâng cấp để có thể tương thích tốt hơn với những đơn vị khác. Khía cạnh “không bị khóa vào 1 nhà cung cấp” cũng nên được thử trên đúng những thiết bị mà doanh nghiệp có ý định định trang bị hay sử dụng. Điểm quan trọng đáng tham khảo nhất là nguyên tắc dùng vừa đủ tài nguyên: hiện tại có rất nhiều bài toán thị giác máy ở nhà xưởng hoàn toàn không cần tới sức mạnh của GPU rời.

Kiểm duyệt bởi: Hero Association

Chia sẻ cảm nhận nhé ^^

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *

Góc nhìn