Edge AI, tức chạy mô hình AI ngay tại thiết bị thay vì gửi dữ liệu lên cloud, đang rời phòng thí nghiệm để vào nhà máy, cửa hàng và hạ tầng đô thị. Tại Computex 2026, Intel cho biết các vi xử lý Series 3 đã có hơn 130 dự án thiết kế cho thiết bị biên. Migovi gửi 6 câu hỏi tới ông Phùng Việt Thắng, Giám đốc Intel Việt Nam, về việc doanh nghiệp trong nước nên bắt đầu từ đâu.
Ý chính trong 60 giây
- Doanh nghiệp Việt Nam đang chuyển từ thử nghiệm sang triển khai Edge AI thực tế
- Lợi ích chính: giảm chi phí băng thông và lưu trữ, giảm độ trễ, giữ dữ liệu tại chỗ
- Có 4 rào cản: tích hợp hệ thống cũ, dữ liệu huấn luyện, tối ưu mô hình, phần cứng không đồng nhất
- Intel khuyên chia tải theo nguyên tắc đúng việc - đúng nhân xử lý giữa CPU, GPU và NPU
- OpenVINO cho phép huấn luyện 1 lần rồi triển khai trên nhiều loại phần cứng
Phùng Việt Thắng Doanh nghiệp Việt Nam đang chuyển trọng tâm từ thử nghiệm sang triển khai Edge AI trong thực tế với cơ hội trước mắt là chi phí. Bạn hãy thử hình dung 1 nhà máy linh kiện có 500 camera IP độ phân giải 4K giám sát dây chuyền, nếu truyền liên tục video thô lên cloud, họ phải trả hàng chục ngàn USD mỗi tháng cho băng thông và lưu trữ. Khi mô hình suy luận chạy ngay tại thiết bị biên bằng bộ công cụ OpenVINO, camera chỉ gửi dữ liệu lúc phát hiện lỗi.
Kế đến là độ trễ. Xử lý tại chỗ cho phép phản hồi theo thời gian thực, điều rất cần cho giám sát chất lượng, phát hiện lỗi trên dây chuyền hay giao thông thông minh. Dữ liệu nhạy cảm của sản xuất, y tế, hạ tầng không phải rời khỏi cơ sở nên dễ đáp ứng yêu cầu bảo mật. Hệ thống cũng vẫn chạy ổn định khi đường truyền gián đoạn, vốn là chuyện thường gặp ở môi trường công nghiệp hoặc nơi hạ tầng viễn thông chưa đồng đều.
Rào cản thì có 4 nhóm. Đầu tiên là tích hợp, vì đa số doanh nghiệp đang vận hành trên nhiều nền tảng khác nhau. Thứ hai là dữ liệu huấn luyện: môi trường sản xuất thực tế khác xa dự tính, còn việc thu được dữ liệu đồng nhất từ hàng ngàn cảm biến vẫn là bài toán khó. Thứ ba là mô hình phải được tối ưu rất kỹ mới chạy được trên phần cứng tiết kiệm điện ở biên. Cuối cùng là thiết bị, hệ điều hành và giao thức kết nối không đồng nhất, gây khó cho việc bảo mật và quản lý ứng dụng AI ở quy mô lớn.
Phùng Việt Thắng Nguyên tắc chúng tôi khuyến nghị là đúng việc - đúng nhân xử lý. CPU điều phối dữ liệu tuần tự, lo các tác vụ cần độ trễ thấp và chạy mô hình machine learning truyền thống. GPU có năng lực xử lý song song lớn nên gánh phần AI nặng như phân tích video đa luồng hay mô hình ngôn ngữ lớn (LLM). NPU hợp với tác vụ chạy ngầm liên tục như nhận diện giọng nói, khuôn mặt. Đẩy phần này sang NPU sẽ giải phóng CPU và GPU, đồng thời giảm điện năng của cả hệ thống.
Mục tiêu là dùng vừa đủ tài nguyên. Nếu năng lực AI tích hợp trên vi xử lý như Core Ultra Series 3 đã đáp ứng ứng dụng, doanh nghiệp có thể không cần thêm bộ tăng tốc đồ họa rời. Thiết kế nhờ vậy đơn giản hơn, ít tốn điện hơn và tổng chi phí sở hữu thấp hơn. Với tác vụ AI nặng, bộ tăng tốc rời vẫn có thể cần thiết.
Ella của Sensory AI là một ví dụ. Trên một con chip Core Ultra Series 3, hệ thống cùng lúc nhận diện hình ảnh, trò chuyện với khách, phân tích dữ liệu kinh doanh, chạy nhiều tác nhân AI và điều khiển robot theo thời gian thực. Các tác vụ được chia cho CPU, GPU và NPU thông qua OpenVINO thay vì phải dùng nhiều chip riêng cho AI và điều khiển. Đó cũng là lý do chúng tôi khuyên kỹ sư phần mềm Việt Nam dùng OpenVINO để việc phân bổ tải diễn ra tự động, không cần phải viết lại mã nhiều lần.
Đúng việc, đúng nhân xử lý: mục tiêu là dùng vừa đủ tài nguyên.
Phùng Việt Thắng Khi đầu tư vào AI, doanh nghiệp quan tâm nhất tới 3 chuyện: kiểm soát rủi ro, tổng chi phí sở hữu dài hạn và khả năng kế thừa của dự án. Phụ thuộc vào 1 kiến trúc đóng duy nhất đang khiến nhiều nơi ngần ngại mở rộng hệ thống Edge AI.
Với OpenVINO, doanh nghiệp huấn luyện mô hình 1 lần trên framework bất kỳ rồi triển khai trên nhiều loại thiết bị chỉ bằng cách đổi cài đặt, không cần sửa code. Họ cũng có thể chạy song song nhiều loại phần cứng trong cùng một hệ thống. Chi phí phát triển phần mềm giảm, thời gian triển khai ngắn lại. Quan trọng hơn, doanh nghiệp không bị khóa vào 1 nhà cung cấp nên được tự do đàm phán giá và chọn phần cứng cho từng giai đoạn.
Về Linux, Intel là công ty đóng góp mã nguồn nhiều nhất cho Linux Kernel suốt hơn 15 năm liên tiếp, gần gấp đôi nhà cung cấp đứng thứ 2. Phần cứng từ Xeon tới Core Ultra vì vậy được hỗ trợ đầy đủ trên các bản Linux phổ biến như Ubuntu LTS hay Red Hat Enterprise Linux. Doanh nghiệp có thể nâng cấp hạ tầng mà không lo mất tương thích, đồng thời mở rộng từ edge sang cloud hoặc ngược lại nhờ các nền tảng cloud và container đã được tích hợp sẵn.

Doanh nghiệp không bị khóa vào một nhà cung cấp nên được tự do đàm phán giá và chọn phần cứng cho từng giai đoạn.
Phùng Việt Thắng
Giám đốc Intel Việt Nam
Phùng Việt Thắng Hai nền tảng này đưa phần suy luận AI về thẳng thiết bị để xử lý 3 vấn đề: độ trễ, băng thông và độ ổn định.
Về độ trễ, năng lực suy luận nằm ngay trên vi xử lý của robot. Cảm biến và AI Vision hợp nhất dữ liệu để ra quyết định tức thời. Cobot dừng ngay khi phát hiện có người bước vào vùng cấm. AMR có thể chạy ở tốc độ cao hơn để tăng số vòng luân chuyển hàng.
Về băng thông, robot tự xử lý hình ảnh tại chỗ, chỉ gửi về hệ thống quản lý những gói tin rất nhỏ như “Đang ở kệ số 3” hay “Đã phát hiện vật cản”. Hạ tầng mạng nhẹ gánh hơn, việc mở rộng đội xe cũng dễ hơn.
Về độ ổn định, NPU tiết kiệm điện trên Core Ultra Series 3 giúp từng AMR tự vận hành hoàn toàn, không bị gián đoạn khi rớt mạng hay đi vào điểm mù sóng. Robot nhờ đó làm việc lâu hơn và ít phải sạc hơn.
Phùng Việt Thắng Core Ultra Series 3 có những phiên bản thiết kế riêng cho Edge AI công nghiệp, hướng tới hiệu năng cao trên mỗi watt điện và khả năng vận hành 24/7. Với AI Vision, kiến trúc kết hợp CPU, GPU và NPU chia nhỏ công việc thay vì dồn hết vào bộ xử lý. Hệ thống nhờ vậy chạy thuật toán ở mức điện năng thấp và duy trì được cường độ làm việc liên tục.
Phần mềm cũng góp phần quan trọng: OpenVINO tối ưu mô hình bằng kỹ thuật lượng tử hóa (quantization), làm thuật toán gọn lại mà vẫn giữ độ chính xác. Doanh nghiệp có thể chọn những mẫu Edge PC nhỏ gọn, ít tốn điện mà vẫn đáp ứng được nhu cầu.
Phùng Việt Thắng Dữ liệu thị giác từ camera giám sát, kiểm tra chất lượng sản phẩm cùng các mô hình AI như thuật toán phát hiện lỗi là tài sản chiến lược của doanh nghiệp. Chúng tôi bảo vệ chúng bằng công nghệ bảo mật phần cứng, tùy theo quy mô thiết bị.
Với Edge Server hiệu năng cao dùng Xeon, giải pháp điện toán bảo mật (Confidential Computing) gồm Intel SGX và Intel TDX tạo ra các phân vùng mã hóa độc lập. Dữ liệu và thuật toán được bảo vệ ngay cả khi hệ thống đang xử lý.
Với thiết bị Edge AI dùng Core Ultra, lớp bảo mật dựa trên phần cứng được tích hợp sẵn trên silicon. Cơ chế khởi động an toàn ngăn firmware giả mạo. Bộ nhớ vật lý được mã hóa để bảo vệ mô hình và dữ liệu, kể cả khi có người can thiệp trực tiếp vào thiết bị. Doanh nghiệp giữ được sở hữu trí tuệ và đáp ứng khung pháp lý về quyền riêng tư mà không phải đánh đổi hiệu năng.
Phần trả lời trên là góc nhìn của nhà cung cấp phần cứng, vì vậy doanh nghiệp cần tự kiểm chứng bằng dự án thí điểm với dữ liệu riêng. OpenVINO là mã nguồn mở nhưng được tối ưu trước hết cho phần cứng Intel, các kỹ sư luôn tích cực cải tiến và nâng cấp để có thể tương thích tốt hơn với những đơn vị khác. Khía cạnh “không bị khóa vào 1 nhà cung cấp” cũng nên được thử trên đúng những thiết bị mà doanh nghiệp có ý định định trang bị hay sử dụng. Điểm quan trọng đáng tham khảo nhất là nguyên tắc dùng vừa đủ tài nguyên: hiện tại có rất nhiều bài toán thị giác máy ở nhà xưởng hoàn toàn không cần tới sức mạnh của GPU rời.
Kiểm duyệt bởi: Hero Association












