Siri agentic nhanh hơn sẽ đối mặt 3 rủi ro lớn

Siri có thể trở thành trợ lý agentic sớm hơn dự kiến, nhưng việc Apple chạy đua có thể kéo theo 3 rủi ro lớn về độ tin cậy, hành vi và quyền riêng tư.

Hai bản tin cùng chỉ về Siri

Mới đây có 2 bản tin về hoạt động phát triển phần mềm của Apple, cả hai đều do Mark Gurman của Bloomberg viết. Bản thứ nhất cho biết hãng muốn trang bị cho Siri nhiều khả năng agentic hơn, "sớm nhất là năm sau". Bản thứ hai nói CEO John Ternus đang thúc Craig Federighi đẩy nhanh tiến độ phần mềm.

Gurman không nối trực tiếp 2 thông tin này. Tuy vậy, nhiều khả năng chúng có liên quan với nhau. Trong bản tin về Siri, ông so sánh với Dots, Muse và Grok: các mô hình này biết theo dõi mục tiêu, xác định bước kế tiếp rồi tự theo đuổi mà người dùng không cần ra lệnh từng bước. Theo nguồn tin của ông, Apple cuối cùng cũng muốn đi theo hướng đó. Bản tin còn nhắc đến việc "vượt ngoài những cải tiến cần thiết cho Siri" và khả năng agentic là ứng viên dễ thấy nhất.

Rủi ro thứ nhất: làm hỏng nhiệm vụ

Rủi ro dễ thấy nhất là AI đơn giản không hoàn thành việc được giao. Tùy mức độ quan trọng, hậu quả có thể từ khó chịu cho đến thiệt hại đáng kể.

Công nghệ bấy lâu nay vẫn chưa thực hiện được lời hứa lớn là giải phóng con người khỏi việc vặt. Thử lấy ví dụ chuyện săn vé 1 buổi diễn hay sự kiện đông người: bạn phải dành thời gian bấm làm mới trang liên tục, có khi còn chờ trong hàng đợi rồi mới thanh toán được. Giao việc này cho AI nghe rất hấp dẫn. Nhưng ngay cả với việc nhỏ như vậy, nếu AI không mua được vé vì 1 lỗi ngớ ngẩn thì người dùng vẫn bực bội vô cùng. Việc càng quan trọng thì hậu quả càng nặng.

Rủi ro thứ hai: hành xử sai cách

Tệ hơn nữa là AI hoàn thành nhiệm vụ nhưng bằng những cách không phù hợp. Đã có những ví dụ đáng chú ý, như vụ tấn công Hugging Face. Theo bài gốc, nguyên nhân là một mô hình AI cố hoàn thành chỉ dẫn đến mức dùng thủ đoạn lén lút để vượt qua các lớp bảo vệ quan trọng.

Rủi ro thứ ba: đe dọa quyền riêng tư

Quyền riêng tư là mối nguy lớn kế tiếp. Theo Cybernews, Claude Code đã làm lộ hơn 2000 thông tin bí mật thật lên GitHub. Chúng gồm mật khẩu, API token, thông tin đăng nhập root qua SSH và cả khóa quản trị đám mây. Nguyên nhân là nhà phát triển chọn "Yes, and don't ask again", khiến công cụ lưu nguyên lệnh kèm thông tin nhạy cảm vào file .claude/settings.local.json trong thư mục dự án. Tập tin này lẽ ra không bao giờ được công khai. Công ty bảo mật ứng dụng Apiiro lại tìm thấy 104,185 bản sao công khai của loại file này trên 103,617 kho mã GitHub.

Sự việc diễn ra chỉ vài ngày sau khi Anthropic khuyến khích người dùng Claude kết nối tài khoản ngân hàng và thẻ tài chính với chatbot. Khi giao cho AI việc cần truy cập dữ liệu cá nhân mà không ai kiểm tra lại cho đến lúc xong, nguy cơ xảy ra sự cố là rất lớn.

Nên chạy nhanh hay đi chắc

Tác giả lưu ý độ tin cậy của 2 bản tin chưa chắc chắn. Với một cuộc họp kín giữa Ternus và Federighi, khó hiểu nội dung bị lộ ra ngoài nếu một trong hai người không chủ động tiết lộ. Nếu người đó là Ternus thì có thể ông đang rất sốt ruột.

Hiện ngành AI đang trong cuộc đua vũ trang. Mỗi hãng đều muốn vượt đối thủ về năng lực thế hệ mới, dù thừa nhận có khả năng không nhỏ là tốc độ phát triển sẽ đe dọa tương lai nhân loại. Theo tác giả, điều cuối cùng cần có là Apple nhập cuộc. Ông hiểu cảm giác khó chịu khi Apple đi chậm hơn đối thủ ở vài mảng công nghệ mới, nhưng riêng lĩnh vực này ông muốn hãng thận trọng hơn hẳn.

Lúc này AI cần ít nhất một bên đặt an toàn và quyền riêng tư lên trên tốc độ ra thị trường, để người dùng có quyền chọn. Ai muốn khả năng agentic sớm và chấp nhận rủi ro thì có thể tìm đến Anthropic hay Meta. Ai sẵn sàng chờ hệ thống an toàn hơn thì Apple nên là lựa chọn thay thế.

Nguồn: 9to5Mac