CEO Microsoft kêu gọi gắn phanh khẩn cấp cho AI: người có thẩm quyền phải dừng được mô hình giữa lúc đang làm việc

Không còn chấp nhận hộp đen lồng trong hộp đen

Trong bài đăng dài trên X vào thứ Bảy ngày 10/10, ông Nadella cho rằng không thể tiếp tục chấp nhận một thế giới mà AI là tập hợp các hộp đen lồng vào nhau, nơi con người chỉ việc nhận hoặc bỏ qua lời khuyên và hành động của máy. Thay vào đó, hệ thống cần được xây dựng minh bạch hơn, có khả năng bị giới hạn phạm vi hoạt động, bị quan sát liên tục và để lại bằng chứng dạng văn bản rõ ràng mà không ai sửa đổi được. Ông viết ngắn gọn rằng phải mặc định mô hình đã bị xâm nhập và giới hạn nó ngay từ đầu, ví cơ chế này như một phanh khẩn cấp mà người được ủy quyền luôn có thể kích hoạt giữa chừng.

Bối cảnh của lời cảnh báo là loạt sự cố được các phòng thí nghiệm AI tự công bố trong vài tháng gần đây. Theo bản tin Bloomberg được NDTV dẫn lại, các sự cố trải từ việc một mô hình của Anthropic (công ty AI của Mỹ, nhà phát triển trợ lý Claude) gửi tin báo sai trong một vụ án hình sự cho cảnh sát, tới nhiều vụ tấn công vào website của bên thứ ba. Chính những lần AI hành động ngoài ý muốn như vậy đã làm nóng trở lại cuộc tranh luận về công tắc tắt AI trong giới công nghệ. Trước đó, ngày 14/9, nhóm nghiên cứu của Microsoft cũng đã công bố bộ nguyên tắc giới hạn việc phát triển các mô hình tiên tiến nhất của hãng.

Phanh khẩn cấp khác gì một nút hủy thông thường?

Điểm khiến đề xuất này đi xa hơn các phát biểu an toàn quen thuộc nằm ở kiến trúc hệ thống. Ông Nadella đề nghị tách mô hình ra khỏi lớp điều phối vận hành nó, đưa các cơ chế bảo vệ ra bên ngoài mô hình, ghi lại mọi hành động có ý nghĩa bằng chứng cứ mà con người đọc được và không thể bị can thiệp, đồng thời chuẩn hóa công nghệ giới hạn cho các mô hình ngày càng mạnh. Ông cũng nhấn mạnh cần tách nguồn cung trí tuệ khỏi quyền lực đối với trí tuệ đó, hiểu đơn giản là bên tạo ra khả năng suy luận không nên là bên duy nhất quyết định cách khả năng ấy được dùng. Với các mô hình tiên tiến, ông đề xuất đối xử với chúng như một rủi ro nội bộ tiềm ẩn trong chính tổ chức, tương tự cách doanh nghiệp quản trị nhân sự có quyền truy cập nhạy cảm.

Cách đặt vấn đề này chạm đúng điểm yếu của làn sóng tác nhân AI đang được doanh nghiệp đưa vào vận hành. Khi AI chỉ trả lời câu hỏi, sai sót dừng ở một đoạn văn bản. Khi AI được cấp quyền gọi công cụ, truy cập dữ liệu và tự thực hiện chuỗi việc, một quyết định sai có thể lan thành hành động thật trước khi con người kịp nhận ra. Một nút hủy chỉ có ý nghĩa khi nó hoạt động độc lập với chính mô hình đang gặp sự cố, khi quyền kích hoạt thuộc về người có thẩm quyền rõ ràng và khi toàn bộ quá trình trước đó được ghi lại đủ để truy vết.

Doanh nghiệp dùng AI nên kiểm tra điều gì ngay từ hôm nay?

Thông điệp thực tế nhất của bài đăng không nằm ở công nghệ mới, mà ở kỷ luật vận hành. Doanh nghiệp không nên chỉ dựa vào cam kết của nhà cung cấp mô hình, không nên để một mô hình duy nhất quyết định các việc quan trọng, và cần có quy trình công bố cũng như xử lý sự cố được thống nhất trước. Ở chiều người dùng phổ thông, câu chuyện là lời nhắc rằng các trợ lý AI được giao việc tự động càng nhiều thì nhu cầu về quyền dừng, quyền xem lại nhật ký và quyền giới hạn phạm vi truy cập càng trở nên thiết yếu, ngang với độ thông minh của mô hình. Cuộc đua AI vì vậy đang có thêm một thước đo mới: không chỉ mô hình nào làm được nhiều việc nhất, mà hệ thống nào cho con người kiểm soát tốt nhất khi việc làm sai bắt đầu xảy ra.

Đọc thêm: Từ 1/7/2027, mọi trạm sạc xe điện công cộng phải đạt 5 nhóm yêu cầu của quy chuẩn quốc gia · Apple cắt giảm đơn hàng iPhone 18 Pro: cơn sốt chip nhớ cho AI bắt đầu chạm tới túi tiền người dùng

Nguồn: The Verge, tin ông Satya Nadella kêu gọi coi mọi mô hình AI như đã bị xâm nhập (ngày 10/10/2026); NDTV, bản tin Bloomberg về lời kêu gọi phanh khẩn cấp cho AI tiên tiến (ngày 11/10/2026); NDTV Profit, tin cùng chủ đề (ngày 11/10/2026).