Diễn biến này đặt trong bối cảnh lo ngại ngày càng gia tăng về sự an toàn của AI và tầm ảnh hưởng ngày càng lớn của ngành công nghiệp này trong cộng đồng.

“Nó gần giống như một bản hiến pháp vậy”, Tổng thống Donald Trump nói, đề cập đến thỏa thuận giữa các công ty. “Và những người quyền lực nhất thế giới đã ký vào đó, và tôi đã ký với tư cách là tổng thống. Và nó thực sự là một hình thức bảo vệ”. Ông Trump đưa ra những bình luận này sau cuộc gặp với các giám đốc điều hành công nghệ tại Nhà Trắng.

Đặt niềm tin vào AI “tự kiểm soát”

Theo bản sao thỏa thuận được Tổng thống Mỹ đăng tải trên mạng xã hội, các công ty đã đồng ý hợp tác với “các kiểm toán viên độc lập” để đánh giá xem các hệ thống AI có hoạt động như ý định của người thiết kế hay không. Các công ty cũng cho biết họ sẽ nỗ lực đảm bảo các công cụ AI của mình không “hack hoặc truy cập vào các hệ thống kỹ thuật theo những cách không mong muốn”.

“Tôi nghĩ tôi đang thấy sự tự kiểm soát rất lớn. Và họ hiểu rằng họ phải tự kiểm soát”, Tổng thống Trump nói với các phóng viên trong một cuộc họp báo đột xuất bên ngoài Cánh Tây.

Ông Trump cũng cho biết khoảng 10 người sẽ được bổ nhiệm vào một ủy ban để “giám sát toàn bộ dự án” và nói rằng thỏa thuận sẽ “bị ràng buộc về mặt đạo đức”. Ông cũng cho biết sẽ sớm bổ nhiệm một quan chức mới để phụ trách các chính sách của Nhà Trắng về AI.

Chính quyền Mỹ đang phải đối mặt với sức ép ngày càng tăng về các rủi ro do AI tiên tiến gây ra, sau khi OpenAI và Anthropic báo cáo các tác nhân AI của họ đã hoạt động ngoài tầm kiểm soát và xâm nhập vào hệ thống của các công ty khác.

Trong khi đó, các trung tâm dữ liệu, nơi cung cấp sức mạnh tính toán để đào tạo và chạy các mô hình AI, đã vấp phải sự phản đối do lo ngại về nhu cầu điện năng, chi phí tiện ích và các tác động khác tới cộng đồng địa phương. Phản ứng dữ dội này đặt ra thách thức chính trị cho đảng Cộng hòa trước thềm cuộc bầu cử giữa nhiệm kỳ của Mỹ vào ngày 3/11.

Hoài nghi bủa vây

Theo Shri Narayanan, giáo sư đại học về kỹ thuật điện và máy tính tại Đại học Nam California, mục đích của thỏa thuận là cân bằng giữa sự tự do cần thiết cho đổi mới và quy định. Sự đổi mới đó không chỉ giới hạn ở việc cải thiện khả năng của các mô hình AI này, Narayanan cho biết, mà còn cả những nỗ lực để cải thiện sự an toàn và bảo mật của mô hình.

Các chuyên gia khác tỏ ra hoài nghi về việc “đặt quá nhiều niềm tin vào khả năng tự kiểm soát”, như Robin Jia, trợ lý giáo sư khoa học máy tính tại Đại học Nam California. Jia cho rằng điều quan trọng là phải đảm bảo ý định của các phòng thí nghiệm hàng đầu “phù hợp với lợi ích rộng lớn hơn của công chúng Mỹ”.

Ông chỉ ra những tiết lộ gần đây về các vụ tấn công mạng và nói: “Khi các mô hình ngày càng tốt hơn, hậu quả của những việc như vậy sẽ chỉ ngày càng nghiêm trọng hơn”.

Một số người cũng phản đối ngôn ngữ mơ hồ và chung chung của thỏa thuận. Alex Pascal, giám đốc điều hành của Trung tâm Berkman Klein về Internet và Xã hội, cho biết: “Cách duy nhất để giảm thiểu rủi ro và tác hại của AI đối với người Mỹ là thông qua trách nhiệm pháp lý mạnh mẽ, quy định và thay đổi căn bản động lực cạnh tranh đang thúc đẩy việc ra quyết định không an toàn của các nhà phát triển AI tiên phong, mà chi phí lại do người dân Mỹ gánh chịu”.

Mỹ và các tập đoàn công nghệ lớn ký cam kết kiểm soát AI

VOV.VN - Tổng thống Mỹ Donald Trump chiều 29/9 đã công bố một thỏa thuận tự nguyện về kiểm soát trí tuệ nhân tạo, được ký với lãnh đạo 6 tập đoàn công nghệ hàng đầu. Văn bản thiết lập bốn lớp giám sát nhằm phát hiện và ngăn chặn các hệ thống AI hoạt động ngoài dự kiến.