Một thượng nghị sĩ Virginia tuần này đã cảnh báo các CEO công nghệ hàng đầu về “nhu cầu cấp thiết” phải ưu tiên bảo mật khi phát triển công nghệ AI.

“Với việc sử dụng AI ngày càng nhiều trên các khu vực rộng lớn trong nền kinh tế của chúng ta và khả năng các mô hình ngôn ngữ lớn được tích hợp đều đặn vào một loạt các hệ thống hiện có, từ lĩnh vực chăm sóc sức khỏe đến tài chính, tôi nhận thấy nhu cầu cấp thiết phải nhấn mạnh tầm quan trọng của việc bảo mật đi đầu trong công việc của bạn,” Thượng nghị sĩ Mark Warner đã viết(Mở ra trong một cửa sổ mới) cho các CEO của 10 công ty.

Tuy nhiên, các cam kết của ngành có thể là chưa đủ, vì Warner—chủ tịch Ủy ban Tình báo do Thượng viện chọn lọc—cho biết “rõ ràng là cần có một số mức độ quy định trong lĩnh vực này.”

Warner đã gửi bức thư tới các CEO của OpenAI, Scale AI, Meta, Google, Apple, Stability AI, Midjourney, Anthropic, Percipient.ai và Microsoft.

Ông kêu gọi họ “ưu tiên bảo mật, chống lại sự thiên vị và triển khai các công nghệ mới một cách có trách nhiệm.” Ông chỉ ra các nhà nghiên cứu đã “liên tục chứng minh một số điểm yếu đáng lo ngại, có thể khai thác trong các sản phẩm nổi bật, bao gồm khả năng tạo thông tin sai lệch có vẻ đáng tin cậy, phát triển phần mềm độc hại và tạo ra các kỹ thuật lừa đảo tinh vi.”

Warner đã yêu cầu thông tin chi tiết về các chiến lược bảo mật của công ty, giới hạn quyền truy cập của bên thứ ba và các bước được thực hiện để đảm bảo đầu vào và đầu ra dữ liệu “an toàn và chính xác”.

Nội Dung

Được giới thiệu bởi các biên tập viên của chúng tôi

7 lựa chọn thay thế ChatGPT sẵn sàng trả lời các câu hỏi hóc búa của bạn

AI sẽ đảm nhận nhiều công việc về an ninh mạng, nhưng nó không phải là một thảm họa hoàn toàn

ChatGPT so với Google Bard so với Bing: AI Chatbot nào đưa ra câu trả lời hay nhất?

Trong email gửi tới PCMag, Scale AI và Anthropic xác nhận đã nhận được bức thư nhưng từ chối bình luận thêm. Chúng tôi đã liên hệ với tám công ty khác và sẽ cập nhật câu chuyện này nếu chúng tôi nhận được phản hồi.

Ghi chú của biên tập viên: Bài viết này đã được cập nhật với phản hồi từ Scale AI và Anthropic.