Một nhà công nghệ AI nổi tiếng khác đang lên tiếng về những cạm bẫy tiềm ẩn của AI.

“Thật khó để biết làm thế nào bạn có thể ngăn chặn những kẻ xấu sử dụng nó cho mục đích xấu,” Geoffrey Hinton kể(Mở ra trong một cửa sổ mới) Thời báo New York. “Tôi tự an ủi mình với lý do bình thường: Nếu tôi không làm thì người khác sẽ làm.”

Hinton, 75 tuổi, đã từ chức khỏi Google vào tháng trước sau hơn một thập kỷ để “tự do lên tiếng về những rủi ro của AI”. lần nói. Anh ấy đã giành được Giải thưởng Turing 2018 vì đã đi tiên phong trong một số công nghệ hiện cung cấp năng lượng cho ChatGPT và các công cụ AI tổng quát tương tự—đồng thời được đặt biệt danh là “Bố già của AI”—nhưng giờ đây anh ấy nói rằng một phần trong anh ấy hối tiếc về công việc của đời mình.

Mối quan tâm trước mắt của Hinton là sự lan truyền thông tin sai lệch: tràn ngập ảnh, video và văn bản giả mạo khiến người ta không thể biết “đâu là sự thật nữa”. Các công cụ mới tạo deepfakes hoặc bản sao do máy tính tạo ra về giọng nói và ngoại hình của một người nổi tiếng, giúp bất kỳ ai có máy tính và kết nối internet đều có thể xuyên tạc các nhân vật của công chúng một cách dễ dàng.

Chẳng hạn, Midjourney gần đây đã tạm dừng quyền truy cập miễn phí vào trình tạo hình ảnh AI của mình trong bối cảnh nhu cầu tăng đột biến. Một số người đã sử dụng nền tảng này để tạo ra những hình ảnh giả mạo về những nhân vật của công chúng như Donald Trump (xem bên dưới), Elon Musk và Giáo hoàng.

tiếng riu ríu(Mở ra trong một cửa sổ mới)

Hinton cũng cho biết AI sẽ thay thế công việc với tốc độ đáng báo động. Anh ấy thừa nhận hầu hết các vị trí này là “công việc cực nhọc”, nhưng AI “có thể lấy đi nhiều hơn thế”, anh ấy nói.

Về lâu dài, anh ấy lo ngại máy móc sẽ bắt đầu thể hiện hành vi ngoài ý muốn, chẳng hạn như tự viết và thực thi mã gốc. Kết cục thảm khốc nhất của việc này có thể xảy ra dưới dạng vũ khí tự động—người máy sát thủ—điều mà Hinton cực lực phản đối. (Các nhà lập pháp Hoa Kỳ gần đây đã chuyển sang đảm bảo AI không tham gia vào việc phóng vũ khí hạt nhân.)

Hinton cho biết Google là “người quản lý thích hợp” về AI trong phần lớn nhiệm kỳ của ông, nhưng vào mùa thu năm ngoái, hãng đã ban hành “mã đỏ” nội bộ sau khi ra mắt chatbot Bing AI của Microsoft. Google sau đó đã ra mắt Bard và hai gã khổng lồ công nghệ hiện đang “bị khóa trong một cuộc cạnh tranh có thể không thể dừng lại”, Hinton nói với lần.

Hinton đã không thêm chữ ký của mình vào bức thư ngỏ tháng 3 có chữ ký của Elon Musk, Steve Wozniak và hàng trăm chuyên gia AI khác kêu gọi tạm dừng phát triển AI vì ông muốn rời Google trước khi lên tiếng.

Nội Dung

Được giới thiệu bởi các biên tập viên của chúng tôi

5 cách phát hiện văn bản do AI viết

Elon Musk, Wozniak, những người khác thúc đẩy các phòng thí nghiệm ‘Tạm dừng’ đào tạo hệ thống AI

Cách mạng hay Hủy hoại? Điều mà Musk, Gates và 5 nhà công nghệ khác lo sợ nhất về AI

tiếng riu ríu(Mở ra trong một cửa sổ mới)

Hinton đã nói chuyện với Giám đốc điều hành Google Sundar Pichai trước khi rời đi, nhưng từ chối tiết lộ lần những gì họ đã thảo luận.

Tuy nhiên, Google đã gặp rắc rối với những nhân viên hiện tại là cựu nhân viên, những người đã chỉ trích cách tiếp cận AI của họ. Vào năm 2020, Timnit Gebru, một nhà nghiên cứu AI, đã bị sa thải sau khi cảnh báo(Mở ra trong một cửa sổ mới) về khả năng tuyên truyền phân biệt chủng tộc, phân biệt giới tính và các luận điệu có hại cũng như truyền bá thông tin sai lệch của các mô hình ngôn ngữ lớn. Vào năm 2022, Blake Lemoine đã gọi chatbot Google LaMDA là “có tri giác” và cáo buộc Google chạy đua để đưa sản phẩm ra thị trường mà không hiểu hết khả năng của nó. Anh cũng được thả.

Google hiện đang phát triển Bard, được xây dựng trên phiên bản nhẹ của LaMDA. Pichai cho biết công ty có kế hoạch thêm Bard vào công cụ tìm kiếm cốt lõi vào một thời điểm nào đó, trong khi nó được cho là hoạt động trên một công cụ tìm kiếm dựa trên AI riêng biệt có tên là Magi. Microsoft đã cập nhật công cụ tìm kiếm Bing của mình với trải nghiệm dựa trên chatbot AI.

Trong một tuyên bố, Google nói với lần rằng đó là “cam kết thực hiện một cách tiếp cận có trách nhiệm đối với AI. Chúng tôi đang liên tục học hỏi để hiểu những rủi ro mới nổi đồng thời cũng mạnh dạn đổi mới.”