Các thành viên Quốc Hội Mỹ đòi hỏi Google giải đáp về trí tuệ nhân tạo

Một nhóm các nhà lập pháp Hoa Kỳ, do Đại biểu Adam Schiff dẫn đầu, đã đặt một thời hạn đến ngày 1 tháng 8 cho CEO của Alphabet/Google, Sundar Pichai, nhất trí cung cấp thông tin liên quan đến tính năng “Tổng quan trí tuệ nhân tạo” của công ty trong Tìm kiếm.

Tổng quan trí tuệ nhân tạo là một cửa sổ tóm lược xuất hiện ở đầu trang của các trang Tìm kiếm Google khi người dùng thực hiện một truy vấn. Thông thường, nó chứa một câu trả lời văn bản ngắn, một hình ảnh nếu liên quan và các liên kết hỗ trợ.

Theo văn phòng của Schiff, dẫn theo nhiều báo cáo, Tổng quan trí tuệ nhân tạo có xu hướng đưa ra thông tin không chính xác và/hoặc có thể nguy hiểm.

Yêu cầu này, được đăng tải bởi văn phòng của Schiff và đồng ký bởi bốn thành viên Quốc hội khác, yêu cầu câu trả lời cho mười một câu hỏi về tính năng liên quan đến các nỗ lực của công ty để đảm bảo độ chính xác và an toàn cao hơn.

Tổng quan trí tuệ nhân tạo

Một số vấn đề với Tổng quan trí tuệ nhân tạo xuất phát từ sự không có khả năng rõ ràng của nó để xác định xem một nguồn cung cấp nhất định có phải là châm biếm hay không. “Tính năng Tổng quan trí tuệ nhân tạo của Google đã nói với người dùng để ăn ít nhất một viên đá mỗi ngày để có vitamin và khoáng chất,” Schiff và các thành viên Quốc hội khác viết, thêm vào rằng trí tuệ nhân tạo đã trích dẫn từ trang tin châm biếm "The Onion".

Trong các trường hợp khác, như khi người dùng bắt đầu báo cáo rằng Tổng quan trí tuệ nhân tạo tuyên bố Barack Obama là Tổng thống Mỹ đầu tiên là người Hồi giáo, hệ thống trí tuệ nhân tạo đã trích dẫn thẳng lên các lý thuyết âm mưu đã bị phản bác.

Thư của Schiff ghi nhận những nỗ lực liên tục của Google trong việc chống thông tin sai lạc, nhưng khẳng định rằng cần phải làm nhiều hơn:

“Chúng tôi đánh giá cao những nỗ lực của Google để khắc phục những sai sót này bằng cách cải thiện tính năng thông qua việc kiểm tra tiếp tục, gỡ bỏ các câu trả lời vi phạm chính sách nội dung của công ty và gắn nhãn cho các câu trả lời được tạo ra bởi trí tuệ nhân tạo như là thử nghiệm. Tuy nhiên, có việc phải làm thêm để đảm bảo rằng Google có thể tiếp tục là một nguồn tin cậy và tin cậy về thông tin cho người Mỹ.”

Lý do trí tuệ nhân tạo

Hiện nay, không có sự đồng thuận khoa học nào cho thấy những vấn đề loại này có thể thực sự được giải quyết. Ý tưởng chính của vấn đề là trí tuệ nhân tạo không "suy nghĩ" hay "lý giải", mặc dù cả hai thuật ngữ này đều được sử dụng phổ biến trong tiếp thị cho các sản phẩm trí tuệ nhân tạo.

Các hệ thống trí tuệ nhân tạo tạo văn bản theo hình thái của con người nhưng thiếu khả năng hiểu ngữ cảnh hoặc áp dụng kinh nghiệm tích luỹ vào tình huống.

Các vấn đề này đã tồn tại từ lâu trong lĩnh vực và đã được nhận thấy trong các mô hình ngôn ngữ lớn đầu tiên như GPT-2 của OpenAI và hệ thống “Galactica” của Meta hiện đã ngừng hoạt động "galactica" sau ba ngày vì phản ứng mà ra mắt của nó gây ra.

Yêu cầu của Mỹ

Để hiểu rõ hơn về những nỗ lực của Google, Schiff và các nhà lập pháp đồng minh của ông đã đòi hỏi Pichai và Google phải trả lời trước ngày 1 tháng 8 với các câu trả lời cho một danh sách gồm 11 câu hỏi. Các câu hỏi này bao gồm thông tin về quy trình xếp hạng của công ty, kiểm tra sự thật tự động, độ chính xác, nguồn gốc, sự minh bạch, và cách công ty đang làm việc với cơ quan chức năng để đảm bảo an toàn.

Liên quan: Dữ liệu lỗi đen Microsoft Windows làm đình trệ các công ty tài chính lớn, gây hỗn loạn trong đi lại