- Các công ty AI đã điều chỉnh dịch vụ và quy định bầu cử trước Ngày Bầu cử.
- Perplexity đã ra mắt Trung tâm Thông tin Bầu cử Election Information Hub với dữ liệu về ứng viên, hậu cần và kết quả.
- Trong khi đó, Google đang hạn chế nội dung bầu cử tạo bởi AI để tránh rủi ro kèm theo.
ChatGPT chưa ra đời trong cuộc bầu cử tổng thống năm 2020. Sự ra mắt của nó cách đây hai năm đã khởi động làn sóng chatbot AI tạo sinh và các công cụ tích hợp vào các sản phẩm tiêu dùng phổ biến như Google Search.
Trước cuộc bầu cử, các công ty đứng sau sản phẩm phải quyết định những hạn chế, nếu có, họ sẽ áp dụng đối với nội dung liên quan đến bầu cử được tạo bởi AI, phân tích các rủi ro liên quan.
Một số công ty, như startup AI Perplexity, đang công khai sử dụng AI để trả lời câu hỏi về cuộc bầu cử.
Công cụ tìm kiếm AI đã ra mắt “Trung tâm Thông tin Bầu cử” chuyên dụng, sử dụng AI để cung cấp thông tin về cuộc bầu cử sắp tới và theo dõi kết quả. Trung tâm bao gồm chi tiết về yêu cầu bỏ phiếu, cách tìm địa điểm bỏ phiếu và thời gian bỏ phiếu, cùng phân tích tóm tắt bằng AI về các dự luật và ứng cử viên, công ty đã viết trong thông báo.
“Perplexity áp dụng quy trình gọi là RAG (Retrieval-Augmented Generation) để xác định thông tin liên quan và tóm tắt nó theo cách phù hợp với câu hỏi của người dùng,” người phát ngôn Perplexity Sara Platnick nói với Business Insider.
Đối với các câu hỏi liên quan đến bầu cử, công ty đang sử dụng một “bộ được tuyển chọn” (curated set) các nguồn phi đảng phái và đã được kiểm chứng, công ty cho biết. Trung tâm riêng biệt không sử dụng kiến thức lưu trữ từ dữ liệu huấn luyện của mô hình trong các phản hồi, giúp giảm thiểu ảo giác (hallucinations), Platnick nói với BI.
Perplexity sẽ bắt đầu cung cấp cập nhật trực tiếp về các cuộc bầu cử vào thứ Ba bằng cách sử dụng dữ liệu từ Associated Press. Các phản hồi khác sẽ sử dụng thông tin từ Democracy Works và các nguồn thực tế phi đảng phái khác như Ballotpedia và các tổ chức tin tức, Platnick cho biết.
Alon Yamin, đồng sáng lập và CEO của nền tảng phân tích văn bản AI Copyleaks, cho rằng cách tiếp cận của Perplexity “chắc chắn có thể giúp lọc và bối cảnh hóa nội dung,” giúp người dùng tiếp cận nguồn đáng tin cậy.
Yamin chỉ ra rằng việc sử dụng AI cho thông tin bầu cử có thể mang lại lợi ích. AI có thể cung cấp cập nhật thời gian thực và giúp xác định xu hướng, tâm lý cử tri và các vấn đề chính.
Tuy nhiên, Yamin cho rằng khả năng AI ảo giác và vấn đề chính xác tạo ra rủi ro.
Các công ty khác đang áp dụng phương pháp khác nhau. OpenAI sẽ tiếp tục tích hợp các phản hồi liên quan đến bầu cử vào ChatGPT, đồng thời cung cấp một số tính năng bổ sung nhân dịp bầu cử.
Từ ngày 5 tháng 11, những người hỏi ChatGPT về kết quả bầu cử sẽ thấy thông báo khuyến khích kiểm tra các nguồn như Associated Press và Reuters, hoặc hội đồng bầu cử tiểu bang và địa phương để có “thông tin đầy đủ và cập nhật nhất”, công ty cho biết trong bài đăng cập nhật ngày 31 tháng 10.
OpenAI cho biết họ đang “tích cực kiểm tra các biện pháp bảo vệ” được triển khai trong năm qua và theo dõi mọi vấn đề. Họ cũng nói sẽ tiếp tục điều chỉnh các biện pháp bảo vệ, bao gồm minh bạch về nội dung do AI tạo ra và ngăn chatbot giả mạo người thật.
ChatGPT sẽ hướng dẫn người dùng đến trang thông tin bầu cử CanIVote.org khi được hỏi về thủ tục liên quan đến bầu cử.
Claude của Anthropic cũng đã triển khai tính năng pop-up, cho phép người dùng hỏi thông tin bầu cử được chuyển hướng đến TurboVote, một nguồn phi đảng phái từ Democracy Works, theo bài đăng của họ.
Anthropic đã áp dụng các biện pháp bảo vệ khác, bao gồm cấm người dùng sử dụng nó để quảng bá một ứng cử viên hoặc vấn đề cụ thể. Công ty cho biết sẽ ngăn chặn chatbot tạo ra thông tin sai lệch về luật bầu cử, ứng cử viên hoặc các chủ đề liên quan. Trong bài đăng, công ty nói rằng đầu ra sẽ chỉ giới hạn ở văn bản để giúp loại bỏ “nguy cơ deepfake liên quan đến bầu cử.”
Mặc dù cập nhật bầu cử trực tiếp có thể hữu ích, nội dung bầu cử do AI tạo ra tiềm ẩn nhiều rủi ro.
Yamin chỉ ra rằng AI có thể lan truyền thông tin thiên lệch, hiểu sai dữ liệu và tạo ra các câu chuyện giả. Ông cũng nói thêm rằng các mô hình này “chỉ tốt như dữ liệu chúng được đào tạo”, điều này tạo ra rủi ro các phản hồi do AI tạo ra phản ánh sự thiên vị của dữ liệu đào tạo.
Hiểu lầm có thể trầm trọng hơn nếu AI diễn giải sai thông tin và đưa ra kết quả không chính xác, đặc biệt trong môi trường bầu cử diễn biến nhanh và được theo dõi sát sao, Yamin nói với BI.
Google, sau những thất bại được công khai rộng rãi với Gemini AI và AI Overviews, đã quyết định áp dụng hạn chế về những gì người dùng có thể hỏi các sản phẩm AI của mình về cuộc bầu cử. Google cho biết họ đang giới hạn chatbot AI Gemini không trả lời các câu hỏi về bầu cử “để thận trọng hơn.”
Một tìm kiếm tương tự trên công cụ tìm kiếm chính của Google vào thứ Ba không tạo ra bản tóm tắt Tổng quan AI, mà hiển thị băng chuyền “Tin hàng đầu” từ các nhà xuất bản.
Google chưa phản hồi ngay lập tức yêu cầu bình luận từ Business Insider.
Brad Carson, đồng sáng lập và chủ tịch tổ chức phi lợi nhuận Người Mỹ vì Đổi mới Có trách nhiệm, nói với BI rằng mặc dù cách tiếp cận của Google đáng khen ngợi, nhưng nó không phải là giải pháp toàn cầu cho vấn đề này.
Carson cho rằng chống lại thông tin sai lệch “không phải việc dễ dàng”, và mặc dù các công ty nên cố gắng hạn chế thông tin sai lệch, chính phủ nên xây dựng luật yêu cầu các công ty AI gắn nhãn rõ ràng cho thông tin họ cung cấp cho người dùng.
“Tôi nghĩ rằng các sản phẩm khác có thể sẽ lấp đầy khoảng trống mà Google để lại, nhưng tôi cho rằng Google có trách nhiệm khi cố gắng lùi lại một chút,” Carson nói.
Tác giả: Ana Altchek ,
Link bài gốc: The election is a big test for AI companies like OpenAI and Perplexity | Bài được đăng vào ngày 05/11/2024, trên www.businessinsider.com
Dịch giả: Dieter R – KenkAI Nhiều thứ hay
(*) Bạn có thể sao chép và chia sẻ thoải mái.
(**) Follow KenkAI Nhiều thứ hay để đọc các bài dịch khác và cập nhật thông tin bổ ích hằng ngày.
Để lại một bình luận