Google báo động vấn nạn sử dụng AI để khủng bố, lừa đảo

Theo Ủy ban An toàn Điện tử Australia (eSafety Commission), gã khổng lồ công nghệ thuộc sở hữu của Alphabet cũng công bố nhận được hàng chục báo cáo từ người dùng cảnh báo rằng chương trình AI của họ - Gemini, đang bị sử dụng để tạo ra tài liệu lạm dụng trẻ em.

Theo luật pháp Australia, các công ty công nghệ phải cung cấp thông tin định kỳ cho eSafety Commission về các nỗ lực giảm thiểu tác hại, nếu không sẽ đối mặt với nguy cơ bị phạt. Thời gian báo cáo từ tháng 4/2023 đến tháng 2/2024.

Kể từ khi ChatGPT của OpenAI bùng nổ trong nhận thức cộng đồng vào cuối năm 2022, các nhà quản lý trên toàn thế giới đã kêu gọi thiết lập các biện pháp bảo vệ tốt hơn để AI tránh bị sử dụng hỗ trợ khủng bố, gian lận, nội dung giả mạo khiêu dâm và các hình thức lạm dụng khác.

ESafety Commission gọi tiết lộ của Google là "cái nhìn đầu tiên trên thế giới" về cách người dùng có thể đang khai thác công nghệ này để tạo ra nội dung gây hại và bất hợp pháp.

"Điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI cần tích hợp và kiểm tra hiệu quả của các biện pháp bảo vệ để ngăn chặn loại tài liệu này được tạo ra," Ủy viên eSafety Commission, Julie Inman Grant nói.

Trong báo cáo, Google cho biết đã nhận được 258 khiếu nại từ người dùng về nội dung khủng bố hoặc bạo lực cực đoan, nghi ngờ do AI tạo ra bằng Gemini, cùng với 86 báo cáo khác cáo buộc về tài liệu khai thác hoặc lạm dụng trẻ em do AI tạo ra. Tuy nhiên, eSafety Commission nói rằng Google không cho biết cụ thể có bao nhiêu khiếu nại trong số đó đã được xác minh.

Google đã sử dụng công nghệ "hatch-matching" - một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết - để xác định và xóa tài liệu lạm dụng trẻ em được tạo ra bởi Gemini. Có điều, đơn vị này đã không sử dụng cùng một hệ thống để loại bỏ tài liệu khủng bố hoặc cực đoan bạo lực được tạo bằng Gemini.

Cơ quan quản lý đã phạt Telegram và Twitter (sau này được đổi tên thành X) vì những gì họ gọi là thiếu sót trong báo cáo. X đã thua một lần kháng cáo về khoản phạt 382.000 USD nhưng dự định sẽ tiếp tục khiếu nại. Telegram cũng có kế hoạch khiếu nại về khoản tiền phạt đối với đơn vị này.