Người bảo vệ AI của Meta: Bảo vệ thời gian thực chống lại các mối nguy kỹ thuật số cho thanh thiếu niên

Meta đã giới thiệu một loạt các biện pháp bảo vệ mới dựa trên AI, được thiết kế đặc biệt nhằm tăng cường an toàn cho thanh thiếu niên sử dụng các nền tảng của mình, bao gồm WhatsApp, Instagram và Facebook. Công ty thông báo rằng các chatbot AI tiên tiến sẽ giám sát và lọc nội dung có hại, xác định các tương tác đáng ngờ, đồng thời cảnh báo người dùng hoặc quản trị viên khi phát hiện hành vi tiềm ẩn nguy hiểm. Sáng kiến này phù hợp với áp lực ngày càng tăng từ các cơ quan quản lý và nhu cầu công chúng về việc bảo vệ kỹ thuật số mạnh mẽ hơn cho trẻ vị thành niên.

Các hệ thống AI sẽ sử dụng xử lý ngôn ngữ tự nhiên (NLP) và phân tích hành vi để phát hiện các rủi ro như bắt nạt trên mạng, dụ dỗ và tiếp xúc với tài liệu không phù hợp. Nghiên cứu nội bộ của Meta chỉ ra rằng các tương tác có hại trên mạng xã hội phổ biến hơn ở nhóm người dùng từ 13 đến 18 tuổi so với ước tính trước đây, thúc đẩy nhu cầu can thiệp chủ động. Công ty nhấn mạnh rằng các hệ thống này sẽ không giám sát các cuộc trò chuyện riêng tư theo cách xâm phạm quyền riêng tư của người dùng, mà thay vào đó tập trung vào việc phát hiện các mô hình và hành vi có hại.

Một trong những tính năng chính của các chatbot AI là khả năng phát hiện và đánh dấu các cuộc trò chuyện có thể nguy hiểm trong thời gian thực. Ví dụ, hệ thống có thể nhận diện các mô hình cho thấy một kẻ săn mồi đang cố gắng dụ dỗ trẻ vị thành niên và tự động cảnh báo người dùng hoặc, trong một số trường hợp, thông báo cho cơ quan chức năng địa phương nếu đạt đến ngưỡng nhất định. Meta cũng đã triển khai các cơ chế kiểm soát cho người dùng, cho phép thanh thiếu niên tùy chỉnh cài đặt quyền riêng tư và chọn không tham gia một số tính năng giám sát nhất định, đảm bảo cân bằng giữa an toàn và quyền tự chủ.

Các biện pháp bảo vệ mới này là một phần trong sáng kiến AI Có Trách Nhiệm rộng lớn hơn của Meta, nhằm phát triển các hệ thống AI minh bạch, công bằng và hiệu quả trong việc giảm thiểu rủi ro trực tuyến. Công ty đã hợp tác với các tổ chức bảo vệ trẻ em để huấn luyện các mô hình AI trên các bộ dữ liệu phản ánh nhiều loại hành vi có hại trên mạng. Những hợp tác này nhằm cải thiện độ chính xác và sự phù hợp về văn hóa của các can thiệp từ AI, đặc biệt là trên các khu vực và ngôn ngữ khác nhau.

Meta cũng cam kết thường xuyên công bố các báo cáo minh bạch chi tiết về hiệu suất của các chatbot AI và số lượng sự cố đã được xác định và xử lý. Công ty thừa nhận rằng các hệ thống AI không phải lúc nào cũng hoàn hảo và việc liên tục hoàn thiện là điều cần thiết để giảm thiểu các cảnh báo sai và đảm bảo hệ thống không ảnh hưởng quá mức đến trải nghiệm người dùng. Theo các chỉ số nội bộ, các chatbot đã đánh dấu hàng nghìn tương tác đáng ngờ trong các giai đoạn thử nghiệm ban đầu, với tỷ lệ ngày càng tăng các trường hợp được xác minh là có hại.

Các nhà phân tích trong ngành đã đánh giá cao động thái này như một bước tiến quan trọng trong việc bảo vệ trẻ em trên môi trường số, mặc dù một số người cảnh báo rằng chỉ riêng AI không thể giải quyết tất cả các rủi ro trực tuyến. Theo một chuyên gia, thành công của sáng kiến này phần lớn sẽ phụ thuộc vào việc các mô hình AI được huấn luyện hiệu quả như thế nào và cơ chế phản hồi có kịp thời khi phát hiện rủi ro hay không. Khi Meta triển khai các chatbot AI trên các nền tảng của mình, công ty sẽ tiếp tục thu thập phản hồi từ người dùng và các cơ quan quản lý để hoàn thiện hệ thống và giải quyết bất kỳ mối quan ngại mới nào phát sinh.

Nguồn: