Trí tuệ nhân tạo đã được chính phủ đặt vào tâm ngắm vì cách nó có thể bị lạm dụng cho gian lận, thông tin sai lệch và các hoạt động xấu trên mạng khác. Bây giờ, một cơ quan quản lý ở Anh muốn khám phá cách AI được sử dụng ở một phía khác: trong cuộc chiến chống lại nội dung xấu dành cho trẻ em.

Ofcom, cơ quan quản lý được giao nhiệm vụ thi hành Đạo luật An toàn Trực tuyến của Anh, dự định tổ chức một cuộc thảo luận về cách mà AI và các công cụ tự động khác đang được sử dụng hiện nay, và có thể được sử dụng trong tương lai, để phát hiện và loại bỏ nội dung bất hợp pháp trực tuyến một cách chủ động, đặc biệt là để bảo vệ trẻ em khỏi nội dung có hại và xác định tài liệu lạm dụng tình dục trẻ em mà trước đây khó phát hiện.

Bước đi này trùng với việc Ofcom công bố nghiên cứu cho thấy người dùng trẻ hơn bao giờ hết: Trong số trẻ em chỉ mới 3 hoặc 4 tuổi, khoảng 84% đã truy cập Internet, và gần một phần tư trẻ em từ 5-7 tuổi đã sở hữu điện thoại thông minh riêng của họ.

Các công cụ mà Ofcom có thể giới thiệu sẽ là một phần trong một loạt các đề xuất tập trung vào các biện pháp an toàn trẻ em trực tuyến. Cuộc thảo luận về các đề xuất toàn diện sẽ bắt đầu trong vài tuần tới, và cuộc thảo luận về AI sẽ diễn ra sau vào năm nay, Ofcom cho biết.

Mark Bunting, một giám đốc thuộc Nhóm An toàn Trực tuyến của Ofcom, cho biết sự quan tâm của họ đến AI sẽ bắt đầu bằng việc xem xét cách mà nó được sử dụng hiện nay như một công cụ sàng lọc.

'Một số dịch vụ đã sử dụng những công cụ đó để xác định và bảo vệ trẻ em khỏi nội dung này,' ông nói trong một cuộc phỏng vấn với TechCrunch. 'Nhưng không có nhiều thông tin về độ chính xác và hiệu quả của những công cụ đó. Chúng tôi muốn xem xét cách mà chúng ta có thể đảm bảo rằng ngành công nghiệp đang đánh giá [những điều đó] khi họ sử dụng chúng, đảm bảo rằng các rủi ro đối với tự do ngôn luận và quyền riêng tư đang được quản lý.'

Một kết quả có thể là Ofcom sẽ đề xuất cách các nền tảng nên đánh giá. Điều này có thể dẫn đến việc các nền tảng không chỉ áp dụng nhiều công cụ tinh vi hơn, mà có thể bị phạt nếu họ không cải thiện cách chặn nội dung hoặc tạo ra cách hay hơn để ngăn ngừa người dùng trẻ hơn xem nội dung đó.'

'Giống như nhiều quy định an toàn trực tuyến khác, trách nhiệm nằm trong các công ty để đảm bảo rằng họ đang thực hiện những bước phản ứng phù hợp và sử dụng các công cụ phù hợp để bảo vệ người dùng,' ông nói.

Sẽ có cả những người phê bình và ủng hộ những động thái này. Các nhà nghiên cứu AI đang cố gắng tìm cách phát hiện, ví dụ, deepfakes, và AI đang được triển khai để xác minh người dùng trực tuyến. Tuy nhiên, có nhiều người hoài nghi nhấn mạnh rằng việc phát hiện bằng AI vẫn còn xa lạ.

Theo nghiên cứu mới từ Ofcom, độ tuổi của trẻ em sử dụng các dịch vụ trực tuyến hiện đang lệch sang phía trẻ hơn bao giờ hết, đến mức mà Ofcom hiện đang phân loại hoạt động giữa các nhóm tuổi ngày càng trẻ hơn.

Công nghệ di động đặc biệt được chú ý và tăng trong số trẻ em vào thời điểm hiện tại. Trong các cuộc khảo sát giữa các bố mẹ và học sinh dao động từ 2.000 đến 3.400 người tham gia (tùy thuộc vào các câu hỏi được đặt ra), gần một phần tư tất cả trẻ em từ 5 đến 7 tuổi hiện đang sở hữu điện thoại thông minh riêng, và khi bao gồm máy tính bảng, tỷ lệ này tăng lên 76%.

Cùng nhóm tuổi đó cũng đang sử dụng phương tiện truyền thông nhiều hơn trên những thiết bị đó: 65% đã thực hiện cuộc gọi thoại và video (so với 59% cách đây 1 năm), và một nửa số trẻ em (so với 39% cách đây 1 năm) đang xem phương tiện truyền thông trực tuyến.

Hạn chế tuổi tác trên một số ứng dụng mạng xã hội phổ biến đang giảm. Nhưng bất kể giới hạn, chúng dường như không được tuân thủ ở Anh. Một số mạng xã hội được ứng dụng bởi 38% trẻ em từ 5 đến 7 tuổi, Ofcom phát hiện. WhatsApp của Meta, với 37%, là ứng dụng phổ biến nhất trong số họ.

Và có lẽ đây là lần đầu tiên ứng dụng hình ảnh mẫu của Meta được giảm cân trong sách hơn ứng dụng ngôi sao nổi tiếng của ByteDance, TikTok đã được sử dụng bởi 30% trẻ em từ 5 đến 7 tuổi, với Instagram ở mức 'chỉ' 22%. Discord hoàn thành danh sách, nhưng ít người sử dụng hơn ở mức 4%.

Khoảng một phần ba, 32%, trẻ em trong nhóm tuổi này đang truy cập Internet một mình, và 30% bố mẹ cho biết họ chấp nhận việc trẻ dưới tuổi chính thức của họ có hồ sơ mạng xã hội. YouTube Kids vẫn là mạng lưới phổ biến nhất cho người dùng trẻ, với tỷ lệ 48%.

Chơi game, một "cây truyền hình" với trẻ em, đã được sử dụng bởi 41% trẻ em từ 5 đến 7 tuổi, với 15% trẻ em trong nhóm tuổi này chơi các trò chơi bắn súng.

Mặc dù 76% bố mẹ tham gia khảo sát cho biết họ đã nói chuyện với con cái nhỏ của họ về cách duy trì an toàn trực tuyến, có những dấu hỏi, Ofcom nhấn mạnh, giữa những gì một đứa trẻ thấy và những gì đứa trẻ đó có thể báo cáo. Trong khi nghiên cứu trẻ em lớn tuổi từ 8-17 tuổi, Ofcom phỏng vấn họ trực tiếp và phát hiện ra rằng 32% trẻ em báo cáo họ đã thấy nội dung lo lắng trực tuyến, nhưng chỉ có 20% bố mẹ họ cho biết họ đã báo cáo điều gì đó.

Ngay cả khi tính đến một số không nhất quán trong việc báo cáo, 'Nghiên cứu cho thấy sự khác biệt giữa việc tiếp xúc với nội dung có hại có thể trực tuyến của những đứa trẻ lớn tuổi hơn, và những gì họ chia sẻ với cha mẹ về trải nghiệm trực tuyến của mình,' Ofcom viết. Và nội dung lạ lẽ chỉ là một vấn đề: deepfakes cũng là một vấn đề. Trong số trẻ em từ 16-17 tuổi, 25% cho biết họ không tự tin nhận biết nội dung giả mạo so với nội dung thật trên Internet.

Cập nhật với thêm chi tiết từ nghiên cứu và nhận xét bổ sung về kế hoạch này.