Mark nhận thấy điều gì đó không ổn với đứa con mới biết đi của mình. Dương vật của đứa bé bị sưng.

Đó là một đêm thứ sáu của tháng 2/2021. Vợ của Mark gọi cho một y tá tư vấn để lên lịch khám bệnh. Tuy nhiên, y tá nói gửi ảnh để bác sĩ xem qua vì đang trong thời kỳ đại dịch.

Vợ chồng Mark chỉ đơn giản thực hiện theo yêu cầu của dịch vụ y tế. Tuy vậy, họ không ngờ rằng các công ty công nghệ lại thu thập dữ liệu này và gắn mác hành động lạm dụng trẻ em. Điều này đã để lại nhiều vấn đề cho Mark khi toàn bộ nhật ký liên lạc, email và ảnh của anh đều nằm trong diện kiểm tra của cảnh sát.

Vi phạm nghiêm trọng

Vấn đề của con trai Mark được giải quyết đơn giản, khi bác sĩ chẩn bệnh qua ảnh, kê đơn thuốc kháng sinh. Cậu bé nhanh chóng khỏi bệnh. Tuy nhiên, vấn đề với Mark nghiêm trọng hơn nhiều.

Mark là một người phụ thuộc rất nhiều vào Google. Anh đồng bộ hóa các cuộc hẹn với vợ mình trên Lịch Google. Camera trên smartphone Android của Mark cũng sao lưu ảnh và video lên Google Cloud. Thậm chí, anh còn có gói điện thoại với Google Fi, một dịch vụ viễn thông.

2 ngày sau khi chụp ảnh con trai mình, điện thoại của Mark nhận thông báo tài khoản của anh đã bị vô hiệu hóa vì “nội dung độc hại” và “vi phạm nghiêm trọng chính sách của Google”. Khi bấm vào mục tìm hiểu thêm, Mark phát hiện ra lý do “lạm dụng và bóc lột tình dục trẻ em”.

Mark cho biết anh rất bối rối nhưng sau đó nhớ ra bệnh nhiễm trùng của con trai mình. “Ôi, có lẽ Google cho rằng đó là phim khiêu dâm trẻ em”, Mark nghĩ.

Trước đó, Mark từng làm kỹ sư phần mềm cho một công ty công nghệ lớn với nhiệm vụ gỡ bỏ nội dung vi phạm quy định. Do đó, anh biết những hệ thống kiểu này thường có con người đứng sau nhằm đảm bảo chúng không mắc lỗi. Mọi chuyện đều có thể được giải quyết nếu báo cáo trực tiếp với kỹ sư phụ trách.

Mark điền vào một biểu mẫu để yêu cầu Google xem xét lại quyết định khóa tài khoản nhưng bị từ chối. Anh cho biết mình không thể truy cập Gmail, thông tin liên lạc và cả tài khoản Google Fi. Ngoài ra, nếu không có quyền truy cập vào các tài khoản Google, anh không thể đăng nhập vào các tài khoản khác vì phần lớn đều cần mã xác thực trong email, trong đó có cả tài khoản ngân hàng.

"Càng bỏ nhiều trứng vào một rỏ, rủi ro càng cao", Mark chia sẻ.

Chỉ vài ngày sau khi Mark gửi khiếu nại, Google phản hồi họ sẽ không khôi phục tài khoản cho anh. Gã khổng lồ công nghệ không giải thích gì thêm.

Không chỉ Google từ chối trong việc cấp quyền truy cập tài khoản, Mark cũng bị cảnh sát điều tra mặc dù đã giải thích lý do.

Cách Google gắn cờ

Một kịch bản tương tự cũng diễn ra ở Texas khi anh Cassio, cha của một đứa trẻ mới biết đi, than phiền về việc bị Google gắn nhãn lạm dụng trẻ em. Theo yêu cầu của bác sĩ nhi khoa, Cassio đã sử dụng smartphone Android để chụp ảnh phần nhạy cảm của con mình và được sao lưu tự động vào Google Photos. Sau đó, anh gửi hình ảnh cho vợ qua ứng dụng trò chuyện của Google.

Hành động này vô tình khiến Cassio bị khóa toàn bộ tài khoản. Anh cho biết mình đang định mua một căn nhà mới và việc bị vô hiệu hóa tài khoản khiến người môi giới bất động sản nghĩ Cassio lừa đảo.

Hàng triệu hình ảnh trẻ em bị bóc lột hoặc lạm dụng tình dục được các ông lớn công nghệ gắn cờ mỗi năm. Trong năm 2021, Google đã xử lý hơn 600.000 báo cáo về tài liệu lạm dụng trẻ em và vô hiệu hóa tài khoản của hơn 270.000 người dùng.

Công nghệ PhotoDNA là mấu chốt trong việc càn quét các hình ảnh trái quy định. Đây là một công cụ chuyển đổi hình ảnh thành dạng mã kỹ thuật số và có thể phát hiện các bức ảnh lạm dụng trẻ em, ngay cả chúng đã bị thay đổi. PhotoDNA được Microsoft phát hành vào năm 2009 và giúp nhiều công ty công nghệ lớn phát hiện các bức ảnh độc hại.

Năm 2018, Google công bố hệ thống dùng AI để nhận biết những bức ảnh lạm dụng trẻ em, kể cả khi chúng chưa từng được đăng lên mạng. Hãng mở công cụ này cho nhiều công ty khác sử dụng, như Facebook.

Khi một nhân viên kiểm duyệt nội dung của Google xem xét lại báo cáo từ hệ thống tự động, họ sẽ xác nhận liệu ảnh hoặc video có phải nội dung xâm hại trẻ em không. Nếu có, tài khoản sẽ bị khóa ngay lập tức, các dữ liệu khác trong tài khoản bị kiểm tra, và người dùng sẽ bị báo cáo lên CyberTipline, trung tâm xử lý các vấn đề xâm hại trẻ em trên mạng tại Mỹ.

Theo dữ liệu của CyberTipline, tổ chức này ghi nhận hơn 29,3 triệu báo cáo về lạm dụng trẻ em vào năm ngoái. Fallon McNulty, quản lý của CyberTipline, cho biết hầu hết báo cáo đều là những hình ảnh trùng lặp và vẫn xuất hiện trên Internet. Do đó, họ phải ưu tiên giúp đỡ những nạn nhân mới và gửi thông tin đến cơ quan chức năng.

Vào năm 2021, CyberTipline cho biết họ đã gửi tới các cơ quan chức năng hơn 4.260 nạn nhân là trẻ em. Con trai của Mark và Cassio đều được tính trong số này, mặc dù cha của những đứa trẻ không có mục đích xấu.

Sau tai nạn của Mark, vợ anh cũng nhanh chóng xóa hết những bức hình chụp bộ phận nhạy cảm của con trong iPhone vì sợ Apple sẽ có hành động tương tự. Cuối năm 2021, Apple công bố kế hoạch quét dữ liệu iCloud của người dùng để tìm bằng chứng hình ảnh khiêu dâm trẻ em. Kế hoạch này đã phải hoãn lại vì bị chỉ trích.

Xảy ra nhầm lẫn

Tháng 12/2021, Sở Cảnh sát San Francisco thông báo với Mark anh bị điều tra vì dữ liệu được Google và nhà cung cấp Internet gửi đến. Mọi dữ liệu trong tài khoản Google của anh, từ lịch sử tìm kiếm, tin nhắn tới hình ảnh, video đều bị đưa ra kiểm tra.

Không lâu sau, cuộc điều tra đóng lại với kết luận Mark không phạm tội. Tuy nhiên, thanh tra phụ trách không thể thông báo với Mark vì anh đã mất cả email lẫn số điện thoại. Phải nhiều tháng sau, thư thông báo mới được gửi tới nhà Mark.

Sau đó, Mark lại tìm cách liên hệ với Google để mở tài khoản, nhưng được thông báo dữ liệu đã bị xóa hoàn toàn. Anh tham vấn với luật sư, nhưng quyết định không kiện hãng vì không đáng số tiền phí khoảng 7.000 USD.

Theo bà Kate Klonick, Giáo sư luật tại Đại học St. John, những thứ không thể nhìn thấy trong một bức ảnh như hành vi của người chia sẻ là một thách thức đối với công nghệ. Do đó, tình trạng nhầm lẫn rất dễ xảy ra. Bà Klonick cho biết các công ty cần bổ sung một quy trình chặt chẽ hơn nhằm phục hồi cho những người vô tội bị gắn cờ.

“Việc gắn cờ nhầm chỉ một vấn đề trong trường hợp kiểm duyệt nội dung thông thường. Tuy vậy, điều này rất nguy hiểm nếu nó dẫn đến việc một người nào đó bị báo cáo cho cơ quan chức năng”, Giáo sư Kate Klonick nhận định.

Vào mùa thu năm 2021, một thám tử từ Sở Cảnh sát Houston gọi điện và yêu cầu Cassio trình diện. Sau khi Cassio cho thám tử xem thông tin liên lạc với bác sĩ nhi khoa, anh đã được loại bỏ tội danh. Tuy vậy, những tài khoản Google của Cassio vẫn bị khóa và khiến anh gặp khó khăn trong công việc.

Ngoài ra, bà Carissa Byrne Hessick, Giáo sư luật tại Đại học Bắc Carolina cho rằng không phải tất cả ảnh trẻ em khỏa thân đều là ảnh khiêu dâm, bóc lột hoặc lạm dụng. Giáo sư Hessick nói rằng việc xác định một hình ảnh lạm dụng tình dục có thể rất phức tạp nếu xem xét dựa trên pháp luật, theo New York Times.

×