Jennifer DeStefano, một bà mẹ ở bang Arizona (Mỹ), là đối tượng bị kẻ lừa đảo qua điện thoại nhắm đến. Chúng sử dụng AI sao chép giọng nói của con gái bà, sau đó dàn dựng một vụ bắt cóc nhằm tống số tiền lên đến 50.000 USD (hơn 1 tỷ đồng).

Trong phiên điều trần về vụ việc, DeStefano kể rằng bà đã nhận được một cuộc gọi từ số lạ. Khi nhấc máy, bà nhận ra đó là giọng con gái mình - Brianna.  

"Cứu con với, mẹ ơi, cứu con với!", bà DeStefano không khỏi bàng hoàng khi nghe thấy giọng con gái khóc nức nở kêu cứu qua điện thoại. Sau đó là giọng một người đàn ông tuyên bố con gái bà đã bị bắt cóc. Lúc đầu, kẻ bắt cóc đòi 1 triệu USD tiền chuộc để Brianna trở về an toàn, nhưng sau đó hắn giảm số tiền xuống 50.000 USD.

Khi nhấc máy, bà DeStefano hoàn toàn tin rằng giọng nói ở đầu dây bên kia là của con gái bà. "Không chỉ giọng nói, ngay cả tiếng khóc hay tiếng nức nở đều hoàn toàn giống con bé".

Bà DeStefano bắt đầu thương lượng với người đàn ông mà bà tin rằng đã bắt cóc con gái mình. Người này yêu cầu bà phải đích thân mang tiền đến chuộc con gái. "Chúng muốn đón tôi lên một chiếc xe tải, trùm túi lên đầu tôi, yêu cầu tôi mang theo 50.000 USD tiền mặt để chuộc lấy con gái", bà nói. Chúng thậm chí đe dọa nếu không đủ tiền, cả hai mẹ con sẽ chết. 

Tuy nhiên, trước khi chuẩn bị làm theo những yêu cầu trên, bà DeStefano được chồng thông báo rằng con gái bà đang ở cạnh và vẫn an toàn. Lúc này, bà mới nhận ra đây là một vụ bắt cóc giả. Giọng nói mà bà tưởng là của cô con gái chính là một bản sao được tạo ra bởi công nghệ AI.

Cảnh báo từ chuyên gia

Một nhóm chuyên gia AI cảnh báo rằng, nếu không được kiểm soát, công nghệ đang phát triển có thể gây rủi ro cho xã hội.

Giáo sư điện toán Aleksander Madry tại Viện Công nghệ Massachusetts cho biết các công cụ AI hiện nay không còn quá đắt để sử dụng. Do vậy, nó đã trở nên phổ biến và có thể truy cập rộng rãi trên toàn cầu. Điều đó vô tình khiến cho các hoạt động gửi thư rác cũng như lừa đảo dễ dàng hơn. Nhờ công nghệ AI, những chiêu trò lừa đảo ngày càng tinh vi. Những nội dung được tạo ra nhằm mục đích lừa đảo cũng được cá nhân hóa cho từng mục tiêu.

Các mô hình AI sáng tạo cũng có thể lan truyền thông tin sai lệch, tạo ra nội dung giả mạo, gây ảnh hưởng đến người sử dụng. Giáo sư Madry cho rằng cần có chính sách để giảm thiểu tác hại từ mặt hạn chế của AI, đồng thời, công chúng cũng cần trang bị kiến thức sâu rộng hơn về công nghệ này.

"Tôi nghĩ rằng bất kể thế nào, công chúng cũng cần hiểu cách tương tác của các hệ thống AI, và cảnh giác khi thực sự tương tác với AI", ông nói. 

×