Trong tất cả các sức mạnh đáng sợ của Internet, khả năng đánh lừa những người không ngờ tới có thể là điều đáng sợ nhất. Clickbait, hình ảnh bị photoshop và tin tức giả là một trong những tội phạm tồi tệ nhất, nhưng những năm gần đây cũng chứng kiến sự trỗi dậy của một công cụ nguy hiểm tiềm tàng mới được gọi là trí tuệ nhân tạo deepfake (AI).
Thuật ngữ deepfake dùng để chỉ nội dung giả mạo, video và âm thanh do máy tính tạo ra khó phân biệt với nội dung chính hãng, chưa được lọc. Đó là quay phim những gì Photoshop dành cho hình ảnh.
AI hoạt động sâu như thế nào?
Công cụ này dựa trên những gì được gọi là mạng đối thủ tổng quát (GANs), một kỹ thuật được phát minh vào năm 2014 bởi Ian Goodfellow, một tiến sĩ. sinh viên hiện đang làm việc tại Apple, báo cáo về Cơ học phổ biến.
Thuật toán GAN liên quan đến hai AI riêng biệt, một AI tạo ra nội dung - giả sử, hình ảnh của mọi người - và một đối thủ cố gắng đoán xem hình ảnh là thật hay giả, theo Vox. AI tạo ra bắt đầu mà hầu như không biết mọi người trông như thế nào, có nghĩa là đối tác của nó có thể dễ dàng phân biệt ảnh thật với ảnh giả. Nhưng theo thời gian, mỗi loại AI dần dần trở nên tốt hơn và cuối cùng AI tạo ra bắt đầu tạo ra nội dung trông hoàn hảo như cuộc sống.
Ví dụ Deepfake
GAN là công cụ ấn tượng và không phải lúc nào cũng được sử dụng cho mục đích xấu. Năm 2018, một bức tranh do GAN tạo ra bắt chước phong cách "Old Master" của Hà Lan như Rembrandt van Rijn thế kỷ 17 được bán tại nhà đấu giá của Christie với giá 432.500 đô la.
Cùng năm đó, deepfakes đã tăng lên sự nổi tiếng rộng rãi, chủ yếu thông qua một người dùng Reddit, người có tên là 'deepfakes', Vice báo cáo. Kỹ thuật GAN thường được sử dụng để đặt khuôn mặt của những người nổi tiếng - bao gồm Gal Gadot, Maisie Williams và Taylor Swift - lên cơ thể của các nữ diễn viên phim khiêu dâm.
Các GAN khác đã học cách chụp một hình ảnh của một người và tạo ra các hình ảnh hoặc video thay thế khá thực tế của người đó. Vào năm 2019, một deepfake có thể tạo ra những bộ phim rùng rợn nhưng chân thực về Mona Lisa nói chuyện, di chuyển và mỉm cười ở các vị trí khác nhau.
Deepfakes cũng có thể thay đổi nội dung âm thanh. Theo báo cáo của The Verge hồi đầu năm nay, kỹ thuật này có thể ghép các từ mới vào video của một người đang nói, khiến cho có vẻ như họ đã nói điều gì đó mà họ không bao giờ có ý định.
Sự dễ dàng mà công cụ mới có thể được triển khai có khả năng phân nhánh đáng sợ. Nếu bất cứ ai, bất cứ nơi nào có thể làm những bộ phim thực tế cho thấy một người nổi tiếng hoặc chính trị gia nói, di chuyển và nói những lời họ chưa từng nói, người xem buộc phải trở nên cảnh giác hơn với nội dung trên internet. Ví dụ, chỉ cần lắng nghe cảnh báo của Tổng thống Obama trước một tương lai đen tối "tràn đầy" trong video này từ Buzzfeed, được tạo ra bằng cách sử dụng deepfake của nhà làm phim Jordan Peele.
