Deepfake là gì?
Công nghệ Deepfake là sự kết hợp giữa 2 từ "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng trí tuệ nhân tạo AI để lấy hình ảnh, giọng nói của một người, ghép vào video của người khác. Đối với các tập tin âm thanh, Deepfake sử dụng bản ghi âm giọng nói của một người thực để huấn luyện máy tính nói chuyện giống hệt người ấy.
Xem thêm các bài viết về công nghệ Deepfake tại đây
Công nghệ Deepfake của Tencent có gì đặc biệt?
Theo tờ Jiemian, công nghệ Deepfake của Tencent có thể tự phân tích, nghiên cứu qua các video dài 3 phút và 100 tệp âm thanh giọng nói để tạo ra một video Deepfake trong vòng 24 giờ. Công cụ tạo Deepfake này có giá khoảng 1.000 nhân dân tệ (khoảng 145 USD).
Hãng thông tấn The Register cho biết, công nghệ này của Tencent có thể tạo ra các bản Deepfake bằng tiếng Trung và tiếng Anh. Về hình ảnh người của video gốc, Deepfake sẽ quét và tạo lại hình ảnh theo 5 phong cách: 3D realistic, 3D semi-realistic, 3D cartoon, 2D real person and 2D cartoon.
Công nghệ Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngạc. Từ đó, hình ảnh khuôn mặt của một số đối tượng nhất định (tạm gọi là đối tượng A) với chất lượng cao được thay thế hoàn toàn bằng khuôn mặt của một người khác (đối tượng B).
Deepfake đang nằm ngoài tầm kiểm soát
Ban đầu, công nghệ này được sinh ra với mục đích giải trí, giúp người dùng lồng khuôn mặt, giọng nói của mình vào các nhân vật yêu thích trên video mà vẫn đảm bảo hoạt động giống như được quay thực tế. Tuy nhiên, những kẻ lừa đảo đã lợi dụng những công dụng của công nghệ Deepfake để lừa các nhà đầu tư cả tin bằng cách mạo danh những nhân vật nổi tiếng.
Tháng 5/2022, một sàn giao dịch tiền điện tử giả mạo có tên BitVex đã lấy hình ảnh của tỷ phú Elon Musk để quảng bá và đánh lừa người dùng. Cụ thể, sàn tiền số fake này đã giới thiệu tỷ phú Elon Musk, CEO Binance Changpeng Zhao và Cathie Wood, CEO quỹ đầu tư Ark Invest là những người đồng sáng lập của BitVex. Sau đó đăng tạo những video Deepfake sử dụng gương mặt của những người nổi tiếng trên và dùng giọng nói của họ để quảng bá sàn tiền điện tử và lừa tiền của khách hàng.
Mới đây, tin tặc cũng lợi dụng hình ảnh của cựu CEO sàn tiền số đã phá sản FTX, Sam Bankman - Fried, sử dụng công nghệ Deepfake để lừa đảo. Kẻ xấu đã tung ra một video giả mạo Sam Xoăn để hướng dẫn người dùng đến trang web độc lại với lời hứa hẹn giúp tài khoản của người dùng cả tin nhân đôi.
Trước đó, Giám đốc truyền thông của sàn Binance cũng trở thành nạn nhân bị giả mạo bởi Deepfake. Tin tặc sử dụng công nghệ này để làm giả hình ảnh ba chiều của mình trong một cuộc họp Zoom. Những người tham gia cuộc họp đó đã nhầm tưởng ông Hillmann đang giúp đỡ các dự án tiền điện tử của mình được niêm yết trên sàn Binance.
Đọc thêm: Tin tặc giả dạng giám đốc truyền thông sàn Binance bằng công nghệ Deepfake
Ông chủ của Facebook, Mark Zuckerberg cũng từng là nạn nhân của công nghệ này với video trong đó có tuyên bố về sở hữu dữ liệu và tương lai. Hình ảnh cựu Tổng thống Mỹ Donald Trump bị cảnh sát bắt giữ, video cựu Tổng thống Barack Obama xúc phạm Donald Trump, Tổng thống Nga Putin phát biểu về sự chia rẽ ở Mỹ,... đều là những sản phẩm của công nghệ Deepfake.
Công nghệ Deepfake đang trở thành một vấn đề đáng lo ngại, bởi nó có thể tạo ra những video giả mạo, bịa đặt, hoặc sử dụng sai mục đích. Vì vậy, việc tìm ra các giải pháp để ngăn chặn mặt xấu của công nghệ này là vô cùng quan trọng.
Twitter và các trang như Pornhub, Discord, Gfycat đã cấm các nội dung ứng dụng công nghệ này nhưng chưa thật sự hiệu quả. Các mạng xã hội phổ biến toàn cầu như Facebook, Twitter, TikTok đều áp dụng công cụ riêng để phát hiện video Deepfake, đồng thời cấm đăng tải nội dung do công nghệ này tạo ra lên nền tảng của họ. Tại Mỹ, thống đốc bang California đã thông qua đạo luật cấm Deepfake vào đầu tháng 10.
Các tổ chức cũng cần thường xuyên cập nhật và chia sẻ thông tin về các trường hợp sử dụng công nghệ Deepfake bất chính, nhằm giúp người dùng có thể nhận diện được các video giả mạo và đưa ra các biện pháp ngăn chặn.
