Sự phát triển của trí tuệ nhân tạo (AI) đang diễn ra nhanh chóng và thông minh, nhưng cũng tiềm ẩn những rủi ro. Tại Hội nghị Trí tuệ nhân tạo (AI) TP HCM, các chuyên gia đề nghị doanh nghiệp chủ động phòng ngừa, đầu tư giải pháp bảo vệ nhằm ngăn chặn hacker và những kẻ lừa đảo sử dụng AI tạo deepfake, gửi email mạo danh. Bên cạnh đó, các chuyên gia cũng cho rằng cần có hành lang pháp lý kiểm soát việc sử dụng AI trong nhận diện khuôn mặt, báo cáo.
Trong kỷ nguyên AI và deepfake, việc tạo hình ảnh giả mạo trở nên dễ dàng, gây ra vấn đề lan truyền thông tin sai và xúc phạm danh dự. Một số trường hợp tạo ảnh vi phạm giao thông và ghép ảnh với người khác trong vụ việc đang điều tra tại Trung Quốc đã tạo ra trào lưu trên mạng. Để ngăn chặn, nhiều quốc gia đã xây dựng quy định pháp luật và biện pháp kiểm soát. Các công ty công nghệ lớn cũng đầu tư vào công cụ phát hiện deepfake. Người dùng cần nâng cao trách nhiệm cá nhân, tránh lan truyền thông tin sai sự thật hoặc vi phạm pháp luật.
Hai người dẫn chương trình công nghệ của kênh Sky tại Anh bị giả mạo bằng deepfake để quảng cáo cho các casino trực tuyến.