Ngày 15-7, Hội nghị trí tuệ nhân tạo (AI) TP HCM đã được tổ chức bởi Trung tâm Xúc tiến thương mại và đầu tư TP HCM (ITPC), Công viên Phần mềm Quang Trung (QTSC) và nền tảng kết nối đổi mới sáng tạo BambuUP. Hội nghị tập trung vào các vấn đề và ứng dụng của trí tuệ nhân tạo trong thời đại công nghệ số hiện nay.

Ông Nguyễn Thanh Lâm, Trưởng Trung tâm An ninh mạng – QTSC, cho biết rằng AI đang phát triển nhanh chóng và trở nên thông minh, phổ biến hơn trong cuộc sống hàng ngày. Đa số người dùng internet hiện nay đều sử dụng ít nhất 2 công cụ AI trong số nhiều công cụ như ChatGPT, Gemini, Grok… Tuy nhiên, sự phát triển nhanh chóng của công nghệ AI cũng tiềm ẩn nhiều rủi ro khi tội phạm mạng lợi dụng AI để tạo video deepfake, gửi email lừa đảo tinh vi, khó phát hiện. Đặc biệt, gần đây Google đã giới thiệu Veo 3 – mô hình AI có khả năng tạo video với độ chân thực cao, khó phân biệt bằng mắt thường.

Ông Lâm khuyến nghị rằng AI đang trở thành công cụ đắc lực cho hacker để tạo ra nhiều biến thể ransomware, tấn công diện rộng và không lĩnh vực nào có thể miễn nhiễm. Do đó, ngoài kiến thức và kỹ năng bảo mật, doanh nghiệp cần chủ động đầu tư vào giải pháp bảo vệ phù hợp.

Bên cạnh đó, ông Phan Ngọc Ánh, Giám đốc Công ty TNHH Công nghệ Năng lượng Alena, cho biết AI đang được ứng dụng trong nhiều lĩnh vực như nhận diện khuôn mặt, in báo cáo và gửi dữ liệu đến các bộ phận điều hành. Dự báo trong thời gian tới, AI sẽ tiếp tục được nâng cấp để cho phép xử lý và gửi báo cáo theo thời gian thực.

Đồng thời, ông cũng nhấn mạnh rằng với sự phát triển nhanh chóng của AI, cần có hành lang pháp lý để kiểm soát việc sử dụng công nghệ này, ngăn chặn các nguy cơ bị theo dõi, rò rỉ dữ liệu hay bị khai thác vào mục đích xấu.

Trào lưu sử dụng trí tuệ nhân tạo (AI) và công nghệ deepfake để tạo ra các hình ảnh giả mạo trên mạng xã hội đang ngày càng phổ biến và biến tướng. Mặc dù AI và deepfake đã mang lại nhiều tiến bộ không thể phủ nhận, nhưng việc sử dụng chúng để tạo ra những hình ảnh khó phân biệt thật giả chỉ trong vài giây đã làm trầm trọng thêm vấn nạn lan truyền thông tin sai sự thật và hình ảnh gây tổn thương.

Việc tạo ra những hình ảnh giả mạo bằng AI đã trở thành một vấn đề đáng quan ngại. Mới đây, trên mạng xã hội đã xuất hiện loạt hình ảnh người dùng đang bị cảnh sát giao thông lập biên bản, nhưng họ lại tạo dáng và thể hiện thần thái như thể đang khoe tài sản đắt tiền. Những hình ảnh này được tạo ra bởi AI và đã khiến nhiều người nhầm lẫn. Các chuyên gia cho rằng, ảnh tạo ra từ AI đang làm tăng vấn nạn tạo ra tin giả, làm xói mòn nền tảng của sự thật, khiến việc xác định tin tức, hình ảnh thật – giả ngày càng khó.

Điều này đã dẫn đến sự mất lòng tin vào các phương tiện truyền thông và nguồn tin đáng tin cậy. Nhiều quốc gia đã tích cực xây dựng quy định pháp luật và biện pháp kỹ thuật kiểm soát, đối phó với kẻ xấu. Một số bang của Mỹ có luật cấm tạo, phát tán deepfake với mục đích quấy rối, đe dọa hoặc lừa đảo. Hàn Quốc tăng cường biện pháp pháp lý, sau nhiều vụ bê bối deepfake tấn công giới giải trí. Trung Quốc yêu cầu các nhà cung cấp dịch vụ deepfake phải có trách nhiệm kiểm duyệt nội dung và yêu cầu người dùng xác thực danh tính.

Trước tình trạng này, mỗi người dùng cần nâng cao trách nhiệm cá nhân, không thể vì “cho vui” mà vô tình tiếp tay cho tin giả, thậm chí vi phạm pháp luật. Sự cảnh giác và hiểu biết về công nghệ deepfake sẽ giúp người dùng tránh bị lừa đảo và lan truyền thông tin sai sự thật. Đồng thời, cơ quan chức năng cần tăng cường công tác quản lý, kiểm tra và xử lý nghiêm các trường hợp sử dụng deepfake để lừa đảo, quấy rối hoặc tổn thương người khác.

Công nghệ deepfake không phải là công nghệ mới, nhưng với sự phát triển của AI và học sâu, việc tạo ra những hình ảnh và video giả mạo đã trở nên dễ dàng hơn bao giờ hết. Điều này đòi hỏi sự chú ý và cảnh giác từ tất cả mọi người, cũng như sự phối hợp chặt chẽ giữa các cơ quan chức năng và nhà cung cấp dịch vụ để ngăn chặn và xử lý các trường hợp sử dụng deepfake một cách hiệu quả.

Trong bối cảnh thông tin số ngày càng phát triển, việc nâng cao nhận thức và trách nhiệm của người dùng, cũng như sự vào cuộc của các cơ quan chức năng là rất quan trọng để giữ gìn môi trường mạng an toàn và lành mạnh.