Trong bối cảnh chuyển đổi số đang diễn ra mạnh mẽ, vai trò của người có sức ảnh hưởng (KOL) trên mạng xã hội ngày càng trở nên quan trọng. Tuy nhiên, cùng với sức ảnh hưởng lớn là trách nhiệm cao trong việc lan tỏa thông tin chính xác và tích cực. Tại tọa đàm ‘Kiến tạo niềm tin số’ do Hiệp hội An ninh mạng quốc gia tổ chức gần đây, các chuyên gia đã thảo luận về vai trò của KOL trong việc định hình tư duy và truyền cảm hứng cho hàng triệu người, đặc biệt là giới trẻ.

KOL không còn đơn thuần là người giới thiệu sản phẩm mà đã trở thành người định hướng thẩm mỹ, phong cách sống, quan điểm tiêu dùng và các vấn đề xã hội quan trọng. Tuy nhiên, một số KOL đã lợi dụng sức ảnh hưởng để lan truyền thông tin sai lệch, cổ súy cho nội dung độc hại hoặc quảng cáo sản phẩm kém chất lượng, gây ra tác động tiêu cực đến cộng đồng và xã hội.

Tại nhiều quốc gia, KOL đã trở thành biểu tượng của ‘sức mạnh mềm’ trong xã hội, vì vậy vai trò của họ không thể tách rời trách nhiệm. Một mặt, KOL cần được tạo điều kiện để phát huy sức ảnh hưởng tích cực, thúc đẩy kinh tế, văn hóa và truyền thông quốc gia. Mặt khác, cần có cơ chế quản lý phù hợp để định hướng hành vi, tăng cường trách nhiệm xã hội và ngăn chặn những hệ lụy tiêu cực từ nội dung sai lệch.

Chính phủ nhiều nước đã xây dựng khuôn khổ pháp lý và chính sách để khuyến khích minh bạch thông tin, chuẩn hóa nội dung quảng bá và tăng cường quản lý KOL. Các sáng kiến hỗ trợ KOL phát triển tài năng, xây dựng nội dung chất lượng và tránh rủi ro pháp lý đã được đưa ra, tuy nhiên vẫn cần nhiều nỗ lực hơn để tạo ra nền tảng cho sự phát triển lành mạnh của giới KOL tại Việt Nam.

Cục An ninh mạng và Phòng chống tội phạm sử dụng công nghệ cao đã phối hợp với Hiệp hội An ninh mạng quốc gia đưa ra 3 sáng kiến trọng tâm nhằm nâng cao vai trò của KOL trong công cuộc chuyển đổi số. Hội nghị KOL toàn quốc lần đầu tiên dự kiến diễn ra vào tháng 8/2025 sẽ là diễn đàn dành cho cộng đồng KOL Việt Nam, kết nối các nhà quản lý, doanh nghiệp, nền tảng công nghệ và KOL tiêu biểu để thảo luận giải pháp phát triển bền vững và có trách nhiệm.

Hội nghị cũng sẽ thành lập Liên minh KOL Việt Nam, quy tụ những KOL uy tín để thúc đẩy dư luận tích cực, đấu tranh chống thông tin sai lệch và triển khai các dự án cộng đồng. Sự kiện này cũng sẽ khởi động các chương trình hành động nhằm thúc đẩy ảnh hưởng có trách nhiệm của KOL thông qua quy tắc và tiêu chuẩn cộng đồng.

Trung tá Nguyễn Tiến Cường, Trưởng phòng giám sát thông tin mạng và phòng chống hoạt động sử dụng không gian mạng xâm phạm an ninh quốc gia (Cục A05, Bộ Công An), chia sẻ rằng không gian mạng đã trở thành một phần không thể tách rời của đời sống hiện đại. Người ảnh hưởng cần trở thành lực lượng tiên phong đồng hành cùng Nhà nước trong việc gìn giữ trật tự và an toàn xã hội trên môi trường số.

Với kỳ vọng trở thành một ‘bàn tròn mở’ giữa KOL, cơ quan quản lý, doanh nghiệp nền tảng số và cộng đồng, Hội nghị hứa hẹn sẽ thúc đẩy làn sóng ảnh hưởng có trách nhiệm, góp phần định hình một Việt Nam số văn minh, an toàn và bền vững.

Công nghệ trí tuệ nhân tạo (AI) đã có những bước tiến đáng kể trong việc tạo ra hình ảnh và video sống động như thật, bắt đầu từ một bức ảnh ban đầu. Sự phát triển này được xem là một bước đột phá về công nghệ, cho phép tạo ra và làm phong phú thêm nội dung trên môi trường số. Các ứng dụng của công nghệ này rất đa dạng, bao gồm giải trí, quảng cáo và thương mại. Việc sử dụng AI để tạo ra nội dung số không chỉ mở ra những cơ hội mới cho các nghệ sĩ và nhà sản xuất mà còn giúp giảm thiểu chi phí và thời gian sản xuất.

Các nhà nghiên cứu và phát triển công nghệ đã đạt được những thành tựu đáng kể trong việc sử dụng các mô hình học sâu (deep learning) để tạo ra hình ảnh và video. Các mô hình này có khả năng học hỏi từ dữ liệu lớn và tạo ra nội dung mới dựa trên các mẫu và đặc điểm đã học. Quá trình này không chỉ giúp tạo ra nội dung sống động mà còn cho phép chỉnh sửa và tùy chỉnh nội dung một cách linh hoạt. Do đó, các ứng dụng của công nghệ này trong lĩnh vực giải trí, như sản xuất phim và trò chơi điện tử, đã trở nên ngày càng phổ biến.

Mặc dù công nghệ này mang lại nhiều lợi ích, nhưng nó cũng đặt ra những thách thức về mặt đạo đức và pháp lý. Một trong những vấn đề quan trọng nhất là vấn đề bản quyền và quyền riêng tư. Khi sử dụng AI để tạo ra hình ảnh và video, cần phải đảm bảo rằng các nội dung này không vi phạm bản quyền của các nghệ sĩ và nhà sản xuất khác. Ngoài ra, việc sử dụng hình ảnh và video một cách không đúng đắn có thể dẫn đến các vấn đề về quyền riêng tư và danh誉. Do đó, việc quản lý và sử dụng công nghệ này một cách có trách nhiệm là rất quan trọng.

Để đảm bảo lợi ích của tất cả các bên liên quan, các nhà quản lý và nhà phát triển công nghệ cần phải hợp tác chặt chẽ để thiết lập các quy định và tiêu chuẩn cho việc sử dụng AI trong tạo ra nội dung số. Điều này bao gồm việc thiết lập các quy trình kiểm duyệt nội dung, đảm bảo tính minh bạch và công bằng trong việc sử dụng công nghệ này. Ngoài ra, các nhà phát triển công nghệ cũng cần phải đầu tư vào việc nghiên cứu và phát triển các công nghệ mới để giúp giảm thiểu các rủi ro liên quan đến việc sử dụng AI.

Tóm lại, sự phát triển của công nghệ trí tuệ nhân tạo trong việc tạo ra hình ảnh và video sống động như thật đã mang lại nhiều cơ hội mới cho các nghệ sĩ, nhà sản xuất và các ngành công nghiệp khác. Tuy nhiên, việc quản lý và sử dụng công nghệ này một cách có trách nhiệm là rất quan trọng để đảm bảo lợi ích của tất cả các bên liên quan. Bằng cách hợp tác chặt chẽ và thiết lập các quy định và tiêu chuẩn rõ ràng, chúng ta có thể tận dụng các lợi ích của công nghệ này trong khi giảm thiểu các rủi ro liên quan.

Các mạng xã hội và nền tảng trực tuyến đang tăng cường các biện pháp nhằm kiểm soát và thanh lọc sản phẩm thông tin, hình ảnh do trí tuệ nhân tạo (AI) tạo ra. Mục đích chính của việc này là bảo vệ người dùng khỏi những lừa đảo trực tuyến và thông tin sai lệch. Đại diện của các nhà mạng và hãng công nghệ cho rằng đã đến lúc cần nhận rõ giá trị của thông tin xác thực do con người tạo ra và sự khác biệt với sản phẩm giả lập từ AI.

Sự phát triển nhanh chóng của AI trong thời gian gần đây đã tạo ra nguy cơ nhầm lẫn giữa thông tin thật và giả, vi phạm bản quyền sáng tạo, và tạo ra môi trường nguy hiểm cho người dùng. Lực lượng an ninh mạng châu Âu đã chỉ ra rằng sản phẩm thông tin từ AI lan truyền trên mạng đã tạo ra sự nhầm lẫn ở người dùng, đặc biệt là thế hệ trẻ. Các dạng thông tin như làm bài tập, soạn dữ liệu số, tổng hợp thông tin theo cú pháp, lệnh tìm kiếm đang được sử dụng nhiều hơn, biến công cụ AI thành thông minh hơn. Tuy nhiên, hệ lụy là người dùng có thể tin tưởng tuyệt đối vào tính chân thật của dữ liệu và sử dụng một cách máy móc, gây ra nhầm lẫn và sai lệch.

Một số nhà nghiên cứu đã thử dùng AI vào việc chẩn đoán bệnh tật, sử dụng phác đồ y tế, chọn mua thuốc và thu được kết quả tổng hợp thông tin đáng tin cậy. Tuy nhiên, nếu không có sự tham vấn và kiểm chứng lại từ người có chuyên môn, sẽ có nhiều người nhầm lẫn và gặp nguy hiểm. Các trường hợp khác đã thử nghiệm so sánh dữ liệu thông tin chính trị, lịch sử xã hội với công cụ AI và phát hiện ra sai sót nghiêm trọng khi dữ liệu được lắp ghép lại tùy tiện. Nhiều thông tin do AI đưa ra khi có yêu cầu đã sai lệch so với thực tế nhưng trình bày khéo léo và trôi chảy, dễ đánh lừa người dùng.

Các chuyên gia và tổ chức đã kiến nghị các mạng xã hội, môi trường chia sẻ thông tin, và các công ty công nghệ phải kiểm tra sản phẩm từ AI. Trường học, viện nghiên cứu, thư viện số, nhà xuất bản cũng đã vào cuộc nhằm ngăn chặn nhầm lẫn học thuật, đánh lừa thông tin tác quyền, giả mạo tác phẩm và sáng chế. Trên không gian mạng, chiêu trò giả lập thông tin, câu view của người dùng có chủ đích, sử dụng AI tạo dữ liệu giả lập không chính xác đang là đối tượng phải thanh lọc.

Cơ quan chức năng đã cảnh báo người dùng mạng xã hội thận trọng và tỉnh táo trước dữ liệu mơ hồ, nhất là có dấu hiệu do công cụ AI soạn. Hầu hết dữ liệu từ AI đều có tính chất hài hước, hình ảnh gần gũi, đẹp mắt, dễ thu hút người dùng quan tâm và tác động thông tin, cảm xúc người dùng. Thanh lọc thông tin tạo ra từ AI và bảo đảm giúp người dùng tránh bị nguy hại, nhầm lẫn, lừa đảo trực tuyến là cần thiết và cần sự hợp tác của đa số người dùng.

Thông tin chi tiết về các biện pháp bảo vệ người dùng khỏi lừa đảo trực tuyến và sản phẩm từ AI có thể được tìm thấy trên các trang web chính thức của các cơ quan chức năng và tổ chức liên quan.