Khi nỗi đau được "lập trình" trong vài giây
Mở Facebook hay TikTok những ngày này, người dùng dễ dàng bắt gặp những hình ảnh gây tác động mạnh tới cảm xúc, tâm lý như hình ảnh cụ già mặc áo mưa ngồi trên nóc nhà, em bé lấm lem ngồi vắt vẻo trên mái giữa biển nước mênh mông, hay cảnh nhiều người tập trung trên nóc khi dòng nước cuộn tràn xung quanh... Những nội dung này lập tức thu hút hàng chục nghìn lượt "thả tim", chia sẻ, kéo theo đó là những khoản quyên góp từ thiện đổ về các tài khoản cá nhân không rõ ràng.
Tuy nhiên, nhiều chuyên gia nhận định nguồn gốc của những bức ảnh đẫm nước mắt đó lại là giả, được tạo bởi các công cụ AI tạo sinh (Generative AI hay GenAI) như Midjourney, Gemini hay DALL-E.
Những nội dung giả mạo được tạo bởi AI để "câu view" hoặc lừa đảo tràn lan trên các mạng xã hội
Ảnh: chụp màn hình
Sự bùng nổ của AI tạo sinh đã mang lại những bước tiến vượt bậc, nhưng đồng thời cũng trao vào tay kẻ xấu thứ vũ khí thao túng dư luận tiềm ẩn nhiều nguy hiểm. Trước đây, để tạo ra một bức ảnh giả mạo, kẻ lừa đảo cần có kỹ năng đồ họa và mất nhiều giờ, thì nay công nghệ đã rút ngắn quy trình đó xuống chỉ còn vài giây với vài dòng lệnh miêu tả với từ khóa như "lũ lụt", "trẻ em khóc", "người già", "thảm họa"... để nhập vào công cụ GenAI.
Thuật toán sẽ tổng hợp dữ liệu từ hàng tỉ hình ảnh, video, tin tức trên internet để tạo ra một khung cảnh hoàn toàn mới. Đáng lo ngại hơn, độ chân thực của các sản phẩm AI đang ngày càng hoàn thiện. Những lỗi kỹ thuật từng là đặc điểm nhận dạng của AI như ngón tay dị dạng, ánh sáng thiếu tự nhiên hay chi tiết nền méo mó... đang dần được các mô hình thế hệ mới khắc phục triệt để.
Thậm chí, công nghệ Deepfake cũng đang bắt đầu len lỏi vào các vùng lũ, tạo ra video kêu cứu giả mạo, mạo danh tổ chức uy tín gây nhiễu loạn thông tin nghiêm trọng.
AI gây "ô nhiễm niềm tin"
Mục đích của việc tạo ra những nội dung đề cập trên rất đa dạng: nhẹ thì "câu like", "câu view" cho các kênh bán hàng, nghiêm trọng hơn thì lừa đảo quyên góp từ thiện. Nhưng những hệ lụy của hành vi lạm dụng AI đang vượt xa vấn đề tiền bạc.
Công nghệ này khi không được sử dụng đúng mục đích đang gây ra sự phân tán nguồn lực cứu hộ khi lực lượng chức năng cũng như các đoàn từ thiện, cứu trợ phải mất thời gian xác minh thông tin ảo trên mạng. Nguy hiểm hơn, AI còn tạo ra sự hoài nghi bao trùm bởi cái giả bị trộn lẫn với cái thật với tần suất dày đặc, gây tác động tiêu cực tới niềm tin của cộng đồng. Công chúng có thể dần trở nên "miễn dịch" và e dè ngay cả trước những nỗi đau có thật, vô tình làm tổn hại tới nạn nhân đang thực sự cần giúp đỡ.
Hàng nghìn lượt tương tác, chia sẻ đối với các bài đăng giả mạo, dựng những câu chuyện "lấy đi nước mắt" người xem
Ảnh: chụp màn hình
Trước thực trạng nhức nhối này, dự thảo luật An ninh mạng 2025 và các văn bản liên quan đang được xây dựng theo hướng "tăng nặng, siết chặt và định danh cụ thể". Đây là bước chuyển mình chiến lược để pháp luật đuổi kịp tốc độ của công nghệ.
Một điểm sáng trong tư duy lập pháp mới là việc đề xuất coi hành vi "sử dụng công nghệ cao (AI, Deepfake) để thực hiện hành vi phạm tội" là tình tiết tăng nặng trách nhiệm hình sự. Dự thảo luật phân loại rõ các hệ thống AI, trong đó trí tuệ nhân tạo dùng để "tạo ra hoặc phổ biến nội dung giả mạo" được xếp vào nhóm "Rủi ro cao" hoặc "Rủi ro không chấp nhận được", chịu sự giám sát khắt khe nhất.
Chia sẻ về vấn đề này, ông Vũ Ngọc Sơn, Trưởng ban Công nghệ và Hợp tác Quốc tế (Hiệp hội An ninh mạng Quốc gia) cho biết, luật An ninh mạng 2025 sẽ bổ sung quy định quan trọng về định danh địa chỉ IP. Nếu đối tượng sử dụng IP trong phạm vi quản lý của Việt Nam để tung tin sai lệch, cơ quan chức năng có thể truy vết và xác định danh tính ngay lập tức để xử lý.
Bên cạnh đó, trách nhiệm của các nền tảng xuyên biên giới cũng được quy định rõ ràng hơn khi buộc tích hợp công cụ dán nhãn để phân biệt nội dung do AI tạo ra và phải gỡ bỏ thông tin sai sự thật trong thời gian ngắn nhất khi có yêu cầu từ cơ quan chức năng.
Tuy nhiên, pháp luật dù nghiêm minh đến đâu cũng luôn có độ trễ nhất định so với tốc độ lan truyền của internet. Trước khi chờ đợi cơ quan chức năng hay các thuật toán lọc tin giả vào cuộc, "lá chắn" đầu tiên và hiệu quả nhất chính là sự tỉnh táo của mỗi người dùng. Trong kỷ nguyên của AI, lòng tốt cần đi kèm với sự hiểu biết về công nghệ bởi mỗi cú nhấp chuột chia sẻ hay lệnh chuyển tiền vội vàng cho những bức ảnh ảo có thể vô tình tiếp tay cho kẻ gian, nuôi dưỡng lòng tham của tội phạm công nghệ.
