Thiếu tá Phạm Khánh Hòa, Phó Trưởng phòng 3, Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao (Bộ Công an):“Kiểm trước, tin sau” để không tiếp tay cho tin giả tạo lập bởi AI

Thách thức mới đối với an ninh thông tin

- Cùng với sự phát triển mạnh mẽ của AI, đặc biệt là AI tạo sinh, các nội dung giả mạo đang xuất hiện ngày càng nhiều trên không gian mạng. Đồng chí đánh giá như thế nào về những nguy cơ mà xu hướng này đang đặt ra đối với người dân và công tác bảo đảm an ninh mạng?

- Hiện nay, tình trạng lợi dụng AI, đặc biệt là AI tạo sinh để tạo lập và phát tán thông tin sai sự thật, nội dung giả mạo, xấu độc đang diễn biến ngày càng phức tạp. Những hành vi này không chỉ xâm phạm quyền và lợi ích hợp pháp của tổ chức, cá nhân, mà còn tác động tiêu cực đến tình hình an ninh, trật tự trên không gian mạng.

Đáng lo ngại, AI có thể tạo ra những nội dung giả mạo nhưng với mức độ chân thực lại rất cao, khiến người sử dụng internet gặp nhiều khó khăn trong việc phân biệt thật - giả. Các thông tin sai lệch khi được lan truyền rộng rãi trên các nền tảng số không chỉ gây nhiễu loạn môi trường thông tin, làm suy giảm niềm tin của người dân đối với các nguồn tin chính thống, mà còn có thể ảnh hưởng đến quá trình triển khai các chủ trương, đường lối của Đảng, chính sách, pháp luật của Nhà nước.

Bởi vậy, theo tôi, thách thức lớn nhất hiện nay không chỉ nằm ở việc AI có thể tạo ra các nội dung giả mạo, mà còn ở khả năng những nội dung này tác động đến nhận thức, cảm xúc và từng bước dẫn dắt hành vi của người dân qua không gian mạng. Đây là nguy cơ đặc biệt đáng báo động. Nếu không được nhận diện và kiểm soát kịp thời, tin giả có thể ảnh hưởng trực tiếp đến nhận thức cộng đồng và môi trường thông tin số, gây ra những hệ lụy khó lường.

- Các đối tượng xấu sử dụng AI với những thủ đoạn nào để tạo lập, phát tán tin giả và thao túng dư luận trên không gian mạng, thưa đồng chí?

- Nếu như trước đây, việc tạo ra một video hoặc đoạn ghi âm giả mạo đòi hỏi trình độ kỹ thuật cao, mất nhiều thời gian và chi phí, thì hiện nay, với sự phổ biến của các công cụ AI, các đối tượng có thể dễ dàng tạo ra những sản phẩm có hình ảnh, giọng nói, biểu cảm và cử động rất chân thực. Điều này khiến việc nhận diện nội dung thật - giả trở nên khó khăn hơn rất nhiều.

Tuy nhiên, mục tiêu của các đối tượng không chỉ dừng lại ở việc tạo ra các video, hình ảnh giả mạo (deepfake). Nguy hiểm hơn, các đối tượng có thể giả mạo hình ảnh, giọng nói của lãnh đạo Đảng, Nhà nước, cơ quan chức năng, lực lượng vũ trang, người nổi tiếng hoặc bất kỳ cá nhân nào nhằm phát tán thông tin sai sự thật, kích động dư luận hoặc phục vụ các hành vi lừa đảo, trục lợi. Với chất lượng hình ảnh và âm thanh ngày càng chân thực, nhiều người rất dễ tin rằng đó là thông tin xác thực.

Bên cạnh đó, các đối tượng còn lợi dụng hiện tượng phone farm và “buồng vang thông tin” (echo chamber) để khuếch đại mức độ lan truyền của tin giả. Bằng cách sử dụng số lượng lớn tài khoản ảo hoặc hệ thống tương tác tự động, chúng tạo cảm giác một thông tin đang nhận được sự quan tâm, chia sẻ hoặc đồng tình của rất nhiều người. Điều này dễ khiến người dùng bị cuốn theo tâm lý đám đông và mặc nhiên tin rằng thông tin đó là đúng.

Trong khi đó, thuật toán của các nền tảng mạng xã hội thường ưu tiên phân phối những nội dung có nhiều lượt tương tác. Chỉ cần một lượng lớn tài khoản cùng chia sẻ hoặc bình luận, thông tin sai lệch có thể nhanh chóng được khuếch đại, lan truyền tới hàng triệu người dùng trong thời gian ngắn. Đây là cách các đối tượng lợi dụng AI kết hợp với thuật toán của các nền tảng mạng xã hội để mở rộng phạm vi phát tán tin giả.

Mỗi người dân cần hình thành kỹ năng “kiểm trước, tin sau”

- Vậy, trước sự phát triển của AI tạo sinh, khi nhiều video, hình ảnh và giọng nói giả mạo được tạo ra với độ chân thực rất cao, người dân có thể nhận diện và kiểm chứng những nội dung này bằng cách nào?

- Các mô hình AI hiện nay có thể tạo ra hình ảnh, giọng nói và chuyển động với độ chân thực rất cao. Vì vậy, người dân không thể chỉ dựa vào một vài dấu hiệu trực quan để kết luận một video là thật hay giả. Điều quan trọng hơn là phải kiểm chứng tính xác thực và độ tin cậy của thông tin.

Trước hết, cần kiểm tra nguồn phát hành, xác định video được đăng tải từ tài khoản chính thức của cơ quan, tổ chức hoặc cá nhân liên quan, hay từ một nguồn không rõ danh tính. Thứ hai, cần đối chiếu thông tin từ nhiều nguồn độc lập, đáng tin cậy, đặc biệt là các cơ quan chức năng và cơ quan báo chí chính thống. Đồng thời, cần xem xét đầy đủ bối cảnh của sự việc bởi không ít trường hợp video hoặc hình ảnh là thật nhưng bị cắt ghép, lồng tiếng hoặc đưa ra khỏi ngữ cảnh nhằm tạo ra nhận thức sai lệch. Thứ ba, cần hình thành thói quen kiểm chứng trước khi tin và xác minh trước khi chia sẻ. Đây không chỉ là kỹ năng sử dụng mạng xã hội, mà đã trở thành một kỹ năng an toàn số cơ bản đối với mỗi công dân trong kỷ nguyên AI tạo sinh.

Điều tôi muốn nhấn mạnh là mục tiêu của các đối tượng không chỉ dừng lại ở việc tạo ra một video giả, mà còn nhằm thao túng cảm xúc, tác động đến nhận thức và dẫn dắt hành vi của người dùng. Khi người dùng vô tình chia sẻ hoặc tương tác với những nội dung chưa được kiểm chứng, thuật toán của các nền tảng mạng xã hội có thể tiếp tục khuếch đại thông tin, hình thành “buồng vang thông tin”, khiến tin giả lan truyền nhanh và rộng hơn. Vì vậy, mỗi người cần chủ động quản trị niềm tin đối với thông tin trên không gian mạng, thay vì để cảm xúc chi phối hành vi.

- Như đồng chí đã đề cập, hiện nay xuất hiện tình trạng lợi dụng AI để giả mạo hình ảnh, giọng nói của cơ quan nhà nước, lực lượng vũ trang hoặc người nổi tiếng nhằm phát tán thông tin sai sự thật. Vậy những hành vi này sẽ bị xử lý như thế nào theo quy định của pháp luật?

- Trước hết, cần khẳng định AI chỉ là công cụ hỗ trợ tạo lập nội dung, không phải chủ thể của quan hệ pháp luật. Do đó, trách nhiệm pháp lý không thuộc về công nghệ, mà thuộc về tổ chức, cá nhân sử dụng công nghệ để thực hiện hành vi vi phạm pháp luật. Đây là nguyên tắc quan trọng cần được nhận thức đầy đủ trong bối cảnh AI đang ngày càng được ứng dụng rộng rãi.

Thực tế hiện nay, việc lợi dụng AI để giả mạo hình ảnh, giọng nói hoặc danh tính của cơ quan nhà nước, lực lượng vũ trang, người nổi tiếng hay bất kỳ cá nhân nào nhằm phát tán thông tin sai sự thật, xâm phạm danh dự, nhân phẩm, thực hiện hành vi lừa đảo, trục lợi hoặc gây ảnh hưởng đến an ninh, quốc phòng, trật tự an toàn xã hội đều có thể cấu thành hành vi vi phạm pháp luật. Tùy theo tính chất, mức độ và hậu quả của hành vi, người vi phạm có thể bị xử phạt vi phạm hành chính hoặc bị truy cứu trách nhiệm hình sự theo quy định của pháp luật.

Điều cần nhấn mạnh là AI không tạo ra “vùng trống pháp lý”. Công nghệ có thể phát triển rất nhanh, nhưng pháp luật điều chỉnh hành vi của con người chứ không phải bản thân công nghệ. Vì vậy, bất kỳ tổ chức, cá nhân nào lợi dụng AI để xâm phạm quyền, lợi ích hợp pháp của người khác hoặc gây phương hại đến an ninh quốc gia, trật tự, an toàn xã hội đều phải chịu trách nhiệm trước pháp luật.

- Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đang triển khai chiến dịch “Tin AI” với thông điệp “kiểm trước, tin sau”. Đồng chí có thể chia sẻ rõ hơn về ý nghĩa của chiến dịch này cũng như những khuyến nghị đối với người dân trong bối cảnh AI tạo sinh đang phát triển mạnh mẽ?

- Với vai trò là đơn vị thực hiện nhiệm vụ bảo vệ an ninh quốc gia trên không gian mạng, Cục An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao đã chủ động triển khai đồng bộ các biện pháp công tác nhằm nắm chắc tình hình, kịp thời phát hiện, cảnh báo và xử lý các nguy cơ; qua đó giúp người dân nhận diện âm mưu, thủ đoạn của các thế lực thù địch và các loại tội phạm trên không gian mạng.

Bên cạnh đó, Cục phối hợp với các đơn vị liên quan triển khai chiến dịch “Tin AI” với mục tiêu nâng cao nhận thức, trang bị kỹ năng nhận diện tin giả và hình thành cho người dân một thói quen quan trọng: “Kiểm trước, tin sau”. Trước mỗi thông tin tiếp nhận trên không gian mạng, người dùng cần chủ động kiểm chứng nguồn gốc, đối chiếu với các nguồn tin chính thống và chỉ chia sẻ khi đã xác minh được tính xác thực. Đây là kỹ năng an toàn số cơ bản mà mỗi công dân cần có trong kỷ nguyên AI.

Chúng tôi cũng khuyến nghị, người dân không chia sẻ hoặc lan truyền những thông tin chưa được kiểm chứng. Mỗi lượt chia sẻ hoặc tương tác đều có thể góp phần làm gia tăng tốc độ lan truyền của tin giả. Mỗi người dùng internet không chỉ là người tiếp nhận thông tin, mà còn phải có trách nhiệm với những nội dung mình phát tán trên không gian mạng.

- Trân trọng cảm ơn đồng chí!