Liên hợp quốc cảnh báo nguy cơ lớn từ làn sóng AI

Ngày 7-9, tại phiên khai mạc Kỳ họp thường kỳ lần thứ 63 của Hội đồng Nhân quyền Liên hợp quốc ở Geneva, Cao ủy Nhân quyền Volker Turk cảnh báo trí tuệ nhân tạo (AI) tiên tiến có thể tạo ra những rủi ro nghiêm trọng đối với nhân loại.

Ông Turk kêu gọi sớm xây dựng các biện pháp bảo đảm an toàn và an ninh đối với AI, khi công nghệ này ngày càng được ứng dụng rộng rãi trong nhiều lĩnh vực.

Theo Cao ủy Nhân quyền Liên hợp quốc, những lo ngại về AI không chỉ đến từ các cơ quan quản lý mà còn được nhiều chuyên gia trong ngành công nghệ chia sẻ. Ông cho rằng cần có một nỗ lực chung để thiết lập các biện pháp bảo vệ đủ mạnh trước khi những rủi ro trở nên khó kiểm soát.

Ông Turk không nêu cụ thể những tình huống có thể xảy ra. Tuy nhiên, Văn phòng Cao ủy cho biết các sự cố liên quan đến những hệ thống AI tiên tiến có thể gây gián đoạn cơ sở hạ tầng quan trọng, dịch vụ thiết yếu, thông tin liên lạc và hoạt động của các thể chế dân chủ.

Ông Turk cũng lưu ý nguy cơ quyền kiểm soát các hệ thống AI tiên tiến ngày càng tập trung vào một nhóm nhỏ cá nhân và doanh nghiệp. Trong bối cảnh đó, các quốc gia tham gia từ phát triển, triển khai đến cung ứng công nghệ AI cần tăng cường phối hợp, từng bước xây dựng những nguyên tắc và giới hạn chung.

Cao ủy Nhân quyền Liên hợp quốc cho biết sẽ tiếp tục thúc đẩy các doanh nghiệp công nghệ tăng cường biện pháp bảo đảm an toàn và giảm thiểu những tác động không mong muốn từ AI.

Ông Turk cũng đề cập việc AI ngày càng được ứng dụng trong lĩnh vực quốc phòng, trong đó có những hệ thống có khả năng tự lựa chọn và tấn công mục tiêu.

Theo ông, các quyết định liên quan trực tiếp đến sinh mạng con người cần tiếp tục có sự tham gia và kiểm soát của con người.

Cao ủy Nhân quyền Liên hợp quốc kêu gọi cộng đồng quốc tế sớm xây dựng các quy định phù hợp đối với những ứng dụng này, đồng thời tăng cường hợp tác giữa các quốc gia trong quản lý những rủi ro mới phát sinh từ AI.

Cảnh báo của ông Turk được đưa ra trong bối cảnh Liên hợp quốc đang đẩy mạnh xây dựng cơ chế quản trị AI ở cấp độ toàn cầu.

Trước đó, Hội đồng Khoa học Quốc tế độc lập về AI của Liên hợp quốc đã công bố báo cáo sơ bộ về cơ hội, rủi ro và tác động của công nghệ này. Báo cáo cảnh báo các biện pháp bảo đảm an toàn hiện nay chưa theo kịp tốc độ phát triển năng lực của AI.

Tổng hợp