Hà Nội quy định rõ trách nhiệm khi ứng dụng AI trong quản lý nhà nước

Một trong những nội dung đáng chú ý là Quy định xác định rõ các nguyên tắc quản lý và sử dụng hệ thống AI trong hoạt động công vụ. Theo đó, việc ứng dụng AI phải lấy con người làm trung tâm; bảo đảm sự giám sát, kiểm soát và khả năng can thiệp có ý nghĩa của con người; công khai, minh bạch, có trách nhiệm giải trình phù hợp với tính chất, phạm vi sử dụng và mức độ rủi ro của hệ thống. Đồng thời, việc quản lý phải dựa trên mức độ tác động của hệ thống đối với quyền, lợi ích hợp pháp của tổ chức, cá nhân và lợi ích công cộng; bảo đảm an ninh mạng, bảo vệ dữ liệu cá nhân, bí mật nhà nước, bí mật công tác, bí mật công nghệ và quyền sở hữu trí tuệ; phù hợp với Khung đạo đức trí tuệ nhân tạo quốc gia và các tiêu chuẩn kỹ thuật hiện hành.

Quy định cũng nêu rõ các hành vi bị nghiêm cấm trong quá trình triển khai, vận hành AI. Trong đó có việc sử dụng hệ thống AI vượt quá mục đích, phạm vi hoặc thẩm quyền được giao; đưa dữ liệu chưa được phê duyệt vào hệ thống; can thiệp trái phép vào cơ chế bảo mật, nhật ký hệ thống; để AI tự động ký, ban hành hoặc công bố văn bản, quyết định hành chính hay giao dịch có giá trị pháp lý.

Về quản lý rủi ro, Quy định yêu cầu việc phân loại rủi ro của hệ thống AI thực hiện theo Luật Trí tuệ nhân tạo và các văn bản hướng dẫn. Cơ quan chủ quản có trách nhiệm sử dụng kết quả phân loại rủi ro làm căn cứ để quản lý, kiểm soát an toàn, bảo vệ dữ liệu, giám sát của con người, kiểm tra điều kiện vận hành và xử lý sự cố. Trường hợp hệ thống có thay đổi về chức năng, mục đích sử dụng, dữ liệu, mô hình hoặc môi trường vận hành làm phát sinh rủi ro mới, phải tiến hành rà soát và phân loại lại. Mỗi hệ thống AI cũng phải có hồ sơ quản lý với các thông tin về mục đích sử dụng, nguồn dữ liệu, mức độ rủi ro, đánh giá hiệu năng, cơ chế ghi nhật ký, an ninh mạng và quy trình xử lý sự cố.

Đối với việc ứng dụng AI trong quản lý nhà nước, Quy định nhấn mạnh hệ thống AI chỉ được triển khai khi xác định rõ mục tiêu, căn cứ pháp lý, phạm vi sử dụng, dữ liệu sử dụng, cơ quan chủ quản, đơn vị vận hành, người chịu trách nhiệm và biện pháp kiểm soát rủi ro tương ứng. Việc ứng dụng AI không làm thay đổi thẩm quyền, trách nhiệm của cơ quan nhà nước trong giải quyết thủ tục hành chính, cung cấp dịch vụ công hay ban hành quyết định hành chính. Đáng chú ý, kết quả đầu ra của hệ thống AI không được sử dụng là căn cứ pháp lý độc lập để ban hành quyết định hành chính, xử lý hồ sơ, kết luận thanh tra, kiểm tra, xử phạt vi phạm hành chính hoặc hạn chế quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Quy định cũng dành một điều riêng về sử dụng AI tạo sinh (GenAI) và tác nhân AI (AI Agent) trong hoạt động công vụ. Theo đó, việc sử dụng các công cụ này phải đúng mục đích, đúng thẩm quyền, có sự kiểm tra, giám sát của con người và không được dùng kết quả đầu ra làm căn cứ duy nhất để ban hành quyết định hoặc thực hiện hành vi làm phát sinh, thay đổi hay chấm dứt quyền, nghĩa vụ của tổ chức, cá nhân. Các cơ quan, đơn vị phải ban hành quy trình nội bộ về sử dụng GenAI và AI Agent, quy định rõ phạm vi công việc, loại dữ liệu được phép sử dụng, trách nhiệm kiểm chứng kết quả, yêu cầu bảo mật và biện pháp xử lý sự cố.

Bên cạnh đó, Quy định khuyến khích nghiên cứu, thử nghiệm, phát triển và sử dụng AI mã nguồn mở trong quản lý nhà nước khi đáp ứng yêu cầu về an ninh mạng, bảo vệ dữ liệu, quyền sở hữu trí tuệ và các quy định pháp luật có liên quan. Đối với các hệ thống AI xử lý dữ liệu quan trọng, thành phố khuyến khích triển khai thử nghiệm trong môi trường có kiểm soát (Sandbox) và được đánh giá an ninh mạng trước khi đưa vào vận hành chính thức.

Để bảo đảm Quy định được triển khai thống nhất, UBND thành phố giao Sở Khoa học và Công nghệ làm đầu mối hướng dẫn, theo dõi, kiểm tra việc thực hiện; chủ trì đào tạo, tập huấn về quản trị, pháp lý, kỹ thuật, an ninh và quản lý rủi ro AI, đồng thời tổng hợp những khó khăn, vướng mắc trong quá trình triển khai để báo cáo UBND thành phố xem xét, xử lý theo thẩm quyền.