Hơn 1.100 chuyên gia AI kêu gọi Mỹ hành động trước rủi ro AI
Hơn 1.100 chuyên gia AI từ OpenAI, Meta, Google và Anthropic kêu gọi Mỹ hậu thuẫn một sáng kiến quốc tế nhằm bảo đảm sự phát triển an toàn của trí tuệ nhân tạo.
Theo Reuters, hơn 1.100 nhân sự đến từ OpenAI, Meta, Google, Anthropic và nhiều công ty công nghệ khác đã kêu gọi Chính phủ Mỹ ủng hộ một sáng kiến quốc tế nhằm xây dựng các công cụ kỹ thuật và cơ chế quản trị để bảo đảm các hệ thống AI tiên tiến luôn nằm trong tầm kiểm soát.
Sáng kiến mang tên "Kiểm soát Ranh giới AI" (AI Control Frontier) quy tụ các nhà nghiên cứu và kỹ sư từ nhiều doanh nghiệp AI hàng đầu, cùng sự hỗ trợ của các tổ chức phi lợi nhuận.
Trong tuyên bố chung, nhóm nhấn mạnh cần phát triển các công cụ kỹ thuật và cơ chế quản trị đủ năng lực để chủ động kiểm soát sự phát triển của các hệ thống AI tự động.
Những người ký tên gồm Dario Amodei, Giám đốc điều hành Anthropic; Dawn Song, Phó chủ tịch phụ trách nghiên cứu AI của Meta; và Jakub Pachocki, Nhà khoa học trưởng của OpenAI.
Đáp lại lời kêu gọi, OpenAI cho biết trên mạng xã hội X rằng tốc độ phát triển các mô hình AI có thể sớm đạt đến mức buộc thế giới phải điều chỉnh nhịp độ phát triển nhằm bảo đảm an toàn. Anthropic cũng đưa ra cảnh báo tương tự, dẫn nghiên cứu công bố tháng trước cho rằng AI có thể sớm đạt khả năng tự cải thiện theo cấp số nhân, đòi hỏi các công cụ quản trị phải được xây dựng trước khi con người mất khả năng theo kịp.
Trước đó, Anthropic, đơn vị phát triển công cụ lập trình Claude Code, cũng kêu gọi các phòng thí nghiệm AI lớn cùng giảm tốc độ phát triển các mô hình tiên tiến do lo ngại năng lực tự cải thiện của AI sẽ sớm vượt quá khả năng quản lý rủi ro của con người.
Lời kêu gọi được đưa ra trong bối cảnh các doanh nghiệp công nghệ gia tăng đầu tư vào an toàn AI. Nvidia mới đây đã thành lập liên minh với Adobe, CrowdStrike và nhiều đối tác khác để phát triển các công cụ bảo mật dành cho AI sau sự cố an ninh mạng liên quan đến Hugging Face.
Tổng hợp