Xây dựng khung pháp lý cho AI dựa trên mức độ rủi ro

Trí tuệ nhân tạo đang hiện diện ngày càng sâu rộng trong nhiều lĩnh vực như giáo dục, y tế, tài chính, giao thông, tư pháp và quản trị công. Khi các hệ thống AI tham gia trực tiếp vào quá trình ra quyết định liên quan đến quyền lợi của người dân cũng như lợi ích quốc gia, việc thiết lập cơ chế quản lý rủi ro trở thành yêu cầu cấp thiết.

Trong bối cảnh đó, việc Chính phủ lần đầu ban hành Danh mục hệ thống AI có rủi ro cao được đánh giá là dấu mốc quan trọng trong quá trình hoàn thiện thể chế về AI, hướng tới mục tiêu vừa khuyến khích đổi mới sáng tạo, vừa bảo đảm công nghệ này được phát triển theo hướng an toàn, minh bạch và đặt con người ở vị trí trung tâm.

Theo quy định, một hệ thống AI được xếp vào nhóm rủi ro cao nếu có khả năng tác động đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích công cộng hoặc an ninh quốc gia.

Danh mục được công bố gồm 46 hệ thống AI thuộc 6 lĩnh vực có ảnh hưởng trực tiếp đến đời sống xã hội, bao gồm giáo dục; dân tộc và tôn giáo; y tế; ngân hàng; tố tụng; giao thông vận tải.

Ở lĩnh vực giáo dục, các hệ thống AI tự động đánh giá, xếp hạng người học, giám sát hành vi học tập hoặc cung cấp nội dung học tập từ các nguồn dữ liệu chưa được kiểm soát đều thuộc diện quản lý.

Đối với y tế, các hệ thống hỗ trợ phẫu thuật và robot phẫu thuật ứng dụng AI được xác định là có mức độ rủi ro cao do liên quan trực tiếp đến sức khỏe và tính mạng người bệnh.

Trong lĩnh vực ngân hàng, các hệ thống AI tự động quyết định cấp tín dụng hoặc thực hiện giao dịch điện tử cũng phải tuân thủ những yêu cầu quản lý nghiêm ngặt nhằm hạn chế nguy cơ sai lệch, phân biệt đối xử hoặc gây thiệt hại về tài chính.

Đáng chú ý, giao thông vận tải là lĩnh vực có số lượng hệ thống AI rủi ro cao nhiều nhất với 31 hệ thống, bao gồm xe tự hành cấp độ cao, hệ thống điều khiển tín hiệu giao thông, điều độ đường sắt và các hệ thống điều hành hạ tầng giao thông trọng yếu.

Quyết định của Chính phủ cũng quy định rõ các nguyên tắc vận hành AI. Theo đó, hệ thống AI phải tuân thủ các nguyên tắc cơ bản của Luật Trí tuệ nhân tạo; không làm thay đổi hoặc thay thế trách nhiệm pháp lý của cơ quan, tổ chức, cá nhân có thẩm quyền; luôn bảo đảm sự giám sát và khả năng can thiệp của con người trong quá trình vận hành; đồng thời không được thực hiện các hành vi bị pháp luật nghiêm cấm.

Đối với các hệ thống AI đã được đưa vào sử dụng trước ngày 15/8/2026, Chính phủ cho phép tiếp tục vận hành trong giai đoạn chuyển tiếp nhưng phải hoàn thành đầy đủ các nghĩa vụ tuân thủ theo lộ trình. Trong đó, các hệ thống thuộc lĩnh vực y tế, giáo dục và tài chính phải hoàn tất trước ngày 1/9/2027; các lĩnh vực còn lại trước ngày 1/3/2027.

Trong thời gian chuyển tiếp, nếu cơ quan nhà nước xác định hệ thống AI có nguy cơ gây thiệt hại nghiêm trọng, cơ quan có thẩm quyền được quyền yêu cầu tạm dừng hoặc chấm dứt hoạt động theo quy định của Luật Trí tuệ nhân tạo.

Phát triển AI phải gắn với trách nhiệm

Việc ban hành danh mục AI rủi ro cao cho thấy Việt Nam lựa chọn phương thức quản lý dựa trên mức độ rủi ro thay vì áp dụng chung cho mọi công nghệ AI.

Đây cũng là xu hướng đang được nhiều quốc gia và tổ chức quốc tế triển khai. Thay vì kìm hãm sự phát triển của AI, các nước tập trung kiểm soát những hệ thống có khả năng tác động trực tiếp đến quyền con người, an toàn xã hội và lợi ích công cộng.

Cách tiếp cận này vừa tạo điều kiện để các ứng dụng AI thông thường tiếp tục đổi mới, vừa yêu cầu những hệ thống có tác động lớn phải đáp ứng các tiêu chuẩn cao hơn về tính minh bạch, khả năng giải trình, quản trị dữ liệu, an toàn và sự giám sát của con người.

Đây được xem là "lan can an toàn" cần thiết nhằm bảo đảm AI phát triển bền vững trong bối cảnh công nghệ này đang thay đổi với tốc độ rất nhanh.

Song song với việc hoàn thiện hành lang pháp lý, Việt Nam cũng đẩy mạnh nâng cao năng lực ứng dụng và quản trị AI trong khu vực công.

Sự phát triển nhanh chóng của các sản phẩm, nền tảng và mô hình AI trên nhiều lĩnh vực kinh tế - xã hội mở ra cơ hội lớn để nâng cao năng suất, thúc đẩy đổi mới sáng tạo và phát triển nền kinh tế số.

Tuy nhiên, cùng với cơ hội là những thách thức liên quan đến quyền riêng tư, thiên lệch dữ liệu, trách nhiệm pháp lý, an toàn hệ thống cũng như nguy cơ AI thay thế những quyết định vốn cần sự đánh giá của con người.

Khi hành lang pháp lý tiếp tục được hoàn thiện cùng với việc nâng cao năng lực quản trị và nhận thức của đội ngũ cán bộ, doanh nghiệp và người dân, AI sẽ trở thành công cụ quan trọng phục vụ phát triển kinh tế - xã hội, đồng thời vẫn bảo đảm các giá trị cốt lõi về quyền con người, đạo đức và lợi ích quốc gia. Đây cũng là nền tảng để Việt Nam xây dựng hệ sinh thái AI tin cậy, có sức cạnh tranh trong kỷ nguyên số.

Nâng cao năng lực con người để phát triển AI an toàn

Mới đây tại Hà Nội, Học viện Chiến lược Khoa học và Công nghệ phối hợp với UNESCO, Liên minh châu Âu và các đơn vị thuộc Bộ Khoa học và Công nghệ tổ chức Hội nghị tập huấn "Nâng cao năng lực ứng dụng AI trong khu vực công" dành cho đội ngũ cán bộ, công chức.

Giám đốc Học viện Chiến lược Khoa học và Công nghệ Phạm Đình Nguyên cho rằng AI không còn đơn thuần là công cụ hỗ trợ mà đang trở thành động lực đổi mới phương thức quản trị nhà nước. Vì vậy, cán bộ cần được trang bị đầy đủ kiến thức và kỹ năng để sử dụng AI hiệu quả, đồng thời nâng cao năng lực quản trị AI có trách nhiệm nhằm thúc đẩy đổi mới sáng tạo và cải tiến quy trình làm việc.

Trưởng đại diện UNESCO tại Việt Nam Jonathan Wallace Baker nhận định, vấn đề hiện nay không còn là AI có thể làm được gì, mà là AI cần được sử dụng như thế nào.

Theo ông, đạo đức AI đã trở thành trọng tâm trong chính sách phát triển AI trên phạm vi toàn cầu. Từ năm 2021, các quốc gia thành viên UNESCO đã thông qua Khuyến nghị toàn cầu về Đạo đức AI, thiết lập bộ nguyên tắc chung nhằm hỗ trợ các quốc gia xây dựng hệ sinh thái AI an toàn, minh bạch và lấy con người làm trung tâm.

Chương trình tập huấn tập trung vào nhiều nội dung như kỹ năng ứng dụng AI trong khu vực công; AI Agent và tự động hóa quy trình làm việc; quản trị AI có trách nhiệm; công cụ đánh giá tác động đạo đức của AI; cùng các chính sách phát triển AI tại Việt Nam.

Ngoài phần lý thuyết, học viên còn tham gia xử lý các tình huống thực tế để nhận diện rủi ro khi sử dụng AI, từ đó xây dựng nguyên tắc ứng dụng AI có trách nhiệm trong công việc hằng ngày.

"Con đường tương lai" và mô hình kinh tế mới trong thời đại AI

Hải Đăng