Dự thảo Luật AI: Bỏ mức phạt theo doanh thu, bổ sung cơ chế bồi thường thiệt hại đối với hệ thống AI rủi ro cao

Cách tiếp cận "luật khung" và những điều chỉnh mới của Chính phủ

Trình bày Tờ trình của Chính phủ về Dự án Luật, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng cho biết, Luật Trí tuệ nhân tạo (Luật AI) là luật ngắn, luật khung, tập trung xác định các nguyên tắc và khung quản trị, đảm bảo sự linh hoạt cho Chính phủ trong tổ chức thực hiện.

Về mô hình AI, Luật không điều chỉnh mô hình, vì mô hình là kết quả sáng tạo của nội bộ doanh nghiệp và thay đổi liên tục. Luật chỉ điều chỉnh đầu ra, tức là hành vi sử dụng AI và các rủi ro phát sinh từ việc AI tác động đến xã hội. Đây là thông lệ quốc tế và bảo đảm không cản trở đổi mới sáng tạo.

Về Quỹ AI, mặc dù đã có các quỹ như Quỹ Phát triển Khoa học công nghệ, Quỹ Đổi mới công nghệ, Quỹ Đầu tư mạo hiểm, nhưng vẫn cần một quỹ riêng cho AI. Vì AI không chỉ là công nghệ mà còn là hạ tầng chiến lược quốc gia. AI cần cơ chế giải ngân nhanh, linh hoạt để phát triển. AI là công nghệ quan trọng nhất của Cách mạng công nghiệp lần thứ tư, cần đầu tư rất lớn đến hàng tỷ đô la Mỹ. Các quỹ hiện có không đáp ứng được. Quỹ AI cũng đã được Ban Chỉ đạo Nghị quyết 57 yêu cầu thành lập.

Về quản lý AI dựa trên mức độ rủi ro, cơ quan soạn thảo đã nghiên cứu tiếp thu ý kiến của các đại biểu theo hướng có 3 mức độ rủi ro (trước đây là 4): Thấp - Trung bình - Cao. Đồng thời bổ sung một điều về các hành vi bị cấm.

Về tiền kiểm AI rủi ro cao, Luật đã đưa ra hình thức nghĩa vụ tối thiểu trước khi triển khai. Nghĩa vụ tối thiểu trước khi triển khai là doanh nghiệp phải tự chuẩn bị đầy đủ hồ sơ đánh giá an toàn trước khi đưa AI rủi ro cao ra thị trường, nhưng không phải nộp hồ sơ xin phép. Và chỉ phải xuất trình khi cơ quan quản lý yêu cầu. Đây có thể gọi là cách tiếp cận "tiền kiểm tối thiểu". Bởi doanh nghiệp vẫn phải thực hiện trước khi triển khai. Một số lĩnh vực đặc biệt sẽ bắt buộc đánh giá bởi bên thứ ba để đảm bảo khách quan.

Về gắn nhãn, nội dung do AI tạo ra và cung cấp cho công chúng thì chỉ cần thông báo. Nhưng nội dung deepfake (giả mạo) có tính chất giả gây nhầm lẫn như thật thì phải được gán nhãn bắt buộc.

Về bồi thường thiệt hại, ban soạn thảo đã bỏ quy định mức phạt theo doanh thu, vì Luật đã quy định bồi thường toàn bộ thiệt hại do hành vi trái pháp luật gây ra và đã có hình thức đình chỉ cung cấp dịch vụ - là những chế tài rất cao đã đủ sức răn đe.

Về việc AI có phải là nguồn nguy hiểm cao độ hay không, nguồn nguy hiểm cao độ thường là các phương tiện vật lý và bản thân nó vốn đã nguy hiểm như ô tô, thuốc nổ. Dù người dùng đã cẩn thận vẫn có thể gây ra tai nạn lớn như chết người. AI đề cập trong luật này không phải phương tiện vật lý gây nguy hiểm, nó là phần mềm. AI là rủi ro từ ra quyết định, không phải rủi ro vật lý tự thân. Tuy nhiên, dự thảo đã bổ sung cơ chế bồi thường thiệt hại đối với hệ thống AI rủi ro cao trong trường hợp các bên không có lỗi, tương tự như cơ chế bồi thường đối với nguồn nguy hiểm cao độ.

Băn khoăn về "khoảng trống" pháp lý với dữ liệu và sở hữu trí tuệ

Trình bày Báo cáo ý kiến về việc tiếp thu, giải trình và chỉnh lý dự thảo Luật Trí tuệ nhân tạo, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Nguyễn Thanh Hải nhấn mạnh, Cơ quan chủ trì soạn thảo đã tiếp thu 12 nội dung, nhóm nội dung lớn. Tuy nhiên, báo cáo cũng chỉ rõ một số nội dung chưa được tiếp thu, chỉnh lý đề nghị tiếp tục nghiên cứu, hoàn thiện.

Về dữ liệu phục vụ AI, dự thảo mới chỉ viện dẫn các nguyên tắc chung theo Luật Dữ liệu, trong khi dữ liệu phục vụ AI có đặc thù tác động, ảnh hưởng sâu và rộng đến nhiều ngành, lĩnh vực hiện nay. Vì vậy, đề nghị bổ sung quy định riêng về chất lượng dữ liệu huấn luyện AI, cùng các cơ chế kết nối, chia sẻ dữ liệu; thẩm định, chuẩn hóa và giám sát chất lượng dữ liệu; xác định đầu mối quản lý, quyền sở hữu và trách nhiệm quản lý dữ liệu, bảo đảm an toàn và khai thác hiệu quả.

Về xử phạt vi phạm và mức xử phạt, tiếp thu ý kiến đại biểu Quốc hội, cơ quan soạn thảo đã lược bỏ quy định mức phạt vi phạm hành chính theo % doanh thu theo ý kiến của đại biểu Quốc hội nhưng vẫn tiếp tục quy định về mức xử phạt tối đa là 1 tỷ đồng đối với cá nhân, 2 tỷ đồng đối với tổ chức tại Khoản 2 Điều 28. Ủy ban thẩm tra cho rằng, Luật AI là luật khung nên việc quy định chi tiết mức xử phạt cụ thể sẽ dẫn tới khả năng mâu thuẫn, chồng chéo với Luật Xử lý vi phạm hành chính chưa bảo đảm tính thống nhất pháp luật.

Về sở hữu trí tuệ đối với các sản phẩm do AI tạo ra, đây là vấn đề phức tạp, quốc tế vẫn còn nhiều tranh luận, nhiều ý kiến khác nhau. Tuy nhiên, để tránh hình thành khoảng trống pháp lý có khả năng dẫn đến đến tranh chấp, khiếu kiện, Ủy ban thẩm tra đề nghị bổ sung các quy định mang tính nguyên tắc chung về quyền sở hữu trí tuệ đối với sản phẩm do AI tạo ra để làm cơ sở quy định chi tiết, để áp dụng thống nhất trong thực tiễn.

Về khung đạo đức AI (tại Điều 25 và 26 dự thảo), hiện mới chỉ quy định đối với khu vực Nhà nước, Ủy ban đề nghị nghiên cứu chỉnh lý để Khung đạo đức áp dụng thống nhất cho cả khu vực công và khu vực tư, phù hợp với mức độ tác động xã hội của AI.

Về sử dụng AI trong nghiên cứu khoa học, giáo dục, y tế và tác động của AI đối với xã hội, lao động, việc làm, cơ quan chủ trì soạn thảo giải trình theo hướng các nội dung này sẽ được quy định tại luật chuyên ngành. Tuy nhiên, qua rà soát, Thường trực Ủy ban nhận thấy một số dự án luật có liên quan được trình tại Kỳ họp thứ 10 này (như Luật Báo chí, Luật Phòng bệnh,…) chưa bổ sung các nội dung nêu trên. Vì vậy, trong khi các luật chuyên ngành chưa kịp thời sửa đổi, bổ sung, đề nghị nghiên cứu bổ sung vào dự thảo Luật các nguyên tắc làm cơ sở xây dựng các quy định chi tiết, bảo đảm khung pháp lý đồng bộ và phù hợp với sự phát triển nhanh của AI.

Báo cáo cũng chỉ ra, qua rà soát (184 ý kiến đại biểu Quốc hội chưa được tiếp thu trực tiếp) cho thấy, phần tiếp thu, giải trình theo nhóm vấn đề chưa tổng hợp đầy đủ ý kiến của Ủy ban Thường vụ Quốc hội, cơ quan thẩm tra và các cơ quan hữu quan; một số ý kiến đại biểu Quốc hội chưa được giải trình trực tiếp đầy đủ hoặc trả lời thẳng vào ý kiến mà đại biểu nêu như về quy định mức xử phạt hoặc bổ sung khái niệm “sản phẩm AI”, “dịch vụ AI”… Ngoài ra, một số nội dung cơ quan soạn thảo cũng chưa thể hiện rõ là tiếp thu hay giải trình các ý kiến.

Cân nhắc kéo dài thời hạn chuyển tiếp cho AI trong y tế, giáo dục, tài chính

Phát biểu chỉ đạo tại phiên họp, Chủ tịch Quốc hội Trần Thanh Mẫn chỉ ra các vấn đề lớn cần đặc biệt lưu ý liên quan đến AI và các quy định quản lý nhằm đảm bảo phát triển kinh tế-xã hội.

Về thời điểm có hiệu lực của một số điều khoản đối với các hệ thống AI rủi ro cao đang triển khai trước ngày luật có hiệu lực, Chủ tịch Quốc hội đề nghị cân nhắc kéo dài thời hạn chuyển tiếp tối đa đối với các hệ thống trong lĩnh vực y tế, giáo dục, tài chính để tránh làm ảnh hưởng đến người dân.

Đối với quy định về nghĩa vụ công khai mã nguồn và dữ liệu huấn luyện của các mô hình AI tạo sinh, Chủ tịch Quốc hội cho biết, trong phát biểu ở Hội trường, một số đại biểu Quốc hội lo ngại việc công khai này sẽ ảnh hưởng đến bí mật kinh doanh. Chủ tịch Quốc hội đề nghị cơ quan soạn thảo xem xét công khai một phần có chọn lọc, thay vì công khai toàn bộ, để có thể tiếp thu ý kiến này.

Liên quan đến chế tài xử phạt, Chủ tịch Quốc hội đề nghị cân nhắc việc đưa các con số cụ thể về mức phạt hành chính vào Luật hay không. Theo Chủ tịch Quốc hội, không nên đưa các con số cụ thể vào Luật mà nên quy định ở Nghị định của Chính phủ để đảm bảo sự linh hoạt khi xử lý các tình huống phát sinh sau này. Luật nên là "luật khung" với nguyên tắc chung, Nghị định và Thông tư sẽ quy định chi tiết hơn.

Chủ tịch Quốc hội Trần Thanh Mẫn nhấn mạnh tinh thần của việc ban hành luật là có luật để quản lý về trí tuệ nhân tạo AI một cách thực chất, hiệu quả. Luật phải là công cụ để thúc đẩy sự phát triển mạnh mẽ, hỗ trợ chuyển đổi số, số hóa, và trí tuệ nhân tạo đến với người dân, hộ sản xuất kinh doanh, tránh việc quy định bó hẹp, cản trở sự phát triển.

Tiếp thu ý kiến của Chủ tịch Quốc hội Trần Thanh Mẫn, cơ quan chủ trì thẩm tra và các thành viên Ủy ban Thường vụ Quốc hội tại phiên họp, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng đã làm rõ các nhóm vấn đề lớn. Về lo ngại lộ lọt bí mật công nghệ, Bộ trưởng khẳng định dự thảo mới đã bỏ quy định yêu cầu công khai thuật toán. Cơ quan soạn thảo thống nhất quan điểm đây là "bí mật kinh doanh" sống còn của doanh nghiệp, do đó không yêu cầu bắt buộc phải công bố. Liên quan đến Quỹ phát triển AI, Bộ trưởng Nguyễn Mạnh Hùng cho biết, Cơ quan soạn thảo giao cho Chính phủ quy định hoạt động của Quỹ, nhưng trong dự thảo lại chưa có nội dung giao quyền này. Đây là thiếu sót và sẽ bổ sung ngay nội dung giao Chính phủ quy định chi tiết để Quỹ có cơ sở hoạt động. Đối với các quy định về dữ liệu huấn luyện và sản phẩm do AI tạo ra, Bộ trưởng Nguyễn Mạnh Hùng cho biết sẽ tiếp thu và tiếp cận theo hướng "luật khung" mang tính nguyên tắc, các chi tiết cụ thể sẽ do Chính phủ quy định.

Ngoài ra, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng khẳng định sẽ tiếp thu các ý kiến khác về: thời điểm có hiệu lực; chế tài; xung đột pháp luật. Cơ quan soạn thảo sẽ tiếp tục rà soát để đồng bộ với các luật khác sẽ được thông qua trong cùng kỳ họp, đảm bảo đúng kỹ thuật lập pháp. Đồng thời sớm hoàn thiện dự thảo Luật trình Quốc hội xem xét, thông qua.