Vòng đời hệ thống trí tuệ nhân tạo là gì? Vòng đời hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng là gì?

Vòng đời hệ thống trí tuệ nhân tạo là gì? Vòng đời hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng là gì?

Căn cứ khoản 1 Điều 2 Thông tư 53/2026/TT-NHNN giải thích về vòng đời hệ thống trí tuệ nhân tạo là gì, vòng đời hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng là gì như sau:

Giải thích từ ngữ và thuật ngữ

Trong Thông tư này, các từ ngữ dưới đây được hiểu như sau:

1. Vòng đời hệ thống trí tuệ nhân tạo là chuỗi các giai đoạn liên tiếp và lặp lại trong quá trình tồn tại của một hệ thống trí tuệ nhân tạo, bao gồm các giai đoạn: thiết kế, phát triển, kiểm thử, triển khai, vận hành và ngừng sử dụng hệ thống.

Như vậy, vòng đời hệ thống trí tuệ nhân tạo là chuỗi các giai đoạn liên tiếp và lặp lại trong quá trình tồn tại của một hệ thống trí tuệ nhân tạo, bao gồm các giai đoạn: thiết kế, phát triển, kiểm thử, triển khai, vận hành và ngừng sử dụng hệ thống.

Vòng đời hệ thống trí tuệ nhân tạo là gì? Vòng đời hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng là gì? (Hình ảnh Internet)

Quản lý vòng đời hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng như thế nào?

Căn cứ Điều 15 Thông tư 53/2026/TT-NHNN quy định về Quản lý vòng đời hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng từ ngày 15/11/2026 như sau:

(1) Đơn vị phải thiết lập, thực hiện và duy trì quản lý rủi ro đối với hệ thống trí tuệ nhân tạo trong suốt vòng đời của hệ thống trong phạm vi trách nhiệm và khả năng kiểm soát của đơn vị, bao gồm từ giai đoạn thiết kế, phát triển, kiểm thử, triển khai, vận hành đến khi ngừng sử dụng được quy định tại khoản 2, 3, 4 và 5 của Điều 15 Thông tư 53/2026/TT-NHNN.

(2) Trong giai đoạn thiết kế và phát triển hệ thống trí tuệ nhân tạo, đơn vị phải:

- Nhận dạng, phân tích các rủi ro đã biết và rủi ro có thể lường trước có thể ảnh hưởng đến hoạt động nghiệp vụ, quyền lợi của khách hàng và an ninh mạng;

- Thực hiện quản trị dữ liệu huấn luyện theo quy định tại điểm a khoản 3 Điều 7 Thông tư 53/2026/TT-NHNN;

- Tích hợp các yêu cầu về an ninh mạng, cơ chế giám sát, kiểm soát và khả năng can thiệp của con người ngay từ khâu thiết kế hệ thống.

(3) Trong giai đoạn kiểm thử, đơn vị phải:

- Kiểm tra, đánh giá an ninh mạng hệ thống trí tuệ nhân tạo trước khi đưa vào sử dụng, bảo đảm đáp ứng các yêu cầu quy định tại khoản 1 Điều 6 Thông tư 53/2026/TT-NHNN;

- Kiểm tra, đánh giá mô hình trước khi đưa vào sử dụng, bảo đảm đáp ứng các yêu cầu quy định tại Điều 16 Thông tư 53/2026/TT-NHNN.

(4) Trong giai đoạn triển khai và vận hành, đơn vị phải:

- Thực hiện giám sát hiệu năng và hành vi của hệ thống trí tuệ nhân tạo theo quy định tại khoản 2 Điều 6 Thông tư 53/2026/TT-NHNN;

- Xây dựng quy trình báo cáo và xử lý các sự cố nghiêm trọng;

- Xem xét việc thực hiện lại quy trình đánh giá rủi ro; kiểm tra, đánh giá an ninh mạng tương tự như triển khai mới để bảo đảm bản cập nhật không gây ra các tác động tiêu cực khi có thay đổi đáng kể của hệ thống trí tuệ nhân tạo.

(5) Giai đoạn ngừng hoạt động:

- Đơn vị phải lưu trữ hồ sơ, tài liệu cần thiết nhằm phục vụ công tác kiểm toán theo quy định của pháp luật, tối thiểu bao gồm: tài liệu thiết kế; hồ sơ liên quan đến điều kiện trước khi đưa hệ thống trí tuệ nhân tạo vào vận hành quy định tại Điều 22 Thông tư 53/2026/TT-NHNN (và tài liệu cập nhật trong quá trình vận hành nếu có); hồ sơ kỹ thuật của hệ thống trí tuệ nhân tạo có rủi ro cao theo quy định của pháp luật về trí tuệ nhân tạo;

- Khi hệ thống trí tuệ nhân tạo không còn sử dụng, đơn vị phải thực hiện quy trình ngừng hoạt động an toàn, bao gồm việc xóa (sau khi thực hiện việc lưu trữ dữ liệu theo quy định của pháp luật) hoặc vô hiệu hóa an toàn hoặc cô lập dữ liệu, mô hình, cấu hình và các thành phần liên quan thuộc phạm vi quản lý, kiểm soát của đơn vị nhằm ngăn chặn rò rỉ dữ liệu hoặc khôi phục trái phép;

- Đối với dữ liệu huấn luyện và tham số mô hình do bên thứ ba quản lý, đơn vị phải có cơ chế phối hợp, yêu cầu và lưu trữ hồ sơ, tài liệu về việc xử lý phù hợp theo thỏa thuận hợp đồng.

Bảo đảm an toàn hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng từ ngày 15/11/2026 như thế nào?

Căn cứ Điều 6 Thông tư 53/2026/TT-NHNN quy định bảo đảm an toàn hệ thống trí tuệ nhân tạo trong lĩnh vực ngân hàng từ ngày 15/11/2026 như sau:

- Hệ thống trí tuệ nhân tạo phải được kiểm tra, đánh giá an ninh mạng trước khi đưa vào vận hành chính thức và định kỳ hoặc ngay khi có thay đổi đáng kể của hệ thống trí tuệ nhân tạo, tối thiểu bao gồm:

+ Kiểm tra, đánh giá việc phòng, chống các kịch bản tấn công, rủi ro đặc thù đối với hệ thống trí tuệ nhân tạo, tối thiểu bao gồm:

(i) Tấn công vi phạm quyền riêng tư dữ liệu;

(ii) Tấn công đầu độc dữ liệu, tấn công đầu độc mô hình, tấn công né tránh và tấn công trích xuất mô hình (bắt buộc đối với hệ thống trí tuệ nhân tạo có rủi ro cao; khuyến khích áp dụng đối với các hệ thống trí tuệ nhân tạo khác);

(iii) Tấn công tiêm lệnh, rủi ro tạo sinh nội dung sai lệch hoặc không có căn cứ thực tế, rủi ro thiên lệch trong kết quả đầu ra (đối với hệ thống trí tuệ nhân tạo tạo sinh);

+ Đối với các hệ thống trí tuệ nhân tạo có rủi ro cao hoặc hệ thống trí tuệ nhân tạo có rủi ro trung bình ra quyết định trong hoạt động nghiệp vụ, áp dụng các biện pháp phòng, chống các rủi ro, lỗ hổng, tấn công mạng theo các tiêu chuẩn và thông lệ quốc tế như OWASP (OWASP Machine Learning Security Top Ten đối với hệ thống học máy, OWASP Top 10 for Large Language Model Applications đối với hệ thống sử dụng mô hình ngôn ngữ lớn; Phiên bản OWASP áp dụng là phiên bản mới nhất hoặc phiên bản gần nhất với phiên bản được ban hành trong vòng 06 tháng) hoặc tương đương;

+ Thời gian định kỳ kiểm tra, đánh giá an ninh mạng phù hợp với cấp độ an ninh mạng của hệ thống trí tuệ nhân tạo theo quy định của pháp luật về an ninh mạng;

+ Kết quả kiểm tra, đánh giá an ninh mạng và các biện pháp khắc phục phải được lập thành hồ sơ, lưu trữ phục vụ công tác quản lý, kiểm tra, thanh tra theo quy định.

- Đơn vị phải thiết lập cơ chế giám sát hiệu năng và hành vi của hệ thống trí tuệ nhân tạo, tối thiểu bao gồm: việc phát hiện các dấu hiệu bất thường như sai lệch đầu ra, suy giảm chất lượng, thiên lệch, trôi mô hình, trôi dữ liệu hoặc hành vi bất thường khác cho thấy hệ thống hoạt động không đúng với mục đích thiết kế hoặc phạm vi sử dụng đã được phê duyệt.

*Lưu ý:

- Thông tư 53/2026/TT-NHNN có hiệu lực thi hành kể từ ngày 15/11/2026, trừ quy định tại khoản 2, 3 và 4 Điều 23 Thông tư 53/2026/TT-NHNN

- Quy định tại Điều 14 Thông tư 53/2026/TT-NHNN có hiệu lực thi hành từ ngày 01/01/2027.

- Quy định tại điểm b khoản 1 Điều 6 Thông tư 53/2026/TT-NHNN có hiệu lực thi hành kể từ ngày 01/09/2027.

- Quy định tại Điều 21 Thông tư 53/2026/TT-NHNN có hiệu lực thi hành kể từ ngày 01/09/2027, ngoại trừ trường hợp đơn vị có hệ thống trí tuệ nhân tạo có rủi ro cao.