Chi tiết khóa học

Bài 1: Các nguy cơ an ninh trong hệ thống GenAI

• Tổng quan về các rủi ro mới trong ứng dụng GenAI

• Prompt injection, model jailbreak, data poisoning

• Phân loại các kiểu tấn công vào pipeline GenAI (input, output, context…)

• Mô phỏng các hình thức prompt injection và thảo luận cách phòng ngừa

Bài 2: Thiết kế kiến trúc GenAI an toàn (Secure-by-Design)

• Cách thiết kế hệ thống AI theo mô hình bảo mật Zero Trust

• Tách dữ liệu riêng tư – phân quyền truy cập – theo dõi hành vi bất thường

• Cấu hình môi trường chạy model nội bộ (sandbox, container, private API)

• Vẽ kiến trúc bảo mật cho một ứng dụng chatbot nội bộ dùng GenAI

Bài 3: Bảo vệ dữ liệu trong pipeline GenAI

• Mã hóa dữ liệu đầu vào/đầu ra, log bảo mật

• Hạn chế mô hình ghi nhớ thông tin nhạy cảm

• Tích hợp kiểm soát nội dung đầu vào và chặn leak đầu ra (guardrails)

• Tạo bộ rule kiểm soát nội dung nhạy cảm đầu vào cho GenAI

Bài 4: Quản lý truy cập và giám sát mô hình AI

• Kiểm soát quyền truy cập API, người dùng nội bộ, bên thứ ba

• Xây dựng hệ thống log và audit GenAI model hoạt động

• Tích hợp giám sát bất thường, phát hiện hành vi bất thường

• Thiết lập hệ thống theo dõi và cảnh báo hoạt động bất thường từ GenAI

Bài 5: Đảm bảo tuân thủ pháp lý và kiểm thử bảo mật định kỳ

• Tiêu chuẩn ISO 27001, NIST AI RMF, EU AI Act, GDPR với GenAI

• Kiểm thử bảo mật mô hình định kỳ (red teaming AI)

• Tạo policy sử dụng GenAI trong doanh nghiệp an toàn

• Viết bản hướng dẫn sử dụng GenAI an toàn cho nhân viên