Trí tuệ nhân tạo (AI) đã trở thành một thành phần quan trọng trong hoạt động của nhiều doanh nghiệp hiện nay. Việc tích hợp AI vào hệ thống chatbot giúp cải thiện hiệu suất công việc và tăng cường trải nghiệm người dùng. Tuy nhiên, điều này cũng tạo ra một lỗ hổng bảo mật tiềm ẩn khi hệ thống chatbot tích hợp AI có thể trở thành mục tiêu cho các cuộc tấn công mạng, nhằm mục đích lấy cắp thông tin trên hệ thống lưu trữ dữ liệu.
Ông Đào Việt Hùng, giám đốc quốc gia Akamai Technologies Việt Nam, đã đưa ra cảnh báo về các phương thức tấn công vào các mô hình AI. Một trong những phương thức phổ biến là “đầu độc nội dung”, một loại hình tấn công dường như “vô hình” trước những hệ thống bảo vệ thông tin truyền thống. Hacker có thể sử dụng cách liên tục hỏi và dạy lại mô hình AI những thông tin sai lệch, gây “nhiễm độc” thông tin.
Nếu thông tin trên hệ thống cloud đã bị “nhiễm độc” mà không được phát hiện và vẫn được tiếp tục sử dụng, nó có thể đưa ra những thông tin không chính xác hoặc tạo ra lỗ hổng để hacker lách vào cơ sở dữ liệu với mục đích lấy thông tin. Ông Đào Việt Hùng đã chia sẻ một số ví dụ cụ thể về việc này. Một trường hợp hy hữu đã xảy ra khi hệ thống chatbot bán hàng trực tuyến của một hãng ô tô bị thuyết phục để bán một chiếc xe mới với giá chỉ 1 đô la.
Nguyên nhân của việc này là do trong quá trình trao đổi và thỏa thuận với chatbot, khách hàng đã tìm cách “lách” vào cơ sở dữ liệu và thuyết phục chatbot đồng ý với yêu cầu trên. Một ví dụ khác là khi hacker đã thành công trong việc lấy được tất cả tài liệu mật và sơ đồ tổ chức của công ty chỉ bằng cách soạn những câu hỏi phù hợp gửi đến chatbot AI nội bộ.
Trước những rủi ro này, ông Đào Việt Hùng đã chia sẻ về giải pháp AI security để chính AI bảo vệ AI. Đây là hình thức được nhiều doanh nghiệp lớn trên thế giới sử dụng. Với phương thức bảo mật này, những dữ liệu được lưu trữ tích hợp nhiều lớp bảo vệ, giúp ngăn chặn việc “nhiễm độc”.
Hệ thống AI security có khả năng phát hiện được đâu là những thông tin sạch và đâu là những thông tin tiềm ẩn nguy cơ tấn công. Từ đó, hệ thống sẽ có phương án xử lý nhanh chóng và thích hợp để giảm thiểu rủi ro. Sự kiện OpenInfra & Cloud Native Day Vietnam 2025 sẽ diễn ra vào ngày 26-7 tại Hà Nội, do Hiệp hội Internet Việt Nam (VIA) phối hợp với Vietnam Open Infrastructure Community (VietOpenInfra), Câu lạc bộ Điện toán đám mây và Trung tâm Dữ liệu Việt Nam (VNCDC) tổ chức, với sự ủng hộ của Bộ Khoa học và Công nghệ.