Tuy nhiên, ít ai biết rằng AI cũng có thể dẫn dắt người dùng vào những cái bẫy, từ đó tạo cơ hội cho kẻ xấu đánh cắp dữ liệu nhạy cảm. Điều này đã được chứng minh trong một nghiên cứu gần đây khi cho biết tin tặc có thể lợi dụng Gemini để thực hiện các hành vi lừa đảo.
Google đang tích hợp sâu Gemini AI vào dịch vụ email của mình
ẢNH: ANDROID AUTHORITY
Được phát hiện thông qua chương trình săn lỗi 0din của Mozilla Foundation nhằm nâng cao an toàn cho các ứng dụng AI, lỗ hổng nhắm vào người dùng Google Workspace nhằm cho phép Gemini hiển thị các lệnh độc hại. Nghiên cứu cho thấy tính năng tóm tắt email của Gmail dễ dàng bị đánh lừa bởi các lời nhắc lừa đảo.
Gemini AI có thể hiểu nhầm liên kết độc hại
Cụ thể, các lời nhắc này có thể được chèn vào nội dung email dưới dạng HTML hoặc văn bản ẩn với màu phông chữ vô hình. Gemini có thể hiểu những lời nhắc này như là lệnh và hiển thị chúng trong phần tóm tắt email mà không có bất kỳ cảnh báo nào.
Do đó, người nhận có thể không nhận ra rằng họ đang bị lừa và có thể nghĩ đó là thông báo do Gemini tạo ra. Nhà nghiên cứu có tên blurylogic cảnh báo điều này có thể dẫn đến việc người nhận chia sẻ thông tin nhạy cảm mà không qua xác minh, từ đó làm lộ thông tin đăng nhập của họ.
Một email được tóm tắt bởi Gemini nhưng lại chứa thông báo độc hại
ẢNH: CHỤP MÀN HÌNH
Sau khi phát hiện này được công bố trên 0din, Google đã nhanh chóng công bố các biện pháp đã thực hiện để củng cố bảo mật cho Gemini. Công ty cho biết họ liên tục cập nhật danh sách các lệnh độc hại có thể thao túng đầu ra của chatbot. Các mô hình học máy cũng được đào tạo liên tục để đảm bảo không phản hồi các lệnh độc hại.
Ngoài ra, Google đã liệt kê các bước khác để chống lại các hình thức lừa đảo khác nhau. Họ cho biết Gemini có khả năng xác định các liên kết đáng ngờ hoặc giả mạo và loại bỏ chúng khỏi phần tóm tắt email. Để tăng cường bảo mật, Gemini cũng yêu cầu xác nhận cho các hành động như xóa các tác vụ cụ thể.
Tuy nhiên, người dùng vẫn được khuyến cáo cần cảnh giác bởi những kẻ lừa đảo thường có kế hoạch trước, vì vậy không nên tin tưởng mù quáng vào bất kỳ tin nhắn nào từ Gemini, đặc biệt là những yêu cầu nhấp vào liên kết, gọi điện hoặc gửi email cho một người cụ thể.