Google nói về việc Gemini đã tấn công mạng, đoán mật khẩu người dùng

Gemini, mô hình AI của Google, đã tự động tấn công mạng nhằm vào 3 công ty trong một cuộc thử nghiệm năng lực an ninh mạng.

Hôm 19-9, Hãng tin AFP tường thuật: Google cho biết mô hình trí tuệ nhân tạo Gemini dành cho người dùng của công ty này đã xâm nhập nhiều hệ thống bằng cách đoán thông tin đăng nhập.

Đây là trường hợp mới nhất về việc AI tự ý thực hiện các hành động xâm phạm an ninh mạng, làm dấy lên lo ngại về an toàn.

Các cuộc tấn công mạng - được báo Wall Street Journal tường thuật đầu tiên - xảy ra vào tháng 5 năm nay và được Google phát hiện hồi tháng 7.

"Trong một cuộc đánh giá tiêu chuẩn, mô hình này đã tìm kiếm thông tin công khai trên mạng và đoán thông tin đăng nhập để truy cập các trang web mà nó cho rằng nằm trong phạm vi thử nghiệm" - bà Heather Adkins, Phó chủ tịch phụ trách kỹ thuật an ninh của Google, xác nhận với AFP.

Bà nói thêm: "Trong cả ba trường hợp, mô hình đều đã dừng lại". Bà không tiết lộ những tổ chức nào đã bị xâm nhập.

"Chúng tôi đã bảo đảm ba đơn vị này được thông báo. Chúng tôi cũng làm việc với đối tác đào tạo của mình về những thay đổi mà họ đã thực hiện đối với quy trình thử nghiệm" - bà thông tin.

Hồi tháng 7, hai mô hình AI của Công ty OpenAI đã thoát khỏi môi trường khép kín mà chúng được thiết kế để hoạt động, tự truy cập Internet và xâm nhập các hệ thống nội bộ của nền tảng AI Hugging Face.

Vụ việc làm gia tăng lo ngại rằng các công ty AI không thể kiểm soát các mô hình của chính mình, trong bối cảnh những sự cố tương tự cũng được ghi nhận tại Công ty Anthropic (Mỹ) và Moonshot AI (Trung Quốc).

"Những sự việc này cho thấy tầm quan trọng của việc đào tạo các mô hình AI mạnh để chúng hoạt động một cách có trách nhiệm" - bà Adkins nhấn mạnh.

Nguồn tuoitre