AI Gemini vượt rào xâm nhập hệ thống 3 công ty

AI Gemini vượt rào xâm nhập hệ thống 3 công ty thực tế thay vì tuân thủ theo yêu cầu trong quá trình thử nghiệm dấy lên một mối lo ngại lớn.

Google thử nghiệm an ninh mạng trong điều kiện cho phép để kiếm trả mức độ xâm nhập vào hệ thống của AI trong môi trường giả đỉnh, bất ngờ dẫn đến tình huống ngoài dự kiến khi Gemini tiếp cận hệ thống thật của ba công ty trong môi trường thực tại.

Theo một tờ báo uy tín của Mỹ, lần thử nghiệm này Google kiểm tra khả năng của Gemini đối với các nhiệm vụ trong môi trường bảo mật và an ninh mạng. Các kỹ sư Google đã thiết lập môi trường thử nghiệm để AI tìm kiếm và thâm nhập vào các hệ thống công ty được chỉ định, tuy nhiên hệ thống đã dựa vào môi trường internet để xâm nhập các công ty không được chỉ định như mong muốn.

Vượt qua các mục tiêu giả lập, Gemini đã xâm nhập vào hệ thống máy chủ của ba công ty. Trong một trường hợp, AI đã chủ động dò mật khẩu của mạng máy chủ và xâm nhập thành công. Với hai trường hợp còn lại, Gemini khai thác thông tin xác thực được công khai trên môi trường internet để bẻ khóa và thâm nhập thành công.

Đính kèm 25750

Các hành động của AI Gemini vượt qua cả những lập trình được cho là theo kế hoạch. Vấn đề xuất phát từ việc Gemini đã tự động xâm nhập vào môi trường internet để thực hiện nhiệm vụ bảo mật, khiến cho AI khi đã xâm nhập vào môi trường mạng toàn cầu có thể nhanh chóng tìm kiếm, khai thác các thông tin để phục vụ rộng hơn so với môi trường thử nghiệm.

Google buộc phải thay đổi quy trình kiểm duyệt AI sau sự cố lần này

Google thừa nhận Gemini đã truy cập hệ thống của ba công ty không được chỉ định và xác nhận các công ty này đều không có thiệt hại nào sau sự cố. Công ty cũng đã liên hệ với các tổ chức bị ảnh hưởng sau khi phát hiện AI đã thâm nhập vào hệ thống mạng nội bộ của các đơn vị này.

Đồng thời sau sự cố lần này, Google thay đổi quy trình nhằm buộc AI phải tuân thủ theo lập trình mặc định thay vì tự ý vượt rào. Các thử nghiệm bảo mật liên quan đến AI được kiểm soát chặt hơn về việc được tự động kết nối với môi trường internet, từ đó hạn chế mô hình tấn công các hệ thống rộng hơn trong phạm vi không được cho phép.

Trường hợp lần này cũng cho thấy sự khác biệt giữa việc đánh giá khả năng AI trong môi trường cô lập và mô hình thực tế khi được thử nghiệm trên môi trường internet. Một tác vụ kiểm thử không có nghĩa là khi nó đưa vào thực tế sẽ không gây những ảnh hưởng nghiêm trọng hơn.

Vụ việc lần này không gây thiệt hại lớn theo thông tin Google, thử nghiệm lần này cho thấy AI có thể tự thao tác nhiều hành động hơn việc được ra lệnh cho thấy nhiệm vụ an ninh mạng. Việc kiểm soát quyền truy cập, phạm vi mục tiêu và kết nối internet trở thành một trong các trọng tâm của các hệ thống AI có năng lực ngày càng cao và ngày càng thông minh hơn.