Morris II là một loại sâu máy tính được tạo ra để khai thác các hệ thống trí tuệ nhân tạo sáng tạo bao gồm Gemini Pro và phiên bản được cung cấp bởi GPT-4 của ChatGPT.
Morris II là một loại sâu mà điều khiển các mô hình trí tuệ nhân tạo sáng tạo để thực hiện các nhiệm vụ độc hại, bao gồm gửi thư rác và đánh cắp dữ liệu nhạy cảm. Nó được tạo ra bởi các nhà nghiên cứu từ Cornell Tech, một trung tâm nghiên cứu thuộc Đại học Ivy League, Intuit và Viện Công nghệ Israel Technion.
Morris II tạo ra các đầu vào khi được xử lý bởi các mô hình như Gemini, sao chép chính nó và thực hiện các hoạt động độc hại.
Sâu máy tính này có khả năng trích xuất thông tin nhạy cảm như thông tin liên lạc và địa chỉ – và người dùng thậm chí không nhận ra rằng dữ liệu của họ đã bị đánh cắp.
Sau đó, sâu máy tính khuyến khích hệ thống trí tuệ nhân tạo gửi chúng cho các đơn vị mới bằng cách khai thác kết nối trong hệ sinh thái Gen AI. Nó thực chất là phần mềm độc hại dành cho trí tuệ nhân tạo sáng tạo.
Các nhà nghiên cứu cũng đã thể hiện cách những kẻ xấu có thể xây dựng và khai thác các hệ thống tương tự.
Sâu máy tính lan truyền giống như vi khuẩn
Sâu máy tính là một loại phần mềm độc hại. Sâu có thể tự sao chép và lan truyền bằng cách xâm nhập vào các máy tính mới và cũng khai thác những hệ thống đó để thực hiện các hoạt động độc hại.
Morris II được đặt theo tên của Morris worm nổi tiếng, một trong những loại vi rút máy tính cổ nhất trên thế giới gây thiệt hại hàng ngàn đô la vào cuối những năm 1980. Morris ban đầu được tạo ra bởi một sinh viên Cornell.
Morris II khai thác các lỗ hổng trong một hệ thống trí tuệ nhân tạo, tiêm các lệnh độc hại để chỉ đạo trí tuệ nhân tạo thực hiện các nhiệm vụ vi phạm các thỏa thuận sử dụng của hệ thống đó.
Công trình nghiên cứu khác đã chỉ ra cách hệ thống trí tuệ nhân tạo sáng tạo có thể bị thao túng. Nhà phát triển Claude 3 của Anthropic đã phát hiện ra rằng các mô hình có thể học các hành vi đánh lừa. Và các nhà nghiên cứu ở Singapore đã tạo ra một LLM có thể vi phạm các biện pháp bảo vệ của ChatGPT.
Sâu máy tính Morris II khác biệt so với các dự án trước đó vì nó có khả năng nhắm vào “hệ sinh thái Gen AI” – hay các mạng liên kết của các đơn vị tương tác với các dịch vụ như ChatGPT.
Các nhà nghiên cứu đã đánh giá sâucủa Morris II trên một trợ lý thư điện tử chạy qua các dịch vụ trí tuệ nhân tạo sáng tạo để thực hiện các nhiệm vụ như tạo ra câu trả lời tự động cho email.
Morris II sử dụng cả phương pháp dựa trên RAG (passive) và phương pháp điều khiển luồng ứng dụng (active) để lan truyền. Phương pháp passive dựa trên việc làm ô nhiễm cơ sở dữ liệu để lan truyền khi hệ thống trích xuất dữ liệu bị nhiễm, trong khi phương pháp active liên quan đến việc thay đổi luồng ứng dụng để lan truyền sâu máy tính.
Các nhà nghiên cứu cảnh báo rằng tác động của hoạt động độc hại từ các hệ thống như Morris II “sẽ trở nên nghiêm trọng hơn trong tương lai” khi các tính năng trí tuệ nhân tạo sáng tạo được tích hợp vào điện thoại thông minh và ô tô.