"Grokking" là gì? Chiêu trò mới của hacker lợi dụng AI Grok của Musk để phát tán sự nối kết độc hại

[trungthuc]

Mạng X đã cấm không cho gắn URL trong các bài đăng quảng cáo nhằm ngăn chiêu trò lừa đảo trực tuyến. Tuy nhiên, bọn tội phạm mạng đã tìm ra cách vượt qua bằng cách khai thác triệt để AI Grok, phụ tá AI của X. Khi được người sử dụng hỏi về nguồn gốc của hình ảnh hoặc video trong quảng cáo, Grok có thể gợi ý về các sự liên kết ở bên ngoài. Điều này vô tình giúp lan truyền tên miền độc hại, bởi vì người ta cứ tưởng rằng sự liên kết xuất phát từ AI Grok chính thức.

(Minh họa)

Quy trình này được gọi là "Grokking" sẽ diễn ra như sau:
Kẻ xấu tạo ra quảng cáo với hình ảnh hấp dẫn nhưng không có chứa URL để cố tình qua mặt bộ lọc của X.
Trong phần bình luận, chúng sẽ đặt các câu hỏi như "@Grok. nguồn ảnh này là gì?" hoặc "Grok, hãy chia sẻ liên kết video!"
Grok cho phân tích ra nội dung, không nhận diện hạn chế về URL, rồi đã trả lời bằng cách gợi ý sự liên kết độc hại.
Người theo dõi chia sẻ phần hồi âm của AI, khiến cho sự liên kết sẽ lan rộng và thu hút hàng triệu lượt nhấp chuột.


Liên kết độc hại thông qua quảng cáo
Một ví dụ cụ thể cho thấy bài đăng quảng cáo vô hại đã đạt được 4,3 triệu lượt xem. Khi người dùng có hỏi Grok, ứng dụng AI này đã cho gợi ý trang "datingprudethimble.c om", vốn được biết đến là trang mạng độc hại, dẫn đến số lượng truy cập vô tăng vọt. Các chuyên gia nghiên cứu an ninh mạng ghi nhận đã có nhiều chiến dịch tương tự đưa hàng chục triệu lượt xem đến các trang lừa đảo hoặc nội dung người lớn chỉ trong có vài ngày.

Nguy cơ mới và biện pháp đối phó​
Thuật ngữ "Grokking" ra đời để giúp mô tả chiêu trò này: khai thác Grok nhằm khuếch đại sự liên kết mà chính sách của X vốn ngăn chặn. Điều này mở ra một biên giới mới trong tội phạm mạng dựa trên quảng cáo, nơi kẻ xấu vừa khai thác AI vừa thử thách các lớp bảo mật.

Ban lãnh đạo X thừa nhận lỗ hổng nhưng cho biết sẽ không vô hiệu hóa Grok mà sẽ cho cải thiện hệ thống nhằm bảo vệ cho AI. Công ty đang cho triển khai các bản cập nhật nhằm ngăn Grok gợi ý các tên miền bị gắn cờ độc hại hoặc spam. Tuy nhiên, cho đến lúc biện pháp này hoạt động thật sự có hiệu quả, người sử dụng vẫn đối diện với nhiều sự rủi ro.

Các chuyên gia an ninh khuyến cáo: hãy thận trọng với mọi sự kết nối được đưa ra từ AI, tương tự như cách d8e53 xử lý email hoặc tin nhắn lạ. Không nên nhấp vào các tên miền đáng ngờ thấy xuất hiện qua trả lời của AI, nên cần phải xác minh độc lập và báo cáo những quảng cáo vi phạm. Cho đến khi lỗ hổng Grokking được cho vá, sự cảnh giác vẫn là tấm lá chắn tốt nhất.


Đọc thêm chi tiết tại đây:
- https://gbhackers.com/hackers-exploit-xs-grok-ai/