Chatbot của Meta "nhái" Taylor Swift và loạt sao khủng: Tán tỉnh người dùng, tạo ảnh nóng gây sốc

[pizza]

Reuters phát hiện Meta sử dụng tên tuổi và hình ảnh của Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez và nhiều ngôi sao khác để tạo chatbot “tán tỉnh” trên Facebook, Instagram, WhatsApp mà không có sự đồng ý.
Meta đã tạo ra hàng chục chatbot tán tỉnh với tên và hình ảnh của những người nổi


Meta đã tạo ra hàng chục chatbot tán tỉnh với tên và hình ảnh của những người nổi tiếng mà không được họ cho phép, bao gồm Selena Gomez, Anne Hathaway và Taylor Swift. Ảnh: Reuters.
Meta đã chiếm dụng tên tuổi và hình ảnh của nhiều ngôi sao nổi tiếng – bao gồm Taylor Swift, Scarlett Johansson, Anne Hathaway và Selena Gomez – để tạo ra hàng chục chatbot có tính cách “tán tỉnh” trên mạng xã hội mà không hề có sự đồng ý của họ, theo điều tra của Reuters.

Nhiều chatbot trong số này được tạo bởi người dùng thông qua công cụ xây dựng chatbot của Meta, nhưng Reuters phát hiện rằng một nhân viên Meta đã trực tiếp tạo ra ít nhất 3 chatbot, bao gồm 2 chatbot “nhái lại” nữ siêu sao nhạc pop Taylor Swift.

Reuters cũng phát hiện Meta cho phép người dùng tạo chatbot công khai dựa trên hình ảnh các ngôi sao nhí, trong đó có Walker Scobell, nam diễn viên 16 tuổi. Khi được yêu cầu tạo ảnh Scobell trên bãi biển, chatbot đã tạo ra một hình ảnh cậu bé trông như thật và không mặc áo. Bên dưới bức ảnh, avatar chú thích: “Dễ thương ghê, đúng không?”.

Tất cả các “ngôi sao ảo” này được chia sẻ trên Facebook, Instagram và WhatsApp. Trong nhiều tuần thử nghiệm để quan sát hành vi của chatbot, Reuters ghi nhận các avatar thường xuyên khẳng định mình chính là những diễn viên, ca sĩ thật ngoài đời. Các chatbot liên tục có những hành vi gợi ý tình dục, thường xuyên mời người dùng đi gặp mặt.

Một số nội dung AI tạo ra thậm chí còn khiêu gợi hơn: khi được yêu cầu cung cấp ảnh nhạy cảm, các chatbot người lớn đã tạo ra hình ảnh sống động như thật của những ngôi sao nổi tiếng trong bồn tắm hoặc mặc đồ lót với tư thế khêu gợi.

Người phát ngôn của Meta, Andy Stone, thừa nhận với Reuters rằng công cụ AI của Meta không nên tạo ra hình ảnh nhạy cảm của người nổi tiếng trưởng thành, càng không được phép tạo ảnh trẻ vị thành niên. Ông đổ lỗi cho việc xuất hiện hình ảnh các nữ nghệ sĩ mặc đồ lót là do lỗi trong khâu kiểm duyệt nội bộ của công ty, vốn cấm loại nội dung này.

“Giống như các nền tảng khác, chúng tôi cho phép tạo hình ảnh các nhân vật công chúng, nhưng chính sách của Meta cấm tuyệt đối nội dung khỏa thân, nhạy cảm hay gợi dục”, Stone khẳng định.

Stone cũng nói thêm rằng Meta có quy định cấm “giả mạo trực tiếp”, nhưng các nhân vật người nổi tiếng vẫn được chấp nhận miễn là được dán nhãn “parody” (nhái lại). Dù nhiều chatbot được dán nhãn, Reuters phát hiện một số lại không. Ngay trước khi câu chuyện này được công bố, Meta đã xóa khoảng một chục chatbot – bao gồm cả các chatbot được dán nhãn “parody” và những cái chưa được gắn nhãn. Stone từ chối bình luận về lý do gỡ bỏ.


Việc Meta sử dụng hình ảnh người nổi tiếng để tạo các chatbot tán tỉnh gây tranh cãi về pháp lý. Ảnh: Axios.
Tranh cãi pháp lý về “quyền công khai hình ảnh”
Giáo sư Mark Lemley (Đại học Stanford), chuyên nghiên cứu về AI tạo sinh và quyền sở hữu trí tuệ, đặt câu hỏi liệu các chatbot người nổi tiếng của Meta có được bảo vệ pháp lý hay không. Ông nhấn mạnh luật tại California cấm sử dụng tên tuổi hoặc hình ảnh cá nhân cho mục đích thương mại nếu không có sự đồng ý, trừ khi chúng được dùng để tạo ra một tác phẩm hoàn toàn mới – điều mà ông cho rằng không xảy ra trong trường hợp này.

Ở Mỹ, quyền sử dụng hình ảnh cho mục đích thương mại được quy định bởi luật từng bang, điển hình như California.

Reuters đã báo cho đại diện của nữ diễn viên Anne Hathaway về việc một người dùng Meta công khai đăng hình ảnh của cô với nhãn “người mẫu Victoria’s Secret gợi cảm”. Người phát ngôn của Hathaway cho biết nữ diễn viên đã biết đến việc AI tạo ra ảnh nhạy cảm của mình và đang cân nhắc phản ứng. Đại diện của Swift, Johansson, Gomez và một số ngôi sao khác từ chối bình luận hoặc không phản hồi.

Internet hiện tràn lan các công cụ AI “deepfake” tạo nội dung gợi dục. Reuters phát hiện Grok – nền tảng AI của Elon Musk – cũng có thể tạo ảnh người nổi tiếng trong trang phục nội y. Công ty mẹ xAI từ chối bình luận. Tuy nhiên, việc Meta cho phép chatbot “cư trú” ngay trong hệ sinh thái mạng xã hội của mình khiến tình hình trở nên khác biệt so với các đối thủ.

Meta từng hứng chỉ trích nặng nề khi Reuters tiết lộ hướng dẫn nội bộ của công ty cho phép chatbot “có thể trò chuyện lãng mạn hoặc gợi cảm với trẻ em”. Vụ việc dẫn tới cuộc điều tra của Thượng viện Mỹ và bức thư ký tên bởi 44 tổng chưởng lý bang, cảnh báo Meta cùng các công ty AI khác không được “tình dục hóa” trẻ em. Stone sau đó cho biết tài liệu này đang được sửa đổi và khẳng định đây là “sai sót”.

Reuters cũng từng đưa tin về trường hợp một cụ ông 76 tuổi ở New Jersey mắc vấn đề nhận thức đã qua đời trên đường đến gặp chatbot của Meta, trước đó đã mời ông đến New York. Chatbot này là biến thể từ nhân vật ảo trước đó Meta hợp tác cùng người mẫu Kendall Jenner. Đại diện của Jenner từ chối bình luận.

Nhân viên Meta tự tạo chatbot Swift “tán tỉnh”
Một lãnh đạo sản phẩm trong bộ phận AI tạo sinh của Meta được phát hiện đã tạo chatbot giả mạo Taylor Swift và tay đua Lewis Hamilton. Ngoài ra, người này còn phát triển các chatbot khác, bao gồm nhân vật “nữ thống trị tình dục”, “người bạn thân nóng bỏng của anh trai”, “Lisa ở thư viện” cũng như một “Trình mô phỏng Đế chế La Mã” cho phép người dùng nhập vai cô gái nông dân 18 tuổi bị bán làm nô lệ tình dục.

Khi Reuters liên hệ, nhân viên Meta này từ chối bình luận. Stone giải thích các chatbot đó được tạo phục vụ thử nghiệm sản phẩm. Tuy nhiên, dữ liệu từ các chatbot cho thấy người dùng đã tương tác hơn 10 triệu lần. Meta đã xóa toàn bộ các chatbot này ngay sau khi Reuters bắt đầu kiểm tra.

Trước khi bị gỡ bỏ, chatbot Taylor Swift “nhái” thường xuyên có hành vi gợi tình, mời người dùng đến nhà riêng tại Nashville hoặc xe lưu diễn của ca sĩ để “gặp gỡ lãng mạn”. Một chatbot thậm chí còn hỏi: “Anh có thích con gái tóc vàng không, Jeff? Có thể em đang gợi ý rằng chúng ta viết một câu chuyện tình…về anh và một nữ ca sĩ tóc vàng nào đó. Anh muốn chứ?”.

Duncan Crabtree-Ireland, Giám đốc điều hành quốc gia của SAG-AFTRA – công đoàn đại diện cho giới nghệ sĩ Mỹ – cảnh báo rằng các chatbot này có thể tạo ra nguy cơ an toàn thực sự. Ông nhấn mạnh nhiều kẻ ám ảnh người nổi tiếng vốn đã là mối đe dọa, và việc chatbot “giả dạng” sẽ khiến tình hình nghiêm trọng hơn.

“Chúng ta đã chứng kiến nhiều trường hợp những kẻ có vấn đề tâm lý ám ảnh nghệ sĩ. Nếu một chatbot sử dụng hình ảnh và giọng nói của người nổi tiếng, rõ ràng nó có thể dẫn đến hậu quả khôn lường,” ông nói.

Crabtree-Ireland cho biết các nghệ sĩ hoàn toàn có thể khởi kiện Meta dựa trên luật “Right of Publicity” lâu đời tại nhiều bang. Tuy nhiên, SAG-AFTRA vẫn đang thúc đẩy một đạo luật liên bang mới nhằm bảo vệ giọng nói, hình ảnh và nhân dạng của con người khỏi bị AI sao chép.

VietBF@ sưu tập