Đại học Thụy Sĩ bí mật tiến hành thí nghiệm AI để điều khiển tâm trí

[Romano]

Một trường đại học lớn của Thụy Sĩ đã bị chỉ trích vì tiến hành một thí nghiệm bí mật trên người dùng nền tảng truyền thông xã hội Reddit để kiểm tra cách trí tuệ nhân tạo (AI) có thể được sử dụng để tác động đến tâm trí ​​của họ. Reddit cho biết đang xem xét hành động pháp lý.Theo báo cáo của phương tiện truyền thông, một nhóm các nhà nghiên cứu tại Đại học Zurich trong những tháng gần đây đã tiến hành một nghiên cứu trên r/ChangeMyView, một trong những cộng đồng tranh luận lớn nhất của Reddit. Thí nghiệm liên quan đến các chatbot AI đóng giả làm người dùng thông thường và tham gia thảo luận về các vấn đề gây tranh cãi.

Các chatbot, đã đăng hơn 1.700 bình luận trên subreddit, sử dụng danh tính giả như một nạn nhân bị hiếp dâm hạ thấp chấn thương do bị tấn công, một người đàn ông da đen phản đối phong trào Black Lives Matter và một cố vấn chấn thương gia đình tuyên bố những người phụ nữ dễ bị tổn thương nhất là những người “được cha mẹ bảo vệ quá mức”.

Một chatbot khác được sử dụng để quét hồ sơ người dùng và đưa ra các lập luận được cá nhân hóa để phản hồi.

Các nhà nghiên cứu đã tiết lộ thí nghiệm này với những người điều hành subreddit vài tháng sau khi nó diễn ra, gọi đó là “một bước tiết lộ trong nghiên cứu”.

Trong một tuyên bố được đăng vào tuần trước, nhóm điều hành Reddit cho biết nền tảng này cấm sử dụng nội dung hoặc bot do AI tạo ra chưa được tiết lộ. Giám đốc pháp lý của Reddit, Ben Lee, cho biết cả công ty và những người điều hành r/ChangeMyView đều không biết trước về cái mà ông gọi là “thí nghiệm không phù hợp và cực kỳ thiếu đạo đức”. Ông nói thêm Reddit đang chuẩn bị các yêu cầu pháp lý chính thức để gửi đến Đại học Zurich và các nhà nghiên cứu có liên quan.

Các nhà nghiên cứu cho biết nghiên cứu này được hướng dẫn bởi các nguyên tắc nghiên cứu “có đạo đức” và minh bạch. Ủy ban đạo đức của trường đại học lập luận nghiên cứu này gây ra ít tác hại. Tuy nhiên, người dùng trên subreddit đã phản ứng sốc và tức giận vì bị thí nghiệm mà không hề hay biết.

Việc sử dụng bot AI, tài khoản giả được thiết kế để bắt chước người dùng thực, đã tăng đều đặn trên các nền tảng truyền thông xã hội trong những năm gần đây. Các chuyên gia cho biết chúng được sử dụng để định hình dư luận, đặc biệt là xung quanh các cuộc bầu cử.