دانشگاه زوریخ با کمک هوش مصنوعی، انجمنی ۳.۸ میلیون نفری را هدف گرفت. محققان با ایجاد حساب‌های جعلی، بیش از ۱۷۰۰ نظر جعلی منتشر کردند که هیچ کاربری متوجه غیرواقعی بودن آنها نشد.
براساس آخرین اخبار کریپتو، کمیسیون امنیت اخلاقی دانشکده هنر و علوم دانشگاه زوریخ اعلام کرد که این اتفاق را بررسی کرده و قول داده در آینده با شرکت‌کنندگان در پژوهش‌ها هماهنگی بهتری داشته باشد. پژوهشگران این دانشگاه متهم شده‌اند که بدون اجازه، به مدت چهار ماه در یک انجمن ردیت از نظرات تولید شده توسط هوش مصنوعی استفاده کرده‌اند تا تأثیر آن بر تغییر نظرات کاربران را آزمایش کنند.
بر اساس گزارش مدیران انجمن چینج مای ویو «changemyview»، حساب‌های هوش مصنوعی در این آزمایش، خود را به جای افراد مختلف جا زده‌اند، از جمله یک قربانی تجاوز، یک فرد مخالف جنبش‌های اجتماعی خاص و یک مشاور روان درمانی در زمینه سوءاستفاده، اما مدیران این انجمن گفتند؛
«این انجمن یک فضای کاملاً انسانی است و استفاده پنهانی از هوش مصنوعی را برخلاف اصول خود می‌داند. کاربران به اینجا نمی‌آیند تا با ربات‌ها گفت‌وگو کنند یا سوژه آزمایش باشند.»
قدرت هوش مصنوعی در متقاعدسازی کاربران ردیت
بر اساس پیش‌نویس این پژوهش، پاسخ‌های هوش مصنوعی بر اساس تاریخچه فعالیت کاربران در ردیت، از جمله گرایش سیاسی، جنسیت، سن و قومیت، شخصی‌سازی شده بود.
در طول چهار ماه، این حساب‌های جعلی ۱۷۸۳ نظر ارسال کردند و ۱۳۷ «دلتا» دریافت کردند. دلتا به این معناست که نشان می‌دهد یک کاربر نظر آنها را پذیرفته و دیدگاهش تغییر کرده است. پژوهشگران تأکید کردند که تمام نظرات قبل از ارسال بررسی شده‌اند تا به قوانین انجمن پایبند باشند و کمترین آسیب ممکن را ایجاد کنند.
آنها ادعا کردند که مزایای این پژوهش بسیار بیشتر از خطرات آن است، زیرا مدل‌های زبانی بزرگ مورد استفاده در آزمایش، از نظر قدرت متقاعدکنندگی از انسان‌ها پیشی گرفته‌اند. همچنین، این آزمایش نشان داد که تشخیص تفاوت بین انسان و هوش مصنوعی هنوز دشوار است، زیرا هیچ یک از کاربران انجمن در طول چهار ماه متوجه حضور ربات‌ها نشدند. انجمن (چینج مای ویو) با ۳.۸ میلیون عضو، جزو ۱٪ انجمن‌های بزرگ ردیت است.
واکنش ردیت و تهدید به اقدام قانونی
مدیران ردیت گفتند که از این آزمایش بی‌خبر بوده‌اند و از دانشگاه زوریخ خواسته‌اند عذرخواهی کند و از انتشار نتایج پژوهش جلوگیری شود. بن لی (Ben Lee)، مسئول حقوقی ردیت، اعلام کرد که این آزمایش قوانین سایت را نقض کرده و تمام حساب‌های مرتبط با آن مسدود شده‌اند. همچنین بن لی گفت؛
«ما در حال پیگیری حقوقی این موضوع با دانشگاه زوریخ هستیم و می‌خواهیم پژوهشگران در قبال اشتباهاتشان پاسخگو باشند.»
کمیسیون امینت اخلاقی دانشگاه زوریخ در پاسخ گفت که این پژوهش، بینش‌های ارزشمندی داشته و خطرات آن کم بوده است، بنابراین جلوگیری از انتشار آن منطقی نیست. با این حال، به پژوهشگر اصلی این پروژه اخطار رسمی داده شده است. دانشگاه زوریخ و تیم پژوهشی تاکنون به درخواست‌ها برای اظهارنظر پاسخ نداده‌اند.