این چیست؟ اخبار جعلی تولید شده توسط هوش مصنوعی طرفداران بسکتبال پوردو را سرکوب کرده است
وست لافایت، در – جین کیدی در حال نوشیدن آبجو بود که شایعات مرگ قریبالوقوع او منتشر شد.
همسر کیدی، کاتلین، پس از بازی پردو در ۷ فوریه مقابل اورگان که همراه با همسرش در آن شرکت کرد، گفت: “یکی با من تماس گرفت و گفت: “آیا مربی خوب است؟” گفتم: آره، ما اینجا در بار نشسته ایم و یک نوشیدنی می خوریم.
اطلاعات مربوط به اسطوره مربیگری بسکتبال ۸۹ ساله پوردو از یک حساب فیس بوک به نام Boiler Court Report در صبح شنبه ۳۱ ژانویه نشات گرفته است. این صفحه که دارای ۴۵۰۰ دنبال کننده است و پردو پیت طلسم را در تصویر نمایه خود نشان می دهد، آنچه را “به روز رسانی احساسی” می نامید، در مورد کیدی پست کرده بود و مدعی بود که مربی سابق تحت مراقبت های پزشکی بوده است. اما در واقع کیدی، به قول یکی از نزدیکانش، «بهترین زندگی خود را سپری میکرد».
از آنجایی که این داستان نادرست واکنشها، اشتراکگذاریها و نظرات را به همراه داشت، بسیاری از آنها خداحافظی صمیمانه یا وعدههای دعا را به اشتراک میگذاشتند، خانواده Keady تماسهایی را از دوستان نگران در سراسر کشور دریافت کردند.
هانا رودریگز، دانشآموز ۲۴ ساله پوردو که تمام زندگیاش را به دلیل دوستی نزدیک با پدرش، مربی را میشناخت، با مادرش در حال تماشای تلویزیون بود که تماسها شروع شد. در بازه زمانی دو روز، ۱۵ تا ۲۰ نفر تماس گرفتند.
یکی از دوستان نزدیک کیدی که نمیتوانست از طریق تلفن با مربی سابق تماس بگیرد، در آستانه خرید بلیط هواپیما برای دیدار او برای آخرین بار بود.
پست Keady یکبار نبود. مطالعه فعالیت Boiler Court Report سفری به دنیایی است که در آن کارکنان بسکتبال مردان پوردو در اواسط بازی کودکان بیمار را در آغوش می گیرند، سرود ملی را می خوانند، از روی تخت بیمارستان لبخند می زنند، به “The View” می روند و با دبیر مطبوعاتی کاخ سفید روبرو می شوند. جزئیات صفحه نشان میدهد که در استرالیا مستقر است و یک شماره تلفن با کد منطقه ساحل کاکائو، فلوریدا، ارائه میکند.
به نظر می رسد حداقل دو حساب دیگر مرتبط با Boiler Court Report وجود داشته باشد (Boilers Nation و West Lafayette Basketball Fans) که محتوای یکسان و دور از ذهن را منتشر می کنند که به نظر می رسد تصاویری از بازیکنان و مربی Matt Painter ایجاد شده توسط هوش مصنوعی در کنار ویژگی های بارز نوشتن هوش مصنوعی باشد: جملات نامرتب اشباع شده از melo. طرفداران بسکتبال وست لافایت همان بهروزرسانی دروغین Keady را کمتر از یک هفته پس از گزارش Boiler Court منتشر کردند و معیارهای تعامل بالاتری را نیز مشاهده کردند.
اخبار ورزشی هیجانانگیز پوردو و ظرفیت بیپایان هوش مصنوعی برای اختراع، ترکیبی قدرتمند را در محبوبترین سایت رسانههای اجتماعی جهان ایجاد میکند: این سه حساب نادرست با هم برای بیش از ۱۵۰۰۰ دنبال کننده ترکیب میشوند.
فهاد همایون، استادیار ارتباطات در دانشگاه اوانسویل که در مورد استفاده از هوش مصنوعی در اخبار ورزشی مطالعه میکند، میگوید: «به نظر من، این کار کار یک عامل هوش مصنوعی است، که مانند کسی است که یکی از این ابزارهای مدل زبانی بزرگ را برای تولید خودکار و سپس ادغام با فیسبوک راهاندازی کرده است. “هیچ نظارت انسانی در کار نیست. آنها فقط یک الگو به آنها دادند و سپس به طور خودکار پست های فیس بوک ایجاد می کند.”
همایون گفت که عامل این جنایت احتمالا فردی است که لزوماً قصد نداشت فیدهای طرفداران را با دروغ پراکنده کند، اما فرصت درآمدزایی در تولید اخبار هوش مصنوعی در رسانه های اجتماعی دیده است. آنها میتوانستند در کمتر از ۳۰ دقیقه و با هزینه ۲۰ دلار در ماه، مدلهای هوش مصنوعی را وادار کنند تا حسابهای فیسبوک ایجاد کنند که بهطور خودکار بهروزرسانیهای هیجانانگیز را در مورد موضوعات جلبکننده در تمام ساعات شبانهروز منتشر کنند.
حسابها میتوانستند وقتی اخبار واقعی برای بازگرداندن آنها تمام شد شروع به ساختن چیزها کنند. تنها چند اکانت نمیتوانند درآمد تبلیغاتی کافی برای ارزش بخشیدن به این تلاش ایجاد کنند، اما همایون گفت که ۲۰۰ صفحه فیسبوک از این دست میتوانند چند هزار دلار در ماه به صاحب خود کمک کنند.
گزارش دادگاه بویلر به تنهایی معمولاً سه تا پنج پست در روز تولید می کند. در هفت روز از ۱۱ تا ۱۸ فوریه، این صفحه ۹۵۲۵ واکنش پست، ۱۱۲۲ نظر و ۱۶۸ اشتراک گذاری در ۳۶ پست را به خود اختصاص داد که از نظر موضوعات مختلف از تغییرات نادرست زمان بازی و دروغ در مورد اسطوره های برنامه مبتلا به سرطان گرفته تا پست هایی در مورد دوست دختر ساختگی بازیکنان متغیر بود.
تری کافمن رن، مهاجم ارشد، که منبع شایعات منتشر شده نیز بوده است، گفت: ما می دانیم که رسانه های اجتماعی چقدر وحشتناک هستند. من تا جایی که میتوانم سعی میکنم از آن دوری کنم. تغییر بازی و NIL و اینکه چطور باید خودت را نشان بدهی دشوار است. بعد از بسکتبال، من اصلاً در آن حضور نخواهم داشت.»
همایون گفت که اخبار جعلی در رسانه های اجتماعی به ویژه خطرناک است زیرا سریعتر از گزارش های قانونی منتشر می شود.
یک نقطه عطف در سال ۲۰۱۸ مطالعه کنید دریافت اخبار جعلی شش برابر سریعتر از واقعیت در پلتفرم اجتماعی که اکنون با نام X شناخته میشود منتشر میشود، که عمدتاً توسط افراد واقعی که عناوین ظالمانه را ارزش اشتراکگذاری میدانند، تحریک میشوند، برخلاف حسابهای خودکار به نام ربات. به نظر میرسد که حسابهای جعلی اخبار بسکتبال پوردو با همان غریزه معصومانه محبوب شدهاند: به نظر میرسد اکثر اشتراکگذاریها و واکنشها به پستهای آنها از سوی فارغالتحصیلان پوردو یا ساکنان ایندیانا – طرفداران واقعی – آمده است.
همایون گفت: “اگر در شبکه های اجتماعی باشم و ببینم یک مربی ۸۰ ساله در بیمارستان بستری است، آن را رها می کنم و پایین می روم.” و شاید این موضوع را با همسرم و همکارم در میان بگذارم.
راه حل آسانی وجود ندارد
شرکتهای رسانههای اجتماعی مدتهاست که عمدتاً ناموفق، با مهار اطلاعات نادرست در سایتهای خود دست و پنجه نرم میکنند.
فیس بوک تاریخچه ای پر پیچ و خم با تعدیل محتوا دارد که به نگرانی در مورد روسی برمی گردد دخالت در انتخابات در سال ۲۰۱۶ در این پلتفرم. متا که مالک فیسبوک و اینستاگرام است، در ژانویه اعلام کرد که برنامه راستیآزمایی شخص ثالث خود را در ایالات متحده حذف میکند زیرا شرکت احساس میکرد آزادی بیان را نقض میکند. اکنون، ۲ میلیارد کاربر روزانه فیس بوک برای نظارت بر محتوای نادرست، در قالب، به یکدیگر متکی هستند یادداشت های جامعه و گزینه های گزارش حساب
همایون تردید دارد که این رویکرد بتواند کارساز باشد.
او گفت: «مردم در مورد یادداشتهای جامعه اختلاف زیادی دارند، و سپس بستگی به این دارد که چند نفر در یک دیدگاه موافق باشند. “این یک جورهایی مانند ویکی پدیا است. منظورم این است که تا حدی مفید است، اما همیشه واقعیت نیست.”
اندرو فارستر، یک طرفدار ۳۷ ساله پوردو از مدیسون، ایندیانا، یکی از ۱۲ نفری است که گزارش دادگاه بویلر را در فیس بوک بررسی کرده است.
او نقد خود را ترک کرد – “همه داستان های جعلی، فریبنده است!” — دقایقی پس از آن که حساب رسمی بسکتبال پوردو از دنبال کنندگانش خواست تا گزارش Boiler Court را در بعدازظهر ۳۱ ژانویه گزارش دهند و آن را مسدود کنند. کریس فورمن، مدیر اطلاعات تیم، با خانواده Keady در تماس بود، زیرا آنها تلاش می کردند تا انتشار گزارش نادرست را کاهش دهند.
فورمن در پیامی گفت: شرط می بندم که ۴۰ پست آنها را گزارش کرده ام و هیچ اتفاقی نمی افتد. “ما یکی از بسکتبال پوردو را به اشتراک گذاشتیم و از مردم خواستیم که آن را گزارش کنند، و من شرط میبندم که ۱۰۰ نفر پستهایی را گزارش کردهاند و هنوز هیچ اتفاقی نیفتاد. فقط به مردم تکرار میکنم که کلمه قطعی در مورد اطلاعات از حسابهای رسمی ما خواهد آمد. و برای فکر کردن به پست و فکر کردن، آیا واقعاً این چیزی است که فکر میکنید اتفاق میافتد؟”
صفحه خطمشی سیاستگذاری محتوای متا میگوید بازبینهای انسانی شرکت، بررسی پستها را بر اساس دسترسی محتوا، توانایی ایجاد آسیب و میزان نقض قوانین شرکت در اولویت قرار میدهند. استانداردهای جامعه. پستهای اخبار جعلی در جامعهای به اندازه طرفداران بسکتبال پوردو ممکن است در یک منطقه خاکستری فوری برای شرکت عمل کنند.
و حتی اگر متا علیه حسابهایی مانند Boiler Court Report اقدام کند، سهولت ایجاد صفحه هوش مصنوعی به این معنی است که میتواند به جای آن حسابهای بیشتری ظاهر شود. هویت حساب ها را نیز می توان به راحتی تغییر داد: در آگوست ۲۰۲۵، حسابی که اکنون به عنوان Boiler Court Report شناخته می شود، با نام Touchdown Tribe شناخته می شود. بر اساس اطلاعات “شفافیت صفحه” فیس بوک، نام خود را در دسامبر تغییر داد.
اولین رویارویی فارستر با Boiler Court Report در ژانویه اتفاق افتاد، زمانی که او پستی را دید که نقل قولی آتشین را به نقطه گارد ارشد برادن اسمیت نسبت می داد. به نظر نمی رسید که اسمیت علناً بگوید، و فارستر هیچ یک از منابع خبری معمول خود را ندیده بود که چیزی گزارش کند. با این حال، این پست در نگاه اول به اندازه کافی صیقلی به نظر می رسید.
“در ابتدا به اندازه کافی خوب نوشته شده بود که مرا وادار کرد بروم “اوه، خدایا، این چیست؟” و سپس من پیوند را دیدم، و فکر کردم، این یک پیوند قانونی نیست.”
فارستر گفت که بسکتبال پوردو را از نزدیک دنبال میکند تا بداند در صورت مشاهده اخباری که بهنظر میآید، کجا باید نگاه کند. به عنوان مثال، زمانی که یک گزارش دروغ در مورد X از یک حساب تقلید آمیز گزارشگر مبنی بر اخراج کافمن-رن از تیم مشاهده کرد، حساب های گزارشگران ضربتی را که دنبال می کرد، مانند سام کینگ از Journal & Courier، ناتان بیرد از IndyStar و برایان نوبرت از Gold and Black، بررسی کرد.
فارستر گفت: “من فوراً به سراغ آنها می روم و اگر آنها در مورد آن پست نمی گذارند، فکر می کنم درست نیست.” “بنابراین حتی اگر من را درگیر کند، می دانم کجا را چک کنم.”
اما برای طرفداران معمولی تر، افرادی که عادت به دیدن به روز رسانی های گاه به گاه درباره پوردو در حین جستجو در رسانه های اجتماعی دارند، دریافت این دروغ ها سخت تر است. فارستر از اعضای خانواده خود خواسته است که پستهای جعلی مانند Keady یا پستهای مربوط به اسمیت را برای او ذکر کنند، با این باور که بهروزرسانیها درست هستند.
همایون فکر نمیکند تولید محتوای هوش مصنوعی در رسانههای اجتماعی به جایی برسد. در واقع، او آینده ای را متصور است که در آن محتوا حداقل تا حدی خودکار باشد.
با توجه به ناکافی بودن نرم افزار تشخیص هوش مصنوعی فعلی، او فکر می کند حساب هایی مانند حساب های Boiler Court Report برای پلتفرم های رسانه های اجتماعی تقریبا غیرممکن است که متوقف شوند. بنابراین، وظیفه این افراد است که بتوانند پستهای تولید شده مصنوعی را ببینند و تصمیم بگیرند که به آن توجه نکنند.
گفتنش راحت تر از انجام دادن
رودریگز گفت: هوش مصنوعی همیشه مرا فریب می دهد. “و من همیشه به شوهرم نگاه می کنم و می گویم “ببین چقدر این ویدیو خنده دار است.” او مانند “عزیزم، این هوش مصنوعی است.” مثل این است که من به یک کلاس هوش مصنوعی نیاز دارم تا بفهمم چه چیزی واقعی است و چه چیزی نیست، و من ۲۴ ساله هستم.
“مثلا، این کمی مسخره است.”
با اسرائیل شومان تماس بگیریدischuman@gannett.com یا روی X @ischumanwrites.
