گزارش شبکه «بی‌بی‌سی»؛

فضای مجازی تحت تأثیر اثرات سوء هوش مصنوعی

رسانه‌ها و شبکه‌های اجتماعی به طور بی‌سابقه‌ای تحت تأثیر محتوای نامناسب تولید شده به وسیله هوش مصنوعی قرار گرفته‌اند.

اندیشکده‌های خارجی

تاریخ انتشار: چهارشنبه ۱۵ بهمن ۱۴۰۴ - 04 February 2026

به گزارش «راهبرد معاصر»؛ تئودور، دانشجوی ۲۰ ساله اهل پاریس گفت: تصاویر مسخره‌ای که به وسیله هوش مصنوعی تولید شده‌، در سراسر فیس‌بوک پخش شده‌اند و بدون هیچ بررسی دقیقی، به شدت در معرض دید قرار گرفته‌اند، این دیوانه‌کننده است.

بنابراین تئودور در X (توییتر سابق) حساب کاربری ای به نام «Insane AI Slop» ایجاد و شروع به افشا و تمسخر محتوایی کرد که مردم را فریب می‌داد. دیگر کاربران متوجه شدند و ایمیلش خیلی زود پر از پیام‌هایی از افرادی شد که پست‌هایی درباره روند به اصطلاح «محتوای مسخره هوش مصنوعی» به اشتراک می‌گذاشتند.

زاکربرگ گفت: به زودی شاهد انفجاری در انواع جدید رسانه خواهیم بود که فراگیرتر و تعاملی‌تر هستند

افزایش تعداد دنبال‌کنندگان تئودور

سیل محتوای جعلی تولید شده به وسیله هوش مصنوعی (که به عنوان ویدئوها و تصاویر جعلی و غیرقابل باوری که به سرعت ایجاد می‌شوند تعریف می‌شود) توقف ناپذیر شده است و شرکت‌های فناوری بستر هوش مصنوعی را پذیرفته‌اند.

برخی شرکت‌ها می‌گویند شروع به اتخاذ اقدامات سختگیرانه‌تری علیه برخی انواع محتوای جعلی کرده‌اند، گرچه بسیاری از سکوهای شبکه‌های اجتماعی هنوز پر از این محتواها هستند. تنها در دو سال، تجربه رسانه‌ها و شبکه های اجتماعی به طرز چشمگیری تغییر کرده است. این اتفاق چگونه رخ داد و چه تأثیری بر جامعه خواهد داشت؟ مهمتر از همه، میلیاردها کاربر شبکه‌های اجتماعی واقعاً چقدر به این موضوع اهمیت می‌دهند؟

عصر سوم شبکه‌های اجتماعی

اکتبر گذشته در جریان جلسه‌ گزارش درآمدی، مارک زاکربرگ مدیرعامل متا با خوشحالی اعلام کرد، شبکه‌های اجتماعی وارد عصر سوم خود شده‌اند که حول محور هوش مصنوعی می‌چرخد.

متا نه تنها به کاربران اجازه می‌دهد محتوای تولید شده به وسیله هوش مصنوعی را منتشر کنند، بلکه محصولاتی را نیز عرضه کرده است که امکان تولید بیشتر فراهم می‌کند.

زاکربرگ گفت: به زودی شاهد انفجاری در انواع جدید رسانه خواهیم بود که فراگیرتر و تعاملی‌تر هستند و این تنها به لطف پیشرفت در هوش مصنوعی امکان‌پذیر است.

نیل موهان، مدیرعامل یوتیوب در پست وبلاگ خود که پیش‌بینی‌هایش را برای سال ۲۰۲۶ شرح می‌داد نوشت، تنها در ماه دسامبر بیش از 1 میلیون شبکه یوتیوب از ابزارهای هوش مصنوعی این سکو برای تولید محتوا استفاده کرده‌اند.

وی نسبت به «محتوای ضعیف یا آنچه به عنوان محتوای تولید شده به وسیله هوش مصنوعی شناخته می‌شود» ابراز نگرانی کرد و توضیح داد، تیمش در حال کار بر روی راه‌هایی برای بهبود ساختارهای تشخیص و حذف «محتوای ضعیف و تکراری» هستند.

طبق تحقیقات انجام شده به وسیله شرکت هوش مصنوعی Kapwing، حدود 20 درصد محتوای نمایش داده شده در یک حساب کاربری تازه ایجاد شده در یوتیوب، اکنون «ویدئوهای هوش مصنوعی با کیفیت پایین» هستند.

ویدئوهای کوتاه به طور خاص مورد توجه بودند، به طوری که Kapwing دریافت این ویدئوها در ۱۰۴ مورد از ۵۰۰ ویدئوی کوتاه نخست یوتیوب در یک حساب کاربری جدید ظاهر شده‌اند. به نظر می آید اقتصاد تولیدکنندگان محتوا محرک اصلی است، زیرا افراد و شبکه‌ها می‌توانند به وسیله تعامل و بازدیدها درآمد کسب کنند. با نگاهی به تعداد بازدیدهای برخی شبکه‌ها و ویدئوهای مجهز به هوش مصنوعی، مشخص است مردم واقعاً جذب محتوا می‌شوند یا بهتر بگوییم، الگوریتم‌ها تعیین می‌کنند چه چیزی تماشا کنیم.

طبق گزارش Kapwing، پربیننده‌ترین شبکه هوش مصنوعی، شبکه هندی بندر آپنا دوست است که ۲.۰۷ میلیارد بازدید و در نتیجه سود سالانه تخمینی ۴ میلیون دلار برای سازندگانش به همراه داشته است.

چه تیک تاک باشد، چه تردز، چه اینستاگرام یا هر سکوی دیگری، به نظر می آید جنبش مردمی قوی علیه این محتوا وجود دارد

واکنش ها علیه محتوای نامناسب هوش مصنوعی

در بحبوحه انتشار سریع ویدئوهایی که از هوش مصنوعی استفاده می‌کنند، اکنون مشاهده سیل نظرات تند در انتقاد از محتوا به موضوعی عادی تبدیل شده است. تئودور در برانگیختن این واکنش خشونت‌آمیز نقش داشت و با استفاده از جذابیت مطالبش در سکوی X، از مدیران یوتیوب درباره سیل پویانمایی های عجیب و غریب تولید شده به وسیله هوش مصنوعی که میلیون‌ها بازدید داشته است، شکایت کرد. وی آنها را آزاردهنده می‌دانست و در برخی موارد، به نظرش می‌آمد مخاطبشان کودکان هستند.

یوتیوب نیز به نوبه خود، این شبکه‌ها را حذف کرد و توضیح داد این موضوع به دلیل نقض دستورالعمل‌های انجمن به وسیله آنها بوده است. این شرکت تأکید کرد، «بر ارتباط کاربران خود با محتوای باکیفیت، صرف نظر از نحوه تولید آن تمرکز دارد» و در تلاش است «گسترش محتوای بی‌کیفیت و مبتنی بر هوش مصنوعی» را محدود کند.

اما آن تجربه، به همراه بسیاری از تجربیات مشابه دیگر، تئودور را خسته کرده بود. حتی سایت‌های سبک زندگی که ظاهراً راحت به نظر می‌آیند، مانند « Pinterest»، نیز تحت تأثیر قرار گرفته‌اند. کاربران آنقدر از سیل محتوای بی‌کیفیت تولید شده به وسیله هوش مصنوعی ناامید شده‌اند که این شرکت سازوکار جدید انصراف برای محتوای تولید شده به وسیله هوش مصنوعی معرفی کرده است.

چه تیک تاک باشد، چه تردز، چه اینستاگرام یا هر سکوی دیگری، به نظر می آید جنبش مردمی قوی علیه این محتوا وجود دارد. گاهی اوقات تعداد لایک‌های نظراتی که هوش مصنوعی را نقد می‌کنند، بسیار بیشتر از تعداد لایک‌های پست اصلی است. اما البته، همه اینها به رشد و شکوفایی این غول کمک می‌کند. هر تعاملی برای سکو‌های شبکه‌های اجتماعی خوب است، جایی که باید ما را در حال اسکرول کردن مداوم نگه دارد. آیا واقعاً مهم است ویدئویی خیره‌کننده، تأثیرگذار یا تکان‌دهنده واقعی باشد یا نه؟

سکو‌های شبکه‌های اجتماعی از خطا مبرا هستند؟

اگر غول‌های فناوری فعلی عموماً از ادامه‌ اوضاع به همین منوال راضی هستند، آیا امکان دارد سکوی شبکه اجتماعی جدیدی ظهور کند که نوید جایگزینی عاری از این موارد بدهد و درنهایت شرکت‌های جاافتاده را به چالش بکشد؟

این بعید به نظر می آید، زیرا تشخیص هوش مصنوعی به طور فزاینده‌ای دشوار می‌شود. ماشین‌ها دیگر قادر به تشخیص قطعی جعلی بودن ویدئو یا تصویر نیستند و حتی در قضاوت مستقل درباره اینکه آیا محتوا ضعیف تلقی می‌شود یا خیر، با مشکل بیشتری روبرو خواهند شد. اما اگر سکوی رسانه اجتماعی جدید ظهور کند و مردم به آن رأی دهند، می‌تواند تغییر اساسی ایجاد کند.

اینجا من ظهور «BeReal» را به یاد می‌آورم، برنامه کاربردی فرانسوی که در دوران شیوع کووید-19 محبوبیت گسترده‌ای یافت و کاربران را تشویق می‌کرد تا خود واقعی‌شان را به وسیله خویش اندازهای ویرایش نشده‌ای که زمان‌های تصادفی گرفته می‌شوند، نشان دهند. BeReal هنوز به سطح سکو‌هایی مانند فیس‌بوک و اسنپ‌چت نرسیده است و شاید هرگز هم نرسد. اما توجه سایر سکو‌ها را به خود جلب کرده است و در برخی موارد، این سکو‌ها از این ایده کپی‌برداری کرده‌اند.

درباره تئودور، وی احساس می‌کند نبرد را باخته است و برنامه‌های نامناسب هوش مصنوعی همچنان پابرجا هستند. گرچه پیام‌هایی از ۱۳۰ هزار دنبال‌کننده‌ همچنان به ایمیلش می آید، اما وی دیگر زیاد پست نمی‌کند و تا حد زیادی خود را با شرایط جدید زندگی آنلاین وفق داده است.

کلمات کلیدی: هوش مصنوعی فیس‌بوک توییتر شبکه‌های اجتماعی