تحديد ما هو حقيقي أصبح صعباً على نحو متزايد على منصات التواصل الاجتماعي. إذا كنت قد قضيت بعض الوقت على الفيسبوك في الأشهر الستة الماضية، فقد تكون لاحظت صورًا واقعية بشكل مدهش يصعب تصديقها: أطفال يحملون لوحات تبدو وكأنها أعمال للفنانين المحترفين، أو تصاميم داخلية مذهلة لمقصورات خشبية تبدو وكأنها تم سحبها مباشرة من خيال. بالإضافة إلى ذلك، ربما رأيتم إبداعات غريبة أخرى، مثل صورة مصنوعة صناعياً للبابا يرتدي سترة منتفخة انتشرت على الإنترنت في مايو 2023. صور مُولدة بصورة مصطنعة تصبح الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي (AI) أكثر انتشاراً وشعبية على منصات التواصل الاجتماعي. على الرغم من أن العديد من الحدود على مستوى السريالية، فإنها غالبا ما تستخدم لجذب المستخدمين العاديين إلى المشاركة. في هذا التقرير، رينيه ديريستا، مدير البحوث في مرصد الإنترنت في جامعة ستانفورد؛ أبهيرام ردي، مساعد البحوث في مركز الأمن والتكنولوجيا الناشئة في جامعة جورج تاون؛ وجوش جولدشتاين، زميل البحث في نفس المركز، يقول: "فريقنا من الباحثين من مرصد الإنترنت في ستانفورد ومركز الأمن والتكنولوجيا الناشئة في جامعة جورج تاون قاموا بالتحقيق في أكثر من 100 صفحة فيسبوك التي تنشر كمية كبيرة من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. نشرنا نتائجنا في مارس 2024 كورقة أولية، مما يعني أن النتائج لم تخضع بعد لمراجعة النظراء". تحليل أنماط الصور استكشف الباحثون أنماط الصور، واكتشفوا أدلة على التنسيق بين بعض الصفحات، وسعى إلى التمييز بين الأهداف المحتملة للملصقات. يبدو أن مديري الصفحات ينشرون صورًا مُولدة من الذكاء الاصطناعي للأطفال أو المطبخ أو كعك عيد الميلاد لعدة أسباب. وبحث الباحثون الأسباب، وأشاروا إلى أن بعض منشئي المحتوى يهدفون بشكل خبيث إلى زيادة متابعيهم باستخدام المحتوى الاصطناعي؛ يستخدم المحتالون صفحات مسروقة من الشركات الصغيرة للإعلان عن منتجات تبدو غير موجودة؛ ويقوم المراسلون بالبريد المزعج بمشاركة صور الحيوانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بينما يوجهون المستخدمين إلى مواقع إلكترونية مليئة بالإعلانات، مما يسمح لأصحابها بجمع إيرادات الإعلانات دون إنتاج محتوى عالي الجودة. تشير النتائج إلى أن هذه الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي تجذب المستخدمين. من الممكن أن خوارزمية توصيات الفيسبوك تعزز هذه المشاركات بشكل طبيعي. الذكاء الاصطناعي المولّد يستخدم في الاحتيال كيف يتقاطع الذكاء الاصطناعي التوليد مع الاحتيال وخلق البريد المزعج؟ لقد كان هناك مخادعون على الإنترنت منذ أكثر من عقدين، يستخدمون البريد الإلكتروني غير المرغوب فيه لترويج مخططات مالية مزيفة واستهداف كبار السن عن طريق التظاهر بأنهم ممثلون للرعاية الطبية أو فنيي الكمبيوتر. على وسائل التواصل الاجتماعي، استخدم المُستغلون المقالات لجذب المستخدمين إلى مواقع إعلانية لتحقيق المال. في أوائل عام 2010، جذب المرسلون غير المرغوب فيهم انتباه الناس مع إعلانات وعدت بفقدان الدهون من البطن أو اكتساب لغة جديدة مع "حيلة غريبة واحدة". الآن، أصبح المحتوى الذي يُنتجه الذكاء الاصطناعي "الخدعة الغريبة الجديدة". إنه جذاب بصريًا وغير مكلف في الإنتاج، مما يسمح للمحتالين والرسائل غير المرغوب فيها بإنشاء كميات كبيرة من المشاركات المثيرة. بعض الصفحات التي تمت ملاحظتها تحميل عشرات الصور الفريدة يوميا، وذلك باتباع نصيحة "ميتا" لصانعي الصفحات. وتشير الشركة إلى أن النشر المتكرر يساعد منشئي المحتوى على اكتساب شكل من أشكال الجذب الخوارزمي، مما يؤدي إلى ظهور المحتوى في ما كان يعرف سابقاً باسم "News Feed". جزء كبير من المحتوى يبقى كدليل للنقر: الصورة الغريبة تجعل الناس يتوقفون ويحدقون، مما يزيد من المشاركات ببساطة لأنها جذابة بشكل غير عادي. يتفاعل العديد من المستخدمين مع المشاركة عن طريق الإعجاب بالمقالة أو ترك تعليق. ومع ذلك، ربما أدرك بعض من المرسليين غير المرغوب فيهم الأكثر شهرة هذا الأمر وأحسنوا من مشاركتهم عن طريق التحول إلى نشر صور تم إنشاؤها بواسطة الذكاء الاصطناعي. لكن المبدعين التقليديين يستفيدون أيضًا من التفاعل مع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، دون انتهاك سياسات المنصة بشكل واضح. خطط لمراقبة المحتوى المنتج بواسطة الذكاء الاصطناعي "ميتا" على علم بالمشاكل المحتملة إذا اندمج المحتوى الذي تولده الذكاء الاصطناعي في بيئة المعلومات دون تحذير. أعلنت الشركة عن عدة خطط لمعالجة المحتوى الذي تولده الذكاء الاصطناعي. بحلول مايو 2024، سيبدأ فيسبوك في تطبيق علامة "صنع بذكاء اصطناعي" على المحتوى الذي يمكنه اكتشافه بشكل موثوق بأنه اصطناعي. الشيطان في التفاصيل، مع ذلك. ما مدى دقة نماذج الكشف؟ أي محتوى من صنع الذكاء الاصطناعي سيتسلل؟ ما هو المحتوى الذي سيتم تعيينه بشكل غير صحيح؟ وكيف سيشعر الجمهور تجاه هذه التسميات؟ في حين ركز عملنا على البريد المزعج والاحتيال على فيسبوك، هناك آثار أوسع، بما في ذلك الفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي الذي يستهدف الأطفال على يوتيوب، والمؤثرين على تيك توك الذين يستخدمون الذكاء الاصطناعي التوليد للربح، كما ذكر الصحافة سابقاً. يجب على منصات التواصل الاجتماعي أن تنظر في كيفية التعامل مع المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي؛ قد يقل مشاركة المستخدمين إذا تم إغراق عالم الإنترنت بمشاركات وصور ومقاطع فيديو تم إنشاؤها بشكل مصطنع. وبالتالي، التحدي لتقييم ما هو حقيقي... يزداد حرارة