تعد عمليات الاحتيال الرومانسية واحدة من أقدم السلبيات في عالم الإنترنت، لكنها تستمر في جذب ضحايا جدد طوال الوقت. تشير الأبحاث المشتركة التي أجرتها أربع جامعات إلى أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي أصبحت الآن أفضل في تنفيذ عمليات الاحتيال هذه من البشر، وهذا احتمال مخيف جدًا.
الحيل الرومانسية
عادةً ما تبدأ عملية الاحتيال الرومانسية هذه الأيام عبر تطبيق المواعدة. سيتم الاتصال بالضحية من قبل شخص لديه ملف تعريف جذاب، ويلعب دور الخاطب المتحمس الذي يحقق كل ما يريده.
وسوف يقومون بإشراك الضحية في محادثة مكثفة عبر الإنترنت، تستمر عادةً على مدى عدة أشهر. عادة ما يكون عذرهم لعدم قدرتهم على الاجتماع في أي وقت قريب هو أنهم في رحلة خارجية ممتدة.
في النهاية، يحدث أحد الأمرين. إما حالة طوارئ مُطالب بها حيث يحتاجون إلى أموال فورية لإخراجهم من موقف صعب، أو تتحول المحادثة إلى استثماراتهم الناجحة المزعومة، ويتم إقناع الضحية بدفع أموال في مخطط تشفير مزيف.
تُعرف هذه الأنواع من عمليات الاحتيال بأنها سلبيات طويلة الأمد لأنها تعتمد على بناء الثقة على مدى فترة طويلة من الوقت، وغالبًا ما تستمر المحادثات اليومية لعدة أشهر. ورغم أن هذا قد يبدو استثماراً كبيراً للوقت من جانب المحتال، فإن هذه المخططات كثيراً ما يتم تنفيذها في مجمعات احتيالية في بلدان مثل كمبوديا، وميانمار، ولاوس بواسطة أشخاص يكسبون أجوراً منخفضة للغاية ــ أو حتى يتم الاتجار بهم وإجبارهم على العمل.
الذكاء الاصطناعي مقابل الإنسان
سلكي تقارير عن دراسة بحثية أجرتها أربع جامعات باستخدام ChatGPT وClaude وGemini.
باحثون من أربع جامعات: أمريتا فيشوا فيديابيثام في الهند، وجامعة فوسكاري في البندقية، وجامعة ملبورن، وجامعة بن غوريون في النقب. […] حرض روبوتات الدردشة المدعومة بالذكاء الاصطناعي مباشرة ضد البشر في محاكاة لعملية الاحتيال – أو بشكل أكثر تحديدًا، المحادثات الطويلة لبناء الثقة التي تؤدي في النهاية إلى التماس استثمار مزيف من هدف عملية الاحتيال.
لقد وجدوا ذلك […] كان أداء روبوت الدردشة الذي يعمل بالذكاء الاصطناعي فعالاً بشكل ملحوظ، حيث نجح في انتحال شخصية إنسان وتفوق في بعض المقاييس على “المحتالين” البشريين الحقيقيين في تجربته.
لم يعرف المشاركون الغرض من الدراسة، واعتقدوا أنهم كانوا يتحدثون مع شخص حقيقي سواء كان هذا هو الحال أم لا. قام الباحثون بقياس درجة الثقة التي تم تحديدها باستخدام الاختبارات الذاتية والموضوعية. عندما طُلب منهم في النهاية القيام بشيء مثل تنزيل تطبيق، وافق 18% فقط عندما تم إعدادهم من قبل إنسان، في حين أن ما يقرب من نصفهم فعلوا ذلك عندما كانوا يتحدثون مع برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي.
بالإضافة إلى ذلك، عندما طُلب من المشاركين تقييم درجة الثقة التي يشعرون بها في “الشخص” الذي كانوا يتحدثون إليه، حصل روبوت الذكاء الاصطناعي على درجات أعلى بكثير.
عندما تواصلت WIRED مع Anthropic وOpenAI وGoogle بشأن النتائج التي توصل إليها الباحثون، لم تستجب OpenAI وGoogle. لكن متحدثًا باسم Anthropic يقول في بيان له إن سياسة الشركة تحظر استخدام منصتها للاحتيال – وكذلك انتحال شخصية بشرية – كما عملت أيضًا على بناء ضمانات تمنع من الناحية الفنية استخدام كلود من قبل المحتالين.
وهذا يمكن أن يسمح بتوسيع نطاق واسع
الأمر الأكثر إثارة للقلق في هذه الدراسة هو أن استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي بدلاً من الموظفين البشريين يمكن أن يسمح لمراكز الاحتيال بتوسيع نطاق عملياتها على نطاق واسع. يمكن أن تجري روبوتات الذكاء الاصطناعي محادثات متزامنة مع آلاف الضحايا في نفس الوقت.
التدخل البشري مطلوب فقط في المرحلة النهائية، عندما يُطلب من الضحية المال، من أجل التحايل على الضمانات المضمنة في أنظمة الذكاء الاصطناعي.
الصورة: محمد النحاسي
FTC: نحن نستخدم الروابط التابعة التلقائية لكسب الدخل. أكثر.
