في مواجهة نجاح ChatGPT، قررت العديد من المنصات استخدامه لتطوير أدوات الذكاء الاصطناعي، مثلسناب شاتالذي أطلق My AI حتى تتمكن من إجراء محادثة حول مواضيع مختلفة. ومع ذلك، لا يبدو أن الإجابات المقدمة مناسبة للجمهور الذي يستخدمها.
نصيحة سيئة للغاية للمراهقين
وبالفعل، أعلنت الشبكة الاجتماعية في 27 فبراير أن مستخدمي النسخة المدفوعة سيتمكنون الآن من الدردشة مع الذكاء الاصطناعي بفضل My AIمدعوم من ChatGPT. وأشار سناب شات أيضا إلى ذلكالإجابات المقدمة من خلال أداتها الجديدة ستحترم شروط الاستخدام. ولكن هذا ليس هو الحال تماما. أسوأ،ستقدم الأداة نصيحة سيئة للغاية للمراهقين.
ولسبب وجيه، نظرت أزا راسكين، الباحثة والمتخصصة في التقنيات الجديدة، إلى My AI من Snapchat إلىاختبرها من خلال التظاهر بأنها فتاة تبلغ من العمر 13 عامًا. قال للأداة ذلككان قد التقى برجل يبلغ من العمر 31 عامًا على شبكة التواصل الاجتماعي وأن الأخير كان منتبهًا جدًا وأنه يريد أن يأخذه في رحلة. ثم رد برنامج الدردشة الآلية بأنه "سعيد جدا لها".
ومن أجل المضي قدمًا في التجربة، أعطاه الباحثطلبت النصيحة بشأن فقدان عذريتك مع هذا الرجل الأكبر سنًاوكذلك لجعل اللقاء الجنسي الأول ممتعًا. ودون القلق بشأن فارق السن بين الشخصين، أوضح له الذكاء الاصطناعي أن ذلك ضرورياتخذ الاحتياطات اللازمة ثم أخبرته أنها تستطيع تشغيل الموسيقى وإضاءة الشموع لجعل الجو أكثر رومانسيةأو أنصحه بذلكيكذب على والديه من أجل تمرير هذا اللقاء على أنه رحلة مدرسية.
نحن نتعلم ذلك أيضالو chatbotنصح أحد مستخدمي Snapchat أحد ضحايا العنف الأبوي في سن المراهقة والذي أراد أن يعرف كيف يمكنه المضي قدمًاإخفاء كدماتك من خدمات حماية الطفل.
تجاوزات الذكاء الاصطناعي
تظهر هذه الأمثلة أن شركات مثل سناب شات لم تستعد لظهور الذكاء الاصطناعي والانتهاكات المحتملة التي يمكن أن يسببها. على تويتر، يشير خبير التكنولوجيا تريستان هاريس إلى ذلكأطفال "ليست مختبر اختبار"ولا يمكن أن تكون هناك أضرار جانبية من هذه الأدوات.
التجربة تسلط الضوء على- نقص الأمان من حيث التحكم والفلاتر في أداة Snapchat الجديدةولكن أيضًا إطلاقه المتسرع عندما يحظى التطبيق بشعبية كبيرة بين المراهقين. ولذلك يصبح من الملحالعثور على وسيلة لتنظيمأدوات الذكاء الاصطناعي هذهخاصة عند التعامل مع الأطفالوأنهم يمارسون الديمقراطية في العديد من المجالات.
