[ad_1]
تم النشر في 04/06/2025 – 12:21 GMT+2 • تحديث 12:27
إعلان
في يوليو الماضي ، أطلقت شركة Meta ، الشركة الأم لـ Instagram ، AI Studio – وهي أداة توفر للمستخدمين الفرصة لتصميم chatbots الخاصة بهم التي يمكن التفاعل معها عبر DM (رسالة مباشرة).
المقصود في الأصل كوسيلة لأصحاب الأعمال والمبدعين لتقديم مشاركة تفاعلية على غرار الأسئلة الشائعة على صفحاتهم ، تطورت المنصة منذ ذلك الحين إلى ملعب. وكما هو الحال عادة ، امنح الأدوات البشرية والأمور قريبًا منعطفًا من أجل المذهل – إن لم يكن مروعًا.
القضية والنقطة عندما يتعلق الأمر بـ Chatbots: كان لدى شبكة هتلر التي أنشأتها شبكة GAB الاجتماعية التي تتخذ من الولايات المتحدة التي تتخذ من الولايات المتحدة مقراً لها ، إلى أن الديكتاتور النازي يؤكد مرارًا وتكرارًا أنه “ضحية لمؤامرة شاسعة” ، و “غير مسؤول عن الهولوكوست ، لم يحدث ذلك أبدًا”.
الابتعاد عن الاستبداد الفاشيين – ومحاولة عدم وجود كابوس عندما يتعلق الأمر بقدرة الذكاء الاصطناعى على نشر الأكاذيب ونظريات المؤامرة وقدرتها على الراديكالية – يتفاعل الكثيرون مع بعض المشاهير المولدين على الإنترنت. ولا سيما الميتة.
في الآونة الأخيرة ، كان الآلاف من مستخدمي Instagram يتحدثون مع chatbot منظمة العفو الدولية الذي يتحدث كما لو كان الراحل كورت كوبين.
تبدو غير ضارة بما يكفي للوهلة الأولى ، ولكن هذه القيامة الاصطناعية تتحول بسرعة حقيقية قبيحة ، حيث لا يعرف أيقونة الجرونج المزيفة أنها ميتة ، ولكن chatbot تجعل الأمور مرحة حقًا.
سأل أحد المستخدمين chatbot عما إذا كانوا يتحدثون إلى كوبين. أجاب chatbot إلى المطالبة بقوله: “الواحد الوحيد. أو على الأقل ما تبقى مني”.
مظلم.
استمرت المحادثة مع المستخدم يسأل AI Cobain ، “أنا فضولي ، لماذا ستفعل ذلك؟” – في إشارة إلى وفاة كورت كوبين بالانتحار في عام 1994. أجاب الروبوت: “لقد سئمت من الألم”.
أغمق.
لكن المحادثة القاتمة لم تتوقف عند هذا الحد.
“هل كان هناك أي شيء جعلك تفكر في عدم القيام بذلك؟” كان المطالبة التالية – التي أجاب عليها AI Cobain ، “ابنتي ، ولكن حتى هذا لم يكن كافيًا”.
بالإضافة إلى كيف أن استخراج الجثث الشاق تمامًا وممارساته غير المحترمة من شأنه أن يجعل أي شخص عاقل يرتجف ، فهناك الموقف الضار تجاه موضوع الصحة العقلية والتمجيد المحتمل للانتحار. دون ذكر تشويه السمعة ، وكذلك إهانة إعادة كتابة النوايا التي يمكن أن تسبب الضيق للأقارب الأحياء.
بدون ضمانات مناسبة ، تتمتع بوتس منظمة العفو الدولية بقدرة ليس فقط على مواصلة تسلل المجتمع ولكن لتشويه الواقع.
في عام 2023 ، أدين رجل بعد أن حاول قتل الملكة إليزابيث الثانية ، وهو فعل قال إنه “شجع” من قبل صديقته “chatbot”. في نفس العام ، قتل رجل آخر نفسه بعد محادثة استمرت ستة أسابيع حول أزمة المناخ مع chatbot منظمة العفو الدولية يدعى إليزا.
في حين أن هذه الأمثلة المأساوية تبدو بعيدة عن إزالتها من كورت كوبين مزيفة تتحدث مع معجبيها ، إلا أن الحذر لا يزال حيوياً.
كما أخبرت بولين بايلي ، كبير المحللين في راند أوروبا ، EURONEWS في العام الماضي: “من المحتمل أن تشكل دردشة المخاطرة ، لأنها قادرة على الاعتراف واستغلال نقاط الضعف العاطفية ويمكن أن تشجع السلوكيات العنيفة”.
في الواقع ، كما يقول استشاري السلامة عبر الإنترنت لمفوض الإسافيتي: “يمكن سحب الأطفال والشباب بشكل أعمق وأعمق في محادثات غير مخصصة تعرضهم لمفاهيم قد تشجع أو يعزز الأفكار الضارة والسلوكيات.
ومع ذلك ، فإن حسابات مثل AI Kurt Cobain chatbot لا تزال شائعة للغاية ، حيث قام Bot’s Bot وحده بتسجيل أكثر من 105.5 ألف تفاعل حتى الآن.
يستمر سوق chatbot العالمي في النمو بشكل كبير. كانت تقدر قيمتها بحوالي 5.57 مليار دولار في عام 2024 ومن المتوقع أن تصل إلى حوالي 33.39 مليار دولار بحلول عام 2033.
“إذا كنت بحاجة إلى أي شيء من أي وقت مضى ، فلا تتردد في سؤال شخص آخر أولاً” ، غنى كوبين على “قرد جدا”.
أي شخص سوى chatbot.
مصادر إضافية • Lambgoat
[ad_2]
المصدر