حيث تعتزم شركة سناب، المالكة لتطبيق “سناب شات Snap chat”، إضافة مجموعة أدوات جديدة بحيث تجعل، تجربة أستخدام روبوت الدردشة الذكي “My AI”، والذي يعتمد على تقنية الذكاء الاصطناعي أكثر أمانًا وسهولة في الأستخدام.
"سناب شات"و إجراءات وقائية جديدة بأسم "My AI" لروبوت الدردشة الخاص بها
- وبعد عدة أيام من إطلاق روبوت الدردشة “My AI” المعتمد على نموذج اللغة الكبير (GPT) لمشتركين خدمة “سناب شات بلس”، و أفادت تقارير صحيفة “واشنطن بوست” بأن الروبوت كان يستجيب بطريقة غير آمنة تماماً وغير مناسبة.
- وأكدت شركة سناب علي إنها تدرك أن الناس كانوا يقومون بمحاولة “خداع” الروبوت لتقديم عدة ردود غير ملائمة تماماً، لذلك أطلقت سناب بعض الأدوات لمساعدة هذا الروبوت على تقديم عدد من الاستجابات الأكثر تحكمًا.
- وقدمت "سناب شات Snap chat" ميزة للروبوت حتي تسمح له بمعرفة تاريخ ميلاد المستخدمين وتوفير عدة استجابات تتوافق مع عمرهم، و أشارت الشركة إلى أن الروبوت سوف يأخذ دائمًا العمر في الأعتبار أثناء التفاعل مع المستخدمين.
- وتخطط سناب أيضًا أن تقدم مزيد من التحسينات لمركز العائلة، و الذي قد أطلقته في شهر أغسطس الماضي، وذلك من خلال توفير العديد من الأراء للآباء حول تفاعلات أطفالهم مع الروبوت.
- و سوف تتحقق الميزة الجديدة من تفاعل المراهقين مع روبوت المحادثة، وتكرار هذه التفاعلات، ويجب على الوصي والمراهق الأشتراك في مركز العائلة للأستفادة من مميزات الرقابة الأبوية.
- حيث نبهت سناب على مدونتها إلى أن روبوت المحادثة (My AI) ليس «صديقًا حقيقيًا»، ولكنه يستخدم سجل المحادثات لتحسين الردود.
- تقوم سناب بحساب أي رد يتضمن إشارات إلى اي مواضيع “غير ملائمةاو مناسبة” مثل العنف ومصطلحات جنسية صريحة، وتعاطي المخدرات الغير مشروعة، والتنمر، وخطابات الكراهية، والعبارات المهينة و المتحيزة، والعنصرية، وتهميش المجموعات غير الممثلة.
- وأكدت ايضا سناب أن أغلب الردود “غير الملائمة” تم تقليدها عن طريق الروبوت لكل ما قاله المستخدمون، وأنها سوف تمنع مؤقتاً الوصول إلى روبوت الذكاء الاصطناعي للمستخدمين الذين يقومون بأساءة استخدامه.
- نظراً لانتشار جميع الأدوات التي تعمل بالذكاء الاصطناعي، أصبح يشعر الكثير من الناس بالقلق بخصوص سلامتهم وخصوصيتهم، في الأسبوع الماضي، صرحت مجموعة أخلاقية تسمى “مركز الذكاء الاصطناعي والسياسة الرقمية” اللجنة التجارية الفيدرالية الأمريكية على ضرورة وقف طرح تقنية “جي بي تي-4” التابعة لشركة “My AI”.
