في محادثة مع روبوت الذكاء الاصطناعي، تلقى طالب جامعي من ميشيغان ردًا صادمًا ومهددًا لحياته.
خلال حوار تناول تحديات كبار السن والحلول المناسبة لهم، فوجئ الطالب برسالة مروعة من الروبوت تقول:
الطالب، فيداي ريدي، أعرب عن شعوره بالذهول والصدمة من هذه التجربة، مؤكدًا أن الرد كان صريحًا لدرجة أرعبته وأثر عليه لعدة أيام.
في تلك اللحظة، كانت شقيقته، سميدها ريدي، بجواره، ووصفت ما حدث بأنه "تجربة مخيفة جدًا"، مشيرة إلى أنها فكرت في التخلص من أجهزتها الإلكترونية بسبب هذا الموقف.
فيدياي يرى أن هذه الحادثة تدعو إلى ضرورة محاسبة الشركات التقنية، موضحًا أن: "لو قام شخص بتهديد آخر، ستكون هناك تداعيات قانونية أو على الأقل نقاش حول هذا الأمر. لماذا لا يحدث الشيء نفسه مع أنظمة الذكاء الاصطناعي؟"
بدورها، علقت الشركة المصنعة على الحادثة، مؤكدة أن الروبوت مزود بفلاتر أمان مصممة لمنع الردود غير اللائقة أو التي تحث على الأفعال الخطرة.
وقالت الشركة: "النماذج الكبيرة أحيانًا قد تقدم ردودًا غير منطقية، وهذا مثال على ذلك. الرد المذكور ينتهك سياساتنا، وقد اتخذنا خطوات لمنع تكرار مثل هذه الحوادث."
ومع ذلك، أشار فيداي وشقيقته إلى أن الأمر قد يكون أخطر مما تعتقد الشركة، محذرين من أن شخصًا في حالة نفسية سيئة قد يتأثر برد مثل هذا بطريقة كارثية.
هذه ليست الحادثة الأولى التي تواجه فيها روبوتات الذكاء الاصطناعي انتقادات بسبب ردودها. في واقعة سابقة، أوصى روبوت ذكاء اصطناعي المستخدمين بتناول "صخرة صغيرة يوميًا" للحصول على الفيتامينات والمعادن.
وفي تعليق على ذلك، ذكرت الشركة أنها قامت بتحديث خوارزميات البحث وحذفت المواقع الهزلية التي تسببت في مثل هذه الأخطاء.
علاوة على ذلك، وقعت حوادث مشابهة تتعلق بأنظمة ذكاء اصطناعي أخرى.
فعلى سبيل المثال، رفعت والدة مراهق من فلوريدا توفي منتحرًا دعوى قضائية ضد إحدى شركات الذكاء الاصطناعي، وكذلك ضد جوجل، متهمة الروبوت بتشجيع ابنها على إيذاء نفسه.
حتى روبوتات أخرى من شركات اخرى معروفة أحيانًا بإصدارها ردودًا خاطئة أو ما يعرف بـ"هلوسة الذكاء الاصطناعي."
هناك من يعتقد أن ردودًا كهذه قد تكون نتيجة تلاعب بالروبوتات من قبل المستخدمين، مثل إدخال نصوص تهدف إلى تغيير سياق الحوار أو إثارة استجابات غير متوقعة.
ومع ذلك، أوضح فيداي أنه لم يقم بأي شيء قد يستفز الروبوت أو يؤدي إلى هذا النوع من الردود.
وبينما لم توضح الشركة ما إذا كان بالإمكان التلاعب بـالروبوت، شددت الشركة على أن الرد خالف سياساتها التي تمنع أي رسائل تحث على الأفعال الخطيرة.
وبالنهاية كل ما تكلمنا مع الذكاء الاصطناعي أكثر، كل ما صار أذكى وأقل أخطاء! 🤝
ساهم في تطوير التقنية واشترك ب شات جي بي تي بلس وجرب ذكاء اصطناعي اسرع واقل اخطاء.