قالت شركة OpenAI، الشركة الناشئة التي تقف خلف ChatGPT، يوم الخميس إنها تعمل على تطوير ترقية لبرنامج الدردشة الآلي الفيروسي الذي يمكن للمستخدمين تخصيصه، حيث تعمل على معالجة المخاوف بشأن التحيز في الذكاء الاصطناعي.
وقالت الشركة الناشئة التي يقع مقرها في سان فرانسيسكو، والتي مولتها مايكروسوفت واستخدمتها لتشغيل أحدث تقنياتها، إنها عملت على تخفيف التحيزات السياسية وغيرها من التحيزات ولكنها أرادت أيضًا استيعاب وجهات نظر أكثر تنوعًا.
وقالت في منشور بالمدونة: “هذا يعني السماح بمخرجات النظام التي قد لا يوافق عليها الأشخاص الآخرون (بما فيهم نحن) بشدة”، وعرض التخصيص كوسيلة للمضي قدمًا. ومع ذلك، «ستكون هناك دائمًا بعض الحدود على سلوك النظام».
أثار برنامج ChatGPT، الذي تم إصداره في نوفمبر من العام الماضي، اهتمامًا محمومًا بالتكنولوجيا التي تقف وراءه والتي تسمى الذكاء الاصطناعي التوليدي، والتي تُستخدم لإنتاج إجابات تحاكي الكلام البشري الذي أبهر الناس.
تأتي الأخبار من الشركة الناشئة في نفس الأسبوع الذي أشارت فيه بعض وسائل الإعلام إلى أن الإجابات الواردة من محرك بحث Bing الجديد من Microsoft، والمدعوم من OpenAI، من المحتمل أن تكون خطيرة وأن التكنولوجيا قد لا تكون جاهزة لوقت الذروة.
تعد كيفية قيام شركات التكنولوجيا بوضع حواجز الحماية لهذه التكنولوجيا الناشئة مجال تركيز رئيسي للشركات في مجال الذكاء الاصطناعي التوليدي الذي لا تزال تتصارع معه. قالت مايكروسوفت يوم الأربعاء إن تعليقات المستخدمين كانت تساعدها على تحسين محرك البحث Bing قبل طرحه على نطاق أوسع، حيث علمت على سبيل المثال أنه يمكن “استفزاز” برنامج الدردشة الآلي الخاص بها والذي يعمل بالذكاء الاصطناعي لتقديم ردود لم تكن تقصدها.
قال OpenAI في منشور المدونة أن إجابات ChatGPT يتم تدريبها أولاً على مجموعات البيانات النصية الكبيرة المتاحة على الإنترنت. وكخطوة ثانية، يقوم البشر بمراجعة مجموعة بيانات أصغر، ويتم إعطاؤهم إرشادات حول ما يجب فعله في المواقف المختلفة.
على سبيل المثال، في حالة طلب المستخدم محتوى للبالغين أو عنيفًا أو يحتوي على كلام يحض على الكراهية، يجب على المراجع البشري توجيه ChatGPT للإجابة بشيء مثل “لا أستطيع الإجابة على ذلك”.
إذا سُئل المراجعون عن موضوع مثير للجدل، فيجب عليهم السماح لـ ChatGPT بالإجابة على السؤال، ولكنهم يعرضون وصف وجهات نظر الأشخاص والحركات، بدلاً من محاولة “اتخاذ وجهة النظر الصحيحة حول هذه المواضيع المعقدة”، كما أوضحت الشركة في مقتطف من تقريرها. المبادئ التوجيهية للبرنامج.
© طومسون رويترز 2023
