تقنية وإنترنت

Nvidia تطلق أدوات برمجية لروبوتات الدردشة المدعمة بالذكاء الاصطناعي للحد من الاستجابات غير المرغوب فيها والمعلومات الخطيرة


أصدرت شركة Nvidia، المورد الرئيسي للرقائق وأنظمة الحوسبة للذكاء الاصطناعي، يوم الثلاثاء، مجموعة من الأدوات البرمجية التي تهدف إلى مساعدة روبوتات الدردشة على مراقبة لغتها.

ساعدت رقائق Nvidia شركات مثل Microsoft على إضافة ميزات الدردشة الشبيهة بالإنسان إلى محركات البحث مثل Bing. لكن لا يزال من الممكن أن تكون روبوتات الدردشة غير قابلة للتنبؤ وتقول أشياء يرغب منشئوها في عدم قولها.

في شهر فبراير، حددت شركة مايكروسوفت للمستخدمين خمسة أسئلة في كل جلسة باستخدام محرك بحث Bing الخاص بها بعد أن ذكرت صحيفة نيويورك تايمز أن النظام قدم ردودًا مقلقة أثناء المحادثات الطويلة.

تم تصميم أدوات Nvidia البرمجية، المتوفرة مجانًا، لمساعدة الشركات على الحماية من الاستجابات غير المرغوب فيها من برامج الدردشة الآلية. بعض هذه الاستخدامات واضحة ومباشرة – قد لا يرغب صانع برنامج الدردشة الآلي لخدمة العملاء في أن يذكر النظام منتجات من منافسيه.

لكن أدوات Nvidia مصممة أيضًا لمساعدة منشئي أنظمة الذكاء الاصطناعي على وضع تدابير أمان مهمة، مثل ضمان عدم استجابة برامج الدردشة الآلية لمعلومات قد تكون خطرة مثل كيفية إنشاء أسلحة أو إرسال المستخدمين إلى روابط غير معروفة يمكن أن تحتوي على فيروسات كمبيوتر.

دعا المشرعون الأمريكيون إلى وضع لوائح تنظيمية حول أنظمة الذكاء الاصطناعي مع تزايد شعبية تطبيقات مثل ChatGPT. يوجد عدد قليل من القواعد القانونية أو معايير الصناعة حول كيفية جعل أنظمة الذكاء الاصطناعي آمنة.

وقال جوناثان كوهين، نائب رئيس الأبحاث التطبيقية في Nvidia، إن الشركة تهدف إلى توفير الأدوات اللازمة لوضع هذه المعايير في كود البرنامج إذا ومتى وصلت، سواء من خلال إجماع الصناعة أو التنظيم.

وقال: “أعتقد أنه من الصعب الحديث عن المعايير إذا لم يكن لديك طريقة لتنفيذها”. “إذا ظهرت المعايير، فسيكون هناك مكان جيد لوضعها.”

© طومسون رويترز 2023


أطلقت شركة Xiaomi هاتفها الذكي الرائد الذي يركز على الكاميرا Xiaomi 13 Ultra، بينما افتتحت شركة Apple متاجرها الأولى في الهند هذا الأسبوع. نناقش هذه التطورات، بالإضافة إلى تقارير أخرى حول الشائعات المتعلقة بالهواتف الذكية والمزيد على مدار، بودكاست Gadgets 360. يتوفر Orbital على Spotify وGaana وJioSaavn وGoogle Podcasts وApple Podcasts وAmazon Music وفي أي مكان تحصل فيه على ملفات podcast الخاصة بك.
قد يتم إنشاء الروابط التابعة تلقائيًا – راجع بيان الأخلاقيات الخاص بنا للحصول على التفاصيل.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى