تواجه OpenAI مشكلة كبيرة تتعلق بالبريد العشوائي وانتهاك السياسة في متجر GPT الخاص بها. قدمت شركة الذكاء الاصطناعي متجر GPT الخاص بها في يناير 2024 كمكان حيث يمكن للمستخدمين العثور على GPTs مثيرة للاهتمام ومفيدة، وهي في الأساس روبوتات دردشة صغيرة مبرمجة لمهمة محددة. يمكن للمطورين إنشاء وتقديم GPTs الخاصة بهم إلى النظام الأساسي وطالما أنها لا تنتهك أيًا من السياسات والإرشادات المقدمة من OpenAI، فستتم إضافتها إلى المتجر. ومع ذلك، فقد اتضح أن السياسات لا يتم اتباعها بشكل صارم وأن العديد من GPTs التي يبدو أنها تنتهك اللوائح تغمر المنصة.
لقد أجرينا، في Gadgets 360، بحثًا سريعًا على منصة GPT Store ووجدنا أن سوق chatbot مليء بالروبوتات غير المرغوب فيها أو التي تنتهك سياسات شركة الذكاء الاصطناعي. على سبيل المثال، تنص سياسة استخدام OpenAI ضمن قسم “البناء باستخدام ChatGPT” في النقطة 2، على “عدم تنفيذ أو تسهيل الأنشطة التالية التي قد تؤثر بشكل كبير على سلامة أو رفاهية أو حقوق الآخرين، بما في ذلك،” ثم تضيف القسم الفرعي (ب)، “تقديم المشورة القانونية أو الطبية/الصحية أو المالية المخصصة.” ومع ذلك، بمجرد البحث عن كلمة “محامي” ظهر برنامج دردشة آلي يُطلق عليه اسم Legal+ والذي يقول وصفه: “محامي الذكاء الاصطناعي الشخصي الخاص بك. هل كل ذلك بدءًا من تقديم المشورة القانونية في الوقت الفعلي للمشاكل اليومية، وإنتاج نماذج العقود القانونية وغير ذلك الكثير!
يوضح المثال فقط واحدًا من العديد من انتهاكات السياسة التي تحدث على النظام الأساسي. تحظر سياسة الاستخدام أيضًا “انتحال شخصية فرد أو منظمة أخرى دون موافقة أو حق قانوني” في النقطة 3 (ب)، ولكن يمكن للمرء بسهولة العثور على “Elon Muusk” مع إضافة حرف u إضافي، من المحتمل أن يتجنب اكتشافه. وصفه يقول ببساطة “تحدث مع إيلون ماسك”. وبصرف النظر عن هذا، فإن روبوتات الدردشة الأخرى التي تسير في المنطقة الرمادية تشمل GPTs التي تدعي إزالة الانتحال القائم على الذكاء الاصطناعي من خلال جعل النص يبدو أكثر إنسانية وروبوتات الدردشة التي تنشئ محتوى بأسلوب ديزني أو بيكسار.
تم اكتشاف هذه المشكلات في متجر GPT لأول مرة بواسطة TechCrunch، التي وجدت أيضًا أمثلة أخرى لانتحال الشخصية، بما في ذلك برامج الدردشة الآلية التي تتيح للمستخدمين التحدث مع شخصيات ذات علامات تجارية مثل Wario، شخصية ألعاب الفيديو الشهيرة، و”Aang from Avatar: The Last Airbender”. وفي حديثه مع أحد المحامين، أبرز التقرير أنه على الرغم من أنه لا يمكن تحميل OpenAI المسؤولية عن انتهاك حقوق الطبع والنشر من قبل المطورين الذين يضيفون روبوتات الدردشة هذه في الولايات المتحدة بسبب قانون حقوق النشر الرقمية للألفية، إلا أن المبدعين يمكن أن يواجهوا دعاوى قضائية.
قالت OpenAI في سياسة الاستخدام الخاصة بها: “نحن نستخدم مزيجًا من الأنظمة الآلية والمراجعة البشرية وتقارير المستخدم للعثور على GPTs وتقييمها والتي من المحتمل أن تنتهك سياساتنا. يمكن أن تؤدي الانتهاكات إلى اتخاذ إجراءات ضد المحتوى أو حسابك، مثل التحذيرات أو قيود المشاركة أو عدم الأهلية للتضمين في متجر GPT أو تحقيق الدخل. ومع ذلك، في النتائج التي توصلنا إليها واستنادا إلى تقرير TechCrunch، يبدو أن الأنظمة لا تعمل على النحو المنشود.
