ستحتاج نماذج الذكاء الاصطناعي (AI) ونماذج الذكاء الاصطناعي التوليدي التي تمر بأي مرحلة من مراحل الاختبار أو التي لا يمكن الاعتماد عليها بأي شكل من الأشكال إلى الحصول على “إذن صريح من حكومة الهند” قبل نشرها في الهند، حسبما ذكرت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية ( MeitY) صدر في تقرير استشاري، وفقًا للتقارير. وتأتي هذه النصيحة بعد أيام فقط من اكتشاف بعض المستخدمين أن برنامج الدردشة Gemini AI من Google كان يرد بمعلومات غير دقيقة ومضللة فيما يتعلق برئيس وزراء البلاد.
وفقًا لتقرير صادر عن صحيفة إيكونوميك تايمز، تم إصدار الاستشارة في الأول من مارس، وطُلب من الشركات الالتزام بها في المستقبل. وطلبت النصيحة من الشركات التي نشرت بالفعل منصة للذكاء الاصطناعي في البلاد التأكد من أن “موارد الكمبيوتر الخاصة بها لا تسمح بأي تحيز أو تمييز أو تهدد نزاهة العملية الانتخابية”. علاوة على ذلك، يقال إن MeitY طلبت أيضًا من منصات الذكاء الاصطناعي إضافة بيانات وصفية في حالة إمكانية استخدام المحتوى الناتج عن الذكاء الاصطناعي لنشر معلومات مضللة أو إنشاء تزييف عميق.
كما طُلب من الشركات إضافة إخلاءات صريحة للمسؤولية في حالة تصرف النظام بطريقة غير موثوقة وتوليد معلومات غير دقيقة. علاوة على ذلك، سيتعين على المنصات أيضًا تحذير المستخدمين من عدم استخدام الذكاء الاصطناعي لإنشاء محتوى مزيف عميق أو أي محتوى يمكن أن يؤثر على الانتخابات بأي شكل من الأشكال، وفقًا للتقرير. على الرغم من أن الاستشارة ليست ملزمة قانونًا في الوقت الحالي، إلا أنها تنص على أن هذا هو مستقبل تنظيم الذكاء الاصطناعي في الهند.
ظهرت مشكلة عدم الموثوقية لأول مرة عندما نشر بعض المستخدمين لقطات شاشة لـ Google Gemini ينشر معلومات غير دقيقة عن رئيس الوزراء ناريندرا مودي. في 23 فبراير، وزير الدولة الاتحادي للإلكترونيات وتكنولوجيا المعلومات راجيف شاندراسيخار استجاب إلى X (المعروف سابقًا باسم Twitter) وقال: “هذه انتهاكات مباشرة للقاعدة 3 (1) (ب) من القواعد الوسيطة (قواعد تكنولوجيا المعلومات) لقانون تكنولوجيا المعلومات وانتهاكات للعديد من أحكام القانون الجنائي.”
وقد أثار إصدار الاستشارة ردود فعل متباينة من رواد الأعمال والمجال التكنولوجي. وفي حين أعرب البعض عن تقديره لهذه الخطوة، واصفين إياها بأنها ضرورة للتخفيف من المعلومات الخاطئة، فقد سلط آخرون الضوء على أن التنظيم يمكن أن يكون له تأثير سلبي على نمو القطاع الناشئ. المؤسس المشارك والرئيس التنفيذي لشركة Perplexity AI أرافيند سرينيفاس مُسَمًّى إنها “خطوة سيئة من قبل الهند” في أحد المنشورات.
وفي نفس السياق، قال براتيك ديساي، مؤسس KissanAI قال، “لقد كنت أحمقًا جدًا عندما فكرت في أنني سأعمل على جلب GenAI إلى الزراعة الهندية من سان فرانسيسكو. كنا نقوم بتدريب نموذج متعدد الوسائط ومنخفض التكلفة للآفات والأمراض، وكنت متحمسًا جدًا لذلك. وهذا أمر فظيع ومثبط للهمم بعد العمل لمدة 4 سنوات بدوام كامل لجلب الذكاء الاصطناعي إلى هذا المجال في الهند.
الرد على الانتقادات في سلسلة من التدوينات شاندراسيخار أبرز أنه تم إصدار الاستشارة مع الأخذ في الاعتبار القوانين الحالية للدولة التي تحظر على المنصات تمكين أو إنشاء محتوى غير قانوني. “[..]لدى المنصات التزامات قائمة واضحة بموجب تكنولوجيا المعلومات والقانون الجنائي. وأضاف: “لذا فإن أفضل طريقة لحماية نفسك هي استخدام التصنيف والموافقة الصريحة، وإذا كنت تمثل منصة رئيسية، فاحصل على إذن من الحكومة قبل نشر منصات معرضة للأخطاء”.
وزير الاتحاد أيضا شرح أن الاستشارة تستهدف “المنصات المهمة” وأن “المنصات الكبيرة” فقط هي التي يتعين عليها الحصول على إذن من MeitY. لا تنطبق هذه الاستشارة على الشركات الناشئة. وأضاف أيضًا أن اتباع تعليمات الاستشارة هو في مصلحة الشركات لأنه يخلق تأمينًا من المستخدمين الذين يمكنهم رفع دعوى قضائية ضد المنصة. وقال: “إن سلامة وثقة الإنترنت في الهند هدف مشترك ومشترك للحكومة والمستخدمين والمنصات”.
