تخطط الحكومة للوائح جديدة قد تفرض عقوبات على كل من المبدعين والمنصة التي تستضيف التزييف العميق، في الوقت الذي تتطلع فيه إلى تضييق الخناق على ما وصفه وزير تكنولوجيا المعلومات والاتصالات أشويني فايشاو بأنه “تهديد للديمقراطية”.
وسط تقارير بعض المشاهير عن التلاعب بوجوههم في مقطع فيديو آخر، ستنظر لوائح الحماية الجديدة التي يتم النظر فيها في تدابير تشمل وضع العلامات المائية على المحتوى الناتج عن الذكاء الاصطناعي، والكشف عن التزييف العميق، وقواعد تحيز البيانات، والخصوصية، والحماية من التركيز.
وقال فايشناو بعد اجتماعه مع مختلف أصحاب المصلحة، بما في ذلك منصات التواصل الاجتماعي وناسكوم وأساتذة آخرون من مجال الذكاء الاصطناعي: “لقد ظهرت التزييف العميق كتهديد جديد للديمقراطية. وهذا (يمكن) أن يضعف الثقة في المجتمع ومؤسساته”. .
وقال: “سنبدأ في صياغة اللوائح اليوم نفسه، وفي إطار زمني قصير جدًا، سيكون لدينا لائحة منفصلة للتزييف العميق”.
وقال إن الحكومة ستطرح بنودًا قابلة للتنفيذ بشأن أربع ركائز – الكشف عن التزييف العميق، ومنع انتشار مثل هذا المحتوى، وتعزيز آليات الإبلاغ، ونشر الوعي حول هذه القضية – في غضون 10 أيام.
وقال إن جميع أصحاب المصلحة الحاضرين في الاجتماع لديهم مخاوف مماثلة بشأن التزييف العميق. “اتفقت جميع منصات التواصل الاجتماعي على امتلاك تكنولوجيا واسعة النطاق للكشف عن التزييف العميق.” يوجد في الهند أكثر من 80 كرور مستخدم للإنترنت، ومن المتوقع أن يتجاوز 120 كرور روبية في غضون عامين. Deepfake هي قطعة من التكنولوجيا التي تستفيد من الذكاء الاصطناعي لتغيير مظهر الشخص أو صوته أو تصرفاته بطريقة يمكن أن تكون واقعية وصعبة للتمييز من المحتوى الأصلي الذي لم يتم تغييره. لقد سلطت عمليات التزييف العميق الأخيرة الضوء على الحاجة الملحة لوضع إطار تنظيمي للذكاء الاصطناعي في قانون الهند الرقمية الجديد.
وقال فايشناو إن الإعلانات المزيفة أو العروض الترويجية المضللة تشكل تهديدًا يواجهه المجتمع الهندي حاليًا.
وقال للصحفيين هنا “إن استخدام وسائل التواصل الاجتماعي يضمن أن التزييف العميق يمكن أن ينتشر بسرعة وبطريقة أكثر أهمية دون أي فحص وينتشر على نطاق واسع. ولهذا السبب نحتاج إلى اتخاذ خطوات عاجلة لتعزيز الثقة في المجتمع وديمقراطيتنا”.
برزت تقنية Deepfakes بعد اكتشاف استخدام وجه الممثل راشميكا ماندانا في مقطع فيديو محرج في وقت سابق من هذا الشهر. كما ورد أن بعض المشاهير الآخرين، بما في ذلك كاترينا كايف وكاجول، وقعوا ضحايا للتزييف العميق.
وفي الأسبوع الماضي، حذر رئيس الوزراء ناريندرا مودي أيضًا من التهديد الذي تشكله التزييف العميق.
وحذر فايشناو يوم السبت من أن منصات التواصل الاجتماعي ستفقد الحصانة التي تتمتع بها بموجب بند “الملاذ الآمن” في قانون المعلومات والتكنولوجيا إذا فشلت في اتخاذ تدابير ضد التزييف العميق. ينص البند على أنه لا يمكن مساءلة النظام الأساسي عبر الإنترنت عن المحتوى الذي يشاركه المستخدمون عليه.
وبعد الاجتماع مع أصحاب المصلحة يوم الخميس، قال إن منشئي مقاطع الفيديو المزيفة العميقة وجدوا طرقًا لكسر العلامات والعلامات المائية. “وبالتالي، لا بد من وجود شيء يجد طريقة للخروج منه.” ومن المقرر أن يعقد الاجتماع المقبل بشأن هذا الموضوع في الأسبوع الأول من شهر كانون الأول/ديسمبر.
في غضون الأيام العشرة المقبلة، ستطرح الحكومة بنودًا واضحة قابلة للتنفيذ بشأن أربع ركائز – الكشف (عن التزييف العميق والمعلومات الخاطئة)، وكيفية منع انتشار المعلومات الخاطئة، وكيفية تعزيز آليات الإبلاغ (يجب تعزيز آليات الإبلاغ داخل التطبيق). ) وزيادة الوعي، قال الوزير.
وأضاف: “لقد شاركتنا جميع الشركات قلقنا. لقد فهموا أن هذا ليس حرية تعبير، وأن هذا أمر ضار للغاية… لقد فهموا الحاجة إلى قواعد تنظيمية أكثر صرامة”. “إن استخدام وسائل التواصل الاجتماعي يضمن إمكانية انتشار التزييف العميق بسرعة أكبر بكثير دون أي فحص، كما أنه ينتشر بسرعة كبيرة في دقائق قليلة من التحميل.
وقال الوزير إن هناك خطوات عاجلة للغاية يجب اتخاذها لتعزيز الثقة في المجتمع وحماية ديمقراطيتنا. “هناك حاجة لاتخاذ خطوات بهذا الشأن في أقرب وقت ممكن، سواء كانت إجراءات قانونية أو تنظيمية أو فنية، فنحن بحاجة إلى اتخاذ جميع أنواع الخطوات.
وردا على سؤال عما إذا كان سيكون هناك تغيير في القاعدة الحالية أو قد يتم طرح قانون جديد، قال: “يمكننا تحقيق ذلك في شكل إجراء تعديلات على القواعد الحالية أو يمكننا تقديم مجموعة جديدة من اللوائح.
وقال “لقد ناقشنا أيضًا وضع العلامات المائية ووضع العلامات. واتفق الجميع على أنه يتعين علينا القيام بذلك، وهذا هو الحد الأدنى الأساسي الذي يتعين على الجميع القيام به”. “عندما نقوم بصياغة اللائحة، سننظر أيضًا في العقوبات على كل من الشخص الذي قام بالتحميل أو إنشاء المنصة أيضًا. ونقول أن الحكومة ستضع اللائحة التنظيمية للكشف والوقاية وتعزيز آلية الإبلاغ وخلق الوعي. واستخدام تقنيات التزييف العميق والمحتوى الناتج عن الذكاء الاصطناعي والذي يمكن أن يكون ضارًا بالمجتمع.
وإلى أن يتم وضع اللائحة، وعدت منصات وشركات وسائل التواصل الاجتماعي باتخاذ جميع التدابير الممكنة لمنع انتشار التزييف العميق. وقال “جميعهم قالوا إنهم يتخذون خطوات داخلية ويرغبون في زيادة كثافة تلك الخطوات”.
ومشيرًا إلى أن حرية التعبير والخصوصية مهمان بالنسبة للحكومة، قال إن هذين البناءين يتم تقويضهما من خلال التزييف العميق. “لذا فإن التنظيم الجديد مخصص للتزييف العميق والمحتوى الناتج عن الذكاء الاصطناعي لا يضر بالمجتمع.” وقال الوزير إنه أعطى أمثلة على التزييف العميق، أثناء الانتخابات في ولاية ماديا براديش، ظهر مقطع فيديو كان فيه رئيس الوزراء يقول نوعًا ما للتصويت للحزب المعاكس.
“لقد كانت تلك معلومات خاطئة تمامًا، ومعلومات مزيفة للغاية ومعلومات مضللة للغاية. علينا أن نعالج ذلك بصرف النظر عن ذلك، علينا التأكد من أن الأشخاص الذين أنشأوا هذه المعلومات تم تحديدهم وأنهم لديهم مجموعة خاصة بهم من العقوبات في نفس الوقت المنصات التي هي الأدوات التي يتم من خلالها نشر هذا المحتوى”. يجب عليهم أيضًا تحمل المسؤولية فيما يتعلق بما يسمحون به على منصاتهم.
وأضاف: “إن اكتشاف المحتوى المزيف العميق أمر مهم للغاية. ومن المهم للغاية التمييز بين المحتوى الاصطناعي والمحتوى المزيف العميق”.
