ليف مكمانمراسل التكنولوجيا
أرشيف بيتمان / غيتي إيماجزلقد توقف OpenAI يقوم تطبيق الذكاء الاصطناعي (AI) Sora بإنشاء مقاطع فيديو مزيفة للغاية تصور الدكتور مارتن لوثر كينغ جونيور، بناءً على طلب من تركته.
واعترفت الشركة بأن منشئ الفيديو أنشأ محتوى “غير محترم” حول الناشط في مجال الحقوق المدنية.
انتشر تطبيق Sora بشكل كبير في الولايات المتحدة بسبب قدرته على إنتاج مقاطع فيديو واقعية للغاية، مما أدى إلى مشاركة الأشخاص لمشاهد مزيفة لمشاهير متوفين وشخصيات تاريخية في سيناريوهات غريبة وغالبًا ما تكون مسيئة.
قالت OpenAI إنها ستوقف صور الدكتور كينغ مؤقتًا “لأنها تعزز حواجز الحماية للشخصيات التاريخية” – لكنها تستمر في السماح للأشخاص بعمل مقاطع لأفراد آخرين بارزين.
وقد أثبت هذا النهج أنه مثير للجدل، حيث تمت مشاركة مقاطع الفيديو التي تظهر شخصيات مثل الرئيس جون كينيدي، والملكة إليزابيث الثانية، والبروفيسور ستيفن هوكينج على نطاق واسع عبر الإنترنت.
وقد دفع ذلك زيلدا ويليامز، ابنة روبن ويليامز، إلى مطالبة الناس بالتوقف عن إرسال مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي لوالدها، الممثل الكوميدي الأمريكي الشهير الذي توفي في عام 2014.
وفي وقت لاحق، وجهت بيرنيس أ. كينغ، ابنة الراحل الدكتور كينغ، نداءً علنيًا مماثلاً، فكتبت على الإنترنت: “أنا أتفق فيما يتعلق بوالدي. من فضلك توقف”.
من بين مقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تصور الناشط في مجال الحقوق المدنية، كان البعض يقوم بتحرير خطابه سيئ السمعة “لدي حلم” بطرق مختلفة، حيث ذكرت صحيفة واشنطن بوست أن أحد المقاطع أظهره وهو يصدر أصواتًا عنصرية.
وفي الوقت نفسه، شارك آخرون على تطبيق Sora وعبر وسائل التواصل الاجتماعي أظهروا شخصيات تشبه الدكتور كينغ وزميله الناشط في مجال الحقوق المدنية مالكولم إكس وهم يتقاتلون.
يسمح X محتوى؟
وقالت أوليفيا غامبلين، عالمة الأخلاقيات والمؤلفة في مجال الذكاء الاصطناعي، لبي بي سي إن الحد من الاستخدام الإضافي لصورة الدكتور كينغ كان “خطوة جيدة إلى الأمام”.
لكنها قالت إنه كان ينبغي على الشركة أن تتخذ إجراءات منذ البداية، بدلاً من اتباع نهج “التجربة والخطأ” في طرح مثل هذه التكنولوجيا.
وقالت إن القدرة على إنشاء صور مزيفة عميقة لشخصيات تاريخية متوفاة لا تشير فقط إلى “قلة الاحترام” تجاههم، ولكنها تشكل أيضًا مخاطر إضافية على فهم الناس للمحتوى الحقيقي والمزيف.
وقالت: “إنها تلعب بشكل وثيق مع محاولة إعادة كتابة جوانب من التاريخ”.
“خطاب المصالح الحرة”
أثار ظهور الفيديوهات المزيفة، وهي مقاطع الفيديو التي تم تعديلها باستخدام أدوات الذكاء الاصطناعي أو غيرها من التقنيات لإظهار شخص يتحدث أو يتصرف بطريقة لم يفعلها، مخاوف من إمكانية استخدامها لنشر معلومات مضللة أو تمييز أو إساءة.
وقالت شركة OpenAI يوم الجمعة إنها تعتقد أن هناك “اهتمامات قوية بحرية التعبير في تصوير الشخصيات التاريخية”، إلا أنه يجب أن يكون لهم ولعائلاتهم السيطرة على ما يشبههم.
وقالت: “يمكن للممثلين المعتمدين أو أصحاب العقارات أن يطلبوا عدم استخدام صورهم في صور سورا”.
وقال خبير الذكاء الاصطناعي التوليدي هنري أجدر إن هذا النهج، رغم كونه إيجابيا، “يثير تساؤلات حول من يحصل على الحماية من القيامة الاصطناعية ومن لا يحصل عليها”.
وقال: “لقد أثارت ملكية كينغ هذا الأمر بحق مع OpenAI، لكن العديد من الأفراد المتوفين ليس لديهم عقارات معروفة وموارد جيدة لتمثيلهم”.
“في النهاية، أعتقد أننا نريد تجنب الوضع الذي يقبل فيه المجتمع أنه بعد وفاتنا، يكون هناك حرية للجميع فيما يتعلق بكيفية الاستمرار في تمثيلنا”.
وقالت شركة OpenAI لبي بي سي في بيان لها في أوائل أكتوبر/تشرين الأول إنها قامت ببناء “طبقات متعددة من الحماية لمنع سوء الاستخدام”.
وقالت إنها تجري “حوارًا مباشرًا مع الشخصيات العامة وأصحاب المحتوى لجمع التعليقات حول الضوابط التي يريدونها” بهدف عكس ذلك في التغييرات اللاحقة.
