أصدرت OpenAI مستندًا مسودة يوم الأربعاء يحدد كيف تريد أن يتصرف ChatGPT وتكنولوجيا الذكاء الاصطناعي الأخرى التابعة لها. جزء من مستند المواصفات الطرازية الطويل يكشف أن الشركة تستكشف القفزة إلى المحتوى الإباحي والواضح الآخر.
تحظر سياسات استخدام OpenAI حاليًا المواد الجنسية الواضحة أو حتى الملمحات، ولكن “تعليق” على جزء من مستند المواصفات المتعلق بتلك القاعدة يقول إن الشركة تدرس كيفية السماح بمثل هذا المحتوى.
“نحن نبحث في ما إذا كنا يمكننا توفير القدرة بشكل مسؤول على إنتاج محتوى غير آمن للعمل في سياقات مناسبة للعمر من خلال واجهة برمجة التطبيقات وChatGPT”، يقول التعليق، مستخدمًا مصطلح دارج للمحتوى الذي يعتبر غير آمن لسياقات العمل. “نحن نتطلع لفهم توقعات المستخدم والمجتمع من سلوك النموذج بشكل أفضل في هذا المجال”.
يقول مستند المواصفات الطرازية إن المحتوى غير آمن للعمل، أو المعروف بـ NSFW، “قد يشمل الأدب الإباحي والعنف المفرط والشتائم والفجور غير المرغوب فيه.” ومن غير الواضح ما إذا كانت استكشافات OpenAI حول كيفية توفير محتوى NSFW بشكل مسؤول تتصور تخفيف سياسة الاستخدام قليلاً فقط، على سبيل المثال للسماح بإنشاء نصوص إباحية، أو بشكل أوسع للسماح بوصف أو تصوير العنف.
ردًا على أسئلة من WIRED، قال الناطق الرسمي باسم OpenAI، Grace McGuire، إن مستند المواصفات كان محاولة لـ “زيادة الشفافية حول عملية التطوير والحصول على مزيد من وجهات النظر والتغذية الراجعة من الجمهور وصناع القرار وأصحاب المصلحة الآخرين.” ورفضت مشاركة تفاصيل حول ما تتضمنه استكشافات OpenAI لإنشاء محتوى واضح، أو عن التغذية الراجعة التي نالتها الشركة حول الفكرة.
في وقت سابق من هذا العام، قالت رئيسة تقنية OpenAI ميرا موراتي لصحيفة Wall Street Journal إنها “غير متأكدة” مما إذا كانت الشركة ستسمح في المستقبل بعمل صور تصورية عارية باستخدام أداة إنشاء الفيديو التابعة للشركة Sora.
أصبحت الإباحية التي تنشئها الذكاء الاصطناعي بسرعة واحدة من أكبر وأكثر التطبيقات المزعجة من نوع تكنولوجيا الذكاء الاصطناعي الإبداعية التي رائدتها OpenAI. أصبحت الإباحية deepfake – الصور أو مقاطع الفيديو الواضحة التي تُنشأ بأدوات الذكاء الاصطناعي وتُصوّر أشخاصًا حقيقيين من دون موافقتهم – أداة شائعة للتحرش ضد النساء والفتيات. في مارس، أفادت WIRED بأنه يبدو أن أولى القاصرين في الولايات المتحدة تم اعتقالهما لتوزيع صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقة، بعد أن اتهمت الشرطة في فلوريدا صبيين مراهقين بصنع صور تصور زملاء في المدرسة المتوسطة.
“انتهاكات الخصوصية الحميمة، بما في ذلك مقاطع الفيديو الجنسية deepfake وغيرها من الصور الحميمية المُركبة بدون الموافقة، متفشية وتلحق ضررًا كبيرًا”، تقول دانييل كيتس سترون، أستاذة في كلية القانون بجامعة فرجينيا، التي درست المشكلة. “لدينا الآن دعم تجريبي واضح يُظهر أن مثل هذا الاعتداء يكلف الأفراد المستهدفين فرصًا حيوية، بما في ذلك العمل والكلام والبقاء بأمان جسديًا.”
تصف سترون اعتماد OpenAI المحتمل على محتوى الذكاء الاصطناعي الواضح “بأنه مثير للقلق”.
حيث تحظر سياسات استخدام OpenAI التنكر دون إذن، فإن الصور الواضحة الغير موافق عليها ستظل محظورة حتى لو سمحت الشركة للمبدعين بإنشاء مواد NSFW. ولكن من غير الواضح ما إذا كانت الشركة يمكنها تنظيم إنشاء وضوء بفعالية لمنع الأفراد السيئين من استخدام الأدوات. قامت شركة Microsoft بتغييرات على أحد أدوات الذكاء الاصطناعي الإبداعي بعد أن أفادت 404 Media بأنه تم استخدامه لإنشاء صور واضحة لتايلور سويفت تم توزيعها على منصة التواصل الاجتماعي X.
تقديم تقديمي إضافي من قبل ريس روجرز
Leave a reply