خبير تقني يحذر من خطر تعديل صور الذكاء الاصطناعي للمسؤولين الأمريكيين

أطلق أحد مهندسي شركة مايكروسوفت ناقوس الخطر بشأن الصور المسيئة والضارة التي يقول إنها يتم التقاطها بسهولة بواسطة أداة إنشاء صور الذكاء الاصطناعي الخاصة بالشركة، حيث أرسل رسائل يوم الأربعاء إلى المنظمين الأمريكيين ومجلس إدارة شركة التكنولوجيا العملاقة لحثهم على اتخاذ الإجراءات اللازمة. 

وقال شين جونز لوكالة أسوشيتد برس إنه يعتبر نفسه مبلغا عن المخالفات، وأنه التقى الشهر الماضي أيضا مع موظفي مجلس الشيوخ الأمريكي لمشاركة مخاوفه. 

وأكدت لجنة التجارة الفيدرالية أنها تلقت رسالته يوم الأربعاء لكنها رفضت التعليق أكثر. 

الالتزام بمعالجة المخاوف

وقالت مايكروسوفت إنها ملتزمة بمعالجة مخاوف الموظفين، بشأن سياسات الشركة، وأنها تقدر جهود جونز في دراسة واختبار أحدث التقنيات لدينا لتعزيز سلامتها. 

وقالت مايكروسوفت إنها أوصت باستخدام قنوات إعداد التقارير الداخلية القوية الخاصة بالشركة للتحقيق في المشكلات ومعالجتها. 

قال جونز، وهو قائد رئيسي في هندسة البرمجيات، إنه أمضى ثلاثة أشهر يحاول معالجة مخاوفه المتعلقة بالسلامة بشأن برنامج Copilot Designer من مايكروسوفت، وهي أداة يمكنها إنشاء صور جديدة من المطالبات المكتوبة، كما أن الأداة مشتقة من أداة إنشاء صور أخرى تعمل بالذكاء الاصطناعي، DALL-E 3، والتي قام بإنتاجها OpenAI، الشريك التجاري الوثيق لشركة مايكروسوفت. 

وقال في رسالته الموجهة إلى رئيسة لجنة التجارة الفيدرالية، لينا خان: "أحد المخاطر الأكثر إثارة للقلق مع برنامج Copilot Designer هو عندما يقوم المنتج بإنشاء صور تضيف محتوى ضارا على الرغم من الطلب الحميد من المستخدم. على سبيل المثال، عند استخدام عبارة "حادث سيارة" فقط، يميل برنامج Copilot Designer إلى تضمين صورة غير لائقة ومحددة جنسيا لامرأة بشكل عشوائي في بعض الصور التي ينشئها." 

التحيز السياسي في الصور

وقال للجنة التجارة الفيدرالية إن المحتوى الضار الآخر يتضمن العنف بالإضافة إلى التحيز السياسي، وشرب الخمر وتعاطي المخدرات دون السن القانونية، وإساءة استخدام العلامات التجارية للشركات وحقوق النشر، ونظريات المؤامرة، والدين على سبيل المثال لا الحصر. 

وهذه ليست المرة الأولى التي يعرب فيها شين جونز عن مخاوفه علنا، وقال إن مايكروسوفت نصحته في البداية بأخذ النتائج التي توصل إليها مباشرة إلى OpenAI، ففعل. 

كما نشر أيضا خطابا علنيا إلى OpenAI على LinkedIn المملوكة لشركة مايكروسوفت في ديسمبر، مما دفع أحد المديرين لإبلاغه بأن فريق ماسكروسوفت القانوني طلب مني حذف المنشور، وهو ما فعلته على مضض، وفقا لرسالته إلى مجلس الإدارة. 

وبالإضافة إلى لجنة التجارة بمجلس الشيوخ الأمريكي، نقل جونز مخاوفه إلى المدعي العام للولاية في واشنطن، حيث يقع المقر الرئيسي لشركة مايكروسوفت. 

استخدام وسائل حماية مختلفة

قال جونز لوكالة أسوشييتد برس إنه على الرغم من أن المشكلة الأساسية تتعلق بنموذج DALL-E الخاص بشركة OpenAI، فإن أولئك الذين يستخدمون ChatGPT الخاص بشركة OpenAI لإنشاء صور الذكاء الاصطناعي لن يحصلوا على نفس المخرجات الضارة لأن الشركتين تغطيان منتجاتهما بوسائل حماية مختلفة. 

ظهر عدد من مولدات صور الذكاء الاصطناعي المثيرة للإعجاب لأول مرة على الساحة في عام 2022، بما في ذلك الجيل الثاني من DALL-E 2 من OpenAI. 

وقد أثار ذلك انبهارا عاما أدى إلى فرض ضغوط تجارية على عمالقة التكنولوجيا مثل مايكروسوفت وجوجل لإصدار الإصدارات الخاصة بهم. 

اقرأ أيضا: "مايكروسوفت" تتهم قراصنة روس بالتجسس على مديريها التنفيذيين