دراسة جديدة تكشف خطورة "Chat Gpt"
توصلت دراسة جديدة إلى أنه يمكن خداع "ChatGPT" لإنتاج تعليمات برمجية ضارة يمكن استخدامها لشن هجمات إلكترونية وذلك وفقا "Sky News".
روبوتات الدردشة
كما يمكن لأداة "OpenAI" وروبوتات الدردشة المماثلة إنشاء محتوى مكتوب بناءً على أوامر المستخدم بعد تدريبها على كميات هائلة من البيانات النصية عبر الإنترنت.
ولقد تم تصميمها مع توفير وسائل الحماية لمنع إساءة استخدامها إلى جانب معالجة مشكلات مثل التحيزات.
وعلى هذا النحو لجأت الجهات الفاعلة السيئة إلى البدائل التي تم إنشاؤها بشكل مقصود للمساعدة في الجرائم الإلكترونية مثل أداة الويب المظلمة التي تسمى WormGPT والتي حذر الخبراء من أنها يمكن أن تساعد في تطوير هجمات واسعة النطاق .
لكن الباحثين في جامعة شيفيلد حذروا من وجود نقاط ضعف أيضًا في الخيارات السائدة التي تسمح بخداعهم للمساعدة في تدمير قواعد البيانات وسرقة المعلومات الشخصية وإسقاط الخدمات.
وتشمل هذه المواقع ChatGPT ومنصة مماثلة أنشأتها شركة Baidu الصينية.
وفي هذا الصدد قال شوتان بينج طالب الدكتوراه في علوم الكمبيوتر والذي شارك في قيادة الدراسة: "الخطر في الذكاء الاصطناعي مثل ChatGPT هو أن المزيد والمزيد من الناس يستخدمونها كأدوات إنتاجية وليس كروبوت للمحادثة.
الجدير بالذكر أنه سيتم مناقشة مخاطر التكنولوجيا في قمة سلامة الذكاء الاصطناعي في المملكة المتحدة الأسبوع المقبل حيث تدعو الحكومة قادة العالم وعمالقة الصناعة للاجتماع معًا لمناقشة فرص ومخاطر التكنولوجيا.
