استكشاف Deepfakes: هل هي مجرد خدعة رقمية أم معضلة أخلاقية جديدة؟

تخيل عالماً لم تعد فيه الرؤية تؤمن. حيث يتلاشى الخط الفاصل بين الواقع والخيال لدرجة أن تمييز أحدهما عن الآخر يصبح مهمة شاقة. مرحبًا بكم في عصر التزييف العميق، وهو أعجوبة تكنولوجية - وخطر محتمل - يعيد تشكيل إدراكنا للحقيقة بهدوء. هل سبق لك أن شاهدت مقطع فيديو لسياسي مشهور يقول شيئًا شائنًا، فقط لتكتشف أنه مزيف واقعي للغاية؟ أو ربما عثرت على مقطع من أحد المشاهير المتوفين، يبدو أنه أعيد إلى الحياة بدقة خارقة. هذه مزيفة، وهي أكثر من مجرد خدعة رقمية - إنها نذير لعصر جديد في وسائل الإعلام والاتصالات والأخلاق.

بينما نقف على حافة هذا الواقع الجديد، من الضروري تسليح أنفسنا بالمعرفة. ما هي الآليات التي تدعم هذه القرينات الرقمية المقنعة؟ كيف يمكن استخدامها، للأفضل أو للأسوأ، في مختلف القطاعات؟ وماذا يعني ظهورها لمستقبل سلامة المعلومات؟ في منشور المدونة هذا، سنعيد النظر في طبقات التزييف العميق، ونفحص ليس فقط تركيبتها الفنية، ولكن الآثار الأوسع نطاقًا التي تحملها. انضم إلينا ونحن نكشف خيوط هذا النسيج المعقد، ونستكشف عالم التزييف العميق الرائع والمخيف أحيانًا.

فهم التزييف العميق

التزييف العميق هو نوع دقيق بشكل مخيف من الوسائط الاصطناعية حيث يتم استبدال صورة الشخص في صورة أو مقطع فيديو موجود بشخص آخر، وعادةً ما يتم الاستفادة من أنظمة الذكاء الاصطناعي المتطورة (AI). يُعد مصطلح «deepfake» نفسه مزيجًا من «التعلم العميق» و «المزيف»، مما يدل على خوارزميات التعلم العميق التي تقود توليد مقاطع الفيديو والصور فائقة الواقعية التي يتم التلاعب بها. تعتمد هذه التقنية على الشبكات العصبية التي تحلل آلاف الصور أو إطارات الفيديو، وتتعلم محاكاة مظهر وسلوك الأفراد بدقة مثيرة للقلق. ونتيجة لذلك، أصبح من غير الممكن تمييز التزييف العميق بشكل متزايد عن اللقطات الأصلية، مما يثير المخاوف بشأن استخدامها المحتمل في حملات التضليل وسرقة الهوية والأنشطة الخبيثة الأخرى.

2 blank faces flying off a human silhouette whose face is being digitally mapped, vector style — الصورة: ماكسيم999/شاترتوك

يمتد ابتكار التزييف العميق إلى ما هو أبعد من مجرد تبادل الوجوه؛ فهو يتضمن محاكاة الصوت وتعبيرات الوجه وحتى حركات الجسم لخلق عمليات تزوير مقنعة. الآثار المترتبة على هذه التكنولوجيا عميقة، لأنها تتحدى إدراكنا للواقع والحقيقة في الوسائط الرقمية. في حين أن هناك تطبيقات حميدة، مثل صناعة الأفلام والترفيه، لا يمكن المبالغة في احتمال إساءة الاستخدام. مع التقدم السريع للذكاء الاصطناعي، أصبح الخط الفاصل بين ما هو حقيقي وما يتم إنشاؤه بشكل مصطنع غير واضح، مما يستلزم إجراء محادثات نقدية حول الأخلاق والأمن ومستقبل الأصالة الرقمية.

كيف يتم إنشاء Deepfakes

يتم إنشاء Deepfakes باستخدام نوع من الذكاء الاصطناعي يسمى شبكات الخصومة التوليدية (GAN). في هذه العملية، تتنافس شبكتان عصبيتان مع بعضهما البعض: واحدة تولد الصور (المولد)، بينما تقوم الأخرى بتقييمها (أداة التمييز)، بهدف التمييز بين الصور التي تم إنشاؤها والصور الحقيقية. من خلال هذه العملية التكرارية، تزداد صعوبة تمييز الصور التي تم إنشاؤها عن الصور الأصلية. في عصر يمكن فيه للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي تكرار التشابه البشري بدقة مثيرة للقلق، يصبح تمييز الحقيقة من الباطل مصدر قلق بالغ. تُعد تقنية DeepBrain AI للكشف عن التزييف بمثابة حصن ضد موجة الوسائط الاصطناعية، حيث تستخدم خوارزميات معقدة لتحديد التهديدات المحتملة وتحييدها.

تقنية الكشف عن التزييف العميق من DeepBrain AI

في عصر يمكن فيه للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي تكرار التشابه البشري بدقة مثيرة للقلق، يصبح تمييز الحقيقة من الباطل مصدر قلق بالغ. الذكاء الاصطناعي لـ DeepBrain كشف التزييف العميق تقف التكنولوجيا كحصن ضد موجة الوسائط الاصطناعية، حيث تستخدم خوارزميات معقدة لتحديد التهديدات المحتملة وتحييدها.

حل DeepBrain AI هو نظام شامل مصمم لاكتشاف التزييف العميق بأشكال مختلفة، بما في ذلك محتوى الفيديو والصور والصوت. تهدف هذه التقنية إلى توفير آلية دفاع في الوقت الفعلي، مما يضمن إمكانية التحقق من أصالة المحتوى، وبالتالي الحفاظ على ثقة المشاهدين والمستهلكين.

‍

Six stages of a man’s face being combined with another man’s face to indicate deepfake technology — الصورة: meyer_solutions/شترستوك

تركيب فيديو Deepfake واكتشاف الصور

تعالج تقنية DeepBrain AI التحدي المتمثل في اكتشاف التزييف العميق من خلال نماذج متخصصة متعددة:

الكشف عن تركيب الفيديو Deepfake: يقوم هذا النموذج بفحص محتوى الفيديو بحثًا عن علامات التلاعب، والاستفادة من الشبكات العصبية المتقدمة لاكتشاف التناقضات غير المحسوسة للعين البشرية.
اكتشاف الصور المزيفة: الصور، تمامًا مثل مقاطع الفيديو، عرضة لتقنية التزييف العميق. يمكن لحل DeepBrain AI اكتشاف التلاعب الدقيق، مما يضمن سلامة الصور الثابتة.
كشف الصوت العميق: تشكل عمليات التزييف الصوتي تهديدًا فريدًا من خلال محاكاة الأصوات بدقة عالية. يقوم نظام الكشف الخاص بـ DeepBrain AI بتحليل الأنماط الصوتية والتشوهات الصوتية لتحديد هذه عمليات التزوير المعقدة.

3D model of the generative adversarial network floating in a open space — الصورة: ديب برين إيه آي

نماذج الكشف المتطورة

تتضمن ترسانة DeepBrain AI مجموعة من النماذج، يستخدم كل منها طرقًا مميزة لتعزيز اكتشاف التزييف العميق:

محول الرؤية EfficientNet +: من خلال الجمع بين مزايا شبكات CNN مع Vision Transformers، يقدم هذا الطراز مزيجًا قويًا من السرعة والدقة. يتم تدريبه على مجموعة بيانات شاملة، بما في ذلك مجموعة DeepBrain AI الواسعة من بيانات الكشف عن التزييف العميق، ويستخدم تقنيات التعزيز لتحسين التعميم عبر مجموعات البيانات المتنوعة.
الطب الشرعي للشفاه: يستهدف هذا النموذج حركات الفم في مقاطع الفيديو، ويستفيد من المشكلة الشائعة المتمثلة في أخطاء مزامنة الشفاه في deepfakes. يستخدم بنية ResNet-18 لاستخراج ميزات الفم ثم يطبق نموذج MS-TCN لتقييم أصالة الفيديو.
تقنية المعلومات والاتصالات Deepfake: مع التركيز على هوية الوجه، يستخدم هذا النموذج صورًا متبادلة للوجه للتدريب، مما يسمح له بالتعرف على ميزات الوجه الفريدة دون الحاجة إلى بيانات Deepfake منفصلة. يتيح النهج القائم على المحول اكتشاف التزييف العميق بغض النظر عن تقنية التوليد.
تحليل GANDCT: يعمل هذا النموذج على أساس أن النماذج التوليدية تترك أنماطًا محددة في مجال التردد أثناء عملية ترقية الصورة. من خلال تحويل الصور إلى مجال التردد باستخدام تحويل جيب التمام المنفصل (DCT)، يمكن تحديد هذه الأنماط، التي يتم تصورها كخرائط حرارية، لاكتشاف عمليات معالجة الصور القائمة على GaN.

A woman’s face digitally mapped to indicate Landmark Detection and a basic outline of a face to indicate Keypoint Generation — الصورة: ديزاين براز/شترستوك

Model	Core Approach	Architecture	Training Data	Detection Focus	Technique Description
EfficientNet + Vision Transformer	Hybrid CNN and Transformer	Combination of EfficientNet and Vision Transformers	DeepBrain AI's deepfake detection data plus augmentation techniques	General deepfake detection	Offers a mix of speed and accuracy by leveraging the strengths of both CNNs and Vision Transformers.
Lip Forensics	Lip-sync error detection	ResNet-18 and MS-TCN	Videos targeting mouth movements	Lip-sync discrepancies	Extracts mouth features with ResNet-18 and uses MS-TCN to assess video authenticity based on mouth movement.
ICT Deepfake	Facial identity recognition	Transformer-based	Face-swapped images	Facial feature inconsistencies	Trains on face-swapped images to detect deepfakes by recognizing unique facial features, independent of deepfake data.
GANDCT Analysis	Frequency domain analysis	Discrete Cosine Transform (DCT)	GAN-generated images	GAN manipulation patterns	Converts images to the frequency domain to identify generative model patterns visualized as heatmaps.

يتيح دمج حلول اكتشاف التزييف العميق من DeepBrain AI للمؤسسات البقاء في طليعة منحنى الوسائط الاحتيالية، مما يضمن مصداقية المحتوى الرقمي والحماية من التطبيقات الضارة لتقنية deepfake.

a professional woman’s face being digitally mapped with live deepfake indicators popping up — الصورة: ديب برين بالذكاء الاصطناعي

أنواع الديب فايك

يوجد عمومًا نوعان رئيسيان من التزييف العميق:

مقايضات الوجه: يتضمن ذلك استبدال وجه شخص بوجه آخر في مقطع فيديو أو صورة. يُشاهد هذا النوع من التزييف العميق بشكل شائع في مقاطع فيديو الإنترنت الفيروسية وقد تم استخدامه لأغراض الترفيه والأغراض الخبيثة.

2 sets of faces being digitally mapped and then a arrow circling their heads to indicate they are being replaced — الصورة: كانفا

‍2. منتجات ديب فايكر لكامل الجسم: هذه الأمور أكثر تعقيدًا وتنطوي على توليد صورة الشخص بالكامل، بما في ذلك حركات الجسم وأفعاله. يتطلب هذا النوع من التزييف العميق مزيدًا من البيانات وقوة المعالجة لإنشاء نتيجة معقولة.

AI virtual human Yeonhee You created by DeepBrain AI’s deepfake technology is standing in front of a blue background — الصورة: الإنسان الافتراضي يونهي يو/DeepBrain AI

قدرات Deepfakes

يمكن أن تكون Deepfakes واقعية بشكل لا يصدق، مما يجعل من الصعب على البشر وحتى بعض البرامج اكتشافها. إنهم قادرون على:

محاكاة تعبيرات الوجه والحركات
توليف أصوات بشرية واقعية
تغيير سياق أو محتوى الفيديو أو الصورة
إنشاء محتوى جديد تمامًا يبدو أصليًا

Capabilities of Deepfakes	Description
Mimicking Facial Expressions and Movements	Deepfakes can replicate subtle facial expressions and movements with high accuracy.
Synthesizing Realistic Human Voices	They can generate voices that sound like specific individuals, making the deepfakes more convincing.
Altering Context or Content	The technology can change the setting or actions within a video, altering the perceived reality.
Creating New Content	Deepfakes have the ability to create entirely new images or videos that appear to be authentic.

حالات استخدام Deepfakes

تحتوي Deepfakes على مجموعة متنوعة من التطبيقات، الإيجابية والسلبية على حد سواء:

تطبيقات إيجابية

الترفيه: في الأفلام وألعاب الفيديو، يمكن استخدام deepfakes لإنشاء شخصيات واقعية أو إعادة الممثلين المتوفين إلى الحياة من أجل الظهور بمظهر رائع.
التعليم: يمكن إعادة الشخصيات التاريخية إلى الحياة لإلقاء المحاضرات أو المشاركة في تجارب التعلم التفاعلية.
الفن: يستخدم الفنانون تقنية deepfake لدفع حدود الإبداع واستكشاف أشكال جديدة من التعبير.

Pro golfer Tiger Woods walking on a golf course while his face is digitally scanned & mapped — الصورة: كانفا

تطبيقات سلبية

معلومات مضللة: يمكن استخدام Deepfakes لإنشاء أخبار مزيفة أو التلاعب بالرأي العام من خلال تصوير الأفراد وهم يقولون أو يفعلون أشياء لم يفعلوها من قبل.
الاحتيال: هناك احتمال لاستخدام التزييف العميق في عمليات الاحتيال، مثل إنشاء أدلة فيديو مزيفة أو انتحال شخصية أفراد لتحقيق مكاسب مالية.
التحرش: يمكن استخدام Deepfakes لإنشاء مواد إباحية غير توافقية أو لمضايقة الأفراد وابتزازهم.

Screenshot of a tweet by Eliot Higgins of Donald Trump being arrested forcefully in front of building using generative ai — الصورة: التغريد عبر X

المفاهيم الخاطئة والمخاوف

المفاهيم الخاطئة الشائعة

قابلية الاكتشاف: في حين أن التزييف العميق يمكن أن يكون مقنعًا، إلا أنه غالبًا ما توجد أدلة خفية يمكن أن تكشف عنه، مثل الوميض غير الطبيعي أو الإضاءة غير المتسقة.
سهولة الإبداع: يتطلب إنشاء تقنية deepfake عالية الجودة مهارة فنية كبيرة وقوة حاسوبية وبيانات، على الرغم من أن أدوات deepfake سهلة الاستخدام أصبحت أكثر سهولة.

مخاوف

الأخلاق: تعد إمكانية استخدام التزييف العميق بشكل غير أخلاقي مصدر قلق كبير، لا سيما في نشر المعلومات المضللة وانتهاك الموافقة.
قانوني: هناك نقاش مستمر حول الآثار القانونية للتزييف العميق وكيفية تطبيق القوانين الحالية على إنشائها وتوزيعها.
الأمان: تشكل Deepfakes مخاطر أمنية، بما في ذلك إمكانية تجاوز أنظمة التعرف على الوجه أو إنشاء هويات مزيفة مقنعة.

كيف يمكننا تحقيق التوازن بين الجوانب المبتكرة والمحفوفة بالمخاطر لـ Deepfakes؟

تمثل Deepfakes تقدمًا رائعًا ولكنه مثير للقلق في تكنولوجيا الذكاء الاصطناعي. في حين أنها توفر فرصًا مثيرة في المجالات الإبداعية والتعليمية، فإنها تثير أيضًا أسئلة أخلاقية وأمنية مهمة. ومع استمرار تطور هذه التكنولوجيا، من الضروري للأفراد والمنظمات والحكومات فهم التزييف العميق والعمل على إيجاد حلول تمنع إساءة استخدامها مع تسخير إمكاناتها لتحقيق تأثير إيجابي.

في التنقل في عالم التزييف العميق، يعد البقاء على اطلاع ويقظة أمرًا أساسيًا. سواء كنت منشئ محتوى أو مستهلكًا لوسائل الإعلام أو مجرد مراقب مهتم، فإن إدراك إمكانات ومخاطر التزييف العميق أمر ضروري في المشهد الرقمي الحديث.