تحوّل التزييف العميق بالذكاء الاصطناعي من فضول عابر إلى تهديد حقيقي يمسّ أشخاصًا حقيقيين كل يوم. من التلاعب السياسي إلى المحتوى المنشور دون موافقة، يشرح هذا المقال الأسباب الحقيقية وراء الخوف، وما تُظهره الأبحاث، ومن هم الأكثر استهدافًا، وكيف تحمي نفسك ومن تهتم لأمرهم في عالم لم يعد فيه ما تراه دليلًا على الحقيقة.
وصلتك رسالة فيديو. سياسي تثق به يقول شيئًا صادمًا. مشهور يفعل شيئًا لن يفعله أبدًا. صديق يظهر في لقطات تجعل معدتك تنقلب. تشاهده مرتين، ثم ثلاث مرات. ولا تستطيع أن تحدد إن كان حقيقيًا.
تلك اللحظة من الشك هي بالضبط ما يجعل التزييف العميق بالذكاء الاصطناعي مرعبًا إلى هذا الحد. فالخوف ليس مبالغة ولا غير عقلاني. إنه قائم على ضرر موثّق وصل بالفعل إلى ملايين الناس من كل مناحي الحياة. والتقنية التي تقف خلفه تزداد قدرة باستمرار.
لم يحدث ذلك بين ليلة وضحاها، لكنه حدث أسرع مما توقّع معظم الناس. تطلّب التزييف العميق في 2016 أيامًا من وقت الحوسبة، ومئات الصور التدريبية، ومع ذلك كان ينتج نتائج مشوّشة ومتقطعة يلاحظها أي مشاهد حذر. وبحلول 2025، صار بإمكان أي شخص يملك حاسوبًا محمولًا من الفئة الاستهلاكية وأدوات مجانية أن ينتج مادة تخدع الصحفيين المحترفين عند النظرة الأولى.
القفزة في الجودة مذهلة. فقد جعلت الشبكات التوليدية التنافسية (GANs) ثم نماذج الانتشار توليد الوجوه الاصطناعية مقنعًا بشكل استثنائي. فالبنية نفسها للذكاء الاصطناعي التي تشغّل أدوات البورتريه المشروعة يمكنها إنتاج وسائط مُختلقة على نطاق واسع. ما كان يتطلب ميزانية هوليوودية صار اليوم لا يكلّف شيئًا تقريبًا.
كان التزييف العميق الأول واضحًا: وجوه مشوّشة عند الحواف، وعيون ترمش بشكل خاطئ، وإضاءة لا تتطابق بين الوجه والخلفية. أما اليوم فالأنظمة تتعامل مع كل ذلك تلقائيًا. تحلل النماذج الحالية اتجاه الإضاءة، وملمس البشرة، وحركة عضلات الوجه على مستوى مجهري. وتجتاز النتائج الملاحظة العابرة لدى الغالبية العظمى من الناس الذين يرونها.
وجد بحث من Media Lab في MIT أن البشر لا يتعرفون على التزييف العميق بدقة إلا بقدر يفوق الصدفة بقليل، عندما تكون المقاطع عالية الجودة. لقد تجاوزت التقنية قدرتنا الطبيعية على كشفها تجاوزًا حقيقيًا.
مقطع فيديو مزيف مقنع أمر مقلق. أما مقطع مزيف مقنع بصوتك فهو كارثي. تستطيع تقنية استنساخ الصوت اليوم أن تعيد إنتاج الخصائص الصوتية لشخص من ثلاث ثوانٍ فقط من الصوت. مكالمات هاتفية، ورسائل صوتية، ومقاطع من حسابك على وسائل التواصل الاجتماعي. كل ذلك يصبح بيانات تدريب.
ارتفعت عمليات الاحتيال المالي باستخدام استنساخ الصوت بأكثر من 400% منذ 2022، وفقًا للجنة التجارة الفيدرالية. وقد استخرج متصلون ينتحلون شخصية أفراد من العائلة في حالات طوارئ مزيفة مبالغ بالملايين من أشخاص لم يكن لديهم سبب للشك فيما سمعوه.
الخوف من التزييف العميق ليس أمرًا مجردًا. إنه قائم على أضرار موثّقة أصابت أشخاصًا حقيقيين بالفعل. إليك ما يغذّي هذا القلق.
هنا يسبب التزييف العميق أكثر الأضرار مباشرةً على المستوى الفردي. فغالبية مقاطع التزييف العميق على الإنترنت هي محتوى جنسي دون موافقة يظهر فيه أشخاص حقيقيون لم يوافقوا قط على الظهور فيه. وتشير الدراسات إلى أن 96% من مقاطع التزييف العميق على الإنترنت تندرج ضمن هذه الفئة، وأن 99% من المستهدفين نساء.
يتراوح الضحايا بين مشاهير عالميين وأفراد عاديين ومعلمين وطلاب وزملاء عمل. والضرر النفسي شديد وموثّق. ويصف كثير من الضحايا التجربة بأنها شكل من أشكال الانتهاك الجنسي، لأن مظهرهم وهويتهم استُخدما دون موافقة في سياق حميمي. وفي كثير من الولايات القضائية لم يكن هذا الفعل مخالفًا للقانون حتى وقت قريب.
مقطع مزيف لزعيم عالمي يعلن الحرب. مقطع مختلق لمرشح يقول شيئًا عنصريًا. خطاب اصطناعي لمسؤول محترم يناقض سياساته الفعلية.
التطبيقات السياسية للتزييف العميق خطيرة فعلًا. يسمّي الباحثون هذا تهديد "مفاجأة أكتوبر": مقطع مزيف مقنع يُنشر قبل أيام من الانتخابات، دون وقت كافٍ لمدققي المعلومات كي يفنّدوه بالكامل قبل أن يكون ملايين الناس قد صوّتوا بالفعل. لا يحتاج الضرر إلى أن يُصدَّق المقطع إلى أجل غير مسمى. يكفي أن يُصدَّق لفترة كافية.
وجهك فريد يخصك، لكنه متاح للعامة في آلاف الصور عبر وسائل التواصل الاجتماعي والملفات المهنية والمقالات الإخبارية والفيديوهات. وتستطيع تقنية التزييف العميق أن تأخذ هذه المعلومات العامة وتحوّلها إلى سلاح ضدك.
تأمّل ما يصبح ممكنًا: وثائق هوية مزيفة، واعترافات مصوّرة مختلقة، ولقطات مركّبة تضعك في أماكن لم تزرها قط. فقد أشخاص وظائفهم، وخسروا نزاعات الحضانة، وتضررت سمعتهم بسبب وسائط مُصنَّعة تصوّرهم بشكل كاذب.
في 2024، خُدع موظف مالي في هونغ كونغ فحوّل 25 مليون $ USD لمحتالين استخدموا مكالمة فيديو مزيفة. شارك الموظف فيما بدا أنه مؤتمر فيديو مشروع مع زملاء ومدير تنفيذي في الشركة. وكل شخص في تلك المكالمة كان مختلقًا.
هذه ليست حالة معزولة. فالاحتيال المؤسسي باستخدام وجوه وأصوات مُصنَّعة بالذكاء الاصطناعي صار اليوم فئة تهديد معترفًا بها. وتطوّر شركات التأمين منتجات جديدة تحديدًا لتغطية الخسائر المالية المرتبطة بالتزييف العميق.
ربما يكون التأثير الأكثر خبثًا ليس المحتوى المزيف نفسه، بل ما يحدث للمحتوى الحقيقي في عالم يوجد فيه التزييف العميق.
عندما يعرف الناس أن أي فيديو قد يكون مُختلقًا، يصبح المحتوى الحقيقي الضار قابلًا للإنكار. يستطيع سياسي صُوِّر في فيديو وهو يقول شيئًا مُشكلًا أن يدّعي ببساطة أنه تزييف عميق. ويصبح تسجيل حقيقي لسوء سلوك مجرد شيء آخر يُشكَّك فيه. ومجرد وجود تقنية التزييف العميق يمنح الجهات السيئة سلاحًا جديدًا: القدرة على وصف الأشياء الحقيقية بأنها مزيفة.
لا يستهدف التزييف العميق الجميع بالتساوي. فتوزيع الضرر يتبع أنماطًا يمكن توقعها بحسب الظهور العام، والنوع الاجتماعي، والتعرض السياسي.
الإحصاءات واضحة لا لبس فيها. ففي كل دراسة تناولت توزيع محتوى التزييف العميق، تشكّل النساء الغالبية الساحقة من المستهدفين بالوسائط المصطنعة دون موافقة. وهذا ليس من قبيل المصادفة. فهو يعكس الديناميكيات نفسها وراء أشكال أخرى من التحرش عبر الإنترنت، وقد تضاعف أثرها كثيرًا بفعل تقنية تجعل التلفيق سهلًا للغاية.
تشمل الضحايا مشهورات، وسياسيات، وصحفيات، وأفرادًا عاديين. وتفيد نساء يعملن في مهن تتعامل مع الجمهور بأن التهديد وحده، بغض النظر عن إنشاء المحتوى فعليًا، يعمل كشكل من أشكال الترهيب يغيّر سلوكهن على الإنترنت وخارجه.
كل من له ظهور عام واسع هدف لمجرد أن بيانات التدريب اللازمة متاحة للعامة. ويواجه السياسيون خطرًا إضافيًا: وسائط مُصنَّعة لا تُصمَّم فقط لإذلالهم شخصيًا، بل لتغيير سلوك الناخبين والنتائج السياسية.
شهدت عدة انتخابات في جنوب شرق آسيا وأوروبا والولايات المتحدة بالفعل محتوى يُشتبه أنه تزييف عميق. ويزداد التطور مع كل دورة انتخابية.
الافتراض بأن التزييف العميق يطال المشاهير أو المتنفذين فقط خاطئ. فمع انخفاض تكلفة التقنية وسهولة الوصول إليها، يتزايد استخدامها بسرعة في الثأر الشخصي، والملاحقة، والتحرش، والإساءة داخل العلاقات.
كل من نشر صورًا علنًا، وهو ما يفعله معظم مستخدمي وسائل التواصل الاجتماعي، قدّم بيانات تدريب كافية. ولا تحتاج إلى أن تكون مشهورًا لتصبح هدفًا.
يُطرح هذا السؤال باستمرار، والإجابة الصادقة: أحيانًا، لكن بموثوقية أقل مما يأمل الناس.
ما زالت هناك علامات واضحة في مقاطع التزييف العميق الأقل جودة. وقد تلتقط العين المدرّبة أحيانًا:
| الإشارة | الموثوقية | ملاحظات |
|---|---|---|
| نمط الرمش | متوسطة | النماذج الأحدث حلّت هذه المشكلة إلى حد كبير |
| ملمس الشعر عند الحواف | عالية | ما زالت نقطة ضعف ثابتة |
| تصيير الأذنين | متوسطة | غير متسق عبر النماذج |
| تماسك الإضاءة | عالية | يصعب تزييفه بإقناع |
| ملمس البشرة | منخفضة | حلّته النماذج الحالية في معظمه |
تقدّم عدة شركات اليوم برامج لكشف التزييف العميق. وقد أظهرت Video Authenticator من Microsoft، وSensity AI، وFakeCatcher من Intel نتائج واعدة في بيئات اختبار مضبوطة. لكن التحدي أن نماذج الكشف المدرّبة على تزييفات اليوم ستتفوّق عليها أدوات التوليد غدًا. إنه سباق تسلّح تقني مستمر.
ملاحظة: لا توجد أداة كشف موثوقة بنسبة 100%. تعامل معها كإشارة واحدة من بين إشارات عدة، لا كحكم نهائي. استخدم حكمك إلى جانب الأداة.
الأطر القانونية المتعلقة بالتزييف العميق في طور التطور، لكنها تتفاوت تفاوتًا كبيرًا بين الولايات القضائية، ولا تزال تترك ثغرات كبيرة.
أقرّت الولايات المتحدة قانون DEEPFAKES Accountability Act، وسنّت عدة ولايات قوانين تستهدف تحديدًا التزييف العميق الحميمي دون موافقة. ويتضمن قانون السلامة على الإنترنت في المملكة المتحدة (Online Safety Act) أحكامًا تعالج هذا المحتوى. ويتضمن قانون الذكاء الاصطناعي في الاتحاد الأوروبي (AI Act) متطلبات للشفافية بشأن المحتوى المولَّد بالذكاء الاصطناعي، بما في ذلك الوسم الإلزامي للوسائط المصطنعة.
تملك الصين من أشمل لوائح التزييف العميق السارية حاليًا، إذ تشترط الإفصاح عن المحتوى المُصنَّع، وتحظر التزييف العميق ذا الطابع التلاعبي السياسي.
| المنطقة | الحالة | التغطية |
|---|---|---|
| الولايات المتحدة | جزئية، وتتفاوت بين الولايات | NCII، والتدخل في الانتخابات |
| الاتحاد الأوروبي | قانون الذكاء الاصطناعي ساري المفعول | الشفافية، والوسم |
| المملكة المتحدة | قانون السلامة على الإنترنت | المحتوى المُصنَّع الضار |
| الصين | شامل | السياسي، وNCII، والإفصاح |
| معظم الدول | لا يوجد، أو الحد الأدنى | ما زالت هناك فجوات كبيرة |
التحدي يكمن في التطبيق. فيمكن إنشاء التزييف العميق في أي مكان وتوزيعه عالميًا في ثوانٍ. وتكافح القوانين الوطنية لمعالجة مشكلة عابرة للحدود بطبيعتها.
سيكون من الناقص مناقشة مخاوف التزييف العميق دون الإقرار بالجانب الآخر من التقنية. فالأنظمة نفسها للذكاء الاصطناعي التي تنتج وسائط اصطناعية ضارة تشغّل أيضًا تطبيقات إبداعية مشروعة تمامًا.
توليد البورتريه، والتعديل الفني للصور، وترميم الصور التاريخية المتضررة، والمؤثرات البصرية للأفلام، وأدوات إمكانية الوصول للأشخاص ذوي الإعاقة، كلها تعتمد على تقنيات ذات صلة. فالذكاء الاصطناعي الذي يستطيع تبديل وجه يستطيع أيضًا تصغير عمر ممثل لفيلم، أو ترميم صورة عمرها قرن، أو إنشاء صورة رمزية رقمية لشخص فقد صوته.
التقنية ليست ضارة بطبيعتها. فالتطبيق والسياق يحددان النتيجة.
بنت المنصات المعنية بالذكاء الاصطناعي الإبداعي المشروع ضمانات حماية حقيقية في أنظمتها. ومع أدوات مثل Flux 2 Pro وFlux 2 Max وGPT Image 1.5، يمكن للمبدعين توليد صور شخصية واقعية كالصور الفوتوغرافية، وتراكيب فنية، وصور مفاهيمية، دون استهداف أشخاص حقيقيين دون موافقتهم.
الفرق مهم: فتوليد الصور بالذكاء الاصطناعي لأغراض إبداعية، حيث يكون الناتج فنيًا بوضوح ولا ينطوي على تلفيق محتوى عن أشخاص حقيقيين دون موافقتهم، يعمل في مجال مختلف تمامًا عن إنتاج التزييف العميق الخبيث.
يستخدم المصورون والفنانون الرقميون وفرق التسويق نماذج مثل Flux 2 Dev وFlux Schnell لإنتاج محتوى بصري أصلي كل يوم. ويقدّم Flux 1.1 Pro Ultra توليد صور فائق الواقعية مصممًا للعمل الإبداعي الاحترافي. تمثّل هذه الأدوات ما تبدو عليه التقنية حين يتوافق الغرض مع الموافقة.
الخوف دون فعل مُنهِك. إليك ما هو فعلًا ضمن سيطرتك.
احمِ بياناتك الشخصية:
عندما تستلم محتوى مريبًا:
ادعم التغيير:
تذكّر: الشك الصحي تجاه المحتوى الرقمي أمر مناسب. أما الشلل فلا. الهدف هو الحذر المستنير، لا رفض تصديق أي شيء تراه.
يهيمن على الحديث عن التزييف العميق أسوأ السيناريوهات، وهذه السيناريوهات تستحق اهتمامًا جديًا. لكن توليد الصور بالذكاء الاصطناعي في السياقات المسؤولة والإبداعية يروي قصة مختلفة تمامًا.
إذا أردت أن ترى ما يستطيع الذكاء الاصطناعي فعله حين يُوجَّه نحو عمل جميل وأصلي وفني بدلًا من التلاعب، فلا توجد طريقة أفضل من تجربته بنفسك. على Picasso IA، يمكنك توليد بورتريهات واقعية كالصور الفوتوغرافية لافتة، ومناظر طبيعية درامية، وتراكيب فنية، ومفاهيم إبداعية باستخدام الفئة نفسها من التقنية التي نناقشها في هذا المقال.
جرّب توليد صورة باستخدام Flux 2 Pro أو GPT Image 1.5 وستدرك فورًا أن الذكاء الاصطناعي القادر على إحداث الضرر قادر أيضًا على إنشاء شيء جميل حقًا. التقنية لا تختار استخدامها. البشر هم من يختارون.
هذا الوعي، أي الاحتفاظ بالمخاطر والإمكانات في الذهن معًا، هو ما يصنع الفارق بين الخوف والتفاعل المستنير مع واحدة من أهم التقنيات في عصرنا.
اختر لغتك
