كيف يتحول الذكاء الاصطناعي إلى صوت مضلل؟

في زمن تتسارع فيه قدرات الذكاء الاصطناعي بشكل غير مسبوق، أصبح "الصوت" سلاحاً جديداً في معركة المعلومات، ففي الوقت الذي كان يُنظر فيه إلى التكنولوجيا على أنها أداة للابتكار، تحولت أدوات "استنساخ الصوت" و"الديب فيك" إلى وسيلة فعّالة لنشر التضليل والتأثير على الرأي العام. 

تكفي ثوانٍ من التسجيل لتوليد صوت مطابق تماماً لشخصية معروفة، وقد كشف تقرير حديث نشرته وكالة "أسوشيتد برس" عن نتيجة صادمة لاختبارٍ مهم جداً شمل 240 حالة استخدمت فيها أدوات استنساخ الصوت لإنتاج مقاطع مزيفة، فقد نجحت التقنية في 193 حالة (أي نحو 80%) بتقليد أصوات شخصيات عامة وسياسية شهيرة، بينهم رؤساء دول، واستخدامها لترويج معلومات غير صحيحة حول انتخابات وأحداث مختلفة عامة أو خاصة. 

في شهر فبراير (شباط) الماضي أجرى باحثون اختباراً على 6 من أشهر البرامج التجارية لاستنساخ الصوت مثل "ElevenLab" و"Play.ht" وغيرها، لتقييم قدرتها على توليد أصوات شبيهة بالبشر الحقيقيين، كانت النتائج مثيرة للقلق، ففي أربعة من كل خمسة مقاطع، لم يتمكن المستمعون ولا أنظمة الكشف التقنية من التفرقة بين الصوت المزيف والحقيقي، كما أشار التقرير إلى أن بعض الأدوات في الاختبار لم تُفعّل آلية تحقق من هوية المستخدمين، ما يعني أن أي شخص يمكنه تقليد صوت زعيم سياسي أو مذيع إخباري ونشر تسجيلات تُستخدم في التضليل الانتخابي أو المالي.

في يناير 2024، تلقّى آلاف الناخبين في ولاية "نيوهامبشر" الأميركية مكالمات آلية بصوت بدا وكأنه صوت الرئيس السابق جو بايدن، يحثهم فيها على عدم المشاركة في الانتخابات التمهيدية الديمقراطية، لكن الصوت لم يكن حقيقياً، بل كان نسخة توليدية أنشأتها أدوات ذكاء اصطناعي متقدمة.

وكشفت التحقيقات اللاحقة أن هذه المكالمات كانت محاولة منظمة للتأثير على الناخبين، وأدت إلى تحركٍ عاجل من لجنة الاتصالات الفيدرالية، التي أصدرت قراراً تاريخياً يحظر استخدام الأصوات المولّدة بالذكاء الاصطناعي في اتصال جماعي أو ترويجي دون إذن مسبق، وقالت اللجنة في بيانها الرسمي إن "استنساخ الأصوات الحقيقية دون إذن يشكل انتهاكاً صارخاً للثقة العامة ويهدد نزاهة العملية الديمقراطية". 

تظل شركات التكنولوجيا الكبرى مثل "أوبن إيه آي" و"غوغل ديب مايند" و"أنثروبيك" في مرمى الاتهامات فيما يتعلق بالتزييف الصوتي بعدما أصبحت "اللاعب الخفي" في معادلة الأمن المعلوماتي العالمي. تروّج هذه الشركات لأدواتها على أنها تقدمية وآمنة، إلا أن تجارب الواقعية من الحملات الانتخابية إلى الابتزاز السياسي، تُظهر أن أنظمتها تُستخدم بسهولة في إنتاج محتوى زائف متقن.

الأكثر خطورة فيما يخض الـ"الديب فيك" والتزييف الصوتي هو ما أشارت له دراسات معهد "بروكينغز" حول أن خوارزميات هذه الشركات قادرة على تحليل أنماط الخطاب السياسي وتوليد ردود مخصصة لكل فئة من الجمهور، وهو ما يخلق بيئة خصبة للاستقطاب والانقسام.

أمام هذا الخطر المتصاعد بدأت حكومات عديدة في التحرك، في الولايات المتحدة أصدرت لجنة الاتصالات قراراً يعتبر المكالمات التي تستخدم أصواتاً مولّدة بالذكاء الاصطناعي غير قانونية بموجب قانون حماية المستهلك، كما بدأت فرض غرامات تصل إلى ملايين الدولارات على الجهات المتورطة في استخدام التزييف الصوتي للتأثير في الانتخابات.

تحرك رسمي للمواجهة 

في الاتحاد الأوروبي تبنّى البرلمان مؤخراً قانون الذكاء الاصطناعي(EU AI Act)، الذي يُلزم المنصات بإضافة علامة توضح المحتوى الذي تم توليده آلياً أو مواجهة عقوبات مالية كبيرة في حال مخالفة ذلك، كما يتكامل القانون مع تشريع الخدمات الرقمية (DSA) الذي يفرض الشفافية في الإعلانات والمحتوى المنشور عبر الإنترنت.

في ذات السياق، تعمل حكومتا كندا والمملكة المتحدة على إنشاء هيئات رقابية مستقلة لرصد المحتوى الصوتي والمرئي المزيف خاصة خلال الحملات الانتخابية، مع مطالبة المنصات الكبرى بتطوير أدوات كشف تلقائية.

إضافة إلى الجهود الرسمية، يتسابق الباحثون وشركات التقنية على تطوير أنظمة قادرة على اكتشاف الأصوات المزيفة، لكن المعركة يبدو أنها ستبقى مفتوحة إلى وقت غير معلوم.

بالنسبة لأنظمة الكشف الصوتي، تؤكد "إم آي تي تكنولوجي ريفيو" في إحدى دراساتها، أن بعض الخوارزميات قادرة على اكتشاف التزييف بنسبة 85%، لكنها تواجه صعوبة كلما تحسّنت جودة النماذج الجديدة، أما التحقق الرقمي من المصدر، فهو خطوة جيدة نحو السيطرة على التزييف الصوتي شجعت الاتحاد الأوروبي على دعم "مبادرة أصالة المحتوى" "Content” Authenticity Initiative"  التي تهدف إلى إضافة توقيع رقمي لكل تسجيل صوتي أصلي لتتبّع مصدره ومنع إعادة استخدامه بطريقة مضللة.

يبقى التثقيف الإعلامي على درجة كبيرة من الأهمية في هذه المعركة، إذ أن الحل لا يكمُن فقط في التقنية بل في رفع وعي الجمهور بطرق التعرف على التزييف ومصادر الأخبار الموثوقة، ذلك لأن الوعي هو خط الدفاع الأول ضد الذكاء الاصطناعي المضلِّل.

ماذا عن العالم العربي؟

رغم أن ظاهرة التزييف الصوتي لم تبلغ بعدُ في الدول العربية مستوى التأثير المباشر والكبير الذي عاصرناه في الولايات المتحدة أو بعض الدول الغربية، إلا أن المؤشرات تدق ناقوس الخطر، فالاعتماد الواسع على تطبيقات المراسلة مثل "واتساب" و"تلغرام" يجعل انتشار التسجيلات المزيفة أسرع بكثير من تصحيحها.

في مكافحة هذه الظاهرة، تبرز مبادرات واعدة في الخليج العربي، حيث وضعت حكومة الإمارات ضوابط لاستخدام الذكاء الاصطناعي في الإعلام والاتصال الرسمي، كما يجري في السعودية والبحرين العمل على تشريعات تنظيمية للذكاء الاصطناعي ضمن رؤية التحول الرقمي، تشمل أحكاماً خاصة تتعلق بالأمن السيبراني والمحتوى المضلل.

التحدي الأكبر لا يزال في التطبيق والرقابة، إذ تحتاج الدول العربية إلى بناء منظومات تحقق رقمية سريعة واستراتيجيات توعية للرأي العام قبل أن تُستغل هذه التقنيات في حملات تضليل محلية أو إقليمية.

بات من الواضح أن الخطر في "الديب فيك" و"التزييف الصوتي" لا يكمن فقط في التكنولوجيا نفسها بل في القدرة على إعادة تشكيل الوعي العام، فصوتٌ مزيف لشخصية سياسية كبرى مثلاً يمكنه إشعال أزمة اقتصادية، أو دفع الناس لاتخاذ قرارات مصيرية بناءً على أكاذيب مقنعة تماماً، بل قد يتسبب في أزمات بين دول.

من هنا يرى الخبراء أن المرحلة المقبلة تتطلب تحالفاً ثلاثياً بين التشريع والتقنية و"التربية الإعلامية"، كي لا يتحول الذكاء الاصطناعي لأداة تقوض الثقة في المؤسسات والمجتمعات، وفي عالم يزداد اعتماداً على الخوارزميات، لم يعد السؤال هو، هل يمكن التزييف؟ بل هل يمكن كشف الحقيقة في الوقت المناسب؟.