خالد البرماوي يكتب: خطر الهيمنة الرقمية

خلال مسيرتي المهنية التي امتدت لنحو ربع قرن كصحفي متخصص في التكنولوجيا، كنت من أوائل المبادرين والمتبنين للعصر الرقمي. لقد نظرت دائمًا إلى التكنولوجيا باعتبارها حلاً عادلاً وموضوعيًا وجسرًا للشعوب المضطهدة نحو التنمية والازدهار. ونحن نعلم الكثير من القصص الإيجابية حول الدور المهم الذي لعبته التكنولوجيا في نهضة العديد من البلدان. وهو سر تفوق اليابان وكوريا والصين. إنها عجائب الهند الجديدة؛ وهو شريان الحياة لماليزيا والفلبين وتايلاند والبرازيل وأيرلندا؛ وفي مصر كان الأمر ليكون على نفس المنوال تقريباً لولا الظروف السياسية! على الرغم من سنوات هوسي بالتكنولوجيا، إلا أنني أجد نفسي في وضع مختلف اليوم. ويصبح الحل تدريجيا مشكلة، ويصبح شريان الحياة كرة هدم. أنا بعيد كل البعد عن أن أكون مبشرًا، بل أنا مجرد إشارة تحذير. والسبب في ذلك هو الاندفاع الأعمى نحو تطوير تقنيات الذكاء الاصطناعي، التي تتضاعف قدراتها كل ستة أشهر دون أي قوانين أو أخلاقيات أو حوكمة.

قبل أيام، وبدعوة كريمة من المجلس الأعلى للثقافة، شاركت في مؤتمر بعنوان “الاتجاهات العالمية الحديثة في استخدام الذكاء الاصطناعي في الإنتاج الإعلامي والثقافي”. وعلى عكس ما كان متوقعا مني، وعلى عكس ما كان متوقعا مني من حيث دعم وتعزيز المنظور التكنولوجي والتبشير بالفوائد والتكامل التكنولوجي، قلت لهم إنني أتيت اليوم بوجه جديد. لقد جئت لأحذر – لأحذر من عصر حيث الجشع يدفع هذه التكنولوجيا إلى أبعد من ذلك، دون سبب أو قوانين أو أخلاق لتوجيهها وحمايتها.

أنا لست وحدي في هذا التحذير. وقد سبقني في هذا الصدد العديد من الخبراء الدوليين من الأمم المتحدة والاتحاد الأوروبي ومنظمة التعاون الاقتصادي والتنمية. في ظل التصعيد المتهور لتطوير الذكاء الاصطناعي المفرط، والذي قد تفوق آثاره الضارة فوائده، فإن احتمال فقدان السيطرة عليه أصبح أقرب من أي وقت مضى. إذن كيف يبدو المستقبل؟

إنتبه وتجاهل!

وفي وقت سابق من هذا العام، حذر أكثر من 100 باحث وشخصية من مختلف أنحاء العالم، بما في ذلك إيلون ماسك، من أنه بدون التنظيم، قد يشكل الذكاء الاصطناعي تهديدا أكبر من الأسلحة النووية.

قدم يوشوا بنجيو، رائد الذكاء الاصطناعي والحائز على جائزة تورينج، أول تقرير دولي حول أمن الذكاء الاصطناعي وحذر من المخاطر المعروفة مثل المحتوى المزيف الذي قد يعني نهاية عصر الحقيقة. في المستقبل، ستصبح الحقيقة نادرة ولا يمكن الوصول إليها إلا لقلة مختارة من الناس الذين يستطيعون إثبات وتوثيق معرفتهم والذين يستثمرون المال والوقت والجهد لمعرفتها – وفقط لمعرفتها! وحذر جوشوا أيضًا من خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة التي تريد البقاء والتطور. وأشار إلى أن ظهور نماذج صينية متقدمة وسريعة الانتشار يزيد من شدة وخطورة هذا السباق، مستشهداً بنموذج DeepSec.

ويأتي تحذير آخر من جيفري هينتون، “الأب الروحي للذكاء الاصطناعي”، الذي أحدث عمله ثورة في هذا المجال. واستقال هينتون من جوجل، معربًا عن أسفه وقلقه بشأن مخاطر خروج الذكاء الاصطناعي عن السيطرة. يعتقد العالم البريطاني ستيوارت راسل أن الذكاء الاصطناعي يمثل كارثة على البشرية. ومع ذلك، فهو يدعي أننا لم ندرس بشكل كامل جدوى اختراعهم، أو السيناريوهات المحتملة لتطويرهم، أو إمكانية أن تقاوم الآلات شديدة الذكاء محاولات السيطرة عليها في المستقبل.

وكأن هذه التحذيرات لم تكن كافية، فإن الأرقام والحقائق والدراسات تتحدث عن ذكاء الأدمغة، والتي تم تطوير بعضها باستخدام أدوات الذكاء الاصطناعي: فوفقا للتقديرات، يمكن للذكاء الاصطناعي العام (AGI) أن يتجاوز الذكاء البشري بحلول عام 2030-2040، مما يفتح المجال أمام إمكانية إجراء عمليات معقدة، والتي يمكن أن تمثل قمة الذكاء البشري.

ويتوقع تقرير المنتدى الاقتصادي العالمي فقدان 83 مليون وظيفة بحلول عام 2027، في حين سيتم خلق 69 مليون وظيفة جديدة. وهذا يعني خسارة صافية قدرها 14 مليون وظيفة على الأقل في عامين فقط! وتشير تقديرات جولدمان ساكس إلى أنه من الممكن فقدان 300 مليون وظيفة بحلول عام 2030. ويفترض معهد ماكينزي أن 50% من مهام العمل الحالية يمكن استبدالها بالتقنيات المتاحة. إذن ماذا يحمل المستقبل؟

صحيح أن شركة PwC تتوقع أن يزيد الذكاء الاصطناعي الناتج المحلي الإجمالي العالمي بمقدار 15.7 تريليون دولار بحلول عام 2030. قد يبدو هذا خبراً ساراً، لكن السؤال هو: من سيستفيد من هذه الثروة؟ من سيصبح أكثر فقرا نتيجة لذلك؟ تسألني عن تأثير الذكاء الاصطناعي على الثقافة؟ الحقيقة هي أن نماذج الذكاء الاصطناعي المستخدمة على نطاق واسع تفتقر بشدة إلى التمثيل الثقافي العادل والمتوازن والموضوعي. ويعرض هذا التنوع الثقافي للخطر ويعزز الأحكام المسبقة الغربية، حيث ينتشر العنصرية والتمييز بالفعل على نطاق واسع. وأظهرت دراسات عديدة أن نتائج منصات الذكاء الاصطناعي متحيزة فيما يتعلق بثقافة وتراث الشعوب في مناطق مثل جنوب آسيا وأفريقيا والعالم العربي. ويؤدي هذا إلى تفاقم التمييز وتفاقم الظروف الاستبدادية في المجتمع الغربي. ومن المؤكد أن فجوة البيانات في البلدان النامية تؤدي إلى تفاقم هذه المشكلة. وفي الواقع، تعمل هذه الأدوات على تعزيز الأفكار والثقافات الرقمية الأقوى، حتى وإن كان الواقع على الأرض يبدو مختلفا. وهذا يجعل الواقع الرقمي المصنّع أقوى من واقع الأشياء. وعلى الرغم من حداثتها وحدودها، فقد سيطرت الثقافة والتراث الأمريكيان رقميًا على حضارة عمرها 7000 عام!

يقولون أن الذكاء الاصطناعي مفيد إذا عرفنا كيفية استخدامه. أقضي أربع ساعات على الأقل يوميًا في فهم هذه الأدوات وتطبيقها. ومع ذلك، أعتقد أن مكاسبهم الفردية، مهما كانت كبيرة، لا تعكس المخاطر المتوقعة. هل من المنطقي أن نطور شيئًا لا نعرف كيف نتحكم فيه؟! وتؤكد قوانين الفيزياء والمنطق أنه من المستحيل التحكم في من هو الأقوى والأذكى. فماذا سيحدث عندما يصل الذكاء الاصطناعي إلى مستوى يفوق الذكاء والأداء البشري بعشرات المرات؟ هل سيستمع إلينا؟ هل سيطيع أوامرنا؟ حتى لو كان قد فعلها! من سيخضع، الرجل الأكثر حكمة وعدلاً أم الرجل الأقوى؟ انظر فقط إلى العالم اليوم وسوف تعرف قيم وأخلاق أقوى الدول !!

ويبقى السؤال الأهم الآن: من سينظم هذا التطور الضخم؟ متى؟ كيف؟ في ظل التطور المذهل للذكاء الاصطناعي والحالة الحالية للذكاء البشري، هل من المنطقي أن يخضع الأقل ذكاءً للأشخاص الأكثر ذكاءً؟ على الرغم من اعتقادي بأن الأمل ضعيف وأننا بحاجة إلى معجزة، إلا أنني أؤمن بمقولة أستاذي الدكتور أحمد الشربيني، أستاذ الاتصال العالمي: “لا يمكننا تحمل ترف التشاؤم”. وهذه قصة أخرى.