وان يينينغ،
مرحبًا، نظرًا لضيق الوقت وعدم العثور على ورقة مناسبة، كتبتُ هذه الرسالة على ظهر هذه اللوحة من مجموعتي الخاصة.
حين تتلقين هذه الرسالة، سيكون العالم قد تغيّر تمامًا، وفي هذا العالم المختلف، أنتِ الحل الوحيد الذي أستطيع رؤيته.
ربما لن تفهمي الكثير مما سأقوله تاليًا، وربما تجدين صعوبة متزايدة في فهم هذا العالم الحالي، لكنني أثق بكِ، وأثق بأنكِ ستُصدرين الحكم الصحيح، وتفعلين الأمر الصائب.
من أين أبدأ؟ أنتِ الآن في الثانية والعشرين من عمركِ، وهذا يذكرني بنفسي حين كنتُ في الثانية والعشرين. آنذاك، كان العالم في الخارج يبدو مشرقًا ووضّاحًا، وكأن أجمل لوحات الحياة قد بدأت للتو في الانكشاف. في ذلك الوقت، ومثلكِ تمامًا، كنتُ أتدرب لأصبح باحثًا في مجال الاتصالات. وكان ذلك إبّان الهجرة الكبرى.
...
غيّر حادث سيارة نظرتي إلى هذا العالم. أعتقد أنكِ على دراية بمبدأ تقنية ABS؛ لقد كانت تقنية كبح سبقت طفرة تكنولوجيا القيادة الذاتية مباشرة. فعند كبح السيارة، يتم ضبط ضغط الكبح تلقائيًا وفقًا لحركة العجلات لمنع انغلاقها. وكانت تُعد تقنية آمنة للغاية.
لكنها كانت خطوة محفوفة بالمخاطر، تمثلت في تخلي السائق عن سلطة التحكم في مركبته. وفي تلك المرة، تعطل نظام ABS في السيارة التي كنتُ أقودها، وأثناء السير، فرملت السيارة فجأة، فصدمتني سيارة من الخلف وقذفت بي خارج الطريق.
في مثل هذه اللحظات، إن كان المرء مؤمنًا، فإنها لحظة إلهام واستنارة. لقد زعزع ذلك إيماني بالتكنولوجيا بشدة، ولا سيما التكنولوجيا التي يعجز البشر عن التحكم بها.
خلال تلك الثواني العشرات التي جلستُ فيها داخل السيارة منتظرًا وصول سيارة الإطفاء، وأنا لا أزال تحت وطأة الصدمة، استعرضتُ في ذهني ماضي ومستقبل نظام ABS وتكنولوجيا القيادة الذاتية. وما أفزعني حقًا هو أنه لم يكن يبدو أن أحدًا قادرٌ على منع حدوث كل هذا.
تمامًا مثل ما حدث لي للتو، فمن المؤكد أنه سيُعتبر حدثًا ضئيل الاحتمال، ويُدرج في نطاق الإهمال والتجاهل. أما في البيانات، فمن المؤكد أن التلقائي
نحن نعلم أن الأشياء التي يُحتمل نظريًا في منطق التكنولوجيا أن يصيبها خلل، لا بد أن يصيبها الخلل حتمًا، والمسألة مسألة وقت لا أكثر. وبسبب تفاؤل الناس وأجواء التهليل للتقنيات الجديدة، لا يستفيقون للتأمل وإعادة التفكير إلا بعد الارتطام بجدار عظيم تقريبًا.
هناك أخطاء يمكننا ارتكابها، لكن هناك أخطاء تقود إلى الهلاك الأبدي الذي لا رجعة فيه. على سبيل المثال، إذا تسببت تكنولوجيا القيادة الذاتية في حوادث سير، فقد يلقى بضعة آلاف من الناس حتفهم حول العالم على أقصى تقدير.
ولكن هل هناك تكنولوجيا يمكن أن تؤدي إلى فناء البشرية جمعاء؟ نعم، الأسلحة النووية هي هذه التكنولوجيا بعينها. لكن لحسن الحظ، وقبل اللحظة التي تعرضت فيها البشرية للخطر مباشرة، وبمحض الصدف، خفّض الجميع ترساناتهم النووية، فلم يحدث ذلك.
فما هو السلاح النووي في عصرنا الحاضر؟ إنه الذكاء الاصطناعي.
كلما فكرتُ في هذا الأمر، شعرتُ وكأن وخز الإبر في ظهري، أو كأنني جالسٌ على الجمر.
علينا كبشر أن ندرك يقينًا أن هذا العالم لم يكن موجودًا هكذا بطبيعته منذ الأزل، وأن الحياة التي ينعم بها كل فرد ليست أمرًا طبيعيًا مفروغًا منه. فإذا نسينا الأسس الكامنة وراءها، فسيحل الخطر. وهذا العالم ليس محكومًا بتقدم حتمي، كما أن الترتيب الزمني للعصور المختلفة لا يعني بالضرورة تطورًا، وما نتخيله تقدمًا ليس إلا صدفة عارضة. إن القوانين التي يستخلصها المؤرخون ليست سوى حكمة بأثر رجعي، وكان من الممكن تمامًا أن يكون كل شيء مختلفًا.
من انقراض عصر الديناصورات، إلى صعود الثدييات إلى اليابسة، ثم ارتدائها ثياب السيادة كالقرود المتوجة لتصبح السادة الجدد للقارات؛ فهل كانت هذه القرود أشد بأسًا من الديناصورات؟ أم أكثر ذكاءً؟ أم أنها كانت ببساطة أكثر حظًا؟
وينطبق الأمر ذاته على مجتمعنا البشري بأكمله؛ فاختفاء نظام العبودية لم يكن ناتجًا عن زيادة في فضيلة البشر، بل عن زوال إمكانية استمرار هذا النظام. وحين تلوح في الأفق إمكانات جديدة، سيوجد دائمًا من يحاول خوض غمارها.
قد يتغير هذا العالم فجأة، وقد تنتكس الحضارة بين ليلة وضحاها إلى الهمجية؛ فالحضارة ما هي إلا طبقة رقيقة تفصل بين الغلاف الحيوي للأرض وغلافها الجوي، ونحن نعتز بها أشد الاعتزاز، لكن علينا أيضًا أن ندرك مدى هشاشتها.
...
عمر الإنسان قرن يمر كلمح البصر، وآلاف السنين من التاريخ تنقضي في طرفة عين. قد يكتفي الشعراء بالتحسر على ذلك، أما السياسي الواقعي، فلا بد له من مراعاة واقعية هذا الأمر.
هل عمر الإنسان حقًا قرن واحد فقط؟ وهل سيرتد تاريخ آلاف السنين في حركة جزر عكسية؟ هذه ليست مجرد شطحات خيال فذ، بل هي تقديرات لاحتمالات واقعية.
وهذا يتطلب حدسًا استثنائيًا وملاحظة ثاقبة.
ربما لم تتعلمي إلا من الكتب المدرسية لماذا نرفض بناء أي كيانات مادية أو افتراضية للذكاء الاصطناعي، والواقع أن هذه ليست مجرد مسألة أخلاقية، بل هي صراع على السلطة.
التكنولوجيا هي أحد أقطاب القوة في المجتمع المعاصر، فما من نظام على الإطلاق إلا وللتكنولوجيا يدٌ فيه، ولا يسعنا تجاهل إعادة تشكيلها لهيكل السلطة برمتها، وكل تكنولوجيا تنطوي على إمكانية تحويلها إلى سلاح.
وينطبق هذا على التكنولوجيا الحيوية وتكنولوجيا الخوارزميات على حد سواء، ولهذا السبب تحديدًا حافظت الحكومة الائتلافية دائمًا على وجود لجنة للأخلاقيات. لا تقتصر مهمة لجنة الأخلاقيات على كبح إمكانية تسليح التكنولوجيا بين عامة الشعب فحسب، بل تراقب الحكومة أيضًا لمنعها من تحويل بعض التقنيات شديدة الخطورة إلى أسلحة؛ فالأسلحة النووية هي أكبر نذير لعصرنا هذا.
إذن، بين من ومن يدور هذا الصراع على السلطة؟ بالطبع بين البشر والذكاء الاصطناعي!
لطالما كان التقدم التكنولوجي نظام تغذية راجعة إيجابية، لا سيما في مجال التقنيات العسكرية؛ فهكذا نشأ سباق التسلح بالضبط: عندما تصبح أسلحة الشرطة أكثر قوة، يبحث المجرمون عن سبل لابتكار أسلحة أشد فتكًا، وبالمقابل تواصل الشرطة رفع مستوى تسليحها وتعزيز قدرات الذكاء الاصطناعي لديها، إلى أن يأتي يوم يفرز فيه نظام التغذية الراجعة هذا جيشًا جبارًا من الذكاء الاصطناعي، وسيكون هذا الجيش هو الكابوس المحقق للبشرية جمعاء.
قد يجادلون بالقول: سنستخدم جزءًا فقط من تكنولوجيا الذكاء الاصطناعي وليس كلها، وبذلك سنمنع ظهور ذكاء اصطناعي واعٍ. وهذا لعمري محض هراء صريح! كيف يكون ذلك ممكنًا؟
إذا لم يمتلك الروبوت وعيًا ذاتيًا، فهذا يعني عجزه عن اتخاذ القرارات، مما يتطلب وجود إنسان يتخذ القرارات نيابة عنه باستمرار. والإنسان بطبعه كسول؛ وفي النهاية، سيفوض شخص ما جزءًا من سلطة اتخاذ القرار إلى الروبوت، وصولاً إلى تفويض سلطة اتخاذ القرار بأكملها. بينما الروبوتات لا تتكاسل أبدًا.
وربما يجادل البعض أيضًا: إذا اكتسب الروبوت وعيًا بشريًا، فمعنى ذلك أنه امتلك إنسانية، وإذا امتلك إنسانية، أفلا يمكنه حينئذٍ أن يوجد كفرد من أفراد الجنس البشري؟
لو قرأ هؤلاء القوم التاريخ لما كانوا بمثل هذه السذاجة؛ فحتى وهم بشر من الجنس نفسه، تقاتل الناس على مدى عشرات الآلاف من السنين قبل القرن الثاني والعشرين بسبب صلات الدم، وتقاتلوا بسبب المعتقدات الدينية، بل والأنكى من ذلك أنهم ابتدعوا قوميات مختلفة ليقاتل بعضهم بعضًا، وحتى القبائل التي تتحدث اللغة ذاتها وتنحدر من السلف نفسه كان يمكن أن تنقلب إلى أعداء ألدّاء، فكيف تضمن ألا تتحول هذه الروبوتات إلى عدو مشترك للبشرية؟
هذا ليس خيالاً علميًا، بل أمر يقع في صلب الواقع؛ فالمنطق السياسي الواقعي لا يرى أنك إن لم تكن تنوي أن تصبح عدوًا فأنت لست خطرًا، بل الأمان في ألا تملك القدرة على أن تصبح عدوًا. وكذلك المنطق التكنولوجي، لا يقول إن ما لم يحدث في الماضي لن يحدث في المستقبل، بل إن الشيء طالما كان ممكنًا من الناحية التكنولوجية، فسيحدث لا محالة على مدى زمني كافٍ.
من بين أوراق المساومة التي قد يستخدمها ويد: تقديم ضمانات لهيئة الرئاسة بإطالة أعمارهم خمسين عامًا. وهؤلاء الشيوخ العجائز لم يعد ينقصهم سوى العمر؛ وحين يستطيعون العيش فترة كافية، فلن يرغبوا إلا في امتلاك العبيد، بل ولن يرغبوا حتى في إنجاب الذرية، فالأبناء - بحكم حق الوراثة - هم أعداء محتملون، وحدهم العبيد هم الآمنون.
وأعتقد أن تشانغ بيهاي قد فكر بالفعل في وسيلة لخلق هؤلاء العبيد، بل إنهم أجدى نفعًا من العبيد التقليديين؛ ألا وهم الروبوتات التي يصنعها. فهم يطيعون طاعة عمياء، وينفذون الأوامر بحذافيرها، ولا داعي معهم إطلاقًا للقلق من التمرد أو الاستسلام أو غير ذلك من الأمور التي يقلق البشر بشأنها.