مقال لكلايف تومسون من وايرد Wired 

إذاً، لا يمكنك انتظار سيارة ذاتية القيادة لتتولى عنك؟ ولا أنا أيضاً! لكن لنفكر قليلاً في السيناريو الذي تم طرحه مؤخراً من قبل عالم الأعصاب غارس ماركوس Gary Marcus: 

تقود سيارتك بأمان وحذر على جسر ضيق لتنحرف شاحنة مدرسة فجأة إلى مسارك بشكل خطير. هل ينبغي على سيارتك ذاتية التحكم أن تقفز عن الجسر مضحية بحياتك لإنقاذ الأطفال؟ 

من الواضح أنك لن تتخذ مثل هذا القرار. لكن كونك تركت الخيار لخوارزميات السيارة، فمن الأفضل أن توافق على خيارها.

الأمر معضلة درامية أخلاقية بدون شك . لكنها ليست خارجة عن العادة. الحقيقة أن أدواتنا ترشد وترسم سلوكنا بشكل متزايد وحتى أنها تقوم باتخاذ القرارات عوضاً عنا. تظن مجموعة صغيرة نامية من الكتاب والعلماء أننا ذاهبون بعيداً في هذا، أي بإبعاد حرية قرار الإنسان من المعادلة، نتخلص تدريجياً من التفكير العميق، الذي نعكس فيه الجانب الأخلاقي لأعمالنا.

طبعاً، ليست كل هذه المواقف مسائل حياة أو موت. لكن بعضها مربك حقاً، كالكم الكبير من الادوات الجديدة التي تحاول أن تدفعنا إلى سلوك أفضل. يلقي إيفجيني موروزوف  Engeny Morozov في كتابه الجديد “لإنقاذ كل شيء To Save Everything”  نظرة شك على هذه الأشياء. ويخبرني أيضاً عن مثال رآه مؤخراً: شوكة  ذكية تقوم بمراقبة كمية الطعام الذي تتناوله وتحذرك إن أكثرت.

قد تكون أنها ممتعة ومفيدة. لكن بالنسبة لموروزوف، أدوات كالشوكة تقلل حوافزك للتفكير بطريقة أكلك، والأسئلة السياسية الأعمق مثل لماذا يسبب نظامنا البيئي اليوم السمنة لهذه الدرجة.  المشكلة أننا عوضاً عن تنظيم الصناعات الغذائية ليصبح طعامنا صحياً أكثر، نقوم بإعطاء الناس شوك ذكية.

أو كما يشرحها إيفان سيلينجر Evan Selinger، الفيلسوف في معهد روتشستر للتكنولوجيا، الأدوات التي تجعل الأمور الصعبة أسهل تجعلنا أقل قدرة على تحمل الأمور الصعبة. إن للاستعاضة عن إرادتنا الذاتية بـ “إرادة رقمية” مستقلة عواقب: استخدم سيري للحصول على معلومات مباشرة فورية وستضعف قدرتك على أن تكون صبوراً في مواجهة الأجوبة المحيرة، وهي خاصية هامة جداً.

قد تزداد الأمور خطورة حين يحيل المجتمع بأكمله قراراته الأخلاقية الكبرى إلى التكنولوجيا. على سبيل المثال، بدأت  بعض أقسام الشرطة باستخدام بريدبول PredPol، نظام يقوم بحفظ معطيات الجرائم ليتوقع مستقبل النشاطات الإجرامية، مرشداً الشرطة إلى مناطق قد تغفل عنها. قد يبدو أنه فعال بعد تقليص معدل الجريمة بحدود 27 بالمئة. لكنه يتيح للأقسام التي تعاني من نقص تمويل مزمن أن تفعل الأكثر بموارد أقل.

لكن كما يشير موروزوف، قد تنتهي الخوارزميات إلى تضخيم العيوب في مجال صلاحيات القانون. على سبيل المثال، كان العنف الجنسي تاريخياً بعيداً عن الأنظار، لذا لا يمكن توقعه بسهولة. ألغ التفكير العميق بما تركز عليه الشرطة ويمكن أن تنتهي بشرطة مشوهة. 

والقيام بالكثير بموارد قليلة في حضور هدف قصير الأمد، يتيح للسياسيين تفادي الوقع السياسي لخياراتهم بما يتعلق بالميزانية.

وهذا، فعلاً، هو نواة السؤال هنا: الكفاءة ليست شيئاً جيداً دائماً. تتيح لنا التكنولوجيا أن نقوم بالأشياء بطرق أسهل. لكن هذا يعني القيام بها دون تفكير أيضاً.

لن نقوم برمي كل التكنولوجيا بعيداً، ولا يتوجب علينا ذلك. الكفاءة ليست أمراً سيئاً دائماً. 

لكن يقترح موروزوف أنه على الادوات أحياناً  أن تقوم بعمل معاكس- أن تثير جدلاً. على سبيل المثال،  تعود عدادات مواقف سيارات جديدة للصفر حين تبتعد بسيارتك، حتى لا يستطيع سائق آخر الاستفادة من أي وقت متبقي لك. من الواضح أن المدينة تجني المزيد من الأموال، لكن هذا التصميم يحكم سلوكك أيضاً. ماذا إن عرض عليك عداد ذكي الخيار عوضاً عن ذلك: ترك الوقت المتبقي لك إلى السائق التالي أم وهبه للمدينة؟ قد يغطي هذا التنازلات الأخلاقية للحياة اليومية في مواجهة المواطنين.

إنها ضرب من الجنون بالطبع. إنها ليست أدوات تحل مشكلات. لكنها أدوات تجعلك تفكر في المشكلات-وهذا هو الهدف بالضبط.