لطالما كان الهاجس الأخلاقي مرافق للجدال الدائر حول وجود الروبوتات في حياة البشر. هل يمكن للروبوتات تمييز الخطأ والصواب؟ يناقش غاري ماركوس Gary Marcus هذا الموضوع في مقال في موقع newyorker إليكم أهم أفكاره.
صدر مؤخراً فلم Chappie والذي لم يكن جيداً بما فيه الكفاية حيث تلقى الكثير من الانتقادات اللاذعة، لم يحمل الفلم عمق الفلسفة التي وظفت في فلم The Matrix مثلاً. من المشهد الافتتاحي في الفلم يشبه الفلم إلى حد بعيد بيئة تصوير فلم Robocop شركة برئيس شرير، روبوتات تسيطر على العامة، والكثير من الدماء، الرصاص، والزجاج المكسر. الشيء الوحيد الذي يبدو جديداً هو الروبوت اللطيف الشبيه بالبشر Chappie.

نرى في تشابي الروبوت معظم الأجزاء الهامة التي يحويها الفلم، ففي جميع أفلام الخيال العلمي تدخل الروبوتات المشهد كأفراد بالغين بالكامل، هنا يدخل تشابي المشهد كمولود افتراضي. لا يعرف كلمة بالإنكليزية، أو أي حقيقة عن العالم.
يحصل تشابي كفيلم على إلهامه من حقل صغير من الذكاء الصناعي معروف باسم ربوتيات التطوير Developmental robotics، تقوم فيه روبوتات مثل الروبوت iCub مثلاً بالتعلم عن طريق الممارسة. لم تقم حقول مماثلة حتى الآن بإنتاج شيء يذكر. معظم الروبوتات اليوم تتم برمجتها لتقوم بوظيفتها وأقصى ما تستطيع روبوتات التنظيف المنزلي أن تتعلمه هو تخطيط منزلك. تستطيع روبوتات أخرى مثل الروبوت Baxter مثلاً أن تتعلم مهام ووظائف جديدة أثناء عملها، ككيفية التقاط الأجسام بأحجام معينة وتحريكها إلى أماكن معينة. لكن قدرات باكستر على التعلم مبنية على مجموعة من المهارات التي تم دمجها في برنامجه من المصنع، ومن البعيد أن يتمكن باكستر من تعلم مهارة مبتكرة من ذاته كالحياكة مثلاً.

بذلك وضع تشابي ليكون حلم كل من يهوى الروبوتات: مجموعة من المكونات الصلبة والبرمجية التي تستطيع أن تتعلم أي شيء. فيأسبوع واحد، ينمو تشابي من طفل إلى بالغ ثم إلى مراهق. يتقن كل شيء من اللغة الإنكليزية إلى فن رمي السكاكين على الأهداف المتحركة. لا يقول لنا الفلم أبداً كيف يتعلم تشابي بسرعة لكن كل مهندس برمجيات وأخصائي تطوير سيحب لو وجدت آلة تملك قدرات تشابي. لكن الفلم يتناول موضوعاً مختلفاً: وهو ليس سؤال العلماء عن قدرة المخلوقات الذكية على تعلم العالم من حولها بل سؤال المربين عن قدرة البشر على تربية روبوتات أخلاقية. لا يتعلم تشابي مجموعة من الحقائق فقط، يتعلم تشابي مجموعة من القيم أيضاً.

كما يعلم أي مربٍ، فإن زرع القيم وتعليمها عملية صعبة للغاية. يحاول مصمم تشابي في بداية الفلم أن يعلم الروبوت الفرق بين الصواب والخطأ، لكنه يخفق في أبسط الدروس، يتفهم الروبوت أن قتل الناس خطأ، لكن شخصية أخرى تقنعه أن جرح الناس سطحياً – لمساعدتهم على النوم – أمر مقبول. يتعلم الأطفال غالباً من أقرانهم أكثر مما يتعلمون من أهلهم، وفي غضون دقائق من تشغيله، لا يتمكن تشابي من التمييز بين الخطأ والصواب، محاطاً بمجموعة من الناس السيئين.

لا يجب أن يرغب أي كان بهذا، سنرغب مع تزايد أعداد الروبوتات بيننا في المستقبل ـ سواء كانت تقوم بقيادة السيارات أو الاعتناء بالمسنين ــ أن تمتلك نوعاً ما من البوصلة الأخلاقية. حذر إلون مسك مؤخراً من أن الذكاء الصناعي هو أكبر خطر وجودي على الجنس البشري. قد يبالغ إلون مسك قليلاً، لكنه ليس مخطئاً في قلقه، قد نطلق عن طريق بناء الروبوتات والذكاء الصناعي شيطاناً. يجب أن نتعلم بناء آلات ذات قواعد أخلاقية روبوتات وأنظمة ذكاء صناعي متقدمة تستطيع أن تحول العالم إلى مكان أفضل ــ تساعد في علاج السرطان، الحد من المجاعات، إبطاء التغير المناخي. لكن يمكن لهذه الأنظمة أن تجعل الأمور أسوأ بكثير، بدءاً بتقليص الوظائف وانتهاء بأمور أسوأ. عندما نفكر في مستقبلنا، فيجب أن نحاول أن نفهم كيف نصنع روبوتات تكون قوة تسخر للخير بدلاً من الشر.
ليس تشابي أول شخصية من الخيال العلمي توضح هذه النقطة. لكن الفلم يطرح السؤال بطريقة أخرى. ظهرت الروبوتات في المصانع بحسب رأي إسحاق أزيموف Isaac Asimov مبرمجة لإطاعة ثلاثة قوانين، “لايجب أن يؤذي الروبوت أي بشري، أو أن يسمح ليشري بإلحاق الأذية.” ومن وجهة نظر بلومكام لاتأتي الربوتات من المصنع بأي قانون فهي تتعلم من صانعيها، مستخدميها، وماتراه في العالم من حولها.
تبدو تخيلات أسيموف ملائمة لقصة قصيرة، لكنها لا تبدو مناسبة للعالم الحقيقي. حتى لو كانت تلك القوانين صحيحة،فإننا لا نعلم بعد كيف نحولها إلى شيفرة برمجية.كيف يمكنك مثلاً أن تترجم مفهوم الأذية إلى لغة الصفر والواحد؟ لكن النقطة التي يحاول بلومكامب أن يوضحها هي أن تعلم الأخلاق محفوف بالمشاكل، أيضاً. يتعلم أطفال البشر القيم بواحدة من طريقتين ــ عن طريق التوجيه الصريح ” السرقة خطأ” وعن طريق الملاحظة “مالذي يقوم به والداي؟ مالذي يسمح لأصدقائي بفعله؟ وأظهرت بعض الدراسات ومنها الدراسة التي قام بها بول بلوم Paul Bloom من جامعة يال  أننا نولد مع مجموعة من الأحاسيس الأخلاقية. وستكون روبوتات المستقبل مشابهة لنا بهذا. ستوجه القرارات التي تتخذها بمزيج مما هو مبرمج وماهي قادرة على اكتسابه عن طريق الملاحظة.كيف سنعمل على الروبوتات بطريقة نتأكد فيها من سلامتنا؟ قد تكون الروبوتات يوماً ما ضباطاً في الشرطة وقد تجد نفسها مجبرة على اتخاذ قرارها بمن يجب أن تجميه ومن يجب أن تلقي القبض عليه، وحتى في المنزل قد تواجه الروبوتات المعضلات. مالذي سيحصل لو اقتحم غريب المنزل وهدد صاحب الروبوت؟.
كيف يمكن لنا أن نحافظ على سلامتنا في عالم سنكون محاطين فيه بآلات فولاذية قد تكون يوماً ما ذكية مثلنا، أو حتى أذكى؟ يجب أن نفكر بهذه الأسئلة عاجلاً أو آجلاً.

لايوجد المزيد من المقالات