تتخذ الخوارزميات بالفعل قرارات للبشر ، وقد أصبحت غريبة

(يوري بارمينوف / iStock)

ما زلت أتذكر دهشتي عندما صدر كتاب لعالم الأحياء التطوري بيتر لورانس بعنوان صنع الذبابة تم تسعيره على أمازون بسعر 23.698.655.93 دولارًا (بالإضافة إلى شحن 3.99 دولار).

في حين أن زملائي في جميع أنحاء العالم أصيبوا بالاكتئاب إلى حد ما لأن كتابًا أكاديميًا يمكن أن يحقق مثل هذا العمل الفذ ، فإن الثمن الباهظ كان في الواقع نتيجة للخوارزميات التي تغذي بعضها البعض وتخرج عن نطاق السيطرة. اتضح ، لم يكن موظفو المبيعات فقط مبدعين: كانت الخوارزميات هي الحل.

تم رصد هذا المثال اللافت للنظر وتصحيحه. ولكن ماذا لو حدث مثل هذا التداخل الخوارزمي طوال الوقت ، بما في ذلك الطرق التي لا نلاحظها؟ إذا كانت الخوارزميات تُبنى واقعنا بشكل متزايد ، فأين يتركنا هذا كبشر؟

مستوحاة من مثل هذه الأمثلة ، زميلي البروفيسور ألين لي وبدأت مؤخرًا في استكشاف التأثيرات الأعمق للتكنولوجيا الخوارزمية في ورقة في ال مجلة جمعية نظم المعلومات .

قادنا استكشافنا إلى استنتاج مفاده أنه بمرور الوقت ، تم عكس أدوار تكنولوجيا المعلومات والبشر. في الماضي ، استخدمنا نحن البشر التكنولوجيا كأداة. الآن ، تقدمت التكنولوجيا لدرجة أنها تستخدمنا وتتحكم فينا.

نحن البشر لسنا منفصلين فقط عن القرارات التي تتخذها الآلات لنا ولكننا نتأثر بها بشدة بطرق لا يمكن التنبؤ بها. فبدلاً من أن نكون مركزيين في نظام القرارات التي تؤثر علينا ، فإننا نُلقى في بيئته.

لقد قيدنا بشكل تدريجي قدرتنا على اتخاذ القرار وسمحنا للخوارزميات بتولي المسؤولية. لقد أصبحنا بشرًا اصطناعيين ، أو مصنوعات بشرية ، يتم إنشاؤها وتشكيلها واستخدامها بواسطة التكنولوجيا.

الأمثلة كثيرة. في القانون، المحللين القانونيين يتم استبدالهم تدريجيا بواسطة الذكاء الاصطناعي ، مما يعني أن الدفاع الناجح أو المقاضاة في قضية ما يمكن أن يعتمد جزئيًا على الخوارزميات.

تم السماح للبرامج حتى توقع مجرمي المستقبل ، في نهاية المطاف السيطرة على حرية الإنسان من خلال تشكيل كيفية حرمان أو منح الإفراج المشروط للسجناء. بهذه الطريقة ، يتم تشكيل عقول القضاة من خلال آليات صنع القرار التي لا يمكنهم فهمها بسبب مدى تعقيد العملية وكمية البيانات التي تنطوي عليها.

في سوق العمل ، قاد الاعتماد المفرط على التكنولوجيا بعضًا من أكبر الشركات في العالم لتصفية السير الذاتية من خلال البرنامج ، مما يعني أن القائمين على التوظيف البشري لن يلقيوا نظرة على تفاصيل بعض المرشحين المحتملين. لا يؤدي هذا إلى وضع سبل عيش الناس تحت رحمة الآلات فحسب ، بل يمكنه أيضًا بناء تحيزات في التوظيف لا ترغب الشركة في تنفيذها ، مثل حدث مع أمازون .

في الأخبار ، ما يُعرف بـ تحليل المشاعر الآلي يحلل الآراء الإيجابية والسلبية حول الشركات بناءً على مصادر الويب المختلفة. في المقابل ، يتم استخدام هذه الخوارزميات من خلال خوارزميات التداول التي تتخذ قرارات مالية آلية ، دون أن يضطر البشر إلى قراءة الأخبار فعليًا.

عواقب غير مقصودة

في الواقع ، تلعب الخوارزميات التي تعمل بدون تدخل بشري الآن دورًا مهمًا في الأسواق المالية. فمثلا، 85 في المائة من جميع التداولات في أسواق الصرف الأجنبي يتم إجراؤه بواسطة الخوارزميات وحدها.

التنمية سباق التسلح الخوارزمي إن تطوير أنظمة أكثر تعقيدًا للمنافسة في هذه الأسواق يعني تخصيص مبالغ ضخمة من المال وفقًا لقرارات الآلات.

على نطاق صغير ، يمكن للأفراد والشركات الذين ينشئون هذه الخوارزميات التأثير على ما يفعلونه وكيف يفعلونه.

ولكن نظرًا لأن الكثير من الذكاء الاصطناعي يتضمن برمجة برامج لمعرفة كيفية إكمال مهمة ما بمفرده ، فإننا كثيرًا ما نفعل ذلك لا اعرف بالضبط ما وراء اتخاذ القرار. كما هو الحال مع جميع التقنيات ، يمكن أن يؤدي هذا إلى عواقب غير مقصودة قد تتجاوز أي شيء تصوره المصممون على الإطلاق.

خذ على سبيل المثال 'الانهيار السريع' لعام 2010 لمؤشر المتوسط ​​الصناعي لداو جونز. ساعد عمل الخوارزميات في إنشاء أكبر تراجع فردي للفهرس في تاريخه ، مسح ما يقرب من 9 في المئة من قيمته بالدقائق (على الرغم من أنه استعاد معظم هذا بنهاية اليوم). أ تحقيق لمدة خمسة أشهر يمكن أن يشير فقط إلى سبب الانكماش (و نظريات أخرى مختلفة تم الاقتراح ).

لكن الخوارزميات التي تضخمت المشاكل الأولية لم ترتكب خطأ. لم يكن هناك خطأ في البرمجة. نشأ السلوك من تفاعل الملايين من القرارات الخوارزمية التي تتلاعب ببعضها البعض بطرق غير متوقعة ، متبعة منطقها الخاص بطريقة خلقت دوامة هبوطية للسوق.

حدثت الظروف التي جعلت هذا ممكنًا لأنه ، على مر السنين ، أصبح الأشخاص الذين يديرون نظام التداول ينظرون إلى القرارات البشرية على أنها عقبة أمام كفاءة السوق. مرة أخرى في عام 1987 عندما انخفض سوق الأسهم الأمريكية بنسبة 22.61 في المائة ، توقف بعض وسطاء وول ستريت ببساطة عن التقاط هواتفهم لتجنب تلقي طلبات عملائهم لبيع الأسهم.

بدأت هذه العملية ، كما وصفها المؤلف مايكل لويس في كتابه فلاش بويز ، 'انتهى بأجهزة الكمبيوتر التي حلت محل الأشخاص تمامًا'.

استثمر العالم المالي الملايين في الكابلات فائقة السرعة و اتصالات الميكروويف لقص أجزاء من الثانية فقط من المعدل الذي يمكن أن ترسل به الخوارزميات تعليماتها. عندما تكون السرعة مهمة جدًا ، فإن الإنسان الذي يحتاج إلى 215 مللي ثانية ضخمة للنقر على زر يكون تقريبًا زائداً عن الحاجة.

هدفنا الوحيد المتبقي هو إعادة تكوين الخوارزميات في كل مرة يفشل فيها نظام القرارات التكنولوجية.

نظرًا لأن الحدود الجديدة منقوشة بين البشر والتكنولوجيا ، نحتاج إلى التفكير بعناية في المكان الذي يأخذنا فيه اعتمادنا الشديد على البرامج. نظرًا لاستبدال القرارات البشرية بقرارات خوارزمية ، وأصبحنا أدوات تتشكل حياتها بواسطة الآلات وعواقبها غير المقصودة ، فنحن نجهز أنفسنا للسيطرة التكنولوجية.

نحن بحاجة إلى أن نقرر ، بينما لا يزال بإمكاننا ، ما يعنيه هذا بالنسبة لنا كأفراد وكمجتمع.

ديونيسيوس ديميتيس ، محاضر في نظم الإدارة، جامعة هال .

تم إعادة نشر هذه المقالة من المحادثة بموجب رخصة المشاع الإبداعي. إقرأ ال المقالة الأصلية .

الآراء الواردة في هذا المقال لا تعكس بالضرورة وجهات نظر هيئة تحرير Energyeffic.

من نحن

نشر حقائق تقارير مستقلة ومثبتة عن الصحة والفضاء والطبيعة والتكنولوجيا والبيئة.