طريقة نيوتن المنظمة مقابل التدرج المتسارع لنيستروف: التقارب، الاستقرار، وخطط التبديل التكيفي

الملخص

تقدم هذه الورقة مقارنة منهجية بين طريقة نيوتن المنظمة والتدرج المتسارع لنيستروف (NAG) لمسائل الأمثليات المحدبة والملساء ذات دوال الهدف القابلة للاشتقاق مرتين. نحن نحلل تفسيراتهما الديناميكية في الزمن المستمر، ومعدلات تقاربهما في الزمن المنقطع تحت افتراضات التحدب القوي وشرط ليبشتز لمصفوفة الهيسيان، وتعقيد كل تكرار، واستقرارهما العددي. بينما يحقق التدرج المتسارع لنيستروف المعدل الأمثل  ضمن طرق الرتبة الأولى، توفر طريقة نيوتن المنظمة تقارباً محلياً تربيعياً بتكلفة  لكل تكرار.

نقترح استراتيجيات تبديل تكيفية تبدأ بالتدرج المتسارع لنيستروف للتسريع الشامل وتنتقل إلى خطوات نيوتن المنظمة عندما تقل معايير التدرج عن عتبة معينة. تظهر التجارب العددية أن خوارزمية ANN التكيفية تحقق تعقيداً عالمياً مماثلاً لـ NAG مع حلول هيسيان محدودة جداً (1-8 مرات فقط)، مما يجعلها أسرع 2-6 مرات من نيوتن النقي مع صقل محلي محسن. يؤكد التحليل النظري التقارب الخطي في حالة التحدب القوي مع سلوك فوق خطي محلي بموجب الافتراضات القياسية.

تثبت التجارب العددية على الدوال التربيعية واللوجستية وروزنبروك، بالإضافة إلى تطبيق على تحسين مسار الروبوتات، استقرار وكفاءة الخطة التكيفية. تبرز نتائجنا الأدوار التكاملية لمعلومات الرتبة الأولى والثانية في الأمثليات الحديثة، وتقدم مرجعاً واضحاً لفهم المفاضلات الأساسية بين الطريقتين الكلاسيكيتين.