التعلم العميق في تحليل البيانات النقطية

ArcGIS Image Server يتيح لك استخدام طرق تصنيف تعلم إحصائية أو مرتبطة بالجهاز لتصنيف صور الاستشعار عن بعد. التعلم العميق هو نوع من تعلم الماكينة يعتمد على العديد من طبقات المعالجة غير الخطية لتعريف المعالم وإدراك النماذج الموصوفة في وحدة نمطية. يمكن دمج نماذج التعلم العميق مع ArcGIS Image Server لاكتشاف الكائن وتصنيف الصورة. يتم إنشاء نماذج تدريب من المعالم أو كائنات الاهتمام في ArcGIS Pro باستخدام أدوات مدير عينة التدريب للتصنيف، ثم يتم تحويلها إلى تنسيق لاستخدامها في إطار التعلم الشامل. يتم استخدام العينات التدريبية تلك لتدريب النموذج باستخدام إطار عمل تعلم عميق لطرف خارجي بواسطة عالِم بيانات أو عالِم صور. يتم تعبئة النموذج المدرب مع ملف تعريف النموذج (واختياريا ملف نص دالة البيانات النقطية للمضلع) ومشاركتهما كعنصر حزمة تعلم عميق (dlpk) يتم استخدامه حينئذ لتشغيل أدوات استنتاج تحليل البيانات النقطية. إما أن تستخرج أدوات الاستنتاج معالم مخصوصة أو تصنف البكسلات في الصور. يمكن استخدام عنصر item للعديد من المرات كمدخلات لأدوات تحليل البيانات النقطية، بما يجعل من السهل تقييم العديد من الصور في مواقع وفترات زمنية متباينة، بعد تدريب النموذج.

	إنشاء عينات تدريبية مع مدير عينات التدريب في ArcGIS Pro واستخدام أداة تحليل البيانات النقطية لتصدير البيانات التدريبية للتعلم العميق في ArcGIS REST API, أو ArcGIS API for Python تجهيز البيانات لعالم بيانات.
	يستخدم عالِم البيانات تلك البيانات التدريبية لتطوير نماذج باستخدام إطار عمل التعلم العميق لطرف خارجي.
	يسلِّم عالم البيانات حزمة التعلم العميق التي تتكون من ملف تعريف النموذج والنموذج المدرب و/أو نص المضلع مرة أخرى إلى ArcGIS Image Server بيئة تحليل البيانات النقطية.
	قم بإنشاء عنصر حزمة تعلم عميق (.dlpk) وشاركه في البوابة. مع عنصر dlpk، قم بتشغيل أداة اكتشاف الكائنات باستخدام التعلم الشامل أو أداة تصنيف وحدات البكسل باستخدام التعلم الشامل لإنشاء إخراج.
	ربما تريد زيادة ArcGIS API for Python تدريب النموذج بإطار عمل التعلم العميق.

معالم وإمكانات

تمكنك أدوات تحليل البيانات النقطية للتعلم العميق من استخدام أكثر من أسلوب تصنيف معياري لتعلم الآلة.

• استخدام شبكات محايدة التفافية لتصنيف الصورة.
• استخدم نموذج التعلم العميق إما لتصنيف بكسلات الصورة أو اكتشاف أشياء مثل الطائرات والأشجار والمركبات والأجسام المائية ومنصات آبار النفط.
• ادمج أطر عمل نموذج التعلم الشامل الخارجية بما في ذلك Keras وTensorFlow وCNTK وPyTorch.
• استخدم ملف تعريف النموذج مرات عديدة لاكتشاف التغير بمرور الوقت أو اكتشاف كائنات في مناطق اهتمام مختلفة.
• قم بتوليد فئة معالم المضلع بما يُظهر الكائنات المكتشفة وكيف أنه تم استخدامها لتحليل إضافي أو سير عمل.
• يمكن أن تستخدم أدوات استدلال التعلم الشامل وحدة المعالجة المركزية (CPU) للمعالجة الموزعة، أو تستخدم وحدة GPU قوية على كل عقدة خادم إذا كان هذا متاحًا.

ابدأ مع التعلم العميق

يتم إنشاء عينات التدريب وتصديرها داخل ArcGIS بواسطة محلل صور خبير بمجاله لأنها تتطلب معرفة قوية بمهام سير عمل تصنيف الصور. يتم تدريب نموذج التعلم الشامل خارج ArcGIS باستخدام إطار عمل تعلم شامل بواسطة عالم بيانات أو شخص خبير في نماذج التعلم الشامل التدريبية. بمجرد تدريب النموذج وتعريفه في ملف تعريف نموذج Esri .emd, تشارك أنت عنصر dlpk في Portal for ArcGIS وتشغِّل أدوات تحليل البيانات النقطية لاكتشاف الكائنات أو تصنيف وحدات البكسل من Map Viewer, ArcGIS API for Python, ArcGIS REST API, أو ArcGIS Pro. في بعض الحالات، ربما يتم إكمال الخطوات الثلاث بمحلل واحد لديه خبرة بنماذج التعلم العميق وتصنيف صورة ArcGIS.

سوف تحتاج إلى تثبيت إطار عمل التعلم الشامل المناسب ArcGIS API for Python (TensorFlow أو CNTK أو Keras) في بيئة ArcGIS Server Python 3، وإلا فسوف يحدث خطأ عند إضافتك عنصر dlpk إلى الأداة. احصل على معلومات إطار العمل المناسبة من منشئ ملف تعريف نموذج Esri

راجع وثائق إطار العمل للتعليمات الخاصة بالتثبيت. ارجع إلى وثائق تعليمات تكوين ArcGIS Enterprise ونشر تحليلات البيانات النقطية.

1. قم بإنشاء وتصدير العينات التدريبية.
   1. استخدم مدير العينات التدريبية في ArcGIS Pro لتحديد مخطط التصنيف أو إنشائه.
   2. قم بإنشاء عينات الموقع التدريبية لتصانيف الفئة أو المعالم محل الاهتمام. احفظ ملف العينة التدريبي.
   3. قم بتشغيل أداة تحليل البيانات النقطية تصدير بيانات التدريب للتعلم الشامل لتحويل صور المصدر وعينات التدريب إلى بيانات تدريب التعلم الشامل. ربما تكون صور المصدر خدمة صورة. مخرجات هذه الأداة هي سلسلة تخزين البيانات حيث يتم تخزين صورة المخرجات والشرائح والتسميات وملفات البيانات التعريفية. المخرجات الإضافية للأداة هي ملف قالب .emd يملؤه عالم بيانات.
2. تدريب نموذج التعلم العميق.
   1. استخدم شرائح الصورة المولَّدة في الخطوة 1 أعلاه لتدريب النموذج باستخدام إطار عمل التعلم العميق مثل TensorFlow أو CNTK أو PyTorch أو Keras.
   2. قم بتحديث .emd الملف باسم إطار عمل التعلم العميق، وتكوين النموذج والخصائص الاختيارية الأخرى. لمعرفة المعلومات عن المعلمات المطلوبة والاختيارية في ملف .emd، راجع قسم ملف تعريف نموذج Esri أدناه.
3. قم بتشغيل أدوات تحليل البيانات النقطية من Map Viewer, ArcGIS API for Python, ArcGIS REST API أو ArcGIS Pro.
   1. استخدم اكتشاف الكائنات باستخدام التعلم العميق أو أدوات تحليل البيانات النقطيةلتصنيف وحدات البكسل باستخدام التعلم الدقيق لمعالجة صورك. إذا دمج النموذج المدرب دوال البيانات النقطية لـ Python المخصص مع متغيرات إضافية، مثل ترك مساحة أو حد الثقة للتوليف الدقيق للحساسية، فستظهر هذه المتغيرات على ArcGIS Pro أو مربع حوار أداة تحليل البيانات النقطية Map Viewer لإدخال المستخدم. نوع البيانات مثل السلسلة أو الرقمية محدد في دالة البيانات النقطية للمضلع. وللوضع المثالي، ينبغي قصر معلمات الاستنتاج الإضافية على اثنتين.

      أداة مخرجات اكتشاف الكائنات باستخدام التعلم الشامل هي فئة معالم تُظهر الكائنات المكتشفة بواسطة النموذج، فيما تُخرج أداة تصنيف وحدات البكسل باستخدام التعلم بيانات نقطية مصنَّفة.

      ملاحظة:‏

      يجب تثبيت إطار عمل نموذج التعلم الشامل على أجهزة خدمة تحليل البيانات النقطية لتشغيل أدوات الاستدلال لأن منطق الاستدلال مبني في إطار عمل Python API وهو مطلوب للحوسبة.

ملف تعريف نموذج Esri

ملف .emd هو ملف JSON الذي يصف نموذج التعلم العميق المدرب. فهو يحتوي على معلمات تعريف النموذج المطلوبة لتشغيل أدوات الاستنتاج، وينبغي تعديله بواسطة عالم بيانات قام هو بنفسه بتدريب النموذج. هناك معلمات ضرورية وأخرى اختيارية في الملف كما هو موصوف في الجدول أدناه.

معلمة ملف تعريف النموذج	التفسير
إطار العمل	اسم إطار عمل التعلم العميق المستخدم لتدريب نموذجك. هناك ثلاثة إطارات عمل من التعلم العميق مدعومة: TensorFlow CNTK Keras PyTorch دالة الاستنتاج
تكوين النموذج	اسم تكوين النموذج. يعرِّف تكوين النموذج مدخلاته ومخرجاته، ويستنتج المنطق، و الافتراضات المفترضة عن مدخلات النموذج ومخرجاته. هناك سير عمل التعلم العميق للمصدر المفتوح الحالي الذي يعرِّف تكوين المدخلات والمخرجات والمنطق المستنتج. يدعم ArcGIS مجموعة من التكوينات سابقة التعريف: TensorFlow ObjectDetectionAPI DeepLab CNTK FasterRCNN AzurePixelLevelLandClassification Keras MaskRCNN PyTorch FastaiSSD إذا استخدمت واحدًا من التكوينات سابقة التعريف، اكتب اسم التكوين في ملف .emd. إذا دربت نموذج التعلم العميق الخاص بك باستخدام تكوين مخصص، فسوف تحتاج إلى وصف المدخلات والمخرجات في ملف .emd أو في ملف المضلع المخصص، كاملًا.
ملف النموذج	المسار إلى ملف نموذج التعلم العميق المدرب. ترتكز الكثير من تنسيقات ملف إطار النموذج على نطاقات البروتوكول، وبالتالي فإن نموذج التعلم العميق المدرب هو ملف .pb لكن تنسيقات الملف الأخرى مدعومة.
نمط النموذج	نمط النموذج. يمكن أن يكون النمط واحدًا مما يلي: تصنيف الصورة—لتصنيف وحدات البكسل اكتشاف الكائن—لاكتشاف الكائنات أو المعالم
وظيفة الاستنتاج (اختياريًا)	مسار وظيفة الاستنتاج. وظيفة الاستنتاج تفهم ملف بيانات النموذج المدرب وتوفر المنطق المستنتج. توجد ست وظائف استدلال مدعومة في أدوات تحليل البيانات النقطية للتعلم الشامل ArcGIS: اكتشاف الكائنات لإطار TensorFlow تصنيف وحدات البكسل لإطار Tensor Flow اكتشاف الكائنات لإطار CNTK تصنيف وحدات البكسل لإطار CNTK اكتشاف الكائنات لإطار Keras اكتشاف الكائنات لمكتبة PyTorch إذا استخدمت واحدًا من وظائف الاستنتاج أعلاه، فلن تكون هناك حاجة إلى تخصيصها في ملف .emd. إذا كان نموذجك مدربا باستخدام تكوين نموذج التعلم العميق غير المدعوم بعد، أو يتطلب منطق استنتاج خاص فإن وظيفة الاستنتاج المخصصة (وحدة المضلع النمطية) تكون ضرورية مع هذا النموذج المدرب. في هذه الحالة، عيّنInferenceFunction إلى مسار وحدة Python.
ارتفاع الصورة (اختياريًا)	يتم تصنيف عدد الصفوف في الصورة أو معالجتها.
عرض الصورة (اختياريًا)	يتم تصنيف عدد الأعمدة في الصورة أو معالجتها.
تخطيط النطاقات (اختياريًا)	فهارس النطاق أو أسماء النطاق للاستخراج من صور المدخلات.
الفئات (اختياريًا)	معلومات عن فئات أو كائنات تصنيف المخرجات.

أدناه مثال على ملف تعريف النموذج (.emd) الذي يستخدم تكوين نموذج معياري:

{
    "Framework": "TensorFlow",
    "ModelConfiguration": "ObjectDetectionAPI",
    "ModelFile":"tree_detection.pb",
    "ModelType":"ObjectionDetection",
    "ImageHeight":850,
    "ImageWidth":850,
    "ExtractBands":[0,1,2],
    "Classes" : [
      {
        "Value": 0,
        "Name": "Tree",
        "Color": [0, 255, 0]
      }
    ]
}

عنصر باقة التعلم العميق (dlpk)

تتطلب أدوات تحليل البيانات النقطية للتعلم العميق باقة نموذج التعلم العميق (dlpk) كمدخلات. تتألف باقة نموذج التعلم العميق من ملف JSON لتعريف نموذج Esri (.emd)وملف النموذج الثنائي للتعلم العميق، واختياريًا، استخدام دالة البيانات النقطية Python.

عندما تكون كل المكونات لديك حاضرة، يمكنك ضغط كل الملفات في ملف .zip ورفع ملف .zip إلى بوابتك بوصفه عنصر dlpk. لمزيد من التفاصيل، يرجى الرجوع إلى إضافة ملفات من جهاز الكمبيوتر. يمكنك أيضًا تغيير ملحق ملف .zip إلى .dlpk بحيث إنه عند إضافة العنصر، يتم تلقائيًا اكتشاف نوع العنصر dlpk.