موقف من الحياة اليومية

عندك 4 غسلات هدوم، وكل غسلة ليها 4 خطوات: غسيل، وتجفيف، وتطبيق، وترتيب في الدولاب.
الطريقة البطيئة: تخلّص الغسلة الأولى كلها، وبعدين تبدأ التانية. والغسالة طول ما الأولى في المجفف والتطبيق واقفة فاضية.
الطريقة الذكية: أول ما الغسلة الأولى تدخل المجفف، التانية تدخل الغسالة. وأول ما الأولى تتطبق، التانية في المجفف، والتالتة في الغسالة. كل جهاز شغال طول الوقت.
المعالج بيعمل كده بالظبط مع التعليمات، والفكرة دي اسمها Pipelining.
خلاصة سريعة
- كل تعليمة بتعدّي على مراحل (Fetch وDecode وExecute وغيرهم)، والـ Pipelining بيبدأ التعليمة الجاية قبل ما الحالية تخلص، فلما الخط يتملي، تعليمة بتخلص كل دورة.
- التعليمة الواحدة لسه بتاخد نفس الوقت، اللي زاد هو عدد التعليمات اللي بتخلص في الثانية.
- أحيانًا تعليمة لازم تستنى، وده اسمه Hazard، والمعالج بيحلها بالـ Forwarding وبـ Branch prediction، والمعالجات الحديثة كمان بتنفذ تعليمات مش بالترتيب لو مش معتمدة على بعض.
ببساطة
من غير Pipelining، كل تعليمة بتاخد 4 دورات، والتعليمة اللي بعدها ما تبدأش غير لما الأولى تخلص. يعني 3 تعليمات = 12 دورة.
مع الـ Pipelining، التعليمة التانية بتبدأ في الدورة التانية، والتالتة في التالتة، وهكذا. ولما الخط يتملي، كل دورة فيه تعليمة بتخلص.
بالتفصيل
1 - مراحل التعليمة
زي ما شفنا في مقال المعالج، كل تعليمة بتعدّي على مراحل، وأبسط شكل فيه 4:
1 - Fetch (الجلب): يجيب التعليمة من الذاكرة، ويزوّد الـ Program Counter. 2 - Decode (الفك): يفهم التعليمة، ويقرا الأرقام من الـ Registers. 3 - Execute (التنفيذ): الـ ALU تعمل العملية. 4 - WriteBack (الكتابة): النتيجة تتكتب في الـ Register.
وكل مرحلة بتاخد دورة Clock، فالتعليمة كلها 4 دورات. ولو الـ Clock 1 GHz، يبقى كل تعليمة 4 نانوثانية.
وفيه مرحلة خامسة اسمها Memory للتعليمات اللي بتقرا أو تكتب في الذاكرة. والمعالجات مختلفة في عدد مراحلها: أول معالج Arm كان فيه 3، وأول Pentium كان فيه 5، وIntel Core i7 فيه 14.
2 - من غير Pipelining
التعليمة تبدأ، تعدّي الـ 4 مراحل، وبعدين اللي بعدها تبدأ.
- N تعليمة = 4N دورة.
- متوسط الدورات لكل تعليمة، واسمه CPI (Cycles Per Instruction)، = 4.
- ودوائر الـ Fetch مثلًا قاعدة فاضية 3 دورات من كل 4.
3 - مع Pipelining
الـ Pipelining (خط الإنتاج) بيخلّي كل مرحلة تشتغل على تعليمة مختلفة في نفس الوقت:
- الدورة 1: تعليمة 1 في الـ Fetch.
- الدورة 2: تعليمة 1 في الـ Decode، وتعليمة 2 في الـ Fetch.
- الدورة 3: تعليمة 1 في الـ Execute، و2 في الـ Decode، و3 في الـ Fetch.
- الدورة 4: تعليمة 1 خلصت، والباقي ورا بعض، والخط اتملى.
ومن هنا، كل دورة فيه تعليمة بتخلص، يعني CPI = 1.
بس خلي بالك:
- الوقت اللي التعليمة الواحدة بتاخده، واسمه Latency، ما قلّش: لسه 4 دورات.
- اللي زاد هو Throughput: عدد التعليمات اللي بتخلص في وقت معيّن.
زي الغسيل بالظبط: الغسلة الواحدة لسه بتاخد نفس الوقت، بس الأربع غسلات خلصوا أسرع بكتير.
والمعالجات بتستخدم الفكرة دي من السبعينات، وأغلب المعالجات الحديثة فيها Pipelining. والتمن: دوائر وRegisters زيادة علشان تمسك التعليمات اللي في النص.
4 - الـ Hazards: لما التعليمة لازم تستنى
الـ Hazard (العائق) حالة بتمنع التعليمة الجاية إنها تكمّل في معادها. ولما تعليمة تستنى، ده اسمه Stall (توقف)، وبيتعمل بإدخال خانة فاضية اسمها Bubble أو NOP (No Operation، تعليمة ما بتعملش حاجة).
1 - الـ Data hazard: تعليمة محتاجة نتيجة التعليمة اللي قبلها، والنتيجة لسه ما اتكتبتش.
مثلًا: «حط 4 في Register 2»، وبعدها على طول «اجمع Register 2 على نفسه». التانية محتاجة الـ 4، والأولى لسه في المرحلة اللي بتكتب فيها.
- حل بطيء: Bubbles لحد ما النتيجة تتكتب.
- حل أذكى: Operand forwarding (تمرير النتيجة): أول ما النتيجة تطلع من الـ ALU، تتبعت مباشرة للتعليمة اللي محتاجاها، من غير ما تستنى تتكتب في الـ Register.
2 - الـ Control hazard: تعليمة Branch (تفرّع)، زي «لو» أو Loop. المعالج مش عارف هيكمّل من أنهي تعليمة لحد ما الشرط يتحسب. وفي الوقت ده، تعليمات تانية دخلت الخط خلاص. ولو طلعت هي الغلط، لازم تتشال كلها، وده اسمه Flush، وده غالي.
5 - الـ Branch prediction: التخمين الذكي
عند الـ Branch، المعالج عنده اختيارات:
- يستنى، يعني Stall، لحد ما يعرف الإجابة: مضمون، بس بطيء.
- يخمّن، وده الـ Branch prediction: ودي الطريقة الأشهر. الـ Branch predictor بيتوقع الاتجاه من المرات اللي فاتت، والتوقع في المعالجات الحديثة دقيق جدًا. لو صح، الخط فضل مليان، ولو غلط، Flush وكمّل من الصح.
- ينفّذ الاتجاهين، واسمها Eager execution: وبعدين ياخد نتيجة الصح، بس مش كل البرامج تنفع فيها الطريقة دي.
ومعالجات Arm مثلًا فيها تعليمة رجوع مخصوصة للرجوع من الدوال، علشان الـ Predictor يعرف إنها رجوع ويتوقع صح.
لكن التخمين ده كان سبب في ثغرات أمنية مشهورة زي Spectre، وده في مقال أمان المعالج.
6 - أبعد من Pipeline واحد: الـ ILP
الـ ILP (Instruction-Level Parallelism، التوازي على مستوى التعليمات) هو تنفيذ تعليمات من نفس البرنامج بالتوازي، من غير ما المبرمج يعمل حاجة. والـ Pipelining أول نوع منه.
- Superscalar: معالج فيه أكتر من Pipeline وأكتر من وحدة تنفيذ. بياخد تعليمات البرنامج، ويوزّع اللي مش معتمدة على بعض على الوحدات. ومعالج بـ 5 وحدات ممكن يخلّص لحد 5 تعليمات في الدورة.
- Out-of-order execution (التنفيذ خارج الترتيب): المعالج الـ Superscalar بينفذ التعليمات مش بترتيب البرنامج، طالما مش معتمدة على بعض، ودوائره بتحلل الاعتماد بين التعليمات علشان أي تعليمة محتاجة نتيجة تعليمة قبلها تفضل بعدها.
- VLIW (Very Long Instruction Word): نفس الفكرة، بس الـ Compiler هو اللي بيجهّز التعليمات المتوازية مسبقًا، فالمعالج أبسط.
ولما المعالج بيخلّص أكتر من تعليمة في الدورة، بنقيس بـ IPC (Instructions Per Cycle) بدل الـ CPI. وفي الواقع، الاعتماد بين التعليمات بيمنع إن كل الوحدات تفضل مليانة طول الوقت.
أخطاء شائعة
- «الـ Pipelining بيخلّي التعليمة الواحدة أسرع»: لأ، الـ Latency زي ما هو، اللي زاد الـ Throughput.
- «كل المعالجات فيها نفس عدد المراحل»: بتختلف، من 3 في أول Arm لـ 14 في Core i7.
- «الـ Branch prediction بيعرف الإجابة»: بيخمّن من اللي فات، ولو غلط بيعمل Flush.
- «Out-of-order معناه إن النتيجة ممكن تطلع غلط»: الدوائر بتحلل الاعتماد، والتعليمة اللي محتاجة نتيجة غيرها بتستنى.
- «المبرمج لازم يكتب كود خاص علشان الـ ILP»: الـ ILP بيحصل جوه المعالج من غير ما المبرمج يعمل حاجة.
المصطلحات
- خط الإنتاج (Pipelining): بدء تنفيذ التعليمة التالية قبل انتهاء الحالية، بحيث تعمل كل مرحلة على تعليمة مختلفة.
- دورات لكل تعليمة (CPI): متوسط عدد دورات الساعة لتنفيذ تعليمة.
- زمن التنفيذ للتعليمة (Latency): الوقت الذي تستغرقه تعليمة واحدة من البداية إلى النهاية.
- الإنتاجية (Throughput): عدد التعليمات التي تنتهي في وحدة الزمن.
- العائق (Hazard): حالة تمنع تعليمة من التقدم في موعدها.
- التوقف (Stall): انتظار تعليمة في خط الإنتاج.
- تمرير المعامل (Operand forwarding): إرسال النتيجة مباشرة للتعليمة التي تحتاجها قبل كتابتها.
- توقع التفرع (Branch prediction): تخمين اتجاه التفرع اعتمادًا على ما حدث سابقًا.
- التوازي على مستوى التعليمات (ILP): تنفيذ تعليمات من البرنامج نفسه بالتوازي.
- التنفيذ خارج الترتيب (Out-of-order execution): تنفيذ التعليمات المستقلة بغير ترتيب البرنامج.
اختبر نفسك
مع Pipeline من 4 مراحل وهو مليان، كام تعليمة بتخلص كل دورة؟
تعليمة واحدة.
كل مرحلة شغالة على تعليمة مختلفة، فكل دورة في تعليمة بتطلع من آخر الخط، يعني CPI = 1.
إظهار الإجابة
الإجابة الصحيحة: 1
تعليمة واحدة.
كل مرحلة شغالة على تعليمة مختلفة، فكل دورة في تعليمة بتطلع من آخر الخط، يعني CPI = 1.
تعليمة محتاجة نتيجة اللي قبلها على طول. إيه الحل اللي بيوفّر وقت؟
الـ Forwarding.
النتيجة بتتبعت للتعليمة اللي محتاجاها أول ما تطلع من الـ ALU، من غير ما تستنى تتكتب.
إظهار الإجابة
الإجابة الصحيحة: Operand forwarding: النتيجة تتبعت مباشرة
الـ Forwarding.
النتيجة بتتبعت للتعليمة اللي محتاجاها أول ما تطلع من الـ ALU، من غير ما تستنى تتكتب.
المعالج خمّن اتجاه Branch غلط. إيه اللي بيحصل؟
Flush.
التعليمات اللي دخلت على أساس التخمين الغلط بتتشال، والمعالج يجيب التعليمات الصح، وده بياخد وقت.
إظهار الإجابة
الإجابة الصحيحة: التعليمات اللي دخلت غلط بتتشال ويكمّل من الصح
Flush.
التعليمات اللي دخلت على أساس التخمين الغلط بتتشال، والمعالج يجيب التعليمات الصح، وده بياخد وقت.