موقف من الحياة اليومية

طالب بيذاكر على مكتب صغير ما يشيلش غير 3 كتب. جنبه رف بيشيل أكتر بكتير. ومكتبة الجامعة في آخر الشارع فيها كل حاجة، بس الطريق ليها طويل.
اللي بيستخدمه كل دقيقة على المكتب، واللي بيحتاجه من وقت للتاني على الرف، والباقي في المكتبة. ولما يروح المكتبة، بيجيب الكتاب واللي جنبه على الرف، علشان ما يرجعش تاني.
الكمبيوتر بيرتّب بياناته بنفس الطريقة بالظبط.
خلاصة سريعة
- مفيش ذاكرة سريعة وكبيرة ورخيصة مع بعض، فالكمبيوتر بيستخدم طبقات: Registers، ثم Cache، ثم RAM، ثم SSD أو HDD، وده اسمه Memory Hierarchy (هرم الذاكرة).
- البرامج بتستخدم نفس البيانات تاني قريب، وبتستخدم البيانات اللي جنب بعض، وده اسمه Locality، والـ Hardware بيستغله علشان يقرّب البيانات من المعالج لوحده.
- الـ Parity بيت زيادة بيكتشف بعض الأخطاء، والـ ECC بيكتشف ويصلّح الغلط في بت واحد.
ببساطة
فكّر في الذاكرة على إنها هرم:
- فوق: حاجات صغيرة جدًا وسريعة جدًا وغالية، جنب المعالج على طول.
- تحت: حاجات كبيرة جدًا وبطيئة ورخيصة، بعيدة عن المعالج.
والحيلة إن المعالج يشتغل من فوق أغلب الوقت، والـ Hardware بيطلّع البيانات المطلوبة لفوق، وبينزّل اللي مش محتاجها لتحت. فالبرنامج يحس إن عنده ذاكرة كبيرة وسريعة في نفس الوقت.
بالتفصيل
1 - ليه مفيش ذاكرة واحدة تكفي؟
فيه قاعدة بتتكرر في كل أنواع التخزين: كل ما الجهاز يشيل أكتر، كل ما يبقى أبطأ. والأسرع أغلى، في السعر لكل بايت وفي الكهربا كمان.
ولو حد فكّر يعمل Cache كبيرة كفاية تغني عن الـ RAM، التكلفة وصعوبة التصنيع بتخلي الفكرة مش عملية. فالحل الوحيد: خليط من الأنواع.
2 - ليه الطبقات سرعتها مختلفة؟
سببين:
- المسافة: الـ Registers جنب الـ ALU على طول، فالقيمة بتوصل فورًا تقريبًا. أما القرص، فالبيانات بتعدّي على Controllers وأسلاك أطول قبل ما توصل. وكانت Grace Hopper، من رواد الحوسبة، بتوزّع أسلاك طولها حوالي 30 سم وتقول: دي أقصى مسافة الإشارة الكهربا بتقطعها في نانوثانية، علشان تشرح ليه الأجهزة لازم تبقى صغيرة علشان تبقى سريعة.
- التقنية: الـ Registers والـ Cache معمولين من SRAM (دوائر بسيطة)، والـ RAM من DRAM (Capacitors لازم تتجدد)، والـ HDD فيه أجزاء بتتحرك لازم تلف وتتحرك لمكان البيانات.
3 - الطبقات من فوق لتحت
الـ Registers: جوه المعالج، بايتات قليلة، وأسرع حاجة.
الـ Cache: جوه المعالج، أكبر من الـ Registers وأبطأ شوية. وغالبًا على مستويات:
- L1: صغيرة جدًا وسريعة جدًا، جنب الـ ALU.
- L2: أكبر وأبطأ.
- L3: أكبر، وغالبًا مشتركة بين كل الـ Cores.
والمعالج هو اللي بيقرر لوحده يحط إيه في الـ Cache، والمبرمج مش محتاج يعمل حاجة. وتفاصيلها في المقال الجاي.
الـ RAM: على شرايح برّه المعالج، ومتوصلة بيه بـ Memory bus. وده الطريق الأساسي بين المعالج والذاكرة، وبيتسمى أحيانًا von Neumann bottleneck (عنق زجاجة von Neumann)، لأن كل البيانات لازم تعدّي منه.
التخزين (SSD وHDD): المعالج ما يقدرش يقرا منه مباشرة. البيانات لازم تتنقل للـ RAM الأول.
- الـ HDD فيه أطباق بتلف من 5,000 لـ 15,000 لفة في الدقيقة، وذراع بيتحرك للمسار الصح (Seek time)، وبعدين يستنى الطبق يلف لحد البيانات (Rotational latency)، وكل واحدة فيهم كام ملّي ثانية.
- الـ SSD مالوش أجزاء بتتحرك، فأسرع بكتير.
4 - 3 أرقام لكل طبقة
علشان تقارن بين الطبقات، فيه 3 مقاييس:
- Capacity (السعة): بتشيل قد إيه.
- Latency (زمن الاستجابة): بتاخد وقت قد إيه علشان ترد أول ما تطلب.
- Transfer rate (معدل النقل): بتنقل قد إيه في الثانية، وبيتسمى كمان Throughput.
والأرقام اللي في الرسمة فوق من جدول لـ جهاز نموذجي سنة 2020. الأجهزة بتتطور، بس الفرق الكبير بين الطبقات هو اللي ثابت: الـ RAM أبطأ من الـ Cache بحوالي 20 مرة في الجدول ده، والـ SSD أبطأ من الـ RAM بالآلاف.
5 - الـ Locality: سر نجاح الفكرة كلها
البرامج مش عشوائية في طريقة استخدامها للذاكرة. فيه نمطين بيتكرروا:
- Temporal locality (المحلية الزمنية): اللي استخدمته من شوية، غالبًا هتستخدمه تاني قريب. زي عدّاد في Loop بيتقري كل لفة.
- Spatial locality (المحلية المكانية): اللي جنب حاجة استخدمتها، غالبًا هتحتاجه. لو البرنامج قرا العنوان N وبعده N + 4، غالبًا هيقرا N + 8.
والـ Hardware بيستغلهم إزاي؟
- Temporal: البيانات اللي اتجابت من الـ RAM تفضل في الـ Cache، والقديمة اللي ما اتستخدمتش من أطول وقت تنزل. زي الطالب لما المكتب يتملي، يرجّع للرف الكتاب اللي ما فتحهوش من أطول وقت.
- Spatial: الـ RAM مش بتبعت رقم واحد، بتبعت حتة كاملة اسمها Block. مثلًا Block من 16 بايت فيه 4 أرقام صحيحة، فأول رقم بياخد وقت الذاكرة، والتلاتة اللي بعده موجودين في الـ Cache خلاص.
مثال من الواقع: مصفوفة كبيرة متخزنة صف ورا صف في الذاكرة. لو البرنامج مشي عليها بالصفوف، بيقرا عناوين ورا بعض وبيستفيد من الـ Blocks. ولو مشي عليها بالأعمدة، بيقفز في الذاكرة كل مرة، وما يستفيدش. وفي تجربة، نفس الحساب بالطريقة الأولى كان أسرع بحوالي 5 مرات.
6 - الغلط في الذاكرة: الـ Parity والـ ECC
البت ممكن يتقلب لوحده من 0 لـ 1 أو العكس. الأسباب: تداخل كهربا أو مغناطيسي، والأشعة الكونية (نادرة)، والحرارة، والـ Overclocking، وعيوب في الشريحة.
- Hard errors: تغيير فيزيائي في الشريحة نفسها.
- Soft errors: حاجة مفاجئة بتقلب البيانات من غير ما تبوّظ الشريحة.
الـ Parity bit: بت زيادة بيتحط مع البيانات علشان عدد الـ 1 كله يبقى فردي أو زوجي، وده اسمه Odd parity أو Even parity.
مثال: الرقم 100 بالثنائي 1100100، فيه 3 وحايد، يعني عدد فردي.
مع Odd parity، بت الـ Parity يبقى 0، والكل يبقى 11001000.
لو اتقرا بعد كده عدد زوجي من الـ 1، يبقى فيه غلط.
بس الـ Parity ليه حدود:
- بيكتشف عدد فردي من الأخطاء بس (1 أو 3 أو 5)، ولو اتقلب بتين مع بعض ما يحسّش.
- بيكتشف بس، ما بيصلّحش.
الـ ECC (Error Correcting Code) أذكى: بيستخدم بتات زيادة محسوبة بطريقة اسمها Hamming code، فيقدر يحدد أنهي بت اتقلب ويرجّعه. وده مهم في الـ Servers والأجهزة اللي غلطة واحدة فيها ممكن تبوّظ بيانات حساسة، زي اللي اتكلمنا عنه في مقال الـ RAM.
أخطاء شائعة
- «الـ Cache والـ RAM نفس الحاجة»: الـ Cache جوه المعالج ومعمولة من SRAM، والـ RAM برّه ومعمولة من DRAM.
- «المعالج بيقرا من الـ SSD مباشرة»: لأ، البيانات بتتنقل للـ RAM الأول.
- «كل ما الذاكرة تكبر، تبقى أسرع»: العكس غالبًا: الأكبر أبطأ.
- «الـ Cache لازم المبرمج يملاها بنفسه»: المعالج بيملاها لوحده حسب الـ Locality.
- «الـ Parity بيصلّح الغلط»: الـ Parity بيكتشف بس، والـ ECC هو اللي بيصلّح.
المصطلحات
- هرم الذاكرة (Memory Hierarchy): ترتيب أنواع التخزين من الأسرع الأصغر إلى الأبطأ الأكبر.
- الذاكرة المخبئية (Cache): ذاكرة صغيرة سريعة داخل المعالج تحفظ جزءًا من محتوى الذاكرة الرئيسية.
- زمن الاستجابة (Latency): الوقت من طلب البيانات حتى بدء وصولها.
- معدل النقل (Transfer rate): كمية البيانات المنقولة في وحدة الزمن.
- المحلية الزمنية (Temporal locality): ميل البرامج لاستخدام البيانات نفسها مرة أخرى قريبًا.
- المحلية المكانية (Spatial locality): ميل البرامج لاستخدام البيانات المجاورة لما استخدمته.
- الكتلة (Block): كمية البيانات التي تُنقل بين الذاكرة والذاكرة المخبئية مرة واحدة.
- بت التماثل (Parity bit): بت إضافي يكشف عددًا فرديًا من الأخطاء.
- ذاكرة تصحيح الأخطاء (ECC): ذاكرة تكشف الخطأ في بت واحد وتصححه.
اختبر نفسك
ليه الكمبيوتر فيه أنواع ذاكرة كتير بدل نوع واحد؟
مفيش نوع بيجمع كل حاجة.
الأسرع أغلى وأصغر، والأكبر أبطأ، فالطبقات بتدّي سرعة الصغير مع سعة الكبير.
إظهار الإجابة
الإجابة الصحيحة: لأن مفيش نوع سريع وكبير ورخيص في نفس الوقت
مفيش نوع بيجمع كل حاجة.
الأسرع أغلى وأصغر، والأكبر أبطأ، فالطبقات بتدّي سرعة الصغير مع سعة الكبير.
برنامج قرا العنوان N، والـ Cache جابت معاه العناوين اللي جنبه. ده بيستغل إيه؟
الـ Spatial locality.
البيانات اللي جنب بعض غالبًا هتتطلب، فالـ Block كله بيطلع مرة واحدة.
إظهار الإجابة
الإجابة الصحيحة: الـ Spatial locality
الـ Spatial locality.
البيانات اللي جنب بعض غالبًا هتتطلب، فالـ Block كله بيطلع مرة واحدة.
بتين اتقلبوا مع بعض في بيانات عليها Parity bit. إيه اللي هيحصل؟
مش هيكتشفه.
بتين اتقلبوا بيخلّوا عدد الـ 1 زي ما هو فردي أو زوجي، والـ Parity بيكتشف عدد فردي من الأخطاء بس.
إظهار الإجابة
الإجابة الصحيحة: الـ Parity مش هيكتشف الغلط
مش هيكتشفه.
بتين اتقلبوا بيخلّوا عدد الـ 1 زي ما هو فردي أو زوجي، والـ Parity بيكتشف عدد فردي من الأخطاء بس.