ג.2 הכנת PyTorch ב־Colab

בפרק הקודם הכרנו את PyTorch כספרייה שבה נממש את רשתות הנוירונים. לפני שנכתוב את שורת הקוד הראשונה עלינו לוודא שהספרייה זמינה לנו ולהחליט על איזה מעבד יתבצעו החישובים. זהו פרק קצר ומעשי, שמכין את סביבת העבודה לכל הפרקים הבאים.

נמשיך לעבוד ב־Colab, כפי שעשינו בחלק א. היתרון הגדול של Colab עבורנו הוא שאין צורך להתקין דבר: הספריות כבר מותקנות, ואפשר לקבל בחינם גישה למעבד גרפי חזק שנמצא בשרת של Google. בהמשך הפרק נסביר מהו המעבד הגרפי ומדוע הוא מועיל באימון רשתות, ונראה כיצד להפעיל אותו במחברת.

כדי להתחיל לעבוד עם PyTorch, נכין את המחברת ונבחר את משאבי החישוב שבהם נשתמש. PyTorch כבר מותקנת ב־Colab. כדי להשתמש בה, יש להריץ בתא קוד את פקודת הייבוא:

import torch

מכאן נוכל להשתמש בספרייה באמצעות השם torch, בדיוק כפי שהשתמשנו בשם np לאחר ייבוא NumPy. אם הפקודה רצה ללא הודעת שגיאה, הספרייה מוכנה לשימוש.

השיעור וההרצאות באתר של גלעד מרקמן

המצגת: 1. מבוא והתקנה (עותק מקומי)

מהו GPU ולמה הוא משמש?

בפרק הקודם הזכרנו שאימון רשת נוירונים דורש הרבה מאוד פעולות חשבון. השאלה היא איזה רכיב במחשב יבצע אותן. GPU — Graphics Processing Unit — הוא מעבד גרפי. במחשב האישי זהו המעבד שבכרטיס הגרפי, ולעיתים הוא משולב במעבד הראשי. הוא תוכנן לבצע חישובים רבים במקביל לצורך עיבוד גרפיקה: כדי לצייר תמונה על המסך יש לחשב את הצבע של מיליוני פיקסלים, וכולם יכולים להיות מחושבים בו־זמנית במקום בזה אחר זה.

גם ברשתות נוירונים מבצעים פעולות חשבון רבות על מספרים, כמו הכפלת הקלטים במשקלים וחיבור התוצאות. גם כאן החישובים אינם תלויים זה בזה: כל נוירון בשכבה יכול לחשב את הסכום שלו במקביל לאחרים. היכולת של GPU לבצע פעולות רבות במקביל מספקת כוח חישוב שיכול לקצר את זמן האימון, במיוחד ברשתות גדולות.

אין חובה להשתמש ב־GPU. במשימות שנבצע אפשר להשתמש גם ב־CPU — Central Processing Unit, המעבד המרכזי של המחשב, שמריץ את כל התוכניות שכתבנו עד כה. האימון עשוי להימשך זמן רב יותר, אך אפשר ללמוד ולהריץ את הדוגמאות גם בלעדיו. הרשתות בפרקים הראשונים קטנות, וההבדל בזמן הריצה בהן זניח; ה־GPU יהיה חשוב בעיקר בפרקים המאוחרים, כשנאמן רשתות על תמונות.

הפעלת GPU ב־Colab

כעת נראה כיצד לבקש מ־Colab להצמיד למחברת שלנו מעבד גרפי. ב־Colab אין צורך להתקין כרטיס גרפי או תוכנה עבורו. בוחרים סביבת ריצה עם GPU שנמצא בשרת של Google; הכרטיס הגרפי במחשב האישי אינו נדרש לשם כך.

1. פותחים את הגדרות סביבת הריצה. בתפריט העליון בוחרים Runtime (סביבת ריצה), ואז Change runtime type (שינוי סוג סביבת הריצה).

2. בוחרים GPU. תחת Hardware accelerator בוחרים T4 GPU, אם הוא זמין, ולוחצים על Save (שמירה).

3. מתחברים. אם מופיע הכפתור Connect (התחברות), לוחצים עליו. לאחר החלפת סביבת הריצה מריצים שוב את תא הייבוא, מפני שהחלפת סביבת הריצה מתחילה מחשב חדש ומוחקת את כל מה שהוגדר במחברת עד כה. אם אין GPU זמין, אפשר להמשיך לעבוד עם CPU.

התקנה במחשב האישי

אפשר להתקין את PyTorch גם על המחשב האישי ולעבוד בלי חיבור ל־Colab, אך בשלב זה אין בכך צורך. התקנה מקומית נלמד בפרק ד.2 — התקנת PyTorch במחשב האישי. עד אז נעבוד ב־Colab. בפרק הבא נכיר את הטנסורים, המבנה הבסיסי שבו PyTorch מחזיקה נתונים ומשקלים.