אז מה זו אלגברה לינארית?

סטודנטים להנדסה בסמסטר הראשון שלהם מתמודדים עם שני קורסים מתמטיים כבדים. האחד הוא חדו”א (חשבון דיפרנציאלי ואינטגרלי) הידוע לשמצה, והשני הוא אלגברה לינארית (הידועה לשמצה?). על החשיבות של חדו”א כבר דיברתי כאן ואני מקווה להמשיך לדבר בעתיד - אבל מדוע האלגברה הלינארית, שלא ממש נלמדת בתיכון (בניגוד לחדו”א שמושגי היסוד שלו מוצגים בתיכון) היא מקצוע חשוב ובסיסי כל כך בימינו? ועל מה היא מדברת בכלל? זה מה שאני רוצה להציג בפוסט הזה; הרחבות, כרגיל, יגיעו בהמשך.

לי אישית יש בלב פינה חמה לאלגברה לינארית - זה היה הקורס המתמטי הראשון שלמדתי, ואי שם באמצע הדרך כש”נפל לי האסימון” באשר למה שאנחנו באמת עושים בקורס, גם הבנתי לראשונה מה זו מתמטיקה. כך שלטעמי, למרות שמדובר בתחום שנראה טכני ויבש במבט ראשון, זה תחום מאוד מתמטי ומאוד יפה (אם כי עלי להודות שלטעמי תורת הקבוצות היא קורס טוב יותר לקבל בו את תחושת “מה זו מתמטיקה” - ועל תורת הקבוצות כבר כתבתי פוסטים רבים). הגיע הזמן להפסיק להזניח את האלגברה הלינארית.

אם כן, למה “אלגברה”, ולמה “לינארית”? אלגברה, במקור, היא התחום שעוסק בפתרון משוואות (השם “אלגברה” נגזר משמו של ספר של גדול המתמטיקאים של העולם המוסלמי - אל-חוואריזמי - על פתרון משוואות), ואכן אפשר להתחיל לבנות את האלגברה הלינארית מפתרון משוואות - משוואות לינאריות, כאלו שבהן כל המשתנים הן ממעלה ראשונה. אבל אלגברה במובנה המודרני יותר עוסקת באובייקטים שנוסף להם מבנה באמצעות פעולות שניתן לבצע עליהם - למשל, חיבור, או כפל, וכדומה. האלגברה הלינארית עוסקת בחקר של מבנה שכזה, שנקרא (לא להיבהל…) “מרחב וקטורי”. הכוח של האלגברה הלינארית נובע מכך שהמבנה הזה הוא אבסטרקטי - הוא מוגדר באמצעות כמה תכונות יסוד שלו שהוא מקיים, וזהו. מרגע זה ואילך ניתן להסיק אלף ואחת מסקנות שונות עליו מתוך אותן תכונות יסוד, וכתוצאה מכך כל דבר בעולם שאנו יכולים לחשוב עליו כמרחב וקטורי ייהנה מהמסקנות שהסקנו.

אילו מרחבים וקטוריים אנו מכירים בפועל? אה, מכאן מגיעה השימושיות של האלגברה הלינארית: יש המון. המרחב הדו והתלת ממדי ה”רגילים” הם מרחבים וקטוריים; אוסף כל הפתרונות למערכת משוואות לינארית הוא מרחב וקטורי; אותו דבר גם לאוסף הפתרונות למערכת משוואות דיפרנציאליות לינארית, או למשוואות רקורסיביות לינאריות (דוגמת המשוואה שמגדירה את סדרת פיבונאצ’י); אוספים של מטריצות הן מרחב וקטורי (מהי מטריצה? אובייקט נוסף שהוא מרכזי באלגברה לינארית אך לא אפרט עליו כרגע). גם פונקציות ממרחב וקטורי אחד לאחר שמשמרות את המבנה שלהם (מה שמכונה “טרנספורמציות לינאריות”) מהוות בעצמן מרחב וקטורי! ובאופן כללי מרחבים של פונקציות הם במקרים רבים מרחבים וקטוריים. כל כך הרבה דברים הם מרחב וקטורי עד שסיפור שהיה באמת הוא שמרצה בקורס אלגברה לינארית בטכניון נשאל אם הוא יכול לתת דוגמה למשהו שאינו מרחב וקטורי והוא ענה “אה… השולחן הזה?”

האסימון שאמרתי שנפל לי הוא בדיוק ההבנה הזו שאותם שיקולים ורעיונות שהופעלו בתחילת הקורס על מערכות של משוואות לינאריות, ואז על המרחבים הדו והתלת ממדיים, ואז על מטריצות - אותם שיקולים הם למעשה חלק מתורה כללית, שאינה נזקקת לכל המידע הנוסף שמבדיל משוואות לינאריות ממטריצות, למשל; כל שמעניין הוא החלק הדומה, והדבר המדהים הוא שהדמיון הזה הוא קטן - אפשר לתת רשימה קצרה של תכונות זהות, אבל הן מספיקות כדי שניתן יהיה להפיק כמות אדירה של מידע, ולגרום לכך ששני המושגים הללו - משוואה לינארית אל מול מטריצה, למשל - יראו לי דומים להחריד, כמעט זהים. זוהי המתמטיקה - “האמנות של קריאה באותו השם לדברים שונים”.

כל זה טוב ויפה, אבל מה כולל בתכל’ס קורס בסיסי באלגברה לינארית? ובכן, אציג מבנה של קורס אפשרי אחד; לא כולם מלמדים את החומר באותו האופן. התחלה טבעית למדי לטעמי היא עיסוק במערכות של משוואות לינאריות - עיסוק שמכליל את מה שנלמד כבר בתיכון. משוואה לינארית בנעלם אחד היא משוואה מהצורה \( ax=b \) שהיא לא כל כך מעניינת (יש לה פתרון אחד - \( x=\frac{b}{a} \), תחת ההנחה ש-\( a\ne0 \)) אבל משוואה לינארית בשני נעלמים היא כבר אתגר כלשהו ותלמידים מקדישים לה זמן לא מועט. אם יש לנו רק משוואה אחת בשני נעלמים, יש לה לרוב אינסוף פתרונות - למשל, למשוואה \( x+y=0 \), לכל ערך של \( x \) שתבחרו, אם \( y \) יקבל את המינוס של ערך זה, נקבל פתרון. אז לרוב מדברים על מערכת שכוללת שתי משוואות לינאריות (למשל: \( 3x+2y=3 \) וגם \( x+7y=13 \)). מה שעושים באלגברה לינארית הוא לקפוץ למים העמוקים ולדבר על מערכת של \( m \) משוואות ב-\( n \) נעלמים. התורה של פתרון משוואות כאלו היא יפה ומעניינת, ובסופו של דבר מתקבל אלגוריתם שמאפשר לכל מערכת משוואות שכזו לגלות ביעילות אם יש לה פתרון, ואם כן - מהו. האלגוריתם הזה - “אלימינציה גאוסית” - הוא אחד מהאלגוריתמים החשובים במתמטיקה, ולא מעט מהאלגברה הלינארית שמפותחת בהמשך מתבססת עליו.

מערכות של משוואות הן תירוץ טוב להכניס לתמונה מטריצות. מטריצה היא פשוט סדרה דו-ממדית של ערכים, אבל אפשר לחשוב עליה גם בתור יצור אלגברי - כזה שאפשר לחבר ולחסר ולכפול. הגדרת הכפל של מטריצות נראית מאוד מסובכת ולא טבעית ממבט ראשון, אבל המכה מרוככת טיפה אם חושבים על המטריצה כאובייקט שמסייע לתאר משוואות לינאריות (ספציפית, אם חושבים על מערכת משוואות לינאריות כמשוואה אחת שמערבת כפל של שתי מטריצות). בהקשר הזה גם צץ ועולה באופן טבעי המושג של וקטור כסדרה חד ממדית של איברים; אפשר לנצל את ההזדמנות הזו כדי לראות כיצד מדובר בהכללה של וקטורים דו ותלת-ממדיים שמופיעים בדרך כלל בפיזיקה, גרפיקה וכדומה.

בשלב הזה, אם ממש רוצים, אפשר לתאר את המושג של שדה. שדה הוא הכללה של התכונות היפות שיש למספרים הממשיים/מרוכבים/רציונליים; התורה הכללית של אלגברה לינארית תמיד מערבת שדה שנמצא ברקע. את רוב התורה הבסיסית אפשר לפתח מעל הממשיים ותו לא מבלי לשים לב להבדל, אבל יש יתרונות לחשיבה כללית כבר בשלב זה.

אחרי שכבר צברנו כמה דוגמאות לאובייקטים מתמטיים מעניינים - אוספי הפתרונות של משוואות לינאריות, מטריצות, וקטורים, שדות - מגיע הזמן להפיל את הפצצה ולהצביע על כך שכל היצורים הללו הם אותו דבר במובן מאוד חזק - כולם מרחבים וקטוריים. מה זה בדיוק מרחב וקטורי לא אגיד כרגע, בעיקר כי כרגע אני יכול להגיד רק רשימת תכונות שמשמעותן לא ממש ברורה כל עוד לא משחקים קצת עם דוגמאות.

אחרי האבחנה הזו, שמצמצמת את כל האובייקטים שדיברנו עליהם לאוסף קטן מאוד של תכונות מגדירות, נשאלת השאלה מה אפשר להגיד באופן כללי על האובייקט הזה. התוצאה המפתיעה היא שאפשר לומר עליו המון. אחת הסיבות שבגללן מתחילים לימודי מתמטיקה עם אלגברה לינארית היא שזה אובייקט שהתורה שלו היא מאוד פשוטה, התוצאות זורמות “באופן טבעי” ובלי להכניס לתמונה כלים כבדים, והכל מתנהג מאוד יפה. אולי התוצאה הבסיסית החשובה ביותר שאפשר לתת בשלב זה היא העובדה שלכל מרחב וקטורי קיים בסיס - קבוצה קטנה יחסית של וקטורים שבאמצעותה ניתן לתאר את כל הוקטורים במרחב, והבנה שלה מבטיחה הבנה גדולה של המרחב. אחת התוצאות היסודיות היא שעבור מרחב וקטורי נתון כל הבסיסים הם מאותו גודל; מכיוון שמרחבים עם בסיס אינסופי הם מסובכים משמעותית יותר הדיון מכאן ואילך מתמקד לרוב במרחבים בעלי בסיס סופי.

השלב הבא, כמו שקורה לעתים קרובות באלגברה, הוא לבדוק מה קורה למרחבים וקטוריים כאשר פועלים עליהם בצורה שמשמרת את המבנה שלהם. במילים אחרות, מנסים להבין את קבוצת כל הפונקציות ממרחב וקטורי אחד למשנהו שמשמרות את המבנה של המרחב שעליו הן פועלות. פונקציות כאלו נקראות טרנספורמציות לינאריות. חיש מהר אנו מגלים שכל טרנספורמציה כזו נקבעת חד-ערכית על פי פעולתה על אברי בסיס של המרחב, וזה מוביל לאבחנה שאפשר לתאר טרנספורמציה לינארית באמצעות מטריצה, ואת הפעולה של הטרנספורמציה על אברי המרחב הוקטורי - כמו פעולה של כפל מטריצות. זה מסביר את ההגדרה ה”מוזרה” של כפל מטריצות בצורה מושלמת ואף עושה יותר מכך - מראה שטרנספורמציות לינאריות ומטריצות הן אותו הדבר בדיוק (במובן מסויים של “בדיוק”, כמובן). זו אולי התוצאה הקשה ביותר להבנה והיפה ביותר באלגברה לינארית בסיסית.

המושג האחרון שמכניסים לתמונה בדרך כלל בקורס בסיסי הוא זה של ערכים עצמיים של טרנספורמציה. על קצה המזלג, מספר כלשהו הוא ערך עצמי של טרנספורמציה אם קיים איבר (“וקטור עצמי”) שעליו פעולת הטרנספורמציה היא פשוט כפל במספר הזה - פעולה פשוטה במיוחד. ערכים עצמיים הם לרוב המפתח לייצוג פשוט של טרנספורמציות ולכן מציאתם (שהיא מעט טכנית) היא חשובה למדי, כשהיעד הוא מציאת בסיס למרחב שכולו מורכב מוקטורים עצמיים של הטרנספורמציה.

הנושא הבסיסי האחרון שרלוונטי מתקבל כאשר מוסיפים למרחב הוקטורי מבנה נוסף עם המושג של מכפלה פנימית של וקטורים שמאפשרת להכליל מושגים כמו זווית ואורך של וקטורים, ובפרט להגיד מתי הם ניצבים אלו לאלו. זה מעלה באופן טבעי את המושג של בסיס אורתונורמלי למרחב וקטורי (בסיס שכל הוקטורים בו ניצבים אלו לאלו והם כולם “מאורך 1”) ואת הצורך להוכיח שקיים כזה לכל מרחב וקטורי ואיך למצוא אותו (בעזרת מה שנקרא אלגוריתם גרם-שמידט). מכאן מגיעים לגולת הכותרת: משפט הפירוק הספקטרלי, המאפיין את הטרנספורמציות שניתן עבורן למצוא למרחב בסיס של וקטורים עצמיים אורתונורמליים, כלומר שילוב של הגביע הקדוש של מציאת בסיס של וקטורים עצמיים עם הגביע הקדוש של מציאת בסיס אורתונורמלי.

אם כן, זוהי אלגברה לינארית בסיסית על קצה המזלג - נראה לי שיהיה קונצנזוס כלשהו על כך שאלו הם נושאי הבסיס (אם כי יש עוד נושאים בסיסיים שלא הזכרתי). בסדרת הפוסטים שאני מקווה לכתוב על אלגברה לינארית אנסה לתאר את כל מה שדיברתי עליו בפוסט הזה.