مقدار ویژه و بردار ویژه ماتریس
مقدار ویژه (eigenvalue) و بردار ویژه (eigenvector)، برای درک درست تبدیلهای خطی (Linear Transformations)، بسیار مهم و حیاتی هستند. عبارت eigen در زبان آلمانی (German) تقریبا به معنی خود (self) است و بدین ترتیب میتوان مقدار و بردار ویژه را مقدار و بردار منتسب به خود ماتریس دانست. مقدار و بردار ویژه، از مباحث مهم در جبر خطی است که کاربردهای متعددی در علم داده (Data Science) و یادگیری ماشین (Machine Learning) دارد. این مفاهیم ریاضی، دید بسیار خوبی نسبت به رفتار تبدیلهای خطی به ما میدهند که به دنبال آن توانمندی در درک بهتر ساختار دادهها و سادهسازی مجموعه دادههای پیچیده با تعداد شاخصهای زیاد را ایجاد میکند. این توانمندی نیز منجر به پردازش بهتر دادهها در جهت نیل به اهداف اصلی در کاربردهای متعدد آن میشود. به لحاظ ریاضی نیز میتوان گفت که مقدار و بردار ویژه، مهمترین جنبه مرتبط با ساختار تئوری ماتریسهای مربع است.
مقدار و بردار ویژه در بطن بسیاری از روشهای کاهش ابعاد (Dimensionality Reduction) همچون تحلیل اجزاء اصلی (Principal Component Analysis – PCA)، به کار میروند. همچنین در خوشهبندی طیفی (Spectral Clustering) نیز که شامل کاهش ابعاد در مرحله ابتدایی خود است، استفاده میشود.
مقدار ویژه و بردار ویژه چیست؟
همانطور که گفته شد، پیشوند نام اصلی این دو مفهوم، به یک چیز مرتبط با خود یا همان ویژگی ذاتی یک چیز اشاره دارد. حال فرض کنید که یک مجموعه بردار را تحت تبدیل خطی مثل تغییر مقیاس (Scaling)، انتقال برشی (Shearing) یا چرخش (Rotation) قرار دادهایم. پس از اعمال این تبدیل، برخی بردارها تغییر جهت میدهند و برخی نمیدهند. بردارهایی که جهت آنها تغییر نمیکند یا اینکه دقیقا در جهت مخالف خود قرار میگیرند را بردار ویژه نامگذاری میکنیم زیرا آنها به نوعی بردارهای شاخص تبدیل خطی (یا ماتریس معادل آن) هستند که بر روی آنها اعمال شده است. مقدار یا میزان دامنه تغییر مقیاس در اینگونه تبدیلها که جهت عوض نشده است نیز همان مقدار ویژه است. به عبارت دیگر، مقدار ویژه، فاکتور تغییر مقیاس تبدیل است.
تعریف ریاضی
فرض کنید که یک ماتریس با ابعاد
است:
– یک بردار ویژه ماتریس ، بردار غیرصفر
در
است که به ازای یک مقدار اسکالر
داریم:
– یک مقدار ویژه ماتریس ، یک مقدار اسکالر
است به طوریکه معادله
جواب غیرصفر (Nontrivial) داشته باشد.
اگر برای
، میگوییم که
یک مقدار ویژه
است و
یک بردار ویژه
.
نکته: بردارها و مقادیر ویژه فقط مختص ماتریسهای مربعی (Square) هستند.
دقت کنید بردارهای ویژه طبق تعریف غیرصفر هستند ولی مقادیر ویژه میتوانند مقدار صفر نیز داشته باشند. علت غیرصفر بودن بردار ویژه نیز قابل انتظار است زیرا به ازای بردار ویژه صفر، عبارت را خواهیم داشت که به معنی این است که مقدار ویژهای برای این بردار صفر، قابل تعریف نخواهد بود.
اگر به شما یک ماتریس و بردار
داده شود، بررسی اینکه آیا
یک بردار ویژه از ماتریس
است، کار سادهایست: کافی است حاصلضرب
را محاسبه کنید و ببینید که آیا
مضرب اسکالری از
است یا نه. از طرفی دیگر، اگر فقط ماتریس
داده شود، فعلا مشخص نیست که چگونه باید بردارهای ویژه را پیدا کنیم. در ادامه مقاله این روش رو یاد خواهیم گرفت.
مثال از تشخیص بردار ویژه بودن برای یک ماتریس:
مثال اول:
ماتریس و بردارهای
و
را در نظر بگیرید.
کدامیک بردار ویژه هستند؟
راه حل:
داریم:
بنابراین، یک بردار ویژه ماتریس
با مقدار ویژه
است. از طرفی دیگر داریم:
که مشخص است، مضرب اسکالری از نیست و بنابراین،
بردار ویژه
نیست.
مثال دوم:
ماتریس و بردارهای
و
را در نظر بگیرید.
کدامیک بردار ویژه است و کدام نیست؟
راه حل:
داریم:
بنابراین، یک بردار ویژه ماتریس
با مقدار ویژه
است. از طرفی دیگر داریم:
که مضربی اسکالر از نیست. بنابراین،
بردار ویژه ماتریس
نیست.
مثال از بردار ویژه با مقدار ویژه صفر:
فرض کنید:
آیا بردار ویژه
است؟. اگر چنین است، مقدار ویژه آن چیست؟
راه حل:
حاصلضرب ماتریس در بردار مورد نظر عبارت است از:
بنابراین، یک بردار ویژه با مقدار ویژه صفر است.
همانطور که قبلا نیز گفته شد، مقدار ویژه میتواند صفر باشد ولی بردار ویژه نمیتواند.
تفسیر هندسی
یک فضای دوبعدی را تصور کنید که در آن سه بردار مطابق شکل زیر داریم:
شکل 1- بردارها قبل از اعمال تبدیل خطی
در اینجا بردار آبی بر روی محور افقی، قرمز بر روی محور عمودی و سبز بر روی امتداد قطری بین دو بردار قبلی واقع شده است. حال یک تبدیل تغییر مقیاس در جهت محور عمودی و با فاکتور 2 اعمال میکنیم تا شکل زیر حاصل شود.
شکل 2- بردارها بعد از اعمال تبدیل خطی
چه اتفاقی در مورد امتداد بردارها افتاده است؟ بردارهای قرمز و آبی در اثر این تغییر مقیاس، تغییر جهتی نداشتهاند در حالیکه بردار سبز رنگ، تغییر جهت داشته است. بنابراین، در این تبدیل به طور خاص، بردارهای آبی و قرمز را میتوان بردار ویژه دانست و آنها به نوعی بردارهای ذاتی و مرتبط با مشخصات این تبدیل خواهند بود.
حال مجدد به دو تصویر بالا دقت کنید و اندازه دو بردار ویژه را قبل و بعد از تبدیل بررسی کنید. بردار ویژه آبی تغییر اندازه نداشته است در حالیکه بردار ویژه قرمز، دو برابر شده است یا میتوان گفت که با فاکتور 2 تغییر مقیاس داشته است. مقداری که هر بردار ویژه تحت این تبدیل، تغییر مقیاس داشته است همان مقدار ویژه آن بردار ویژه است. بنابراین، مقدار ویژه متناظر با بردار ویژه آبی 1 (این مقدار را مضرب تغییر مقیاس اندازه بردار فرض کنید) است و مقدار ویژه برای بردار ویژه قرمز نیز برابر با 2 است.
بنابراین میتوان گفت که وقتی گفته میشود ، به این معنی است که
هم خط (colinear) نسبت به مبدأ هستند. پس یک بردار ویژه ماتریس
، بردار غیرصفر
است به طوریکه
و
بر روی خط یکسانی که از مبدأ میگذرند، قرار دارند و مقدار ویژه، فاکتور مقیاسدهنده است.
شکل 3- بردار ویژه است و
بردار ویژه نیست.
برای ماتریسهای معرف یک تبدیل خطی، اغلب بهترین راه برای تشخیص بردار ویژه، ترسیم هندسی و یافتن بردارهایی است که در اثر تبدیل مورد نظر، از جهت خود خارج نمیشوند. این کار معمولا در مورد ماتریسهایی که به صورت هندسی قابل تعریف هستند، انجام میشود.
مثال اول – انعکاس
فرض کنید که تبدیل یک تبدیل خطی است که انعکاس نقاط را نسبت به خط
انجام میدهد و فرض کنید که
، ماتریس تبدیل
است. میخواهیم مقدارهای ویژه و بردارهای ویژه
را بدون محاسبات بدست آوریم.
راه حل:
مطابق شکل زیر، بردار یک بردار ویژه نیست زیرا
همخط با
و مبدأ نیست.
با توجه به شکل زیر نیز مشخص است که نیز بردار ویژه نیست.
اما در شکل زیر واضح است که یک بردار ویژه است زیرا
همخط با
و مبدأ است. بردار
طولی برابر با طول
دارد ولی جهت آن مخالف است، بنابراین مقدار ویژه برابر با 1- است.
با توجه به شکل زیر نیز، یک بردار ویژه است زیرا
همخط با
و مبدأ و به طور خاص برابر با آن است. این بدان معنی است که
یک بردار ویژه با مقدار ویژه برابر با یک است.
به نطر میرسد که تمام بردارهای ویژه یا بر روی خط قرار میگیرند یا بر روی خط عمود بر آن. بردارهای روی
مقدار ویژه 1 دارند و بردارهای عمود بر
مقدار ویژه 1- دارند. شکل زیر این موضوع را به صورت گرافیکی نشان میدهد:
مثال دوم – تصویر کردن (Projection)
فرض کنید که ، تبدیل خطی است که یک بردار را به صورت عمودی بر محور x، تصویر میکند و ماتریس
برای این تبدیل است. مقادیر ویژه و بردارهای ویژه
را بدون انجام محاسبات، بیابید.
راه حل:
این تبدیل به صورت هندسی در شکل زیر آمده است:
باتوجه به شکل بالا، مشخص است که بردار یک بردار ویژه نیست زیرا
همخط با
و مبدأ نیست.
از شکل زیر نیز مشخص است که نیز بردار ویژه نیست.
با توجه به شکل زیر، میتوان گفت که یک بردار ویژه است. در واقع،
، بردار صفر است که همخط با
و مبدأ است. از آنجاییکه
، مقدار ویژه برابر با صفر است.
از شکل نیز مشخص است که یک بردار ویژه است زیرا
همخط با
و مبدأ است. از طرفی
برابر با
است! این بدان معنی است که
یک بردار ویژه با مقدار ویژه یک است.
به نظر میرسد که تمام بردارهای ویژه بر روی محور x یا محور y قرار دارند. بردارهای روی محور x، مقدار ویژه یک دارند و بردارهای روی محور y، مقدار ویژه صفر. شکل زیر این نکته را به صورت هندسی نمایش میدهد:
مثال سوم – همانی (Identity)
تمام مقادیر و بردارهای ویژه ماتریس همانی را بیابید.
راه حل:
ماتریس همانی دارای ویژگی برای تمام بردارهای
است. میتوان نوشت
، بنابراین هر بردار غیرصفر یک بردار ویژه با مقدار ویژه یک است. شکل زیر این موضوع را نشان میدهد:
مثال چهارم – انبساط (Dilation)
فرض کنید که ، تبدیل خطی است که با فاکتور 1.5 عمل انبساط را انجام میدهد و ماتریس این تبدیل برابر با
است. مقادیر و بردارهای ویژه ماتریس
را بدون محاسبات بدست آورید.
راه حل:
برای هر بردار داریم:
بنابراین، طبق تعریف هر بردار غیرصفر یک بردار ویژه با مقدار ویژه 1.5 است. شکلهای زیر این مساله را به خوبی نشان میدهد:
مثال پنجم – کشیدگی (Shear)
فرض کنید ماتریس زیر را داریم:
و همچنین که در آن
یک کشیدگی در جهت محور x است. مقادیر و بردارهای ویژه
را بدون محاسبات بدست آورید.
راه حل:
برحسب معادله تبدیل داریم:
معادله بالا میگوید که عمل کشیدگی در جهت x، یک بردار را گرفته و مختصات y آن را به مختصات x آن اضافه میکند. از آنجاییکه مختصات جهت x تغییر میکند و جهت y بدون تغییر میماند، میتوان چنین برداشت کرد که هر بردار با مختصات y غیرصفر نمیتواند همخط با
و مبدأ باشد. این نکته را شکل زیر نشان میدهد:
از طرف دیگر، هر بردار بر روی محور x که مختصات y صفر دارد، توسط تبدیل
حرکت نمکیند. بنابراین
یک بردار ویژه با مقدار ویژه یک است (مطابق شکل زیر):
با توجه به نکات بالا، تمام بردارهای ویژه روی محور x قرار میگیرند و مقدار ویژه یک دارند. این مساله در شکل زیر نشان داده شده است:
مثال ششم – چرخش (Rotation)
فرض کنید که ، تبدیل خطی است که به اندازه 90 درجه در خلاف جهت عقربههای ساعت چرخش را انجام میدهد و
، ماتریس این تبدیل است. مقادیر و بردارهای ویژه
را بدون انجام محاسبات بدست آورید.
راهحل:
اگر ، هر بردار غیرصفری باشد، آنگاه
به میزان 90 درجه نسبت به
چرخیده است. بنابراین،
بر روی همان خطی که
واقع شده است، قرار ندارد و به همین دلیل
یک بردار ویژه نیست. شکل زیر این موضوع را نشان میدهد. و البته بردار صفر هم نمیتواند بردار ویژه باشد.
بنابراین، این ماتریس مقدار و بردار ویژه ندارد.
در ادامه یک حقیقت درباره بردارهای ویژه را بیان کرده و اثبات میکنیم.
حقیقت: بردارهای ویژه با مقادیر ویژه متمایز، مستقل خطی هستد.
فرض کنید که ، بردارهای ویژه ماتریس
باشند و فرض کنید که مقادیر ویژه متناظر آنها،
، همگی متمایز هستند (از یکدیگر متفاوت هستند). آنگاه مجموعه بردارهای
مستقل خطی هستند.
اثبات:
فرض کنید که وابسته خطی هستند. این موضوع بدان معنی است که برای یک مقدار فرضی
، بردار
در فضای توسعه یافته
وجود دارد و میتوان نوشت:
برای مقادیر اسکالر . با ضرب دو طرف معادله بالا در
داریم:
با کسر برابر معادله اول از معادل دوم داریم:
از آنجا که برای
، این معادله به معنی وابستگی خطی بین بردارهای
است که غیرممکن است زیرا این بردارهای مستقل خطی هستند. بنابراین،
باید مستقل خطی باشند.
وقتی است، این حقیقت میگوید که اگر
، بردارهای ویژه با مقادیر ویژه
باشند، آنگاه
مضربی از
نیست. در واقع، هر مضرب غیرصفر
نیز یک بردار ویژه برای مقدار ویژه
است:
در نتیجه حقیقت بالا میتوان گفت:
هر ماتریس با ابعاد
، حداکثر
بردار ویژه دارد.
فضاهای ویژه (Eigenspaces)
فرض کنید که یک ماتریس مربعی است. در حال حاضر میدانیم که چگونه بررسی کنیم که یک بردار داده شده، بردار ویژه ماتریس
است یا خیر. هدف بعدی آن است که بررسی کنیم که آیا یک عدد حقیقی داده شده، مقدار ویژه
است یا خیر و در صورت مثبت بودن جواب این سوال، تمام بردارهای ویژه متناظر با آن مقدار ویژه را بیابیم.
فرض کنید که یک ماتریس
است و
یک عدد اسکالر. بردارهای ویژه متناظر با مقدار ویژه
، در صورت وجود، جوابهای غیرصفر معادله
هستند. این معادله به شکل زیر قابل بازنویسی است:
بنابراین، بردارهای ویژه برای مقدار ویژه
، در صورت وجود، جوابهای غیرصفر معادله ماتریسی
هستند، یا به عبارت دیگر، بردارهای غیرصفر در
هستند. اگر این معادله جواب غیرصفری نداشته باشد، آنگاه
، مقدار ویژه ماتریس
نمیتواند باشد.
نکته گفته شده در بالا مهم است زیرا بیان میکند که یافتن بردارهای ویژه برای یک مقدار ویژه داده شده به معنی حل دستگاه معادلات همگن (Homogeneous) است. برای نمونه، اگر داشته باشیم:
آنگاه، بردار ویژه متناظر با مقدار ویژه ، یک جواب غیرصفر معادله ماتریسی زیر است:
معادله بالا به دستگاه معادلات زیر قابل تبدیل است:
این دستگاه، برابر با معادله ماتریسی همگن زیر است:
یا به عبارت دیگر:
تعریف: اگر ماتریس
باشد و
یک مقدار ویژه آن باشد، آنگاه فضای ویژه
ماتریس
، مجموعه جواب معادله
است که همان زیرفضای
نیز است.
فضای ویژه یک زیرفضا است زیرا فضای صفر (Null) یک ماتریس است که در اینجا ماتریس
مد نظر است. این زیرفضا، شامل بردار صفر و تمام بردارهای ویژه ماتریس
که متناظر با مقدار ویژه
هستند، میشود.
منبع: https://www.datacamp.com http://textbooks.math.gatech.edu
دیدگاه ها (0)