مقاله رایگان با موضوع بر مبنای

مقاله رایگان با موضوع بر مبنای

دانلود پایان نامه

 

با جایگذاری عبارت بدست آمده از بالا، در سمت راست معادله (27) بدست میآید
اکنون عبارت انرژی در معادله (28) (سمت چپ) را در نظر بگیرید، با مرتبسازی و جداسازی یک متغیر از آن داریم
در رابطه بالا تعریف کردیم و نیز اینکه ، را نرمال میکند. این فرم جدید را در جمله انرژی در معادله (28) جایگذاری میکنیم. بدست میآید
آنتروپی را از بقیه حاﺻﻞجمع آنتروپیها جدا میکنیم
جملات داخل کروشه را در نظر بگیرید
هر چند که ما با هدف مینیممسازی واگرایی-KL بین توزیعهای مشترک بزرگ شروع کردیم (که کار دشواری است)، اما مشاهده میشود که مسئله معکوس شد و به مسئله مینیممسازی واگرایی-KL بین
توزیعهای تکی یک بعدی (که آسانتر هستند) دست یافتیم. مینویسیم
بنابراین نتیجه گرفته میشود که از طریق جمله واگرایی-KL، تنها به هر تکی بستگی دارد. میخواهیم را نسبت به هر ، با این قید که تمامی ها به یک نرمال شده باشند، ماکزیمم نماییم. چنین هدفی
میتواند از طریق ضریب لاگرانژ و مشتقات تابعی نسبت به به صورت زیر دست یافته شود
بلافاصله مشاهده میشود که زمانی ماکزیمم میشود که واگرایی-KL صفر باشد، از این رو هنگامی که داشته باشیم
(به علت وارد کردن در تعریف قبلی از ، قید نرمالسازی برای برآورده میشود). اگر این تعریف را باز نماییم، بهینه بدست میآید
که انرژی است.
نتیجهگیری کلی آن است که ماکزیممسازی انرژی آزاد تغییر، واگرایی-KL را مینیمم میکند و چگالی تغییر را به صورت یک پسین تقریبی میدهد.

4-6- استنباط تغییر
در این رساله، ما بر روشهای استنباط تغییر برای مدل راستنمایی گاوسین-خطی (LG) (گرفیث و قهرمانی، 2005) تمرکز کردهایم که در آن و متغیرهای تصادفی گاوسین هستند.
مجموعه متغیرهای نهفته در IBP را با و مجموعه پارامترها را با نشان میدهیم. همانطور که قبلاً هم توضیح داده شد، محاسبه لگاریتم پسین واقعی
به علت غیرقابل بررسی بودن محاسبه لگاریتم احتمال حاشیهای ، دشوار است.
روشهای تغییر میدان میانگین، پسین واقعی را با یک توزیع تغییر از خانواده قابل بررسی توزیع تقریب میزند. (بیل، 2003؛ ونرایت و جردن، 2008). در اینجا مجموعه پارامترهای مورد استفاده قرار گرفته برای توصیف توزیع q را مشخص میکند. در اینصورت برای یافتن آن عضوی از ، که معیار
واگرایی-KL، را مینیمم میکند، استنباط تغییر به اجرای یک بهینهسازی نسبت به پارامترهای میپردازد.
در نخستین رویکرد، واگرایی-KL، ، بین توزیع تغییر و یک تقریب متناهی برای IBP توصیف شده در بخش 4-6-1 مینیمم میگردد؛ در مقاله دوشی ولز و همکاران (2009) این رویکرد روش تغییر متناهی نام نهاده شده است. در این مدل، مجموعه را از خانوادههای فاکتورگیری شده در نظر میگیریم
که ، و ، به گونهای بهینه میشوند تا را مینیمم سازند. با مینیممسازی نسبت به و نه نسبت به واقعی، رویکرد نخست، یک لایه اضافی بر تقریب معرفی میکند که در رویکرد دوم ظاهر
نمیشود.
دومین رویکرد، واگرایی-KL را برای پسین IBP واقعی، مینیمم میکند. این رویکرد روش تقریب نامتناهی نامیده میشود زیرا اگر چه یک توزیع تغییر متناهی است، اما به روز رسانیهای آن بر مبنای پسین واقعی IBP واقعی قرار دارد (که شامل یک تعداد نامتناهی مشخصه است). در این مدل، به جای ، مستقیماً وزنهای چسباندن-شکست ، مورد استفاده قرار میگیرند. سپس مجموعه ، از خانواده فاکتورگیری شده درنظر گرفته میشود
که ، و ، پارامترهای تغییر هستند. فرمهای توزیعهای و به روزرسانیهای تغییر در بخش 4-6-1-2 تصریح میشوند.
استنباط در هر دو رویکرد از طریق بهینهسازی پارامترهای توزیع تقریب زده شده انجام میشود به گونهای که با بیشترین دقت با پسین واقعی شباهت داشته باشد. مجدداً خاطرنشان میسازیم که این بهینهسازی معادل است با ماکزیممسازی یک کران پایین بر شواهد، چون
که آنتروپی توزیع است و بنابراین

مطلب مرتبط :   دانلود پایان نامه با موضوع ویتامین E

بستن منو