Logo fa.boatexistence.com

چرا کمند به ضرایب صفر تمایل دارد؟

فهرست مطالب:

چرا کمند به ضرایب صفر تمایل دارد؟
چرا کمند به ضرایب صفر تمایل دارد؟

تصویری: چرا کمند به ضرایب صفر تمایل دارد؟

تصویری: چرا کمند به ضرایب صفر تمایل دارد؟
تصویری: چرا ضرایب کمند معمولا 0 است، اما رج نیست 2024, ممکن است
Anonim

کنج انقباض را انجام می دهد به طوری که "گوشه هایی" در محدودیت وجود دارد که در دو بعد مطابق با یک الماس است. اگر مجموع مربع ها به یکی از این گوشه ها برخورد کند ، سپس ضریب مربوط به محور به صفر کاهش می یابد. … از این رو، کمند جمع شدگی و (به طور مؤثر) انتخاب زیر مجموعه را انجام می دهد.

چرا کمند ضرایب صفر می دهد؟

کنج انقباض را انجام می دهد به طوری که "گوشه هایی" در محدودیت وجود دارد که در دو بعد مطابق با یک الماس است. اگر مجموع مربع ها به یکی از این گوشه ها برخورد کند ، سپس ضریب مربوط به محور به صفر کاهش می یابد.

چرا کمند به صفر کوچک می شود اما Ridge نه؟

گفته می شود که از آنجایی که شکل محدودیت در LASSO یک الماس است، راه حل حداقل مربعات به دست آمده ممکن است به گوشه الماس برخورد کند به طوری که منجر به انقباض برخی از متغیرها شود. با این حال، در رگرسیون پشته، چون دایره است، اغلب با محوربرخورد نمی کند.

چرا رگرسیون پشته ضرایب را کوچک می کند؟

رگرسیون ریج همه ضرایب رگرسیون را به سمت صفر کوچک می کند; کمند تمایل به ارائه مجموعه ای از ضرایب رگرسیون صفر دارد و منجر به یک راه حل پراکنده می شود. توجه داشته باشید که هم برای رگرسیون پشته و هم برای کمند، ضرایب رگرسیون می توانند از مقادیر مثبت به مقادیر منفی حرکت کنند، زیرا به سمت صفر کوچک می شوند.

آیا ضرایب کمند سوگیری دارند؟

… انقباض کمند باعث می شود که تخمین ضرایب غیر صفر به سمت صفرمنحرف شود و به طور کلی سازگار نباشند [نکته اضافه شده: این بدان معناست که، همانطور که اندازه نمونه رشد می کند، تخمین های ضریب همگرا نمی شوند].

توصیه شده: