摘要： 
在機器學習，尤其是涉及異構數(shù)據(jù)的遷移學習/聯(lián)邦學習中，我們常常會涉及互信息相關的優(yōu)化項，我上半年的第一份工作也是致力于此。其思想雖然簡單，但其具體的估計與優(yōu)化手段而言卻大有門道，我們今天來好好總結一下，也算是對我研一下學期一個收尾。為了解決互信息估計的的難解性，我們的方法是不直接對互信息進行估計，而是采用變分近似的手段，來得出互信息的下界/上界做為近似，轉而對互信息的下界/上界進行最大化/最小化。 閱讀全文
在機器學習，尤其是涉及異構數(shù)據(jù)的遷移學習/聯(lián)邦學習中，我們常常會涉及互信息相關的優(yōu)化項，我上半年的第一份工作也是致力于此。其思想雖然簡單，但其具體的估計與優(yōu)化手段而言卻大有門道，我們今天來好好總結一下，也算是對我研一下學期一個收尾。為了解決互信息估計的的難解性，我們的方法是不直接對互信息進行估計，而是采用變分近似的手段，來得出互信息的下界/上界做為近似，轉而對互信息的下界/上界進行最大化/最小化。 閱讀全文
posted @ 2023-09-21 00:22
orion-orion
閱讀(3406)
評論(6)
推薦(3)
浙公網安備 33010602011771號