報告題目:求解線性系統的自適應隨機重球動量方法
報告專家:謝家新 北京航空航天大學
報告地點:騰訊會議(會議號:696551138; 密碼:230619)
報告時間:2023-6-19, 14:30-15:30
報告摘要:
隨機重球動量(簡稱為SHBM)算法已成為一種具有可擴展性的解決大規模優化問題的方法。然而,該方法的一個局限性在于其依賴于某些問題參數的先驗信息,如矩陣的奇異值等。在本次報告中,我們將介紹一種自適應的SHBM(簡稱為ASHBM)方法,用于解決使用用戶定義分布從線性系統重構的隨機問題。ASHBM方法利用迭代信息來更新參數,解決了關于動量參數自適應學習文獻中的一個開放性問題。我們證明了ASHBM方法在期望意義下線性收斂,其收斂速度比基本方法更快。值得注意的是,ASHBM方法的確定性形式可以被看成是共軛梯度(簡稱為CG)方法的一個變體,繼承了CG方法許多吸引人的特性,如在有限時間里收斂。因此,可以對ASHBM方法做進一步推廣,建立一種全新的求解線性系統的隨機共軛梯度(簡稱為SCG)方法的框架。我們的理論結果得到了數值實驗的支持。本研究是與韓德仁教授、曾韻和蘇宴生的合作, arXiv鏈接:https://arxiv.org/abs/2305.05482.
報告人簡介:
謝家新, 北京航空航天大學數學科學學院副研究員, 碩士生導師, 中國運籌學會數學規劃分會青年理事。2012年和2017年于湖南大學數學學院分別獲得學士和博士學位, 2017-2019年于中國科學院數學與系統科學研究院從事博士后研究, 合作導師許志強研究員。研究興趣為數據科學中的數學問題, 特別是壓縮感知、隨機優化算法和子集選擇等問題。主持北航青年拔尖計劃和國家自然科學基金青年等項目。
作者:吳念慈;編輯:胡軍浩;審核:胡軍浩;上傳:郭敏。