关于我
我叫张博航,目前是北京大学博士五年级学生,导师是 王立威 教授。我也与 贺笛 教授紧密合作。在此之前,我就读于西安交通大学少年班,专业为计算机科学。
我的主要研究方向是机器学习中重要的基础性问题,尤其是神经网络表达能力。从计算机科学的角度出发,我的工作提供了对现有基础深度学习模型和算法优缺点的深入洞察,并以此来设计新的(有理论保证的更优)模型/算法。当前我的研究兴趣包含以下几个方面:
- 理解大型语言模型(LLM)在复杂推理中的能力和局限性
- 分析图神经网络的表达能力,指导应如何设计图神经网络架构使其能够有效表示所需的图结构信息。
- 设计具有可验证鲁棒性的Lipschitz神经网络,即在面对对抗攻击下具有可证明的鲁棒性。
- 在之前的研究中,我也对设计和分析高效神经网络训练所需的优化算法感兴趣。
📝 已发表论文
* 表示共同第一作者。详情见论文列表。
- Beyond Weisfeiler-Lehman: A Quantitative Framework for GNN Expressiveness.
张博航*, 盖景初*, 杜逸恒, 叶启威, 贺笛, 王立威. In ICLR 2024. [Code]
(Oral Presentation, 接受率仅1.2%) - Towards Revealing the Mystery behind Chain of Thought: A Theoretical Perspective.
冯古豪*, 张博航*, 古云天*, 叶皓天*, 贺笛, 王立威. 发表于 NeurIPS 2023. [代码]
(Oral Presentation,接受率仅0.6%) - A Complete Expressiveness Hierarchy for Subgraph GNNs via Subgraph Weisfeiler-Lehman Tests.
张博航, 冯古豪*, 杜逸恒*, 贺笛, 王立威. 发表于 ICML 2023. [代码] - Rethinking the Expressive Power of GNNs via Graph Biconnectivity.
张博航*, 罗胜杰*, 王立威, 贺笛. 发表于 ICLR 2023. [代码]
(荣获杰出论文奖, 获奖率仅4/4966) - Finding Generalization Measures by Contrasting Signal and Noise.
滕佳烨*, 张博航*, 李瑞晨*, 何昊伟*, 王业全, 田燕, 袁洋. 发表于 ICML 2023. - Rethinking Lipschitz Neural Networks and Certified Robustness: A Boolean Function Perspective.
张博航, 姜度, 贺笛, 王立威. 发表于 NeurIPS 2022. [代码]
(Oral Presentation,接受率仅1.7%) - Boosting the Certified Robustness of L-infinity Distance Nets.
张博航, 姜度, 贺笛, 王立威. 发表于 ICLR 2022. [代码] - Towards Certifying L-infinity Robustness using Neural Networks with L-inf-dist Neurons.
张博航, 蔡天乐, 陆洲, 贺笛, 王立威. 发表于 ICML 2021 (Spotlight). [代码] - Non-convex Distributionally Robust Optimization: Non-asymptotic Analysis.
金及凯*, 张博航*, 汪海洋, 王立威. 发表于 NeurIPS 2021. - Improved Analysis of Clipping Algorithms for Non-convex Optimization.
张博航*, 金及凯*, 方聪, 王立威. 发表于 NeurIPS 2020. [代码]
🎖 部分荣誉
- 机器学习国际顶会 ICLR 2023 杰出论文奖 (获奖率4/4966). [链接]
- 字节奖学金, 2023. [链接] [证书]
- 北京大学校长奖学金, 2019-2020, 2020-2021, 2021-2022, 2022-2023, 2023-2024. 每年授予北京大学智能学院同级一名学生.
- ACM ICPC 世界总决赛选手 (排名 41/135), 葡萄牙波尔图, 2019. [证书][证书]
- ACM ICPC 东亚大陆决赛 金牌 (排名 8/382), 中国西安, 2018. [证书][证书]
- ACM ICPC 季军 (金牌, 排名 4/298), 中国焦作, 2018. [证书]
- 全校十大学生标兵 (排名 2/10), 2019. 每年授予西安交通大学全校共十名本科学生.
💬 受邀报告
- Towards Revealing the Mystery behind Chain of Thought: A Theoretical Perspective.
- Understanding and Improving the Expressivity of Subgraph GNNs.
- Rethinking the Expressive Power of GNNs via Graph Biconnectivity.
- Understanding and Improving Expressive Power of GNNs: Distance, Biconnectivity, and WL Tests.
- 2023.3.16. 由来自 以色列理工学院 的 Haggai Maron 教授主持. [幻灯片]
- Rethinking Lipschitz Neural Networks and Certified Robustness: A Boolean Function Perspective.
- Non-convex Distributionally Robust Optimization: Non-asymptotic Analysis.
- Analyzing and Understanding Gradient Clipping in Non-Convex Optimization.