关于我
我叫张博航，北京大学博士毕业生，导师是 王立威 教授。我也与 贺笛 教授紧密合作。在此之前，我就读于 西安交通大学少年班 ，专业为计算机科学。
我的主要研究方向是机器学习中重要的基础性问题，例如神经网络表达能力、鲁棒性、以及优化。我的工作从理论和算法的角度（通常以计算机科学的视角）对基本深度学习模型和算法的优缺点提供见解，并在此基础上设计新的（可证明更优的）模型/算法。我以第一作者身份发表的论文获得了 ICLR 2023杰出论文奖 和 ICLR 2024杰出论文奖荣誉提名。我的博士论文被评为北京大学优秀博士论文。
以下是我从事的几个研究领域：
- 理解大型语言模型（LLM）在复杂推理中的能力和局限性；
- 分析图神经网络的表达能力，指导应如何设计图神经网络架构使其能够有效表示所需的图结构信息；
- 设计具有可验证鲁棒性的Lipschitz神经网络，即在面对对抗攻击下具有可证明的鲁棒性；
- 设计和分析高效神经网络训练所需的优化算法。
📝 已发表论文
* 表示共同第一作者。详情见论文列表。
- On the Expressive Power of Spectral Invariant Graph Neural Networks.
张博航, 赵凌霄, Haggai Maron. 发表于 ICML 2024. [代码] - Do Efficient Transformers Really Save Computation.
杨铠, Jan Ackermann, 何震宇, 冯古豪, 张博航, 冯韫禛, 叶启威, 贺笛, 王立威. 发表于 ICML 2024. - Beyond Weisfeiler-Lehman: A Quantitative Framework for GNN Expressiveness.
张博航*, 盖景初*, 杜逸恒, 叶启威, 贺笛, 王立威. 发表于 ICLR 2024. [代码]
(荣获杰出论文奖荣誉提名, 获奖率仅0.23%) - Towards Revealing the Mystery behind Chain of Thought: A Theoretical Perspective.
冯古豪*, 张博航*, 古云天*, 叶皓天*, 贺笛, 王立威. 发表于 NeurIPS 2023. [代码]
(Oral Presentation，接受率仅0.6%) - A Complete Expressiveness Hierarchy for Subgraph GNNs via Subgraph Weisfeiler-Lehman Tests.
张博航, 冯古豪*, 杜逸恒*, 贺笛, 王立威. 发表于 ICML 2023. [代码] - Rethinking the Expressive Power of GNNs via Graph Biconnectivity.
张博航*, 罗胜杰*, 王立威, 贺笛. 发表于 ICLR 2023. [代码]
(荣获杰出论文奖, 获奖率仅4/4966) - Finding Generalization Measures by Contrasting Signal and Noise.
滕佳烨*, 张博航*, 李瑞晨*, 何昊伟*, 王业全, 田燕, 袁洋. 发表于 ICML 2023. - Rethinking Lipschitz Neural Networks and Certified Robustness: A Boolean Function Perspective.
张博航, 姜度, 贺笛, 王立威. 发表于 NeurIPS 2022. [代码]
(Oral Presentation，接受率仅1.7%) - Boosting the Certified Robustness of L-infinity Distance Nets.
张博航, 姜度, 贺笛, 王立威. 发表于 ICLR 2022. [代码] - Towards Certifying L-infinity Robustness using Neural Networks with L-inf-dist Neurons.
张博航, 蔡天乐, 陆洲, 贺笛, 王立威. 发表于 ICML 2021 (Spotlight). [代码] - Non-convex Distributionally Robust Optimization: Non-asymptotic Analysis.
金及凯*, 张博航*, 汪海洋, 王立威. 发表于 NeurIPS 2021. - Improved Analysis of Clipping Algorithms for Non-convex Optimization.
张博航*, 金及凯*, 方聪, 王立威. 发表于 NeurIPS 2020. [代码]
🎖 部分荣誉
- 机器学习国际顶会 ICLR 2023 杰出论文奖 (获奖率 4/4966). [链接] [证书]
- 机器学习国际顶会 ICLR 2024 杰出论文奖荣誉提名 (获奖率 17/7262). [链接] [证书]
- 优秀博士学位论文, 2024. 每年授予北京大学全校约3%的博士毕业生.
- 字节跳动奖学金, 2023. 每年授予中国约10名学生. [链接] [证书]
- 北京大学校长奖学金, 2019-2020, 2020-2021, 2021-2022, 2022-2023, 2023-2024. 每年授予北京大学智能学院同级一名学生. [证书] [证书] [证书] [证书] [证书]
- ACM ICPC 世界总决赛选手 (排名 41/135), 葡萄牙波尔图, 2019. [证书][证书]
- 北京市优秀博士毕业生, 2024.
- ACM ICPC 东亚大陆决赛 金牌 (排名 8/382), 中国西安, 2018. [证书][证书]
- ACM ICPC 季军 (金牌, 排名 4/298), 中国焦作, 2018. [证书]
- 全校十大学生标兵 (排名 2/10), 2019. 每年授予西安交通大学全校共十名本科学生.
💬 受邀报告
- Beyond Weisfeiler-Lehman: A Quantitative Framework for GNN Expressiveness.
- 2023.6.27. 由 AI Time 举办. [新闻] [幻灯片]
- 2023.7.9. 由来自 亚琛工业大学 的 Christopher Morris 教授和 Luis Müller 主持. [幻灯片]
- 2023.7.19. 由 FAI Seminar 举办. [新闻] [幻灯片]
- 2023.7.21. 由 CCF 理论计算机科学年会举办. [Handbook] [幻灯片]
- Towards Revealing the Mystery behind Chain of Thought: A Theoretical Perspective.
- Understanding and Improving the Expressivity of Subgraph GNNs.
- Rethinking the Expressive Power of GNNs via Graph Biconnectivity.
- Understanding and Improving Expressive Power of GNNs: Distance, Biconnectivity, and WL Tests.
- 2023.3.16. 由来自 以色列理工学院 的 Haggai Maron 教授主持. [幻灯片]
- Rethinking Lipschitz Neural Networks and Certified Robustness: A Boolean Function Perspective.
- Non-convex Distributionally Robust Optimization: Non-asymptotic Analysis.
- Analyzing and Understanding Gradient Clipping in Non-Convex Optimization.
