发布时间：2022-07-31 | 来源：中国系统工程学会
2022年7月28日下午，中国系统工程学会新时代系统工程大讲堂第六期以腾讯会议与B站直播方式举办。唐锡晋秘书长在直播现场首先致辞，介绍了新时代系统工程大讲堂活动的开办宗旨，邀请清华大学人工智能国际治理研究院承办本次大讲堂的演进过程以及本次大讲堂的主持人，清华大学交叉信息研究院助理教授、I-AIIG国际交流项目主任于洋博士。本次大讲堂的主题为“可信智能与算法监管系统工程”， 于洋博士就算法系统嵌入社会系统，与嘉宾来自清华大学计算机系崔鹏博士探讨了算法系统的可信和可解释性之间的关系，因果推断与可信人工智能之间的关系等相关问题的答案。
于洋从什么是可信智能、可信智能监管的理论及技术可行性、人工智能如何学习因果机制才能变得可信等方面提问，并通过观众提问的方式与崔鹏讨论了如何基于因果分析和系统控制的基本思想形成支撑可信智能框架的问题。崔鹏表示，如果人工智能的可信问题不能够解决，其应用场景可能仍会被限制在互联网领域，而在医疗、军事等风险敏感型领域无法形成有效应用。最近几年人工智能的研究路径越来越多样化，但目前还没有形成关于人工智能的可信性可解释性之间关系的确定定义，需要进一步的研究和解决。从因果推断与可信人工智能之间的关系来看，不应该将因果的哲学性问题扩大化，需要更多的聚焦到因果推断的可用性、功能性，从而帮助到人工智能在实际应用中的发展。
对谈结合了腾讯会议中的听众的提问，直播时间很快流逝，两位老师意犹未尽。最后于洋总结道：从算法监管角度来看，人工智能技术与工业时代产生的技术存在本质差别，其算法监管系统同工业时代的一些监管系统有所不同，本身具有其独特性，在借鉴之前已有的监管系统形成思路之上，我们也需要有一定的开放性监管思维去思考如何建立系统的算法监管体系。
本次大讲堂视频已上传到B站中国系统工程学会账号，地址为：
