大师论道,听屠可伟老师聊聊火爆全网的ChatGPT

发布者:韩文茜发布时间:2023-03-07浏览次数:273

大师论道,听屠可伟老师聊聊火爆全网的ChatGPT

31日晚,大道书院在学校公共报告厅举行了本学期第一场大师论道系列讲座,本次大师论道的主题是“ChatGPT的前世、今生与来世”,主讲人是信息学院的屠可伟教授,特邀主持人为上海科技大学副教务长、信息学院执行院长、大道书院Fellow虞晶怡教授。能够容纳370人的报告厅座无虚席,在讲坛开始之前同学们就已将偌大的报告厅坐满。


讲坛开始前,大道书院刘志杰院长上台致辞,介绍了大师论道系列讲座旨在把校内、校外的在各方面有建树的大师请到上科大为同学们分享新知识、新方法,希望同学们能通过与大师论道,培养人文修养、了解新技术、获得新知识,激发同学们的创新精神。 

此次讲座由虞晶怡院长主持,来自信息科学与技术学院的屠可伟老师受邀主讲此次讲座。虞晶怡院长在去年关于元宇宙的讲座中提到“在指数中生活”的概念,而随着ChatGPT的出现,今时今日我们已经站在了线性和指数的交点,即将迎来指数增长的爆发期。


屠可伟老师的演讲主要分为两部分。在第一部分,他主要讲解了ChatGPT背后的技术的发展,深入浅出地介绍了语言模型是如何通过引入注意力机制、transformerpretraining等重要的技术突破,逐渐具备了可行性。他还介绍了GPTGenerative Pretrained Transformer)的版本更迭与每一代GPT背后数据量的增长。


在第二部分,屠可伟老师重点讲述了ChatGPT的优缺点和未来可能的发展。他认为,ChatGPT具有很好的语言理解能力,可以回复流畅且有礼貌,知道很多常识,可以完成很多任务,但还存在很多不足,如对复杂句子的理解能力还是有一定缺陷、会有事实性错误、简单的数学也会出错等。

针对这些ChatGPT的不足之处,屠可伟老师解释道,ChatGPT终究只是个语言模型,它做的事情只是预测下一个单词。为了解释这一点,屠老师引入了下棋的例子,对比了专门针对下棋的AIChatGPT的区别。由此屠老师展开了如何改进ChatGPT的讨论,一方面提出大模型+大数据可能是强AI所必需的因素,另一方面展望了结合任务模块、融入领域知识、升级模型构架等未来可能的改进方向。


屠老师认为,ChatGPT可能是有史以来最接近于强人工智能的人工智能系统。他还表示,人工智能的研究如今已经进入了基于超大模型的重工业时代,需要耗费巨大的财力人力和计算资源。因此,人工智能的研究已经站在了十字路口上,学术界是该拥抱大模型,还是专注理论研究或边缘研究,亦或是关注大模型的轻量级组件,是值得思考的问题。而在社会层面,ChatGPT可能会逐步取代像文书工作和数据整理这样的轻量级脑力劳动,预示着新一轮工业革命的开端。

最后,到场的同学们也积极地参与了提问。学生们询问了很多极有价值的问题,如“如何看待中国版ChatGPT的研发”、“如何弥补中文语料和英文语料之间的差距”、“ChatGPT的问世对半导体、芯片行业的影响”、“对于AI来说是逻辑重要还是经验重要”。


本次大师论道参与人数众多,吸引了来自不同书院、学院,不同年级同学们的热烈反响,深受大家的喜爱与认可。


 

撰稿:白芸上 韩文茜

摄影:白芸上