学术报告:悟道——超大规模预训练模型

报告时间:2021年09月24日,13:00-14:20

报告地点:北京交通大学思源东楼106

报告摘要:

从击败人类国际象棋冠军的“深蓝”,到围棋冠军AlphaGo;从图像分类取得跨越式突破的AlexNet,到语言理解和生成能力在特定场景堪比人类的GPT-3模型,AI历经符号智能、感知智能,目前进入认知智能时代。以BERT和GPT为代表的预训练模型取得了较大进展,但仍然面临诸多挑战:(1)对于复杂的认知推理任务例如开放对话、知识问答、可控文本生成等,仍与人类智能有较大差距;(2)代表性进展主要基于英文、发源于美国机构,在中文领域、国内技术体系内,仍然缺少原创、超大规模、具备技术先进性的预训练工作。我们致力于研究面向认知的超大规模新型预训练模型,旨在探索大规模自监督预训练模型,增强模型的认知推理能力,建立超越图灵测试的通用机器认知能力,让机器像人一样“思考”。

报告嘉宾:

唐杰(IEEE Fellow),清华大学计算机系教授、系副主任,获国家杰青、王选杰青奖。研究人工智能、认知图谱、数据挖掘、社交网络和机器学习。发表论文400余篇,引用19000余次,获ACM SIGKDD Test-of-Time Award(十年最佳论文)。主持研发了研究者社会网络挖掘系统AMiner,吸引全球220个国家/地区2000多万用户。担任国际期刊IEEE T.on Big Data、AI OPEN主编以及WWW'21、CIKM'16、WSDM'15的PC Chair。获国家科技进步二等奖、北京市科技进步一等奖、北京市专利奖一等奖、人工智能学会科技进步一等奖、KDD杰出贡献奖。