本文摘抄自infoQ《2021年技术盘点与展望》
解读人工智能的2021:超大规模预训练模型爆发,自动驾驶迎来商业化前夜
AI 技术
人工智能大模型
深度学习框架
NLP
智能语音
col1 col2 col3 自动驾驶
知识图谱
2021 年度 AI 技术突破
人工智能预测蛋白质结构
AphaFold2“解锁”98%人类蛋白质组
RoseTTAFold 可十分钟内计算出蛋白质结构
其他研究进展
AI 技术 2021 年发展总结与展望
去年,GPT-3 横空出世,这个具有 1750 亿参数规模的预训练模型所表现出来的零样本与小样本学习能力刷新了人们的认知,也引爆了 2021 年 AI 大模型研究的热潮。
人工智能迈向“炼大模型”阶段
2021 年 1 月,Google 推出的 Switch Transformer 模型以高达 1.6 万亿的参数量打 破了 GPT-3 作为最大 AI 模型的统治地位,成为史上首个万亿级语言模型。
国内研究机构也不甘示弱。今年 6 月,北京智源人工智能研究院发布了超大规模智能 模型“悟道 2.0”,达到 1.75 万亿参数,超过 Switch Transformer 成为全球最大的预训 练模型。