“生成式人工智能基础研究”专项项目申请指南
生成式人工智能正在成为信息化、数字化、智能化的新型技术基座,特别是以大语言模型为代表的生成模型拥有强大的知识编码和储存能力、文本和代码理解及生成能力,以及复杂任务的推理能力,被认为是有可能实现通用人工智能的技术路线之一,有望成为推动新一轮科技变革、经济发展的重要技术,对科学和社会产生深远的影响。
当前,生成式人工智能正处于快速变革和更新迭代的关键时期,面临智能涌现基础理论机理不明、计算成本高昂、生成内容安全性有待提高、自动评价困难等挑战,开展新型高效可信大模型相关研究尤为重要。在生成式人工智能的基础理论创新、关键技术突破上布局,牵引系统性原创性的基础研究,从预训练数据治理、对齐策略、知识增强等不同层面提高模型全周期安全,推动生成式人工智能技术的发展和应用,对于提升国家战略地位和国际竞争力具有重要意义。
一、科学目标
本专项探索大模型的智能涌现机制并提高其处理复杂任务的能力,努力解决生成内容中存在的安全可信问题,探索大模型的知识融合和创新性应用,增强用户体验并推动新技术的发展。
二、资助研究方向
面向生成式人工智能的前沿科学方向和国家重大战略需求,针对当前技术瓶颈和挑战,从“理论机理-架构设计-计算效率-安全对齐-评价方法-典型应用”六个层面开展研究,重点研究高效可信模型的基础理论和关键技术。本专项拟资助以下研究方向:
(一)生成式模型的智能涌现机理研究。
针对生成式人工智能中的智能涌现、情景学习、指令微调以及思维链等能力,设计有效分析工具以探索其数理机理,并在此基础上进一步提升模型的泛化性、多步推理及复杂任务分解等能力。
(二)面向生成式模型的新型高效神经网络架构研究。
针对生成式人工智能中的Transformer架构复杂度问题,研究高效模型架构和跨模态统一架构,优化自注意力等主要模块,提高长序列、多模态等场景下的模型处理能力和效率,探索非Transformer的高效架构、可重组模块化架构等新型架构设计方法。
(三)大模型的高效训练和推理方法研究。
研究各种规模(尤其是在低算力资源配置,或者百亿、千亿级参数以上模型)大模型的通用高效训练和推理方法,提出适配国产软硬件的低通信、高并发的分布式训练算法,提升低资源条件下模型推理效率,探索模型云边端协同推理机制,确保性能和响应速度。
(四)大模型的价值观和安全对齐策略研究。
研究符合人类价值观偏好的可持续、高泛化、强对抗的大模型对齐技术,实现安全伦理和认知推理能力的对齐和超越,提升大模型应用的无害性和有效性,增强大模型安全伦理价值观对齐算法的训练高稳定性和应用可靠性。
(五)生成式模型的自动评价方法研究。
针对模型生成内容的评价困难问题,研究生成内容的多维度自动评价方法,在事实准确性、有用性、逻辑性、安全无害性、指令遵循能力、长文档处理能力等维度构建评价标准以及相应的评价数据集。
(六)生成式人工智能的行业、专业模型研究。
针对生成式人工智能技术在金融、教育、医疗、科学等领域的应用挑战,研究领域预训练和领域指令微调方法,构建融合领域知识的增强模型,探索突破性的生成式人工智能应用。
三、资助计划
拟资助项目6项,资助强度为50万元/项。资助期限为1年,申请书中研究期限应填写“2024年3月1日-2025年2月28日”。
四、申请要求及注意事项
(一)申请资格。
1. 具有承担基础研究课题的经历;
2. 具有高级专业技术职务(职称)。
在站博士后研究人员、正在攻读研究生学位以及无工作单位或者所在单位不是依托单位的人员不得作为申请人进行申请。
(二)限项申请规定。
1. 本专项不计入申请和承担项目总数范围。
2. 申请人同年只能申请1项本专项的研究项目。
(三)申请注意事项。
1. 专项项目实行无纸化申请。申请书提交时间为2024年1月18日-1月22日16时。
2. 申请人注意事项。
(1)申请人在填报申请书前,应当认真阅读本专项指南和《2023年度国家自然科学基金项目指南》的相关内容,不符合项目指南和相关要求的申请项目不予受理。
(2)本专项旨在紧密围绕核心科学问题,集中国内优势研究团队进行研究,成为一个专项项目群。申请人应根据本专项拟解决的具体科学问题和项目指南公布的拟资助研究方向,自行拟定项目名称、科学目标、研究内容、关键科学问题、技术路线和相应的研究经费等。
(3)申请人登录科学基金网络信息系统http://grants.nsfc.gov.cn/(没有系统账号的申请人请向依托单位基金管理联系人申请开户),按照撰写提纲及相关要求撰写申请书。
(4)申请书中的资助类别选择“专项项目”,亚类说明选择“研究项目”,附注说明选择“科学部综合研究项目”,(申请代码1应当按照拟资助研究方向要求选择信息科学部F02、F06下属申请代码。以上选择不准确或未选择的项目申请将不予受理)。
(5)请按照“专项项目-研究项目申请书撰写提纲”撰写申请书,请在申请书正文开头注明“生成式人工智能基础研究:XXX(填写拟资助的6个研究方向之一)”。
申请书应突出有限目标和重点突破,明确对实现本专项总体科学目标和解决核心科学问题的贡献。
如果申请人已经承担与本专项相关的其他科技计划项目,应当在申请书正文的“研究基础与工作条件”部分论述申请项目与其他相关项目的区别与联系。
(6)申请人应当严格按照《国家自然科学基金资助项目资金管理办法》等相关规定和《国家自然科学基金项目资金预算表编制说明》的具体要求,按照“目标相关性、政策相符性、经济合理性”的基本原则,认真编制《国家自然科学基金项目预算表》。
3. 依托单位注意事项。
(1)依托单位应对本单位申请人所提交申请材料的真实性、完整性和合规性进行审核;对申请人编制预算的目标相关性、政策相符性和经济合理性进行审核。
(2)应在规定的项目申请截止日期前通过信息系统逐项确认提交本单位电子申请书及附件材料,无需报送纸质申请书。项目获批准后,将申请书的纸质签字盖章页装订在《资助项目计划书》最后,一并提交。签字盖章的信息应与电子申请书严格保持一致。
(3)如依托单位在2024年度未上传过《2024年度国家自然科学基金项目申请承诺书》(以下简称《承诺书》),应从信息系统中下载《承诺书》,由法定代表人亲笔签名并加盖依托单位公章后,将电子扫描件上传至信息系统(本年度只需上传一次)。依托单位完成上述承诺程序后方可提交申请。
(4)依托单位在项目申请截止时间后24小时内,通过信息系统在线提交本单位项目申请清单。清单提交后,自然科学基金委方可接收项目申请材料。
4. 本专项咨询方式。
国家自然科学基金委员会信息科学部二处
联系人:吴国政 王志衡 谢国
联系电话:010-62327929 010-62327807 010-62327090
(四)其他注意事项。
1. 为实现专项总体科学目标,获得资助的项目负责人应当在项目执行过程中关注与本专项其他项目之间的相互支撑关系。
2. 为加强项目之间的学术交流,本专项将设专项项目管理协调组,并将不定期地组织相关领域的学术研讨会。获资助项目负责人必须参加上述学术交流活动,并认真开展学术交流。