科学技术评价方法及PPT课件.ppt

1、1科学技术评价方法及科学技术评价方法及主要国家的做法主要国家的做法 20042004年年1212月月2内容提要内容提要一、引一、引 言言二、什么是科学技术评价二、什么是科学技术评价三、为什么要开展科学技术评价三、为什么要开展科学技术评价四、科学技术评价方法及其应用四、科学技术评价方法及其应用五、主要国家科技评价的做法五、主要国家科技评价的做法六、几点启示六、几点启示3一、引一、引 言言 科学技术评价活动在科学技术发展的不同历史时期具有科学技术评价活动在科学技术发展的不同历史时期具有不同的特征。不同的特征。 在近代科学技术发展的早期，由科学家个人兴在近代科学技术发展的早期，由科学家个人兴趣和好奇

2、心驱动的自由探索研究成为科学技术活动的主要形趣和好奇心驱动的自由探索研究成为科学技术活动的主要形式，科研活动主要依靠自筹资金、社会资助和权贵的捐助，式，科研活动主要依靠自筹资金、社会资助和权贵的捐助，政府的投入很少。科技活动的文化属性突出。政府的投入很少。科技活动的文化属性突出。科学技术评价科学技术评价主要限于科学共同体内部的学术评价和对科学家重大科学发主要限于科学共同体内部的学术评价和对科学家重大科学发现的优先权的识别现的优先权的识别，评价的目的在于，评价的目的在于促进学术交流、建立科促进学术交流、建立科学规范、引导研究方向学规范、引导研究方向。 4一、引一、引 言言 2020世纪以来，人类

3、的科学技术活动进入世纪以来，人类的科学技术活动进入“大科学大科学”时代，时代，科学技术在国家经济、社会和安全中的战略地位日益凸现科学技术在国家经济、社会和安全中的战略地位日益凸现,成为第一生产力。特别是二战以后，发展科学技术成为国家成为第一生产力。特别是二战以后，发展科学技术成为国家战略和国家政策的重要方面。科技活动的文化属性和生产力战略和国家政策的重要方面。科技活动的文化属性和生产力属性并重。政府对科学技术活动的宏观引导与组织管理不断属性并重。政府对科学技术活动的宏观引导与组织管理不断加强，对科学研究的投入不断加大。加强，对科学研究的投入不断加大。科学技术评价不仅限于科学技术评价不仅限于科学

4、共同体内部的学术评价机制，也成为政府制定科技政策、科学共同体内部的学术评价机制，也成为政府制定科技政策、配置科技资源和实施有效管理的重要行为（手段）。配置科技资源和实施有效管理的重要行为（手段）。 5科技活动的本质规律对评价的要求科技活动的本质规律对评价的要求共同理念自由发展物质资源-精神产品水平、质量、精品方针、政策引导个人创造与灵感观念观念过程过程环境环境成果成果组织组织共同目标严格管理物质财富循环增值效益、数量、规模制度规范团队精神与合作等文文化化活活动动生生产产活活动动 科学技术工作是集生产力和文化属性为一体的活动科学技术工作是集生产力和文化属性为一体的活动6科技活动的本质规律对评价的

5、要求科技活动的本质规律对评价的要求n科技评价的困难在于：科技评价的困难在于： 需要寻找一种能兼顾生产力评价和文化评价需要寻找一种能兼顾生产力评价和文化评价为一体的方法。为一体的方法。7二、什么是科学技术评价二、什么是科学技术评价q概念内涵概念内涵 科学技术评价是对科学技术活动及其产出和影响的科学技术评价是对科学技术活动及其产出和影响的价值价值进行判断的进行判断的认识活动认识活动。 科学技术评价既是科学共同体和科学技术发展内在的、科学技术评价既是科学共同体和科学技术发展内在的、基本的学术评价机制，也是科学技术管理的工具，是对科学基本的学术评价机制，也是科学技术管理的工具，是对科学技术活动进行预测

6、、规划、决策、管理、监督的手段。技术活动进行预测、规划、决策、管理、监督的手段。 8二、什么是科学技术评价二、什么是科学技术评价科学技术评价分类科学技术评价分类q按科技活动阶段：事前评价、事中评价、事后评价。按科技活动阶段：事前评价、事中评价、事后评价。q按评价目按评价目的的：立项评审、中期评估、结题验收、绩效评价。：立项评审、中期评估、结题验收、绩效评价。q按评价对象：政策评价、计划评价、项目评价、机构评价、按评价对象：政策评价、计划评价、项目评价、机构评价、人员评价、成果评价等。人员评价、成果评价等。q按评价方法：定性评价、定量评价、综合评价等。按评价方法：定性评价、定量评价、综合评价等。

7、q按评价执行方：内部评价、外部评价。按评价执行方：内部评价、外部评价。9二、什么是科学技术评价二、什么是科学技术评价科学技术评价的原则科学技术评价的原则q科学性科学性q独立独立性性 q客观客观性性( (注意客观与主观的统一注意客观与主观的统一, ,反映事物的本质属性反映事物的本质属性) ) q公正公正性性q国际性国际性 q实效性实效性q公开性公开性10三、为什么要开展科学技术评价三、为什么要开展科学技术评价 科学技术评价的需求：科学技术评价的需求：q优化配置政府科技资源；优化配置政府科技资源；q提高政府科技决策与管理的科学化水平；提高政府科技决策与管理的科学化水平；q提高科研工作的效率和质量（

8、引入竞争激励机制）；提高科研工作的效率和质量（引入竞争激励机制）； q促进科学发展目标与国家目标紧密结合（政策引导）；促进科学发展目标与国家目标紧密结合（政策引导）； q营造有利于原始性创新的环境和文化；营造有利于原始性创新的环境和文化； q向公众向公众“交帐交帐”和说明公共资金使用效果（赢得公众的支和说明公共资金使用效果（赢得公众的支持、预算制度改革的要求）。持、预算制度改革的要求）。 11四、科学技术评价方法及其应用四、科学技术评价方法及其应用q定性评价定性评价 ：同行评议法、回溯和案例评价法同行评议法、回溯和案例评价法q定量评价定量评价 ：文献计量法、经济计量法文献计量法、经济计量法q综

9、合评价：多指标综合评价法、综合评价：多指标综合评价法、 定标比超法定标比超法121 1、同行评议方法、同行评议方法( (制度制度) ) 同行评议（同行评议（peer reviewpeer review）是充分依靠科学家群体对科学是充分依靠科学家群体对科学技术活动（包括科研活动、科研资助、科研管理等）进行技术活动（包括科研活动、科研资助、科研管理等）进行民主管理的一种方法（或制度）。民主管理的一种方法（或制度）。 具体而言，同行评议是指某一领域或与其邻近领域的专具体而言，同行评议是指某一领域或与其邻近领域的专家采用同一种评价标准，共同对涉及相关领域的某一事项家采用同一种评价标准，共同对涉及相关领

10、域的某一事项进行独立的价值评议的过程进行独立的价值评议的过程，其评价结果为有关部门的决，其评价结果为有关部门的决策提供依据。策提供依据。 131 1、同行评议方法、同行评议方法( (制度制度) )q同行评议是科技评价中应用最广泛和可信度较高的评价方同行评议是科技评价中应用最广泛和可信度较高的评价方法，尤其是对用定量方法难以测度和判断的科研活动的法，尤其是对用定量方法难以测度和判断的科研活动的价价值评估值评估(merit review)(merit review)，具有其他方法不可替代的优势。，具有其他方法不可替代的优势。 美国经济发展委员会美国经济发展委员会 ：“美国基础研究体系的一个基美国基

11、础研究体系的一个基本优势就是，通过一种认真和具有竞争性的同行评议过程本优势就是，通过一种认真和具有竞争性的同行评议过程来分配经费拨款。来分配经费拨款。” 美国国家科学技术理事会基础科学委员会：美国国家科学技术理事会基础科学委员会：“在对单在对单个政府部门当前计划的评审中，以同行评议为基础的价值个政府部门当前计划的评审中，以同行评议为基础的价值评价将继续是主要工具。评价将继续是主要工具。” ” 141 1、同行评议方法、同行评议方法( (制度制度) ) 美国美国GPRA确定的评价原则：确定的评价原则：“为确保世界级研究水为确保世界级研究水平而对科学事业进行管理，同行评议是基础平而对科学事业进行管

12、理，同行评议是基础。研究项目要由。研究项目要由专家来评定其价值，资金的配置也须以研究项目的科学价值专家来评定其价值，资金的配置也须以研究项目的科学价值为依据。潜在的科研项目和科研计划要根据知识前沿领域的为依据。潜在的科研项目和科研计划要根据知识前沿领域的卓越的研究活动的标准进行评价。同行评议的价值评估同样卓越的研究活动的标准进行评价。同行评议的价值评估同样可以被用来对一个机构的基础科学项目作回顾性评价。可以被用来对一个机构的基础科学项目作回顾性评价。151 1、同行评议方法、同行评议方法( (制度制度) )q同行评议广泛应用于各类科技评价活动：同行评议广泛应用于各类科技评价活动： 科学出版物（

13、论文、著作等）的评审科学出版物（论文、著作等）的评审 学位、荣誉和职称评定学位、荣誉和职称评定 科研项目评审科研项目评审 科研成果的验收与评奖科研成果的验收与评奖 科研机构评价科研机构评价 科技政策和科技计划评价科技政策和科技计划评价 q同行评议的方式：同行评议的方式： 通信评议（函评）；会议评审；函评通信评议（函评）；会议评审；函评+ +会评；会评； 现场评议。现场评议。161 1、同行评议方法（制度）、同行评议方法（制度）q同行评议法的优点：同行评议法的优点：价值评价价值评价q存在的缺陷：存在的缺陷： “ “熟人关系网熟人关系网” ” 崇尚权威崇尚权威 “ “马太效应马太效应” 不利于支持

14、创新性的非共识项目不利于支持创新性的非共识项目 剽窃行为剽窃行为17NIH申请研究资助的同行评议申请研究资助的同行评议 1、机构设置、机构设置 主任办公室主任办公室 18个专业研究所个专业研究所 4个综合研究中心、资源中心和图书馆个综合研究中心、资源中心和图书馆 3个临床医疗、信息技术服务和评估机构个临床医疗、信息技术服务和评估机构（科学评估中心（科学评估中心CSR） 182、NIH科学评估中心（科学评估中心（CSR） （1）设立三大综合评审组（临床与人口基础研究、生理系统、）设立三大综合评审组（临床与人口基础研究、生理系统、分子和细胞机理）和分子和细胞机理）和100多个专业评审组多个专业评审

15、组n集中受理申请集中受理申请n将项目申请分配给将项目申请分配给CSR的各专业评审组或研究所的学科评审的各专业评审组或研究所的学科评审组组n将潜在的资助项目申请分配给将潜在的资助项目申请分配给NIH的研究所的研究所n100多个专业评审组对提交的项目申请的多个专业评审组对提交的项目申请的科学创新价值科学创新价值进行进行评议评议 192、NIH科学评估中心（科学评估中心（CSR）（2）分配项目申请的依据）分配项目申请的依据 专业评审组基于专业评审组基于n每个专业评审组的评审指南每个专业评审组的评审指南 研究所基于研究所基于n研究所的使命研究所的使命n研究所的方向研究所的方向203、申请资助的双重评估

16、系统、申请资助的双重评估系统 （1）第一层次的评估（项目评价）第一层次的评估（项目评价） 专业评审组（专业评审组（SRG）n对申请资助项目的科学创新价值进行评议对申请资助项目的科学创新价值进行评议n对于是否予以资助和资助期限提出建议对于是否予以资助和资助期限提出建议（2）第二层次评估（管理和政策评价）第二层次评估（管理和政策评价） 国家咨询理事会（国家咨询理事会（NAC）n评估评估SRG对申请资助项目评议的质量对申请资助项目评议的质量n对对NIH项目官员提出资助建议项目官员提出资助建议n评估优先资助项目评估优先资助项目n提出政策建议提出政策建议21研究资助申请研究资助申请医学院或研究中心医学院

17、或研究中心 国立卫生研究院国立卫生研究院 科学评估中心科学评估中心 将申请分配给各专业评审组和研究所将申请分配给各专业评审组和研究所 创新研究思想创新研究思想 提交申请提交申请 专业评审组专业评审组 评估科学价值评估科学价值 研究所研究所 评估项目的可行性评估项目的可行性 咨询理事会和委员会咨询理事会和委员会 提出建议行动提出建议行动 研究所所长研究所所长 向向NIH主任提出最后决策建议主任提出最后决策建议 分配经费分配经费 执行研究执行研究 4、NIH研究资助的评议过程研究资助的评议过程 225、CSR的同行评议制度的同行评议制度 （1）CSR的同行评议的同行评议n各专业评审组由一位与该专业

18、密切相关的资深专家担任专业评审主管各专业评审组由一位与该专业密切相关的资深专家担任专业评审主管（SRA）n每一个专业评审组由每一个专业评审组由12-24名专家组成（主要来自学术界）名专家组成（主要来自学术界）n每一次专业评审组会议要评审约每一次专业评审组会议要评审约60-100个项目申请个项目申请（2）同行评议专家遴选标准）同行评议专家遴选标准n科学研究造诣深、专业水平高科学研究造诣深、专业水平高n博士学位或相当水平博士学位或相当水平n成熟的判断力成熟的判断力n工作成效显著工作成效显著n学术视野宽阔学术视野宽阔n公平公正公平公正n热心服务热心服务n妇女和少数民族的适当代表妇女和少数民族的适当代

19、表 235、CSR的同行评议制度的同行评议制度（3）无利益冲突的证明并签字（回避制度）无利益冲突的证明并签字（回避制度）n与申请者的关系：配偶、父母、儿女、合作者与申请者的关系：配偶、父母、儿女、合作者n担任过有关机构的官员、主任、理事、雇员或合作者担任过有关机构的官员、主任、理事、雇员或合作者n与有关机构进行过谈判或存在预期雇佣的有关协议及其他类似关系与有关机构进行过谈判或存在预期雇佣的有关协议及其他类似关系（4）保密制度）保密制度n评议材料和评审会会议录所反映的特殊信息仅供讨论和评议材料和评审会会议录所反映的特殊信息仅供讨论和NIH项目官员使项目官员使用用n在形成每次会议结论时，讨论材料要

20、销毁或反馈所有与评审有关的材料在形成每次会议结论时，讨论材料要销毁或反馈所有与评审有关的材料n除评审主管（除评审主管（SRA）外，讨论内容将不列入评审会议录）外，讨论内容将不列入评审会议录n评审过程中的有关问题应提交评审主管评审过程中的有关问题应提交评审主管246、专业评审组评审会专业评审组评审会 （1）评审标准）评审标准n科学意义科学意义：本研究能解决一项重要问题吗？能发展新的科学知识吗？：本研究能解决一项重要问题吗？能发展新的科学知识吗？n方法和路径方法和路径：设计思路和方法是否先进、可行？能解决遇到的问题吗？：设计思路和方法是否先进、可行？能解决遇到的问题吗？n创新创新：有无新颖的概念和

21、方法？其研究目标是原始创新吗？：有无新颖的概念和方法？其研究目标是原始创新吗？n主要成员主要成员：主要成员接受过良好的训练吗？：主要成员接受过良好的训练吗？n环境环境：现有条件能支持可能的成功吗？科研环境有独一无二的特点吗？：现有条件能支持可能的成功吗？科研环境有独一无二的特点吗？ （2）决定是否同意资助的要素）决定是否同意资助的要素n科学价值科学价值n项目实施的考虑项目实施的考虑n经费使用的合理性经费使用的合理性256、专业评审组评审会专业评审组评审会（3）专业评审组的行动）专业评审组的行动n对申请项目科学价值的优先等级给分（对申请项目科学价值的优先等级给分（1.0-3.0；百分制）；百分制

22、） 基于有关的评审标准，评审组首先判断该申请项目科学价值的等级在基于有关的评审标准，评审组首先判断该申请项目科学价值的等级在所有被评审项目的一半以上的行列，对请求的研究时间和资助经费提所有被评审项目的一半以上的行列，对请求的研究时间和资助经费提出建议，给出优先等级的评分，综合讨论中的意见和建议，给出评议出建议，给出优先等级的评分，综合讨论中的意见和建议，给出评议结论。结论。n不评分（一半以下）不评分（一半以下） 评审组成员全体一致认为该申请项目的科学价值的等级在所有被评审评审组成员全体一致认为该申请项目的科学价值的等级在所有被评审项目的一半以下的行列，就不予评分。项目的一半以下的行列，就不予评

23、分。通讯评议意见汇总后经评审组通讯评议意见汇总后经评审组审议反馈给申请者审议反馈给申请者。n延缓延缓 在没有附加信息的情况下，评审组无法给出推荐意见。当然，可以访在没有附加信息的情况下，评审组无法给出推荐意见。当然，可以访问该项目的有关网站，或由申请者提供补充材料。问该项目的有关网站，或由申请者提供补充材料。266、专业评审组评审会专业评审组评审会（4）专业评审组的后续行动）专业评审组的后续行动n按优先等级分数和百分数计算排序按优先等级分数和百分数计算排序n提供总结材料提供总结材料n对通过评审的申请项目，专业评审组要以书面的形式给出总结建议，希对通过评审的申请项目，专业评审组要以书面的形式给出

24、总结建议，希望研究所对该项目进行资助。望研究所对该项目进行资助。n书面总结建议一般包括：书面总结建议一般包括： 评议的概要和结论评议的概要和结论 原始的批评意见原始的批评意见 优先级评分和百分制评分排序优先级评分和百分制评分排序 预算建议预算建议 项目管理注意事项项目管理注意事项n移交国家咨询理事会作进一步考虑移交国家咨询理事会作进一步考虑277、国家咨询理事会的评议行动国家咨询理事会的评议行动 n同意专业评审组的意见同意专业评审组的意见n修改专业评审组的意见修改专业评审组的意见n对延缓的项目组织复审对延缓的项目组织复审28 同行评议的制度安排同行评议的制度安排 1、同行评议专家资格审查制度、

25、同行评议专家资格审查制度 是保证同行评议有效性的是保证同行评议有效性的基本前提基本前提n确定专家遴选标准确定专家遴选标准n同行或单位推荐同行或单位推荐n专家基本情况登记专家基本情况登记n专家资格审查专家资格审查n专家公示专家公示n专家入库专家入库29 同行评议的制度安排同行评议的制度安排2、建立同行评议专家库、建立同行评议专家库 为评价活动提供充足的、符合为评价活动提供充足的、符合要求的专家人选要求的专家人选n根据评价的需要确定专家数量规模根据评价的需要确定专家数量规模n专家信息的完整性专家信息的完整性n专家信息的动态跟踪与更新专家信息的动态跟踪与更新n专家评议信息记录专家评议信息记录n专家库

26、定期评估与动态更新制度专家库定期评估与动态更新制度n专家公示（尤其是评价委员会和专家组成员）专家公示（尤其是评价委员会和专家组成员）n专家库共享机制专家库共享机制30 同行评议的制度安排同行评议的制度安排3、评价专家遴选的随机原则、评价专家遴选的随机原则 避免人为因素干扰，保证遴避免人为因素干扰，保证遴选程序的公正性选程序的公正性n根据评价需要提出所需评价专家的特征信息根据评价需要提出所需评价专家的特征信息 （研究领域、专长、职称、年龄、地区、部门、机构等）（研究领域、专长、职称、年龄、地区、部门、机构等）n遵循相应规则在专家库中随机遴选遵循相应规则在专家库中随机遴选31 同行评议的制度安排同

27、行评议的制度安排4、评价专家定期更换制度、评价专家定期更换制度保证评价专家委员会（专家组）保证评价专家委员会（专家组）的权威性、公正性和代表性，避免相关利益关系对评价工作的权威性、公正性和代表性，避免相关利益关系对评价工作的影响的影响n实行任期制，定期更换实行任期制，定期更换n评价专家委员会（专家组）成员任期一般不超过两届评价专家委员会（专家组）成员任期一般不超过两届n在规定的届期内逐年按比例更换专家在规定的届期内逐年按比例更换专家32 同行评议的制度安排同行评议的制度安排5、评价专家回避制度、评价专家回避制度避免评价专家与被评价者之间的利益避免评价专家与被评价者之间的利益关系，保证评价的客观

28、、公正性关系，保证评价的客观、公正性n被评价者可以提出回避专家的名单，书面出据证据和理由被评价者可以提出回避专家的名单，书面出据证据和理由n评价专家保证与被评价者之间无利益冲突关系，并书面签字评价专家保证与被评价者之间无利益冲突关系，并书面签字6、评价意见反馈制度、评价意见反馈制度提高专家评价的客观、公正和科学性提高专家评价的客观、公正和科学性n被评价方具有知情权被评价方具有知情权n评价意见反馈给被评价的人员或单位评价意见反馈给被评价的人员或单位33 同行评议的制度安排同行评议的制度安排7、对评价意见的申诉制度、对评价意见的申诉制度加强对评价活动的监督制约机制加强对评价活动的监督制约机制n被评

29、价方对评价意见持有异议，可以向评价委托方或评价监督委员会提出被评价方对评价意见持有异议，可以向评价委托方或评价监督委员会提出申诉申诉n被评价方提供书面材料被评价方提供书面材料n评价监督委员会负责调查并做出仲裁评价监督委员会负责调查并做出仲裁8、评价专家信用制度、评价专家信用制度提高评价专家的责任感和信誉度，保证评价工作提高评价专家的责任感和信誉度，保证评价工作客观、公正客观、公正n跟踪记录评价专家的评价活动信息跟踪记录评价专家的评价活动信息n建立评价专家信用库建立评价专家信用库n定期在内部组织对评价专家信用的反评估定期在内部组织对评价专家信用的反评估n反评估结果为调整和更换专家提供依据反评估结

30、果为调整和更换专家提供依据34 同行评议的制度安排同行评议的制度安排9、国际评价机制、国际评价机制保证评价工作客观、公正，提高评价的质量和水平保证评价工作客观、公正，提高评价的质量和水平n建立海外评价专家库建立海外评价专家库n按合适比例邀请国际一流专家参与评价工作按合适比例邀请国际一流专家参与评价工作n注意国家安全和保密问题注意国家安全和保密问题10、对、对“非共识非共识”项目建立小额探索资助机制项目建立小额探索资助机制保证创新性保证创新性“非共识非共识”项项目的探索机会目的探索机会n识别识别“非共识非共识”项目项目n建立小额探索资助基金建立小额探索资助基金n评审专家署名推荐评审专家署名推荐n

31、项目主管提议，请个别专家复审项目主管提议，请个别专家复审n研究期限研究期限1-2年年 35 同行评议的制度安排同行评议的制度安排11、对申请项目的新构思实行、对申请项目的新构思实行“优先权优先权”制度制度避免剽窃行避免剽窃行为为n对申请项目的新构思实行对申请项目的新构思实行“优先权优先权”的书面备案的书面备案n保护申请人的原始性创新思想保护申请人的原始性创新思想362 2、案例与回溯评价法、案例与回溯评价法 q特点：特点： 对对关键事件或典型案例关键事件或典型案例进行回顾和剖析，分析导致关进行回顾和剖析，分析导致关键事件发生的科学内外部因素，分析研究工作环境和资助键事件发生的科学内外部因素，分

32、析研究工作环境和资助机制对取得重要成果的作用与影响，总结成功经验与不足，机制对取得重要成果的作用与影响，总结成功经验与不足，预见科研工作可能产生的影响，提高科学研究与科研管理预见科研工作可能产生的影响，提高科学研究与科研管理工作的显示度。工作的显示度。 372 2、案例与回溯评价法、案例与回溯评价法q优点：清晰描绘研究工作的关键事件及其价值，以及内外优点：清晰描绘研究工作的关键事件及其价值，以及内外因素对研究工作的影响。因素对研究工作的影响。q缺点：评价结果难以反映整体，结论不具普适性。缺点：评价结果难以反映整体，结论不具普适性。 成本高、研究周期长。成本高、研究周期长。q一般适用于投资周期长

33、、投资强度大的重大科技计划（项一般适用于投资周期长、投资强度大的重大科技计划（项目）、大科学工程以及科研机构的评价等。目）、大科学工程以及科研机构的评价等。382 2、案例与回溯评价法、案例与回溯评价法q应用：应用： 美国美国NSFNSF采用案例和回溯评价方法，定期展示基础研究的采用案例和回溯评价方法，定期展示基础研究的贡献。著名的评估工作有：贡献。著名的评估工作有： 19681968年，技术回溯与科学中的重大事件年，技术回溯与科学中的重大事件 1973 1973年，创新过程中科学与技术的相互作用年，创新过程中科学与技术的相互作用 1980 1980年，基础研究如何获得了意想不到的回报年，基础

34、研究如何获得了意想不到的回报393 3、文献计量评价法、文献计量评价法 q文献计量评价法是利用科学产出的文献计量指标的定量数文献计量评价法是利用科学产出的文献计量指标的定量数据，采用数学和统计学方法，对科学活动规律及其影响进据，采用数学和统计学方法，对科学活动规律及其影响进行研究与分析的一种方法。行研究与分析的一种方法。q文献计量评价法基于科学引文索引（文献计量评价法基于科学引文索引（SCI）和专利数据和专利数据库，采取论文指标、引文指标、专利引文指标等从库，采取论文指标、引文指标、专利引文指标等从宏观层宏观层面面研究国家的科学能力、科学前沿发展趋势、科学活动的研究国家的科学能力、科学前沿发展

35、趋势、科学活动的水平及影响具有统计学意义上的合理性和可信度，对国家水平及影响具有统计学意义上的合理性和可信度，对国家宏观科技政策和科技管理具有一定的参考价值。宏观科技政策和科技管理具有一定的参考价值。403 3、文献计量评价法、文献计量评价法 代表性的工作代表性的工作n美国美国NSF科学与工程指标（双年份）科学与工程指标（双年份）n美国美国ISI科学观察（双月刊）科学观察（双月刊）n英国英国OST科学、工程与技术年度统计报告（年度）科学、工程与技术年度统计报告（年度）n中国科技信息研究所中国科技论文统计与分析（年度）中国科技信息研究所中国科技论文统计与分析（年度）n中科院文献情报中心世界科学中

36、的中国研究报告中科院文献情报中心世界科学中的中国研究报告( (不定不定期期) ) 413 3、文献计量评价法在中国科学国际比较中的应用、文献计量评价法在中国科学国际比较中的应用2002年，年，SCI收录中国论文数量达到收录中国论文数量达到39015篇，篇，占世界科学论文的比占世界科学论文的比例从例从1987年的年的1.25%上升到上升到4.38%，位于美、英、日、德、法之后，位于美、英、日、德、法之后，居世界第居世界第6位。位。（1994年居第年居第15位）位）1991-2003年间，中国论文被引频次年间，中国论文被引频次62万多次，名列世界第万多次，名列世界第19位、亚位、亚洲第洲第3位。位

37、。1997-2002年，中国论文数量平均增长年，中国论文数量平均增长19%，论文平均被引篇数平均，论文平均被引篇数平均增长增长19.4%。1992-2003年，年，中国在世界科学中国在世界科学TOP25国家中综合排名第国家中综合排名第14位，材料位，材料科学名列世界第科学名列世界第6位，数学第位，数学第8位，化学第位，化学第10位，物理学第位，物理学第13位。位。423 3、文献计量评价法、文献计量评价法q但在微观层面上，例如在评价科研人员或某一个具体项目但在微观层面上，例如在评价科研人员或某一个具体项目时，文献计量指标存在诸多局限性，如指标的单一性、学时，文献计量指标存在诸多局限性，如指标的

38、单一性、学科间的不可比较性、科学价值的不可表征性等等科间的不可比较性、科学价值的不可表征性等等,导致其客导致其客观性大打折扣。因此，仅依据定量数据得出评价结论，往观性大打折扣。因此，仅依据定量数据得出评价结论，往往成为一种往成为一种“Stupid IndicatorStupid Indicator”。q利用文献计量指标评价科研产出能力和水平时，有一个系利用文献计量指标评价科研产出能力和水平时，有一个系统误差问题，评价结果的误差与评价系统的尺度大小呈负统误差问题，评价结果的误差与评价系统的尺度大小呈负相关关系，即系统的尺度越大，评价结果的误差就越小，相关关系，即系统的尺度越大，评价结果的误差就越

39、小，反之，评价结果的误差就越大。反之，评价结果的误差就越大。433 3、文献计量评价法、文献计量评价法q文献计量评价法较多应用于宏观层面（如国家间的比较）文献计量评价法较多应用于宏观层面（如国家间的比较）和中观层面（如同质机构间的比较）的科技评价。和中观层面（如同质机构间的比较）的科技评价。q评价某一个人（或某一个项目）的科研产出质量及影响，评价某一个人（或某一个项目）的科研产出质量及影响，应以应以“同行评议同行评议”方法为主，文献计量指标仅作为参考指方法为主，文献计量指标仅作为参考指标。标。444 4、经济计量评价法、经济计量评价法q经济计量评价法是基于投入经济计量评价法是基于投入- -产出

40、模型或生产函数模型对科产出模型或生产函数模型对科技活动效率或效益进行评估的一种方法。包括：技活动效率或效益进行评估的一种方法。包括： 成本效益法成本效益法：成本、效益、净现值、收益率等指标。成本、效益、净现值、收益率等指标。 生产功能法生产功能法：利用：利用资本、资本、劳动力劳动力、研究经费支出来、研究经费支出来测测度科研活动度科研活动对对产品产品附加价值的边际贡献附加价值的边际贡献。 投入产出法：经济系统投入投入产出法：经济系统投入- -产出的相互依存关系。产出的相互依存关系。q由于其产出指标主要采取生产要素和经济效益指标，由于其产出指标主要采取生产要素和经济效益指标，该方该方法一般仅适用于

41、开发类研究活动或科技产业化的评价，不法一般仅适用于开发类研究活动或科技产业化的评价，不适合基础研究和应用研究。适合基础研究和应用研究。 454 4、经济计量评价法、经济计量评价法q针对宏观层面的基础研究和应用研究的绩效评估，有时可针对宏观层面的基础研究和应用研究的绩效评估，有时可以采用投入产出统计指标来测度科研活动的投入产出效率，以采用投入产出统计指标来测度科研活动的投入产出效率，如单位投入产出的论文数、引文数、专利数、获奖数等，如单位投入产出的论文数、引文数、专利数、获奖数等，或产出单位论文数、引文数、专利数、获奖数所需的投入或产出单位论文数、引文数、专利数、获奖数所需的投入成本。成本。46

42、投入产出的国际比较（以英国为例）投入产出的国际比较（以英国为例）n以仅占世界以仅占世界1%的人口，英国的的人口，英国的R&D经费支出占世界经费支出占世界R&D经费支出总量经费支出总量的的4.5%；英国的科学产出论文占世界科技论文总量的；英国的科学产出论文占世界科技论文总量的8%；英国科学家；英国科学家论文被引次数占世界科学论文被引用总数的论文被引次数占世界科学论文被引用总数的9%；20世纪，英国科学家世纪，英国科学家获奖占国际权威科学奖励的获奖占国际权威科学奖励的10%（至（至2000年，英国获诺贝尔自然科学年，英国获诺贝尔自然科学奖人数达奖人数达75名，居世界第二）；英国专利申请数占世界专利

43、申请总数的名，居世界第二）；英国专利申请数占世界专利申请总数的3.4%；英国高技术出口额占世界高技术出口总额的；英国高技术出口额占世界高技术出口总额的8%。n结论：英国基础研究的投入结论：英国基础研究的投入-产出效益是世界上较高的，英国科学技术总产出效益是世界上较高的，英国科学技术总体实力和水平在世界上处于前列，其研究与发展（体实力和水平在世界上处于前列，其研究与发展（R&D）一直保持相当一直保持相当高的水准。高的水准。47投入产出的国际比较（举例）投入产出的国际比较（举例）n我国科学研究的投入产出效率与发达国家相比有较大的差距。我国科学研究的投入产出效率与发达国家相比有较大的差距。 中科院王

44、志新院士对中科院与德国马普协会的比较研究表明（中科院王志新院士对中科院与德国马普协会的比较研究表明（19951995年数年数据）：马普协会有据）：马普协会有29002900名科学家和名科学家和65006500名流动人员，每年科研经费名流动人员，每年科研经费1111亿亿美元，每年发表美元，每年发表SCISCI论文超过论文超过1 1万篇，万篇，平均每篇论文投入平均每篇论文投入1010万美元万美元；而中；而中科院有科院有4 4万名科技人员和万名科技人员和1 1万多名研究生，每年科研经费万多名研究生，每年科研经费4 4亿美元，每年亿美元，每年发表发表SCISCI论文论文20002000篇，篇，平均每篇

45、论文投入平均每篇论文投入2020万美元万美元，是德国马普协会的，是德国马普协会的两倍。两倍。 485 5、定标比超法（、定标比超法（Bench MarkingBench Marking）q定标比超法是经济活动领域中应用最广、影响最大的竞争定标比超法是经济活动领域中应用最广、影响最大的竞争情报方法之一。情报方法之一。（美国施乐公司对日本公司竞争时最早使用）（美国施乐公司对日本公司竞争时最早使用）q最早将定标比超方法用于科学研究活动评价的是美国科学最早将定标比超方法用于科学研究活动评价的是美国科学院科学、工程与公共政策委员会（院科学、工程与公共政策委员会（COSEPUPCOSEPUP）。）。q19

46、971997年和年和19981998年美国科学院分别出版了两份研究报告：年美国科学院分别出版了两份研究报告： 美国数学研究国际定标比超美国数学研究国际定标比超 美国材料科学与工程研究的国际定标比超美国材料科学与工程研究的国际定标比超 495 5、定标比超法、定标比超法q开展学科领域的国际定标比超评价时开展学科领域的国际定标比超评价时, ,一般要回答三个问题一般要回答三个问题: : （1 1）本国在该领域相对于其他国家和地区处于什么样的地）本国在该领域相对于其他国家和地区处于什么样的地位位? ? （2 2）影响本国在该领域的研究绩效是什么）影响本国在该领域的研究绩效是什么? ? （3 3）基于现

47、在的发展趋势）基于现在的发展趋势, ,本国在近期和远期会处于什么本国在近期和远期会处于什么样的相对位置样的相对位置? ?q定标比超法一般多应用于学科领域的国际比较及科研机构定标比超法一般多应用于学科领域的国际比较及科研机构的诊断和战略性评价。的诊断和战略性评价。50051015202530材料科学地球科学分子生物学和遗传学工程化学环境和生态学计算机科学经济贸易空间科学临床医学免疫学农业科学社会科学神经科学和行为学生物和生物化学数学微生物学物理心理学和精神病学药物学和毒物学植物和动物科学综合类世界平均水平我国篇论文平均被引率印度篇论文平均被引率1992-2002年，我国部分学科篇论文平均引用率与

48、世界水平比较年，我国部分学科篇论文平均引用率与世界水平比较51 中科院化学研究所定标比超案例中科院化学研究所定标比超案例 1、基本程序、基本程序n选择追赶对象选择追赶对象n确定追赶目标确定追赶目标n制定行动方案制定行动方案n推动跨越发展推动跨越发展 52 中科院化学研究所定标比超案例中科院化学研究所定标比超案例2、比超对象、比超对象比自己先进的同一领域国际一流科研比自己先进的同一领域国际一流科研机构机构 选择选择3个国外的著名化学研究所个国外的著名化学研究所n日本分子研究所日本分子研究所n马普高分子研究所马普高分子研究所n加拿大国家研究理事会加拿大国家研究理事会steacie分子研究所分子研究

49、所 53 中科院化学研究所定标比超案例中科院化学研究所定标比超案例3、调研分析竞争情报、调研分析竞争情报为确定战略目标和行动方案提供依为确定战略目标和行动方案提供依据据 n研究人员情况研究人员情况(数量、结构、流动等数量、结构、流动等)，以及课题组的设立机，以及课题组的设立机制和规模制和规模n研究方向和重点，以及近年来的变化情况研究方向和重点，以及近年来的变化情况n论文发表情况论文发表情况(近年发表论文的情况、在高影响因子刊物发近年发表论文的情况、在高影响因子刊物发表情况、一些科学家发表论文情况分析表情况、一些科学家发表论文情况分析)，以及论文被引用，以及论文被引用情况分析情况分析n研究经费研

50、究经费n研究设备情况研究设备情况(尤其是运行管理机制尤其是运行管理机制) 546 6、多指标综合评价法、多指标综合评价法q基于评价目标和评价对象的特点，确定评价原则（评价准基于评价目标和评价对象的特点，确定评价原则（评价准则），构建定性指标和定量指标相结合的递阶多层的指标则），构建定性指标和定量指标相结合的递阶多层的指标体系及评价模型。体系及评价模型。q采取采取Delphi专家调查法和层次分析法（专家调查法和层次分析法（AHPAHP），构建各层次），构建各层次指标权重判断矩阵，并计算各指标的权重赋值。指标权重判断矩阵，并计算各指标的权重赋值。q通过专家咨询、论证，确定各指标的评分标准和评分范围