新儿教

 找回密码
 注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区


搜索
热搜: 儿童 教育 英语
查看: 1601|回复: 2

[其他] 《科学》杂志论文数据造假现形记

[复制链接]
发表于 2015-6-10 10:59:15 | 显示全部楼层 |阅读模式
图文详解:《科学》杂志论文数据造假现形记                     原创                                                2015-06-08                                                张涵                                                政见                        政见                        政见                                [img][/img]                                
微信号                                cnpolitics
功能介绍                                靠谱地谈论中国。

                                                                                    

                    
摘要
2015 年 5 月末,《科学》杂志上一篇广受关注的论文被质疑数据造假,杂志已正式撤下此文。这一事件的内幕是如何一步步被揭开的?其后续影响如何?又将会给学界带来哪些启示?

张涵/ 政见特约观察员  撰文
韩紫熙 [size=1em]/ 政见团队成员  制图

[size=1em]2015 年 5 月末,美国社会科学界爆出轰动性的丑闻:半年前在《科学》杂志发表的一篇广受关注的论文被质疑数据造假。


[size=1em]论文作者之一、哥伦比亚大学著名政治学家 Donald Green 已经主动要求撤稿;《科学》杂志于5月26日正式撤下此文。虽然事件还未尘埃落定,但它注定会成为美国社会科学研究历史上的经典案例。

[size=1em]政见团队为你详解这桩丑闻的来龙去脉。通过下面的手绘,你可以快速了解事件梗概。想要读到更详细的内容,请继续让手指向上滑动,我们准备了深入讨论事件及其后续反思的文章。
[size=1em]与同性恋交谈之后发生的改变:实验发现的惊人效果

[size=1em]被质疑造假的论文题为 “When contact changes minds: An experiment on transmission of support for gay inequality”,两位作者分别是加州大学洛杉矶分校(UCLA)的政治系博士生 Michael LaCour,以及哥伦比亚大学的政治系教授 Donald Green。从论文标题可以看出,其内容与对同性恋权益的态度有关。

[size=1em]同性恋权益保护,包括同性恋婚姻合法化的讨论,是近年来美国最为热门的公众议题之一。社会科学中有一大类 “接触理论”(intergroup contact theory)指出,不同群体之间的个人在生活中的接触,能够减少多数群体对对少数群体的歧视。因此,对同性恋歧视的倾向,可能是由于异性恋群体缺乏与同性恋群体的亲身接触;而要消解对同性恋的歧视,或许可以通过促进异性恋群体与同性恋群体的接触实现。比如,如果你知道自己的好友其实是同性恋,那么可能会对这个群体产生更大的好感。

[size=1em]问题在于,如何证明这一理论在现实中可行?首先,个人选择,比如同类相聚的因素,会使得个人倾向于避免接触不同性取向的人,也就无法回答 “如果接触不同性取向的人会这样 ”这个问题。其次,同性恋人士可能掩盖自己的性取向。最后,每个人生存的社会环境,会限制个人选择。

[size=1em]由于这些限制,我们研究这个问题最好的方法只能是通过随机试验。LaCour 就设计了这样一个实验:他招募了 22 个异性恋,19 个同性恋作为拉选票者,然后随机派他们拜访洛杉矶地区的一些选民(共 972 人),鼓励人们支持同性婚姻。因此就有了如下两组:

[size=1em]1. 同性恋拉选票者对选民鼓动同性婚姻
[size=1em]2. 异性恋拉选票者对选民鼓动同性婚姻

[size=1em]具体的过程是:首先,拉选票者去登门拜访,征询受访者对婚姻的看法。在过程中,拉选票者表明自己的性取向,然后

[size=1em]1. 同性恋拉选票者分享自己是如何因为同性婚姻不合法,而无法结婚的;
[size=1em]2. 异性恋拉选票者,则分享自己的朋友或者亲戚中的同性恋无法结婚的经历。

[size=1em]在拉选票者上门前后,受访者都被邀请参加一个在线调查。其中两个问题是作者关心的:

[size=1em]1. 你支持还是反对合法的同性婚姻?请从 1-5 中选择,1 为强烈反对,5 为强烈支持。
[size=1em]2. 你对同性恋人群,感觉较为亲切,还是有所顾虑,并不喜欢?请用 1-100 之间的数字表示,靠近1代表不喜欢,靠近 100 代表喜欢,50 代表没有偏好。

[size=1em]研究者发现,在被登门拜访三天之后,受访者普遍表现对同性婚姻更为支持——平均而言,他们对同性婚姻的评分在五点量表中提高了 0.4。而在三天后,由异性恋拜访的选民的态度已经回归受访前,没有变化;这说明由异性恋来宣传同性婚姻,其实并无效果。而由同性恋者拜访的选民,效果惊人:他们对同性婚姻的评分在一个月后并未消减。

[size=1em]更惊人的是,恰好在一个月后,加州高等法院宣布同性婚姻合法。此时,由同性恋者拜访的选民继续增加他们的支持。最终,他们对同性婚姻的评分较之受访前提高了 0.8。

[size=1em]在一个五点量表中,选民对同性婚姻的支持增大了 0.8。这个数字实在大得惊人:2012 年的一项全美调查(CCAP)发现,美国对同性恋婚姻合法化的意见最为负面的州之一佐治亚州,与最支持的州之一麻省,在这项问题上的区别正是 0.8。这也就意味着,与同性恋在同性婚姻上有深入的交流,几乎等于把一个保守的佐治亚州人转变为开放的麻省人!

[size=1em]对数字敏感的人,其实不需要这个类比都能看出惊人之处:在五点量表中,最大的变化值是 4:从 1(完全反对)变到 5(完全支持),但这种极端情况一般很难出现。实际生活中,可能的最大变化一般在 1-3 之间,平均大约为 2。那么,0.8 的变化,几乎是可能的最大变化的 40% 左右。短短 20 分钟左右的交流,居然能产生如此大的变化,不得不令人咋舌。

[size=1em]同样的,在对同性恋的好感问题上,在 100 点量表上,由同性恋拜访的受访者给出的答案比原来增加了 10.6,这个变化同样不小。

[size=1em]这可能是真的吗?不少学者提出了质疑。低选举率一直是困扰成熟民主国家的一个问题;因此有一大类政治学文章,在研究如何促进投票率的问题。而其中被广泛接受的研究方法,即通过随机分配的拉选票者,上门访问选民,来观察不同的拉票行为能否增进投票率或者改变观点。因此,美国政治学家对 LaCour 的实验方法和步骤其实并不陌生。但是 LaCour 这篇文章所描述的巨大效果及其持续时间,大大超过所有以前的类似实验的效果。

[size=1em]尽管难以置信,但大部分人仍然选择相信论文合作者之一 Donald Green。理由很简单:Donald Green 是此类实验的先驱,同时也是一位开放数据和代码的拥趸:他的大部分文章,包括此篇,都会主动分享代码和数据,供后来者使用,这也增强了学界对其的信任。

[size=1em]自然,这篇文章引起了轰动。美国各大媒体跟进报道;学者基于这个结果开始深入实验;而不少同性恋维权群体已经开始准备利用论文的方法,推动社会对同性婚姻的支持。

[size=1em]层出不穷的疑点

[size=1em]加州大学伯克利分校政治学系博士、年仅 26 岁便获得了斯坦福大学商学院教职的 David Broockman,最初也被 LaCour 的结果所振奋。而且,Donald Green 是 Broockman 的本科导师。Broockman 在 2013 年美国政治学年会的时候,从 LaCour 处得知了最初的一些结果。但是在他准备自己做一个类似的实验的时候,问题马上浮现——

[size=1em]LaCour 实验的成本相当惊人。简单的估算:LaCour 其实开展了两项互联网调查,有 9507 人参与,他声称为每位受访者支付了 100 美元的的报酬。这样一来,研究的总成本高达一百万美元。一个在读博士如何能获得如此巨额的经费?Broockman 联系了不少专业的调查公司,但没有一个公司能以一个博士生可以负担得起的成本来完成调查。

[size=1em]LaCour 正式发表论文时(2014 年 12 月),提供了论文的数据和代码。借此,Broockman 能够验证论文的结果。他马上发现一个问题:受访者在被访前后都填写了网络调查问卷,而这两次问卷的答案区别很小。尤其是在 100 点量表上,一般情况下被访者多次填写的数字都会有偏差,因为我们很难精确的把自己的态度描绘成数字,但是在 LaCour 的数据中,两次调查之间的偏差非常小,几乎无法区分。

[size=1em]为了进一步验证自己的怀疑,Broockman 与 Kalla(同样是伯克利政治系的博士生)也进行了一项类似的网络调查。在 LaCour 的研究中,他首先发放了网络调查问卷,询问填写人是否愿意接受入户调查,12% 的填写者同意最终的上门调查。但是在 Broockman 的网络调查中,只有不到 1% 的填写者同意后续的入户访问。Broockman 不断与 LaCour 联系,试图了解 LaCour 如何能让如此多的人同意受访,但是 LaCour 搪塞而过。

[size=1em]无奈,Broockman 找到一个与 LaCour 有过合作的学者,从他那里得知,LaCour 的这篇论文是经过一个名为 uSamp 的调查公司来收集受访者的。此人同时将 uSamp 与 LaCour 的联系邮件转发给了 Broockman。邮件显示,Jason Peterson 是公司具体的负责人。

[size=1em]于是,Kalla 与 uSamp 公司联系。惊人的是,uSamp 根本就没有一个叫 Jason Peterson 的员工!

[size=1em]此时,Broockman 和 Kalla 才意识到,这些诸多的疑点,都指向一个可能性——数据完全是伪造的。

[size=1em]此后的 3 天时间,Broockman 和 Kalla 试图反推造假的过程。他们联想到  LaCour 在文中曾经将他们的结果与前文提及的 CCAP 调查结果作比较。他们灵机一动:是否有可能 LaCour 利用了 CCAP 中已有的数据?

[size=1em]很快,他们有了惊人的发现:从 CCAP 的调查数据出发,随机加上一些噪音,居然真的可以复制出 LaCour 文章中关于对同性恋态度问题的数据分布。这其实已经完整重构出 LaCour 造假的全过程。

[size=1em]Broockman 等人于 5 月 17 日同 Green 联系。Green 在读完其报告后,马上与 LaCour 联系,希望其解释关于对同性恋态度问题的数据来源。LaCour 声称自己偶然删除了此文件,否认数据造假,但承认自己在文中所述的为受访者提供 100 美元报酬并不属实。

[size=1em]Green 希望 LaCour 尽快答复,但是在两天之内 LaCour 并未给出满意的解释。于是,Green 单方面通知《科学》杂志,承认论文数据有误,希望撤稿。同时,Broockman 等人在自己网站上公开了对 LaCour 的质疑信。

[size=1em]主角无力的自我辩护
[size=1em]
[size=1em]此事被爆出后引起轰动。媒体跟进报道,学界也在开始重新检查 LaCour 过往的文章。大家发现,LaCour 的文章中还有更多的造假嫌疑。

[size=1em]比如,LaCour 在发表的论文中说他得到了三家基金会的资助,但是这三家基金会都表示从未向 LaCour 提供资金。

[size=1em]同时,LaCour 的简历中列出了自己曾经接受过不同基金会的资金用于研究,总额高达 79 万美元。其中最大的一笔,超过 16 万美元,也被证实造假。

[size=1em]Emory 大学的研究者表示,他们同样发现另外一篇 LaCour 的论文中,方法同样值得怀疑。整个学界为之震惊。《科学》杂志则已经正式撤稿。

[size=1em]LaCour 直到 5 月 29 日才发表正式回应。他承认自己在资金方面有不实陈述,他并未使用现金作为参与调查的激励。他说,这是因为其同事在质疑其作为一个学生,是否有足够资金来支持此项目,因此他伪造了资金来增加可信度。

[size=1em]但是,LaCour 依然不承认自己造假,他给出的辩护理由包括:因为保密协议,所以要删除原始数据;Broockman 并未完全遵循自己的调查步骤;Broockman 等人并未使用他文中的一个变量。他还认为,Broockman 应该直接通知第一作者,即 LaCour 自己,而不是直接联系第二作者 Green。他还批评 Broockman 没有通过正常的同行评议机制提出质疑。

[size=1em]LaCour 还强调了 Green 在研究中的责任——当论文被《科学》杂志接受时,Green 曾被要求填写一张作者声明表格,其中询问他是否亲自检查过原始数据。虽然没有看到 Green 的答案,但 LaCour 认为按常理他必然做出了肯定的答复,也就是说了谎。虽然 Green 并没有亲自参与数据收集,但他在此次事件中无疑负有失察责任。

[size=1em]LaCour 的辩护并未打消大家的疑惑,因为最主要的问题并未得到回应:为何调查公司完全对其项目不知情?LaCour 在发表公告后接受采访,声称自己使用了另外一家调查公司,但这显然不能让公众满意。对其他质疑的回应,大都只是关于方法,即使有可信度,但是如果数据造假,则毫无意义。

[size=1em]后续细节依然有待披露,或许此事尚未盖棺定论,但至少 LaCour 在论文中对资金造假,和对数据的不实描述,已经确凿。

[size=1em]学界的反思:如何从事件中吸取教训,重建公信力?

[size=1em]这次事件可能会是 2015 年社会科学界的最大新闻。在此次事件曝光之前,LaCour 已经拿到了普林斯顿大学助理教授的 offer,但现在很多人都认为他已经不可能继续留在学术界。而他所在的 UCLA 也表示会关注此事发展。

[size=1em]对这件事情的一大反思,是关于关于学界的同行评议(peer review)机制是否有其问题。科学依赖整个共同体的信任:科学事实都应该是可以被验证的,但是在论文膨胀的今天,显然无法验证每一篇论文。这一造假事件,对同行评议,以及对数据的搜集、整理过程,都产生了冲击。

[size=1em]有媒体披露,在 Broockman 开始调查的时候,很多同学老师都提醒他:除非有确凿的证据,最好不要公开质疑,因为这会显得他对学术共同体缺乏信任。这可能是一种默认的学术潜规则,但这种潜规则无益于学术界维持自己的声誉。可喜的是,学界已经有不少专门关注学术不端行为的博客,这次的事件就是首先在一个名为 “Retraction Watch” 的博客上公布的。这些共同体内部自净的行为,有助于这种风气的转变。

[size=1em]同样,这次事件也引发了学者与媒体关系的评论。美国社会科学界在八九十年代变得更为定量化、技术化,学者写作的对象也大都变成了专业学者,论文的重要性逐渐加大;而不像五六十年代一样积极涉入社会辩论,试图通过著作来影响世界。这一方面使得作品更为严格,但也常常被诟病为缺乏社会关注,纯粹成了象牙塔里的游戏。这一趋势从 2008 年金融危机开始有所扭转。受到经费短缺的影响,媒体关注成为学者申请研究经费、求职或者寻求提升时的重要评判标准。一些综合性科学杂志,比如《科学》更是主动建立宣传部门,试图推销在其上刊登的文章。《科学》杂志的发行方表示,他们有 40 人左右的专业团队,试图加大《科学》上文章在社交媒体上的关注度。这种受到经济驱动的学术界与媒体的重新联合,固然能使学术研究发挥更大的社会效力,但也可能激发某些学者 “搞个大新闻” 的冲动,而忽视了必要的道德伦理。

[size=1em]好在,任何惊人的结论,必然会引发更多后续研究,而一旦无法被后续研究证实,其实是引火烧身。

[size=1em]当然,这次事件被迅速曝光,在很大程度上是因为媒体的大量关注和学界最初的广泛认可,引发了不少后来者重复LaCour的研究。这其实反映了近年来社会科学界兴起的 “开放和可复制性研究”(Open and Reproducible Research)风潮(见《博士生挑战哈佛教授:社科研究的可复制性问题》)。开放和可复制性研究,核心主要有三点:

[size=1em]1. 开放数据。开放数据益处颇多。首先,作者建立的数据如果能够开放,其实能促进更多的人来使用数据,促进研究。同样原始数据也有助于后来者复制检验成果。从文中可见,Broockman 等人通过 LaCour 自己提供的数据,最终复制出造假的过程。  

[size=1em]一些读者可能会惊讶:LaCour 为何要主动提供数据?这不是在自掘坟墓吗?可能的原因有两个:第一,分享数据与代码,成为政治学界近年的潮流;无论年轻博士求职,还是对资深教授的评价,自己收集并分享数据,或者贡献自己编写的代码,都是极大的加分项。这可能是 LaCour 提供数据的原因之一,即为了求职方便。第二,本文原作者之一 Green 即为这种风潮的忠实先行者。他的大部分文章均提供原始数据和代码。因此 Green 要求 LaCour 提供数据,也是可能的猜测。无论如何,开放的数据使得这个猫腻被很快发现。

[size=1em]2. 开放代码。即使有了数据,现在依然有绝大部分学者在发表论文时,并未提供分析数据的代码。或许在美国读社会科学的博士生有所体会:经典的统计课作业,就是去要求学生复制已发表的重要文章中的模型和结果。而可能也有不少人,无法完美复制论文的结果。有的时候,这可能是作者提供的细节不够,但也有可能是论文作者在代码中隐藏了一些小的伎俩,使得结果更为显著。提供原始代码,有助于后来者复制论文。而论文本身是关于方法论的话,开放代码更有助于后来者不断复用这个方法。

[size=1em]3. 开放论文。这点对大学内部的研究者不是最大的障碍,但是对其他无法接触到学校图书馆购买的论文数据库的人士,以及受其他特殊原因(比如防火墙)阻碍的人而言,则都是巨大的障碍。象牙塔之内的学者往往容易忽视这点。

[size=1em]开放和可复制研究的风潮并非完全自生,其发展自然也依赖于制度建设。我们可以简单比较一下美国政治学的两大顶尖杂志:美国政治学杂志(AJPS, American Journal of Political Science)和美国政治学评论(APSR, American Political Science Review)。前者在 2010 年开始要求所有文章作者必须说明数据从何而来,并且在正式发表后将数据提供给编辑部。而后者则只是鼓励作者指出数据是否会公开,以及合适会公开。对比而言,从 2011-13 年,AJPS 中 65% 的使用了统计分析的文章,都提供了数据和代码;而 ASPR 则只有 30%。

[size=1em]AJSP 要求作者公开数据源的政策,显然有助于促进开放研究的风潮。尝到甜头的他们,于 2015 年 5 月初刚刚宣布,所有被接受的文章,如果使用了定量统计分析,都需要向编辑部提供数据和代码。编辑部会雇佣专职的程序员验证结果。文章经验证后方可正式刊出。这一措施在当时激起了很大反响,有人质疑成本过高。但是两周后的 Lacour 事件,再好不过地证明了此举之先见。

[size=1em]其实,大部分重要杂志上的文章,只要有数据和代码,一般都有很大概率被美国各个社科院系的教授作为统计课程的作业来复制。这一方面是很好的学习机会,另一方面也是在用“众包”的方式,核实每一篇论文。

[size=1em]显然,即使有开放的数据,研究者也无法完全保证每一篇论文都不出差错,但这至少大大提高了造假者的机会成本。政见观察员希望这次 LaCour 的论文造假事件,一方面能够使得社科学者重新反思自己的学术伦理和社会责任,另一方面也能加快对于分享数据和代码的在制度上的建设,减少这类事件的发生。

[size=1em]开放和可复制研究对学者们提出了更高的要求,但我们找不出理由来不这么做:科学本身就是在不断验证假设和自我完善中前进的。敢于公开自己的数据和代码的学者,大都是对自己的结论充分自信的。当然也有少数冒天下之大不韪,试图南郭吹竽者,也能被及早发现。长远而言,这是整个社科学界加强公信力的一种自我完善机制。


参考文献

LaCour, M. J., & Green, D. P. (2014). When contact changes minds: An experiment on transmission of support for gay equality. Science, 346(6215), 1366-1369.
Broockman, D., Kalla, J., & Aronow, P. (2015). Irregularities in LaCour (2014).

点评

国家科学奖一等奖“透明计算”就是一个例子,诸多质疑没用  发表于 2015-6-10 17:39
看来,众包让谎言无处遁身。国内即便有实际证据证明做假,也还能逍遥自在,拥泵多多。  发表于 2015-6-10 11:40
[发帖际遇]: helenminliang 花了 3 金币 资助失学儿童,真是热心人啊,你也想试试帮助别人的快乐吗? 幸运榜 / 衰神榜
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

408|

小黑屋|手机版|儿童教育网  |赞助儿教-获取元宝-快速升级|广告自助中心  

GMT+8, 2021-3-5 06:24 , Processed in 0.162320 second(s), 48 queries .

Powered by etjy.com! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表