看清信息战：2019全球有组织社交媒体操纵清单

这是近年来关于全球信息战操纵手段最好的调查报告

信息战本身不是新鲜事。IYP有 “心理战和信息战” 专栏，里面有丰富的证据；我们也做过相关开源调查报告，如下：

但近年来在该领域出现的 “进展” 依旧是惊人的，即 “计算性宣传”。

使用算法、自动化和大数据来操纵公共生活的手段被称为 “计算性宣传”，它正在成为日常生活中无处不在的一部分。

牛津互联网学院 2019年的报告分析了计算性宣传的趋势以及不断发展的工具、能力、策略和资源。以下是这份报告，非常建议您读完。

概览：

报告展示了在70个国家/地区开展的有组织社交媒体操纵运动的证据，高于2018年的48个国家、和2017年的28个国家。在每个国家，至少有一个政党或政府机构使用社交媒体在国内操纵公众态度（图1）。
社交媒体已成为被许多专制政权所采用为宣传工具。在26个国家/地区中，计算性宣传正以三种截然不同的方式用作信息控制的工具：压制基本人权、抹黑政治对手、并淹没反对意见（图2）。
少数精明的国家行为者在对外国的影响力行动中也使用计算性宣传。 Facebook 和 Twitter 将外国影响力业务归于主要七个国家（中国，印度，伊朗，巴基斯坦，俄罗斯，沙特阿拉伯和委内瑞拉），这些国家一直在使用这些平台来影响全球受众（图3）。
中国已成为全球虚假信息信息战的主要参与者。在2019年香港抗议之前，已经有大多数有关中国操作计算性宣传的证据都发生在微博、微信和QQ等中国国内平台上。但是，中国对积极使用 Facebook、Twitter 和 YouTube 的新兴趣应该引起民主国家的担忧。
尽管如今社交网络平台比以往任何时候都要多，但 Facebook 仍然是社交媒体操纵的首选平台。在56个国家/地区中，牛津互联网学院在 Facebook 上发现了正式组织的计算性宣传运动的证据（图4）。

介绍

尽管宣传一直是政治讨论的一部分，但是，这些运动的广泛范围引起了公众极大的关注。

网络部队（网军）被定义为负责在线操纵公众舆论的政府或政党参与者。调查研究并比较了全球网络部队的正式组织，以及这些行为者如何出于政治目的使用计算性宣传。

这涉及建立不断发展的宣传策略、工具和技术的清单，包括使用 “政治机器人” 来放大仇恨言论或其他形式的可操纵内容、非法收集数据或进行微目标定位、或部署的 “trolls” 军队在网上欺凌或骚扰政治异见人士和记者。

不要错过《如何分辨：机器人、僵尸网络和 trolls》

报告还将跟踪开发这些技术所投入的能力和资源，以构建审视全球网络部队能力的图景。

通过社交媒体使用计算性宣传来*塑造*公众态度已经成为主流，远远超出了一些不良行为者的行为。

在信息量大、用户关注和信任水平有限的信息环境中，计算性宣传的工具和技术正成为数字竞选和公共外交的共同部分，并且可以说是必不可少的部分。

除了建立全球范围内网络部队活动的比较图，报告还希望就此引起公众和学术界的讨论，即：我们如何定义和理解在线政治的不断变化的性质，以及应该如何使用技术来增强在线民主和自由表达的人权。

在今年的报告中，牛津互联网学院研究了70个国家/地区的网络部队活动：安哥拉，阿根廷，亚美尼亚，澳大利亚，奥地利，阿塞拜疆，巴林，波斯尼亚和黑塞哥维那，巴西，柬埔寨，中国，哥伦比亚，克罗地亚，古巴，捷克共和国，厄瓜多尔，埃及，厄立特里亚，埃塞俄比亚，格鲁吉亚，德国，希腊，洪都拉斯，危地马拉，匈牙利，印度，印度尼西亚，伊朗，以色列，意大利，哈萨克斯坦，肯尼亚，吉尔吉斯斯坦，马其顿，马来西亚，马耳他，墨西哥，摩尔多瓦，缅甸，荷兰，尼日利亚，朝鲜，巴基斯坦，菲律宾，波兰，卡塔尔，俄罗斯，卢旺达，沙特阿拉伯，塞尔维亚，南非，韩国，西班牙，斯里兰卡，瑞典，叙利亚，台湾，塔吉克斯坦，泰国，突尼斯，土耳其，乌克兰，阿联酋，英国，美国，乌兹别克斯坦，委内瑞拉，越南和津巴布韦。

全世界越来越多的计算性宣传证据

调查发现在70个国家/地区开展的有组织的社交媒体操纵运动的证据，高于2018年的48个国家和2017年的28个国家。

这种增长的一部分来自新的加入者，他们在选举期间尝试使用计算性宣传的工具和技术、或作为信息控制的新手段。

但是，新闻记者、学者和激进主义者也更好地配备了数字工具和更精确的词汇表，以识别、报告和发现正式组织的社交媒体操纵的实例。

在过去的三年中，我们已经能够完善语言和搜索条件以识别计算性宣传实例，并且我们发现，在过去的十年中，许多国家展示了正式组织的社交媒体操纵的要素。

牛津互联网学院指出，计算性宣传已成为数字信息生态系统中普遍存在的部分。

不要错过《10个简单技巧快速验证社交媒体热门视频的真伪》

威权政体对社交媒体的共同选择

在许多专制政权中，计算性宣传已成为信息控制的有力工具，在战略上与监视、审查制度和暴力威胁相结合使用。

本报告对专制国家针对新闻工作者、政治异议人士和更广泛的社会所使用的压制运动进行了分类，并找到了三种不同的使用计算性宣传的方式：

压制基本人权
抹黑政治反对派
淹没政治异议

《至少30亿社交媒体用户都在受到其政府的监视》

社交媒体技术使用的普遍性为专制政权提供了一个强大的工具，可以用来进行公共讨论操纵和在线传播宣传，同时监视、审查和限制数字公共空间。

请注意！《摆脱操纵和宣传：28个长期技巧》

高度复杂的恶意行为者在国外操纵的影响力活动的数量有限

外国影响力运营是一个值得关注的重要领域，但是将计算性宣传完全归于外国国家行为者基本不可能 —— 在此提醒那些擅长树外敌的做法。

👉Facebook 和 Twitter 已经开始在其平台上发布有关影响力运作的有限信息，它们已对在七个国家（包括中国，印度，伊朗，巴基斯坦，俄罗斯，沙特阿拉伯和委内瑞拉）从事外国影响力行动的网络部队采取了行动。

尽管这项措施远未反映出进行外国信息战活动的程度，但我们可以放心地开始对这种高度机密的现象进行描绘。

调查方法《追踪政府宣传战的内幕：跨平台网络分析的数字取证案例》

中国的虚假信息信息战是一种“亮剑”

直到最近，我们都发现中国很少使用社交媒体来操纵其他国家的舆论。

中国当局操纵的计算性宣传的受众主要集中在微博、微信和QQ等中国国内平台上。

但是，在2019年，中国政府开始利用全球社交媒体平台将香港的民主倡导者描绘成暴力激进分子，但没有受到公众的欢迎。

《中国在香港的剧本也在亚太地区上演》

除了对中国国内平台的绑定之外，中国当局对全球社交网络使用的日益成熟也证明了中国如何将这些技术作为地缘政治力量和影响力的工具。

《是谁在操纵维基百科？》——中国

Facebook仍然是第一

尽管有比以往更多的平台出现，但 Facebook 仍然是政府网络部队活动的主要平台。

造成这种情况的部分原因可以由其市场规模（作为全球最大的社交网络平台之一）以及该平台的特定功能（例如亲密的亲朋好友交流、政治新闻和信息的来源）或形成群组和页面的便利性决定。

自2018年以来，报告已经收集了足够的证据，证明在 Instagram 和 YouTube 等图像和视频共享平台上也有更多的网络部队活动。

报告还收集了网络部队在 WhatsApp 上进行信息战活动的证据。

牛津互联网学院认为，随着越来越多的人使用这些社交网络技术进行政治交流，这些平台的重要性将在未来几年内继续增长。

报告方法

该报告的方法包括四个阶段：

对报道网络部队活动的新闻文章进行系统的内容分析；
对公共档案和科学报告进行二次文献审查；
起草针对国家的案例研究；
专家咨询。

在过去的三年中，上述前三阶段方法能够成功地捕获各种各样的公开文件，这些文件揭示了全球范围内的有组织的操纵活动。

而且这种行为非常有传统……《冷战故事～ CIA 如何操纵媒体影响舆论：Mockingbird 行动》

几乎可以肯定，没有公开记录过网络部队的行动会存在，而且我们已经看到这些案件随着时间而增长。

尽管这份报告绝不是要提供有关国家行为者在这一领域如何运作的完整画面，但是，我们可以通过将公共信息汇总在一起来开始建立更大的画面。

相关报告《诈：在线信息战操纵战略的多样化》

内容分析 ——

这是一种在传播和媒体研究中建立的研究方法。它已被用来帮助理解互联网和社交媒体如何与政治行动、政权转型和数字控制互相作用。

进行此定性内容分析的目的是了解积极使用社交媒体操纵舆论的国家行为者的范围及其能力、策略和资源。

本报告根据去年的报告对内容分析进行了建模，并使用了有目的的抽样来构建新闻文章中出现的特定变量的编码电子表格。

选择了以下关键字并将其组合用于搜索：机器人、剑桥分析公司、虚假信息、假账号、信息战、Instagram、军事、误传、宣传、心理操纵、心理战、社交媒体、袜子木偶、trolls、推特、WhatsApp、YouTube。

进行此定性内容分析有两个主要限制：媒体偏见和语言。

为了帮助减轻偏见，报告使用了 LexisNexis 和排名前三的搜索引擎提供商 —— Google、Yahoo!、和 Bing —— 搜索各种专业、本地和业余新闻来源提供的热门话题。

为了确保仅使用高质量的新闻源来构建调查的数据集，每篇文章均使用三点量表获得可信度评分。

排名第一的文章来自主要的专业品牌新闻机构。排名第二的文章来自较小的专业新闻机构、本地新闻机构或专家评论和专业博客。排名第三的文章来自内容农场、个人或超党派博客。这些从样品中移出。

语言是进行此分析的第二个限制。对于今年的全球清单，我们能够利用阿拉伯文，英文，法文，德文，希腊文，匈牙利文，意大利文，波斯语，波兰语，葡萄牙语，俄语和西班牙语。

我们还与英国广播公司（BBC）监控部门合作，后者提供了一个额外的门户网站，用于收集和汇总有关网络部队活动的高质量新闻和信息，并为波斯尼亚，克罗地亚，格鲁吉亚，哈萨克斯坦，吉尔吉斯斯坦，马来西亚，北马其顿，台湾，塔吉克斯坦，土库曼斯坦，乌兹别克斯坦，提供翻译服务。

仅依靠英语的部分包括以下国家和地区的内容：亚美尼亚，阿塞拜疆，柬埔寨，中国，捷克共和国，厄立特里亚，埃塞俄比亚，匈牙利，以色列，摩尔多瓦，缅甸，荷兰，北朝鲜，巴基斯坦，菲律宾，塞尔维亚，韩国，斯里兰卡，泰国，土耳其和越南。

在完成了定性内容分析和二次文献综述后，研究助手将这些发现综合到了简短的国家案例研究中。

案例研究提供了有关在内容分析中确定的计算性宣传实例的更多信息，以及有关进行社交媒体操纵的特定国家/地区的背景和媒体环境的详细信息。

除了内容分析和二次文献综述外，还完成了针对84％国家的案例研究，该案例研究可以在线随报告一起在数据补充中找到。

研究方法的最后一步—— 与专家协商 —— 能够对案例研究进行同行评审，并获得有关发现的英语和当地新闻报道及二手文献的质量的反馈，并讨论不同语种的其他资源和引文。

组织形式 ——

网络部队的活动具有多种组织形式，各种各样的参与者正在利用社交媒体来形成舆论，设定政治议程和传播思想。

尽管许多国家/地区在社交媒体上进行的计算性宣传有所增加，但归因于特定行为者仍然很困难。

本报告特别关注网络部队 —— 或政府或政党使用社交媒体操纵舆论的行为。

在44个国家/地区中都发现了政府机构使用计算性宣传来塑造公众态度的证据。

这类参与者包括通讯或数字部门或军事部门领导的信息战运动。

在自由之家（Freedom House）认为是“非自由”的国家中，都发现了政府部门或执政党使用计算性宣传在国内操纵公众态度的证据。

而且，在一些民主国家中，也发现了政府或军方主导的信息战证据。

👉报告统计了英国联合威胁研究情报小组（JTRIG）的活动，该组织成立了 Facebook 小组，并制作了大量包含有说服力的传播方式的 YouTube 视频，旨在“抹黑、促进不信任、劝阻、威慑、延误、破坏”。

英国《秘密宣传战网络》

👉报告还计算了美国的信息战操纵活动，例如美国国际开发署（USAID）计划，该计划在古巴创建了一个虚假的社交网络。

美国《互联网霸主的时间线 — — 他们将互联网视为间谍、破坏和战争的主场》

随着计算性宣传成为政治、国家安全和情报行动越来越普遍的工具，我们希望这些例子能促使人们进一步讨论国家行为者对这些工具的使用方式。

除了政府或军方主导的信息战之外，报告还研究了政党主导的信息战。

在被分析的70个国家中，有45个国家存在证据表明，有政党或政客在竞选期间使用了计算性宣传的工具和技术。

报告统计了聚集假冒追随者的政客实例，例如美国的米特·罗姆尼（Carroll 2012），澳大利亚的托尼·阿伯特（Tol Abbott）（Rolfe 2013）或荷兰的Geert Wilders（Blood 2017）。

报告还计算了在印度（Gleicher 2019）等国家使用广告通过操纵媒体将选民定位的政党，或在英国退欧公投中使用英国剑桥分析公司进行投票的非法微观操纵的情况。

关于剑桥分析公司的内幕《心理操纵的秘密：”行为经济学”+PR=？》

最后，报告进一步统计了政党故意在社交网络上传播或放大虚假信息的情况，例如巴西（2018年），印度（Dwoskin 和 Gowen 2018）和尼日利亚（Hitchen 2019）的 WhatsApp 信息战运动。

👉信息战操纵的一个重要特征是，网络部队经常与私营企业、民间社会组织、互联网亚文化群体、青年团体、黑客团体、边缘运动、社交媒体影响者、以及在意识形态上支持其事业的志愿者合作。

这些群体通常难以区分，特别是因为活动可能会被国家暗中和明确地认可。（您觉得中国的孙什么川那个僵尸网络真的是自干五的独立账户吗？再想想）

在本报告中，寻找由国家正式批准的正式协调的证据，而不是由于意识形态或目标重叠等因素而可能暗中批准的运动。

在70个国家中，有25个国家/地区被发现了国家行为者与提供计算性宣传服务的私人公司或战略传播公司合作的证据。

👉在70个国家中有30个国家被发现了政府与公民或民间社会组织之间正式协调的证据。

在某些情况下，例如在阿塞拜疆、以色列、俄罗斯、塔吉克斯坦、乌兹别克斯坦，政府机构会雇用学生或青年团体来进行计算性宣传信息操纵。

心理分析《假新闻产业触目惊心互联网人真的如此好骗？》

策略，工具和技术 ——

尽管宣传本身没有什么新意，但是，社交网络技术（算法、自动化和大数据）的出现改变了数字时代信息传输的规模、范围和精度。

网络部队使用虚假帐户来传播计算性宣传。

在过去的三年中，牛津互联网学院跟踪了三种类型的虚假帐户的流行情况：bot、真人和电子人。

👉Bot 是高度自动化的帐户，旨在模拟在线人的行为。它们通常用于扩大叙述或淹没政治异议。

调查发现有证据表明在70个国家中有50个国家使用了机器人帐户。

👉但是，比机器人更常见的是人工账户，它们没有利用自动化。相反，他们通过发布评论或推文或通过社交媒体平台的私人消息传递来干扰对话。

在今年的报告中，在70个国家中有60个国家被发现了人工帐户的使用。结合自动化与人工管理的电子人帐户是确定的另一种帐户类型。

👉今年的报告将假冒帐户的类型增加了被黑的或被盗的帐户。

尽管这些帐户本身并不是“虚假”的，但网络部队在战略上使用了高知名度的帐户，以散布亲政府的宣传或通过撤消合法所有者对帐户的访问权限来限制言论自由。

👉少数国家行为者已开始将被盗或被黑客入侵的帐户用作其在线操纵行动的一部分，突显了计算性宣传与更传统形式的网络攻击之间的密切联系。

⚠️最后，需要注意的是，并非所有用于网络部队活动的帐户都是伪造的。你知道中国的自干五和 “高级五毛”吗？

不仅中国。在某些国家，例如越南或塔吉克斯坦，国家行为者鼓励网络部队使用其真实账户来传播亲政府的宣传、挑衅政治异议者或大规模报道政府定制的内容。

随着社交媒体公司在减少与网络部队活动相关联的帐户方面变得更加积极主动，对真实帐户的共同选择可能会成为操纵者更为重要的策略。

网络部队在与用户在线交流时会使用多种消息传递和效价策略。效价表示消息、事件或事物的吸引力或影响力。

2019年的报告扩展了网络部队在与在线用户进行对话时使用的消息传递和效价策略的类型：

传播支持政府或支持政党的宣传；
攻击反对派或开展抹黑运动；
引导并转移注意力；
推动分裂和两极分化；
通过人身攻击或骚扰压制参与。

操纵策略

网络部队使用多种策略。报告将这些活动分为四类：

散布虚假信息或可操纵性媒体；
大规模举报内容或帐户；
数据驱动策略；
trolling, 人肉或骚扰;
在线放大特定的内容和媒体

不要错过《抵制在线攻击：不要被 trolling 和 Doxing 压垮 (2)》

虚假信息或可操纵媒体的创建是最常见的传播策略。

《媒体操控：战略性欺骗的重头戏》

在调查的70个国家中，有52个国家的网络部队积极创建了 meme、视频、虚假新闻网站、或其他操纵性媒体等内容，以误导用户。

有时，由网络部队创建的内容是专门针对特定社区或部分用户的。通过使用在线和离线有关用户的数据源，并为流行的社交媒体平台上的广告付费，一些网络部队利用虚假信息或操纵性媒体来针对特定社区。

trolling、人肉或骚扰的使用正在成为全球范围内日益严峻的挑战，并威胁到基本人权。

在2018年的报告中已经确定了27个国家使用国家赞助的 trolls 通过社交媒体攻击政治对手或激进人士。

今年则发现，已经有47个国家/地区将trolls作为其数字武器库的一部分。

👉 网络部队还通过大量的恶意举报内容或帐户来审查言论和表达。

维权人士、政治异见人士或新闻工作者的帖子通常会被网络部队帐户的协调操纵网络进行恶意举报，以此来玩弄社交媒体公司用来删除不适当内容的自动化系统。

我们在2014年就曝光过中国采取的相关方法，见《网络水军的布局》

trolls、删除帐户或帖子的行为还可能与现实世界中的暴力同时发生，这可能对表达基本人权产生深远且令人不寒而栗的影响。

不要错过《如何分辨：机器人、僵尸网络和 trolls》

组织预算、行为和能力

尽管关于网络部队的规模和运作的公开信息有限，但仍然可以汇总一下他们的预算额、他们如何合作、以及他们所承担的组织能力和行为的种类。

团队规模和持续性 ——

团队的规模和持续性因国家而异。在某些国家/地区，团队会临时出现在选举前后，或在其他重要政治事件周围形成公众态度。

在其他情况下，网络部队则由专职人员整合到媒体和通讯领域，以控制、审查和塑造在线对话和信息。

👉一些团队由管理数百个假账户的少数人组成。在其他国家（例如中国、越南或委内瑞拉），国家雇用大批人员通过在线渠道积极塑造舆论和监视对话。

预算和支出 ——

计算性宣传仍然是一项大生意。调查发现大量资金花在了“公关”或战略传播公司上，在菲律宾（Mahtani 和 Cabato 2019）、危地马拉（Currier 和 Mackey 2018）、和叙利亚（York 2011）等国家开展活动。

这些合同的规模不等，从与当地公司的较小支出到与剑桥分析公司等全球公司的数百万美元合同。

👉Trolls 产业的兴起是公众和学术界的兴趣日益增长的领域，也是未来研究和新闻记者关注的领域。

不要错过另一份报告《巨魔崛起：政府资助的网络水军正遍布全球》

技能和知识扩散 ——

👉也有证据表明，正式和非正式的知识在跨越地理边界传播。国家政权互相学习最恶劣的手段。

例如，在对缅甸的网络部队活动进行调查期间，有证据表明，军人受到了俄罗斯特工关于如何使用社交媒体的培训（Mozur 2018）。

同样，斯里兰卡的网络部队在印度接受了正式培训（2019年专家咨询）。

泄露的电子邮件还显示，埃塞俄比亚信息网络机构派遣工作人员在中国接受正式培训的证据（Nunu 2018）。

再补充一个《杀死华盛顿邮报记者 Jamal Khashoggi 的杀手在美国接受的培训》

👉尽管计算性宣传的知识和技能在全球范围内传播方面存在许多差距，但这也是需要注意的重要领域。

这就是为什么 IYP 介绍全球范围内的新生维稳/镇压手段，因为它们有可能很快就会在您的国家上演。在下面这篇文章中看到更多。

请注意《谁正在成为独裁者？这十点迹象帮你判断》

网络部队人数 ——

通过对网络部队所使用的行为、支出、工具和资源进行比较，我们可以开始对社交媒体操纵的全球组织进行更大范围的比较。

国情总是很重要的考虑因素。但是，我们建议也有必要对各种政权有组织的虚假宣传活动的经验进行概括，以发展对该现象的广泛的理解。

报告制定了一种简化的措施，以比较评估网络部队团队之间的能力，其中要考虑到所涉及的政府行为体的数量、工具的复杂程度、战役的数量、团队的规模和持久性、预算或支出。

报告从四个方面来描述网络部队的能力：

（1）最小规模的网络部队团队是新组建的，或者是以前活跃但目前活动不确定的团队。

新组建的团队拥有最少的资源，并且仅将少量的计算性宣传工具应用于少量平台。

这些团队只在国内运作，在国外没有运作：安哥拉，阿根廷，亚美尼亚，澳大利亚，克罗地亚，厄瓜多尔，希腊，荷兰，韩国，瑞典，台湾和突尼斯。

（2）网络部队能力较低、涉及规模较小的团队，这些团队可能在选举或全民公投期间处于活动状态，但直到下一个选举周期才会再次活动。

这类团队倾向于仅尝试几种策略，例如使用机器人来放大虚假信息。

这些团队在国内运作，在国外没有运作。包括：奥地利，哥伦比亚，捷克共和国，厄立特里亚，德国，洪都拉斯，匈牙利，印度尼西亚，意大利，肯尼亚，马其顿，摩尔多瓦，尼日利亚，朝鲜，波兰，卢旺达，塞尔维亚，南非，西班牙，津巴布韦。

不要错过《选举如何成为一门生意：私人情报市场和现实的有偿操纵者》

（3）中型网络部队的能力涉及具有更一致的形式和策略的团队，其中包括常年雇用以控制信息空间的全职员工。

这些中等能力的团队通常会与多种参与者类型进行协调，并尝试各种用于社交媒体操纵的工具和策略。

一些中型团队在国外开展影响力行动。这类团队包括：阿塞拜疆，巴林，波斯尼亚和黑塞哥维那，巴西，柬埔寨，古巴，埃塞俄比亚，格鲁吉亚，危地马拉，印度，哈萨克斯坦，吉尔吉斯斯坦，马来西亚，马耳他，墨西哥，巴基斯坦，菲律宾，卡塔尔，斯里兰卡，苏丹，塔吉克斯坦，泰国，土耳其，乌克兰，英国和乌兹别克斯坦。

（4）高容量网络部队容量很大涉及大量人员，以及用于心理操纵或信息战的大量预算支出。

可能还会在研发上花费了大量资金，以及使用大量技术，都有证据。

这些团队不仅在选举期间运作，而且还包括致力于塑造信息空间的专职人员。

高容量的网络部队团队专注于国内外同时运营。这类团队包括：中国，埃及，伊朗，以色列，缅甸，俄罗斯，沙特阿拉伯，叙利亚，阿拉伯联合酋长国，委内瑞拉，越南和美国。