【旧闻转发】人工智能操纵「舆情」研究报道的评述分析

本文基于美国伊隆大学数据科学家奥尔布赖特发布的人工智能技术操纵美国大选的系列研究报告进行整理分析,在梳理提炼其主要观点的基础上对“微宣传机器网络”运行机理及诱导性舆情生态的功能属性进行深入研究,解读了追踪和识别技术、DNS 劫持技术、大数据挖掘技术和人工智能技术在有政治目的和倾向塑造舆论、干预舆情方面发挥的关键作用,研判了其引发的信息安全新风险新问题以及对现有治理框架和机制带来的新挑战,并提出相应对策建议。

传播属性分析

研究报告重点解读了以数据驱动的算法模型和人工智能技术训练为支撑的“微宣传机器网络”(Micro-Propaganda Machine Network)的生态结构和运行机理,可知:

(一)“微宣传机器网络”规模庞大、分发渠道多元、信息源头网站汇聚集中,并与主流新闻媒体交织渗透,具有强大的舆论动员、情绪煽动、观点引导、社会动员影响力。

一是从网络规模上看,306 个新闻网站(包括新闻编发和第三方汇聚转载网站)、2.2 万个网页、133.8 万个超链接交错连接构成“微宣传机器网络” ,该网络以行为的微观瞄准(behavioral micro-targeting)和情绪操纵(emotional manipulation)为主要特征,具有强大的传播影响力、舆论动员力和社会动员力,能够裁剪把控受众人群对事物的认知、意见、观点,引导煽动舆论情绪,就一些重要复杂议题来制造病毒传染性的分享共识体验。

二是从传播扩散渠道看,通过超链接、搜索引擎、邮件、P2P 共享、RSS 订阅、微博客、即时通信与社交平台、媒体直播平台等渠道进行内容集中汇聚和分发扩散。

三是从信息源看,网络虚假不实误导性新闻的线上源头和分发汇聚节点主要来自Breitbart,Infowars 和Fox News;306 个网站深度参与了内容编制转载分发,下游依次是Conservapedia、Rense、YouTube 以及数以百万计的Facebook、Twitter 超链接。这一层级网络与“华盛顿邮报”,“纽约时报”,Google,CNN 和福克斯新闻等主流媒体/ 报纸与扩展的右翼新闻生态系统的交互连接渗透。

(二)以行为追踪识别技术实现数据采集,以人工智能技术和数据挖掘分析技术为底层支撑,构建心理行为分析预测、广告定向投放模型算法,实现网络虚假不实误导性新闻信息的精准分发。

一是以行为追踪识别技术全量搜集Facebook等社交网络中用户账号和身份信息、浏览足迹、转载和点赞内容,为人工智能技术和数据挖掘分析提供海量数据支持;

二是采用剑桥分析公司的心理性格分析OCEAN 模型(该公司利用此模型已对2.2 亿美国人进行性格分析,平均掌握的每个成年人数据点在5 000 个15),精确地建立个人心理性格画像;结合全网采集的行为数据,采用人工智能技术和数据挖掘分析技术构建算法对用户政治倾向和行为偏好进行预测;

三是利用广告定向模型算法,通过广告网络、应用内置私信、电子邮件、订阅推送等方式频繁发送只有指定用户可见的政治宣传“隐秘帖”,实现对于特定对象的政治主张的精准动员。

风险分析

(一)“微宣传机器网络”具备强大的舆论动员、情绪煽动、观点引导、社会动员力,并可依托人工智能技术和数据挖掘技术实现定向精准分发。

一是易被具有特定意图的国家机构、极端组织势力、违法犯罪人士利用,成为煽动、策划、组织线上线下暴恐、群体性事件,实施网络攻击、诈骗的渠道工具。

二是易被利用来传播违法有害信息,成为攻击诋毁政治体制、政党制度和国家形象,制造思想混乱,开展颠覆破坏活动的工具;这一技术实践将接连复制,继而成为国际化政治武器,存在巨大的政治动员安全风险。

三是在当前经济调整政治改革、社会利益多样化,社会思想复杂多变的关键期,线上线下深度渗透融合大环境下,极易被作为肆意渲染炒作放大的传播工具,围绕宗教、民族、司法、维权等问题制造话题事端,诱导推动“网络问题社会化、社会问题网络化”,引发社会动荡变革,威胁国家稳定和谐大局。

(二)当前传统媒体和新媒体深度融合、协调发展的战略形势下,一方面第三方新闻内容转载分发网站平台、公众账号、微博客、即时通信与社交平台、搜索引擎、网络直播平台、APP 等新媒体应用形式蓬勃创新;另一方面,主流媒体平台的新闻内容编发、转载、传播分发能力逐渐并深度向线上新闻聚合转载分发、即时通信与社交平台、网络直播平台移转,导致社会动员、舆论动员能力和资源的重新分配。

一是上述新媒体应用形式以“微宣传机器网络”架构进行交互连接融合,进一步加剧了信息传播的多属性、自媒体化、聚合放大效应,交互模式日益复杂、覆盖范围空前扩展,应用业态高度交融、工具载体更加智能、呈现方式大大丰富,信息安全风险问题日益深重复杂;

二是新闻采编发布主流媒体平台对舆论传播生态的主导权被上述新媒体应用形式削弱并接管, 传统信息内容治理思路和监管重心、责任配置要求面临重大挑战。

三是上述新媒体应用形式通过“微宣传机器网络”实现新闻信息编发转载分发的平台化、融合化、移动社交化、智能化,并作跨平台、跨网络、跨业务、跨网站的关联同步和应用接口开放,大大增加违法有害、虚假不实信息快速扩散的可能性,并对网络空间秩序维护和内容治理带来了巨大的技术难度。

(三)依托行为追踪识别技术采集海量数据,依托人工智能技术和大数据挖掘分析技术精益算法模型,助力于个性化、精准化信息内容分发,违法有害信息主要通过端到端加密的形式(各类“隐私帖”“定向广告”等只对用户本身可见)进行传播,存在重大信息安全问题隐患。

(四)目前对于虚假不实误导性信息的判定识别规则、算法和工具手段由于理论研究积累有限,技术能力存在瓶颈而严重匮乏不足,导致新闻信息舆论生态治理工作缺失必要的配套保障和技术支持。


美国相关:
前奥巴马总统公开表态,「网络虚假不实误导性新闻」以及「俄罗斯政府通过黑客袭击以及信息操控影响美国总统选举」,将会严重威胁美国民主选举、市场经济等根本制度。为此,奥巴马签署了《反宣传法案》

川普在专访中表态:美国政府应该“狠狠揍谷歌、脸书与推特这三家科技巨头公司”,这三家公司试图操纵有关2020年美国大选的舆论,使其朝着有利于民主党的方向发展。“它们让我更难传达信息了。”川普说道,“这些公司的人都是民主党人,心全向着民主党。假使我宣布明天转成自由派的民主党人,那么我的支持者人数会是现在的五倍。”

民主党高层:指控俄罗斯黑客入侵民主党全国委员会并将其中文件泄露给维基解密,并确信其目的为使总统选举结果有利于总统当选人川普,并认为俄罗斯总统普京亲自策划行动。

共和党高层:长期以来一直指控谷歌、脸书与推特等科技企业操纵舆论,使得舆论对民主党有利。

谷歌公司表示:“以非凡的关怀与保障措施”设计产品,使其成为每个人都可信赖的可靠信息来源,同时不受政治观点的影响。

推特公司表示:致力于确保“公司提供服务的健康状况,其中包括删除虚假账户,以防止恶意行为”。


中国相关:

依据《国家安全法》、《反恐怖主义法》和《网络安全法》尽快配套落地承接、可操作指导意义的政策法规体系,以确保对涉政涉暴恐、恶意抹黑造谣煽动颠覆国家政权、扰乱清朗舆论生态、诱导社会动荡的信息内容实施必要有力的反宣传管理。

加强对违法有害和虚假不实信息的识别处置技术研究

通过政府采购、PPP、国家科研专项、标准研制、最佳行业实践等形式路径鼓励引导前述新媒体应用形式的运营企业和服务提供者充分发挥数据、人才和技术优势,深入开展对虚假不实诱导性不良信息的识别判定规则总结提炼,算法训练优化及监测处置工具研制。


参考来源:(墙内了解慎点↓)
【网安智库】“人工智能技术操纵美国大选”研究报告的 评述分析
https://www.sohu.com/a/161183022_468736
1
分享 2021-01-12

0 个评论

要发言请先登录注册

要发言请先登录注册