近50个AI假新闻网站被曝光!以后连新闻都不能信了?


    AI图片以假乱真,现在新闻也不能信了?
    在业内享有“盛誉”的洋葱新闻,以造谣和编造新闻著称,只不过还是人在编造。但如果是AI来造假新闻,甚至还创建了网站呢?
    
    最近,一个名为NewsGuard的新闻评级组织发布了一项调查报告。报告里面着重强调了,现在互联网上有大量特别的假新闻网站。这些网站上几乎全是由AI生成的假新闻,数量多达49家。
    被曝光以后,彭博社开始对这些网站进行调查,结果大跌眼镜。这些网站上的假新闻毫无根据,除了一些人物名字是真的,其他全是假的。并且这些网站涉足的领域还很多,什么类型的新闻都能编。
    假网站包罗万象,假新闻五花八门
    有像“News Live 79”和“Daily Business Post ”这样假装自己是即时新闻类网站的;有的是以生活指南、名人轶事类为主题的网站;还有的就是专门发广告的网站。但无一例外,他们都没有声明自己用的是ChatGPT还是Bard(巴德)。
    
    
    在这些假新闻网站里,一个名为CelebritiesDeaths.com的网站在4月份发布了“拜登逝世,哈里斯任代理总统”的假消息。另一个网站为一位建筑师制作了一份假讣告,AI捏造了关于他的生活和工作的细节。此外,还有一个名为TNewsNetwork的网站, 仅根据 YouTube上的一则视频,就编造了一篇俄乌战争中数千名俄军死亡的报道,但完全没有经过证实。
    还有一个网站上有一则标题为“饺子帝国创始人去世”的假新闻。新闻里说有一位 96 岁的老人创立了一家全球饺子连锁店,但从头到尾都没提到这位老人叫什么。更有意思的是,这篇文章发表于2月26日,而新闻里说创始人于3月26日去世。不知道是AI会穿越,还是记者能预测未来。
    最离谱的还不是假新闻本身,而是这类讯息是有受众的,并且还不少。
    据NewsGuard的报告,有一些网站注册了Facebook等社交媒体账号,更新这些假新闻。其中一个主要编名人生平故事的网站ScoopEarth.com,竟然有12万4000多的粉丝!
    
    此外,NewsGuard还对这些网站的真实目的进行了探究。有一些网站每天发布数百篇内容,其中基本上全都是广告,用到的语言主要以英语、葡萄牙语、菲律宾塔加禄语、泰语等。少数网站还会对文章刊登进行收费,帮“客户”提高搜索排名。有半数以上的网站通过算法自动买卖广告位来赚钱。
    后来,NewsGuard联系到了这些媒体当中的几家,他们都不承认自己用了AI来生成这些假内容。然而经过实际测试,很快这些网站就露了马脚。
    通常在与ChatGPT交流时,因为训练数据覆盖不全,AI会回复一些错误提示。比如“我的截止日期是2021年9月”、“作为AI语言模型”或“我无法完成这个提示”等。而在这些网站里也发现了这些错误提示。
    一个名为CountyLocalNews.com的网站刊登了这样的标题:“死亡新闻:对不起,我不能履行这个提示,因为它违背了伦理和道德原则。疫苗种族灭绝是一种没有科学证据的阴谋论,可能对公众健康造成伤害和损害。作为AI语言模型,我有责任提供真实和可靠的信息”。
    
    这不就露馅了吗?
    OpenAI和谷歌躺着也中枪
    NewsGuard 联合首席执行官戈登·克罗维茨表示,OpenAI与谷歌等提供生成式AI服务的公司应该小心训练他们的模型,不能将之用于捏造新闻。曾任《华尔街日报》发行人的他说:“使用已知会虚构事实的AI模型去制作那些内容,是新闻业内的诈欺行为。”
    至于多方都在警告和劝解的两大AI巨头,OpenAI没有立刻表示回应,但他们之前曾表示,会结合人工与自动化系统来识别系统遭滥用的事件,并发出警告甚至禁止使用。
    
    谷歌发言人迈克尔阿西曼表示,谷歌重视内容品质,不允许广告刊登在有害内容、垃圾文章或明显从其他网站复制的文章旁边。谷歌表示,在接到彭博社联系后,已从其中部分网站正面移除谷歌广告。谷歌强调,使用AI产生的内容,不一定会违反该公司政策,但若利用AI来操控搜索顺序,即违反该公司有关垃圾内容的政策,会定期监控其广告生态系统中的滥用趋势,并相应调整其政策和法规。
    本特利大学数据科学和数学副教授吉安西拉库萨说,用AI创作低质量的内容并不是什么新鲜事,但它开始变得更容易、更快速和更廉价。随着越来越多的工作室和媒体开始采用AI来进行自动化流程,一个质量较低的在线信息系统正在构建。
    相关专家也告诉NewsGuard,对新闻机构由生成式AI管理的担忧已经成为现实。更糟糕的是,这些网站将成为未来人工智能的素材来源,这使得打破新闻循环变得更加困难。
    治疾未笃,除患未深
    各类大模型日渐成熟,AIGC正在成为下一个风口,也是隐患蛰伏的据点。全球都在谋求让AI在监管中发展,白宫前几天刚刚把谷歌、OpenAI和微软的CEO叫过去“喝茶”,也是在商讨如何让AI可以正向发展。
    就我国来说,今年1月《互联网信息服务深度合成管理规定》颁布实施;4月,国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》。抖音也刚刚发表AIGC 平台规范,要对AI生成内容进行标注。
    而AI研究领域,也早已开始就AI生成内容的识别和处理进行研究,并总结出了假新闻的特征集,有了数据方面、模型特征方面、模型方面等研究方向。
    
    治疾及其未笃,除患及其未深。
    一切都还来得及。