最近一个周六的晚上,一位无聊的科技公司高管决定玩一玩他一直听说的人工智能应用程序。这位我们称之为 Matthew 的高管开创了大多数人在互联网上寻找事物的方式:他打开笔记本电脑,在 Google 中输入人工智能公司的名称 Midjourney。他点击了最上面的结果,再点击几下,他就下载并安装了该应用程序。
或者这就是他认为自己所做的:实际上,他点击的是谷歌无意中出售给伪装成 Midjourney 的骗子的广告。Matthew 无意中安装了“信息窃取程序”,这是一种恶意软件,可以在受害者的计算机中进行梳理,寻找用户名和密码,然后将其传输给黑客。
一个名叫Aurora的人访问了他的加密钱包、社交媒体帐户以及谁知道还有什么。黑客将 Matthew 的 Coinbase 钱包中的内容(数十万美元的加密货币)转移到了一家不属于他的银行。
“这是你的一生,”Matthew说。“你感觉如此赤裸、恐惧和脆弱。”
Matthew责怪自己没有更加小心,但他也责怪谷歌允许一个明显的骗局出现在其结果页面的顶部。这种诈骗因设计选择而被放大,这些设计选择给人一种谷歌搜索结果链接完全客观且值得信赖的感觉,同时又让人很难分辨哪些链接在那里,因为有人花钱把它们放在那里。(谷歌将广告标记为“赞助”,但很容易错过这个标签。)
Matthew的经历引发了人们长期以来的疑问,即该公司统治搜索市场的成本及其明显无力遏制欺诈行为。这表明,谷歌在其实验性(有时甚至受到事实上的挑战)聊天机器人搜索引擎上阻止诈骗和错误信息可能会比预期更加困难。众所周知,在 Google Bard 上,确定该公司提供的信息的来源可能更加困难。
到了 7 月底,Matthew点击的广告已经消失了,但谷歌搜索结果顶部附近仍然出现了虚假的 Midjourney 网站。
“它仍然出现在结果中这一事实是不合理的,”他说。“我信任他们,但这是一种虚假的信任。”
在接受《彭博商业周刊》询问后不久,虚假的“中程”列表就从谷歌消失了。谷歌拒绝对虚假列表发表评论,但表示它使用人工审核员和软件的结合来删除此类内容,这是谷歌所禁止的。它还指出,去年它因违反公司政策而删除了 52 亿条广告。
公司发言人Ned Adriance表示:“虽然有不良行为者试图规避我们的保护措施,但 Google 的系统在显示高质量信息以及打击垃圾邮件和恶意行为方面非常有效。”
不应该需要复杂的反诈骗系统来判断谷歌向马修展示的广告是恶意的。该列表指向一个自称是 Midjourney 的网站,但该网站将公司名称中的字母“o”替换为零,这是一种众所周知的诈骗策略。
在Matthew点击之前,Reddit 上就有帖子警告用户注意这一事情,康涅狄格州民主党参议员理查德·布卢门撒尔 (Richard Blumenthal) 在 2022 年的一封信中指责谷歌“经常未能解决危险的诈骗、冒充和网络犯罪”。
此外,Midjourney 甚至没有可下载的应用程序;您可以通过聊天应用程序 Discord 访问它。
类似的例子在谷歌的历史上定期出现。例如,7 月下旬,数字设计师 Shmuli Evers 发现诈骗者成功欺骗 Google,为达美航空和其他大型航空公司提供虚假电话号码,以销售假机票。埃弗斯在推特上发布了相关错误后,谷歌纠正了这一错误,但批评人士表示,该公司早就知道类似的电话号码诈骗事件。“过去 15 年里,此类劫持事件每年都会发生,”Near Media 联合创始人迈克·布卢门撒尔 (Mike Blumenthal) 说道,该公司为企业提供数字和搜索营销方面的咨询服务。“谷歌长期以来一直将这些诈骗的成本推给社会。”
Blumenthal 表示,骗子已经更换了花店、锁匠和酒店的电话号码。Blumenthal 早在 2008 年就记录了此类案件。“我们不会容忍这种误导性活动,我们会不断监控和改进我们的平台,以打击欺诈行为,”Adriance 说道。航空公司的诈骗。
谷歌还受到一种更微妙的操纵。搜索引擎营销人员有时在 ChatGPT 和类似服务的帮助下,用垃圾、自我推销的网站填充了某些类别的结果页面,这些网站通常没有任何有用的内容。《大西洋月刊》去年将这个问题描述为“谷歌搜索的公开秘密”,导致用户采取一些技巧来过滤虚假结果。
最流行的策略之一是在任何搜索中添加“Reddit”一词,试图让谷歌专注于该社交网络,该网络被认为在很大程度上避免了营销和垃圾邮件泛滥。另一种方法:用 TikTok 取代 Google,如果你正在寻找餐馆、食谱或旅行提示,TikTok 产生的结果可以少很多垃圾信息。
最后,还有聊天机器人,例如 Bard 和微软公司为其 Bing 搜索引擎开发的聊天机器人,一些预测者表示,聊天机器人最终可能会取代传统的网络搜索。
谷歌表示,绝大多数客户对其搜索结果的质量感到满意,这至少部分解释了为什么其在该类别中的主导地位在二十年来几乎没有受到挑战。据Similarweb称,该公司在搜索引擎领域占有91%的市场份额。
国会可以通过改革《通信规范法案》第 230 条来施加更大的压力,该法案保护网站免受与其用户创建的内容相关的法律责任。但此类行动将引起激烈争议,而且国会近年来并未表现出处理此类问题的能力。
更有可能的途径可能是美国司法部和州总检察长提起诉讼,旨在将谷歌与其多年前购买的两个广告网络分开。
谷歌表示,这起诉讼是“试图在竞争激烈的广告技术领域挑选赢家和输家”。
这些政府行动不太可能在数年内得到解决。与此同时,马修警告朋友和亲戚要小心。尽管他最终在联邦调查局的帮助下收回了 90% 的钱,但他表示,从现在开始,他将把钱存入传统银行,而不是加密货币。但他担心人们仍然会陷入类似的骗局。
“在这一点上,谷歌已经足够复杂了,如果我搜索像 Midjourney 这样简单的东西,我希望顶部的链接是 Midjourney 网站,”他说。“他们只是没有解决一些实际问题。”
文章来源于网络,如有侵权请联系本站删除