逼真的 Deepfakes 泛滥是人工智能崛起的有害副产品之一，成为基于 Deepfakes 的骗局的受害者已经让公司损失了数百万美元——更不用说这些骗局可能对国家安全造成的影响了。一家初创公司为政府和企业开发了一套工具，帮助检测和阻止音频、视频和静态图像中的 Deepfakes 和模仿行为，该公司周三宣布获得一些资金，其中包括一些令人印象深刻的客户和投资者。
GetReal由深度伪造媒体检测先驱之一 Hany Farid 共同创立，已筹集 1750 万美元股权，这笔资金将用于研发、招聘和业务发展。
除了融资外，该公司还将推出取证平台服务，其中包括 Web 界面、API 和集成，用于将媒体分析作为服务运行。功能包括威胁暴露仪表板；专门用于保护高级管理人员免遭欺骗的“检查”工具；用于筛查媒体的“保护”工具；以及“响应”，其中涉及 GetReal 的人工团队进行更深入的分析。
网络安全和人工智能专家 Forgepoint Capital 领投了本次 A 轮融资，Ballistic Ventures、Evolution Equity 和 K2 Access Fund 也参与其中。
Ballistic 是这份名单中的关键公司。GetReal 从 2022 年开始在该风投公司孵化，直到 2024 年 6 月才崭露头角。Ballistic 还领投了 GetReal 的 700 万美元种子轮融资——根据 PitchBook 的数据，这轮融资还包括 Venrock、Artisanal、Qudit 和 Silver Buckshot。
Ballistic 之所以重要还有另一个原因：该公司创始人泰德·施莱因 (Ted Schlein) 是 GetReal 的董事长和另一位联合创始人。在 Ballistic 之前，施莱因曾领导凯鹏华盈。
Hany 即服务
GetReal 涉足网络安全领域，尤其是快速发展的网络取证领域。这家位于圣马特奥的初创公司正在解决的市场空白是该领域人才和知识的匮乏。
GetReal 首席执行官马特·莫伊纳汉 (Matt Moynahan) 表示：“如果你认为网络安全缺少人才，那就做好取证准备吧。”
莫伊纳汉并不是这家初创公司的创始人；他在 GetReal 尚未成名之前就加入了这家公司。此前的30 年，他曾领导过一系列大型网络安全公司，例如赛门铁克、Arbor Networks、Veracode 和 Forcepoint。
“说实话，我认为我从未见过如此普遍的威胁，”他在谈到创建并应用恶意深度伪造的能力时说道。
相比之下，他将病毒描述为“新型威胁”。他说：“过去 20 年，我们看到威胁正在向最终用户转移。”允许人们制作深度伪造作品的“趣味”应用程序是问题的一部分，但我们今天的工作环境也是如此。“人们已经从实体店转向现在几乎完全数字化和云端的企业。”
他说，网络钓鱼证明，即使是非常聪明的人也可能很容易被欺骗，总而言之，这是一个复杂且非常不好的迹象，预示着事态的发展。
GetReal 是 Farid 的创意，他是一位资深的知名学者（目前在加州大学伯克利分校任职），被认为是识别数字图像是否被篡改的技术先驱。可以说，Farid 早在“深度伪造”一词出现之前就意识到了其风险。
正如 Farid 向 TechCrunch 解释的那样，虽然他主要从事学术和研究工作，但多年来，他一直在或多或少非正式地运用自己的学习成果，为媒体组织、法律团队（在数字图像被法庭采纳后）等提供服务。2022 年，他与 Schlein 一起考虑如何将其转化为实际业务，将调查过程转化为代码。
“没有人像 Hany 那样深入研究这个问题，”莫伊纳汉说。“但 Hany 无法扩展。所以我们基本上是借鉴了 Hany，并试图在云端创建‘Hany 服务’。”
有趣的是，法里德指出，虽然他们正在开发的技术取决于新应用程序的运作方式（GetReal 进行了大量逆向工程），但它结合了几十年来几乎没有改变的知识。
“我们 20 年前开发的一些技术至今仍然有效，”他说。他拒绝解释这些技术是什么。“你不必告诉人们我们所做的一切，但要做好这些技术很复杂。”
Signal 效应：文本即将发布
周三宣布的 A 轮融资还包括一些关键的战略支持者，包括思科投资、Capital One Ventures 和与中央情报局关系密切的投资公司 In-Q-Tel。
领导此次投资的 Forgepoint 联合创始人 Alberto Yépez 表示，这一系列战略反映了对 GetReal 产品感兴趣或已经开始采用其产品的公司类型。
Yépez 表示，他在尽职调查过程中发现，受到严格监管的行业（例如金融机构）已经在要求这样的产品，而 CISO 也在根据董事会的授权与之接触。
他说：“在他们的首席执行官接受语音采访后，他们提出了 [深度伪造冒充] 的问题。”他们自己也被冒充，并被冒充者欺骗。他们列出的客户包括 John Deere 和 Visa。
至于政府工作，耶佩兹说：“他们在该领域也有一些优先事项。”
这些“优先事项”包括情报机构和政府官员根据不良行为者的虚假信息被诱骗采取行动或不采取行动。
然而，它们尚未扩展到基于文本的模仿。
这件事在本周才被曝光，当时《大西洋月刊》的编辑被错误地添加到 Signal 的一个聊天群中，该群正在策划对也门的军事袭击，他最初以为这是一个冒名顶替的恶作剧。令人震惊的是，那次聊天竟然是真的，而且严重违反了国家安全程序。
Farid 表示，文本目前不属于 GetReal 的管辖范围。“这是一个完全不同的问题，”他说。但从长远来看，该计划将随着时间的推移扩大范围，以涵盖所有类型的深度伪造和冒充威胁。
