股票在线配资门户网

辉煌配资以限制 Gemini 模型被滥用

　　谷歌在印度发布了《安全宪章》，将在这个美国之外最大的市场扩大人工智能主导的欺诈检测和反诈骗技术研发。

　　印度的数字欺诈问题正日益严峻。印度政府数据显示，与该国即时支付系统 UPI 相关的欺诈金额去年同比增长 85%，达到近 110 亿印度卢比（约 1.27 亿美元）。印度还出现了多起 “数字逮捕诈骗” 事件 —— 诈骗者假扮官员通过视频通话敲诈钱财，以及利用掠夺性贷款应用实施诈骗。

　　谷歌希望通过《安全宪章》解决这些问题。该公司还在印度成立了安全工程中心，这是继都柏林、慕尼黑和马拉加之后的第四个此类中心。

　　谷歌安全工程副总裁希瑟・阿德金斯在接受 TechCrunch 采访时表示，去年印度谷歌峰会上宣布成立的安全工程中心（GSec）将推动谷歌与当地社区合作，包括政府、学术界、学生以及中小企业，共同开发解决网络安全、隐私保护、安全防护和人工智能问题的方案。

　　谷歌在一篇博客文章中称，已与印度内政部下属的印度网络犯罪协调中心（I4C）合作，提升公众对网络犯罪的认知。这是对该公司现有工作的拓展，包括 2023 年推出的在线欺诈识别计划 DigiKavach，该计划旨在限制恶意金融应用和掠夺性贷款应用的危害。

　　阿德金斯告诉 TechCrunch，印度安全工程中心将聚焦三大核心领域：网络诈骗现象及如何保障用户在线安全；企业、政府和关键基础设施的网络安全；以及构建负责任的人工智能。

　　“这三个领域将成为我们印度安全宪章的一部分，在未来几年…… 我们希望利用这里的工程能力，贴近用户所在地解决印度本土的问题。” 阿德金斯说。

　　在全球范围内，谷歌正利用人工智能打击网络诈骗，并已移除数百万条违规广告和广告账户。该公司计划在印度更广泛地部署人工智能以对抗数字欺诈。

　　许多安卓设备预装的谷歌消息（Google Messages）应用使用人工智能驱动的诈骗检测功能，每月帮助用户拦截超过 5 亿条可疑信息。同样，谷歌去年在印度试点了 Play Protect 功能，据称已阻止近 6000 万次安装高风险应用的尝试，在超过 1300 万台设备上拦截了 22 万多个独特恶意应用。作为印度顶尖的 UPI 支付应用之一，谷歌支付（Google Pay）还针对疑似诈骗交易显示了 4100 万条警告。

　　阿德金斯是谷歌安全团队的创始成员，已在这家互联网公司工作超过 23 年。在接受 TechCrunch 采访时，她还讨论了其他几个话题：

　　关于人工智能工具的滥用

　　阿德金斯表示，恶意行为者对人工智能的使用与滥用是她最关注的问题之一。

　　“我们显然在密切跟踪人工智能的发展，到目前为止，我们看到像 Gemini 这样的大型语言模型主要被用作生产力提升工具。例如，它们会让网络钓鱼诈骗更‘高效’—— 尤其是当诈骗者和目标对象使用不同语言时，他们可以借助翻译功能，通过深度伪造技术、图像、视频等让骗局更具迷惑性。” 阿德金斯说。

　　她还提到，谷歌正在对其人工智能模型进行广泛测试，以确保模型明确 “不该做什么”。

　　“这对可能产生危害的生成内容很重要，对模型可能采取的行动也同样重要。” 阿德金斯说。

　　谷歌正在开发包括 “安全人工智能框架” 在内的多种框架，以限制 Gemini 模型被滥用。但为了防范生成式人工智能未来被黑客滥用，该公司认为需要建立一个框架，规范多智能体的通信安全机制。

　　“行业发展速度极快，各种协议不断推出，这几乎像互联网早期一样 —— 所有人都在实时发布代码，事后才考虑安全问题。” 阿德金斯说。

　　谷歌不想仅通过自有框架限制生成式人工智能被黑客滥用。阿德金斯表示，公司正与研究界和开发者合作。

　　“在早期研究阶段，你不希望过度限制自己。” 她说。

　　关于监控技术供应商

　　除了生成式人工智能可能被黑客滥用外，阿德金斯认为商业监控技术供应商也是重大威胁。这些供应商包括间谍软件制造商（如因 “飞马” 间谍软件臭名昭著的 NSO 集团）或其他销售监控工具的小企业。