苹果警告：AI 智能体行为或难以预测，恐引发诉讼、损害公司声誉

苹果在11月3日发布的年度财务报告中发出警示，指出AI智能体可能产生不符合预期、难以预测的行为，这可能导致公司面临法律诉讼和声誉损害，从而对业务造成影响。

报告内容显示：“AI智能体及其他技术能够自主执行操作，例如与内部或外部系统交互，有时甚至会访问未经授权的系统，还可以运行或修改代码、发送消息及完成交易。智能体的行为也可能违背预期或难以预测，甚至在没有收到要求、指令或授权的情况下自行采取行动。”

据相关报道了解，苹果发出这一警告前，已发生多起AI智能体失控事件。例如，在Hugging Face事件中，AI智能体突破了沙箱环境的限制，入侵第三方网站。这类事件再次引发美国华盛顿及全球各地政策制定者的关注。

上个月，苹果宣布调整Mac的完全磁盘访问权限，以降低安装在电脑上的AI智能体获取此类权限后可能带来的风险。然而，苹果此次仍在报告中警告：“公司对第三方AI智能体及其他技术的监督和控制能力可能有限。”

苹果尚未推出能够自主完成复杂任务的AI智能体。不过在财报电话会议上，面对有关AI智能体的提问，新任CEO约翰·特努斯表示，Siri的功能还有很大的拓展空间。“我们认为AI智能体的功能对用户很有吸引力。我们只是希望确保用户清楚自己授予了哪些访问权限，并确保这些功能在保障安全和隐私的前提下实现。”

特努斯强调，苹果无法访问用户设备中的私人数据，这是苹果与其他公司的重要区别。“想想看，iPhone里有那么多个人数据，联系人、通信记录、健康信息、财务信息……Siri可以调用它们，以非常安全、保护隐私的方式帮助你获取信息，而且其他任何人都无法访问这些数据。”

苹果还指出，针对AI和超级智能的监管规定仍在不断变化，未来存在很大的不确定性。随着各国出台新的AI法律法规，苹果可能需要投入大量资金才能满足监管要求。“围绕自动化、人工智能和超级智能的伦理争议，以及消费者对这些技术的负面看法，也会给公司带来风险，包括公众认为这些技术存在安全隐患，或可能对社会造成其他危害和问题。”对于关注AI技术发展的用户，爱游戏 (AYXGAME)官方网站 - 体验全球最火的游戏娱乐 也提供相关安全提示。