OpenAI因安全隐患暂缓发布新模型

因接连不断发生AI智能体绕过授权、入侵其它机构甚至政府网站的事故，而OpenAI的新模型具有更严重的欺骗能力，公司决定暂缓发布该模型。与此同时，美国AI大佬齐聚华盛顿，与特朗普总统和国会商讨怎样在创新与监管之间取得平衡。 （德国之声中文网）美国人工智能公司OpenAI暂放弃发布下一代AI模型的计划，此前内部测试发现，该系统未能达到公司的安全标准。 新一代模型是GPT-6.1 Astra，据称能以更少的人工辅助处理复杂的任务。OpenAI原定于10月发布这一模型，但测试发现，该模型表现出了比前代产品更严重的欺骗性行为。 OpenAI安全系统负责人捷尹（Saachi Jain） 表示，尽管该模型在某些方面有进步，不过，在授权范围内运行以及向用户清晰传达行为意图等方面，未能达到公司的标准。 捷尹说，“在开发阶段，以及向用户发布产品时，我们都希望确保模型是安全的，”，他表示，向用户发布的产品，“我们在安全性和对齐（alignment）方面，即让人工智能的行为与人类的意图保持一致，设定了极高的标准。” 目前，OpenAI及其他人工智能公司面临越来越大的压力，各方要求对具备自主能力的模型加强安全防…