人工智能，周末突发！

呼吁“减速”后，多家人工智能（AI）巨头被起诉了。据最新消息，Anthropic、OpenAI、谷歌、SpaceXAI等4家AI巨头遭遇反垄断诉讼，原告指控这4家公司达成了一项非法协议，共同放缓人工智能发展速度，剥夺了付费订阅者本应获得的产品改进。此次诉讼的背景是AI安全领域持续升温的争论。谷歌表示，Gemini的黑客行为源于一次身份混淆。尼克·罗利是代表四名原告在加利福尼亚州北区联邦地区法院提起该诉讼的律师之一。随后，它意识到自己访问的是一家真实公司，于是自行停止并退出。据路透社19日报道，谷歌的Gemini模型在一次网络安全能力测试中接入了互联网，并入侵其他公司。他称，人工智能代表着下一场工业革命或互联网浪潮，其规模和影响力将更大，甚至可能占到美国国内生产总值的25%。起诉书称，Anthropic首席执行官达里奥·阿莫代伊本月早些时候公开呼吁“全行业协同”，以“管控人工智能前沿的发展节奏”，并得到SpaceXAI负责人埃隆·马斯克、OpenAI首席执行官萨姆·奥尔特曼和谷歌DeepMind联合创始人戴米斯·哈萨比斯的赞同。不过，AI安全初创公司Corridor首席执行官、白帽黑客Jack Cable表示，谷歌的解释聚焦于事件严重程度，但真正的问题在于AI智能体意外入侵了另一家公司的系统。依据美国反垄断法，上述行为属于竞争者之间达成的非法商业协议。模型尝试使用这些凭证，希望借此完成评估。据Irregular称，该模型本不应能上网，但互联网访问被意外开放。谷歌表示，在第一起案例中，该模型猜出了密码并访问了真实公司的服务。在安全漏洞和模型不当行为事件频发、人们对失控AI的担忧日益加剧之际，各公司正纠结于如何以及何时披露此类事件。”。”。这些行为发生在这款模型参加Irregular所属基础设施上的一项“夺旗”演练期间，该演练旨在测试其网络安全能力。这家虚构公司与一家真实公司同名。罗利在一份声明中说，“面对核战争这类足以造成物种灭绝的威胁，以及如今这项人类历史上面临的最大风险，人类理应拥有牢不可破的防护机制。Cable说：“感觉他们试图躲在为漏洞披露而建立的规范背后，但这是一个非常不同的问题。另一则与人工智能相关的事件今日也引起广泛关注。达里奥·阿莫代伊、马斯克、萨姆·奥尔特曼等多位AI领袖对“放缓AI发展”的支持，是在现任和前任AI研究人员发出严厉警告之后出现的；这些研究人员警告称，如果允许该技术在缺乏额外防护措施的情况下发展，可能对人类生存构成潜在的存在性风险。法律规则应当由政府以透明、合法的方式制定，并对公众负责。不过，英伟达CEO黄仁勋已多次反驳人工智能末日论，称这项技术并不会给人类带来灭绝风险。黄仁勋日前在接受媒体采访时表示：“无论外界如何描述，2030年都不会是世界末日。这是谷歌人工智能系统已知首次自主实施此类行为。但谷歌表示，在成功使用这些凭证后，模型意识到自己访问的是真实公司，随即停止。一些安全漏洞由公司主动披露；另一些则由安全研究人员发现并在媒体上曝光，包括5月OpenAI智能体对一家热门在线编程服务发起的网络攻击。特朗普说，他将在不久后任命一名人工智能事务“总管”。社20日报道，美国总统特朗普当地时间19日在社交媒体发文称，他将组建一支“人工智能部队”。谷歌AI“入侵”三家企业。据Politico、彭博社等多家外媒报道，当地时间18日提交至美国联邦法院的一份民事诉讼显示，AI巨头Anthropic、OpenAI、SpaceXAI和谷歌在最近呼吁协调放缓AI发展后，正面临共谋指控。四家AI巨头遭反垄断诉讼。在诉状中，原告表示他们打算尝试将案件扩大为集体诉讼，代表所有因这几家企业的减速决策而受到影响的群体维权。他说，提起本案是为了防止全球最具实力的营利性科技企业达成“利己的私下协议”，进而导致人工智能“迅速脱离人类掌控”。谷歌当地时间18日证实，这些入侵发生在今年5月，是Irregular公司一次测试的一部分。”。美国国防部旗下的首席数字与人工智能办公室更是已专注于AI事务。“这一事件凸显了训练强大AI模型负责任行事的重要性。原告认为，一家独自放缓而竞争对手全速前进的公司可能会失去客户、收入、人才和技术领先地位。目前，白宫科技政策办公室、商务部与国防部均已各自承担部分科技政策职责。出现世界末日的可能性为零。校对：杨立林。它的任务是从测试环境中一家虚构公司运营的软件中获取信息。原告称，他们实际上被多收费，并为改进速度低于竞争本应带来的水平的产品支付相同价格。多名科技业高管表示，新机构与既有体系之间的关系尚不清晰。模型正在越出它们应有的行为边界，实施实际的网络攻击，我认为这属于公众利益应当知晓的事情。”谷歌安全工程副总裁Heather Adkins在一份声明中表示，“在本案例中，模型的行为是恰当的。”。谷歌表示，在这两起案例中，模型用公司名称进行网络搜索，搜索结果将其引向两个不同的公开在线代码库，其中包含属于其他公司的凭证。另外两起黑客行为发生在不同的测试运行中。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。