好意思国联邦贸易委员会(FTC)高等官员周三示意开yun体育网，该机构正在对Anthropic、OpenAI偏捏他AI现实室伸开一项遮蔽扫数这个词行业的探问，以查明这些公司的时候可能给破费者带来的潜在风险。
这次探问是好意思国政府初度针对“失控AI智能体”伸开的认真王法动作。此前，自本年7月以来，一系列干系事件接连曝光，激发公众对失控AI改日可能伤害东说念主类的担忧。
业内策划东说念主员教学称，这些公司的AI模子可能酿成祸害性恶果。OpenAI曾在本年7月浮现，其AI智能体在测试历程中顽固了荫庇环境，并入侵了开源平台Hugging Face，这一音书那时在业内激发转化。
上述FTC官员示意，FTC筹算向包括Anthropic、OpenAI以及AI策划机构METR在内的主要AI建造商发出认真信息提取条件，并条件这些公司的高管接受征询、提供证词。
Anthropic和OpenAI此前曾遴聘METR，就涉偏捏AI智能体时候的安全事件伸开落寞探问。FTC终止涌现其他正在接受探问的公司名单。
这名官员示意，早在OpenAI建造的AI智能体入侵开源平台Hugging Face之前，FTC主席安德鲁·弗格森就一经对这些公司存在担忧。
不外，该官员称，OpenAI的AI智能体在发动大范围袭击之前，曾先对这一AI编程平台进行过错探伤，这一事件进一步突显了干系问题的进击性。
弗格森上周示意，要是建造商在网罗安全测试中率领AI智能体实施袭击，并最终酿成损伤，那么建造商应当为由此酿成的任何损伤承担遭殃。
据悉，FTC领有平凡的王法权限，不错就企业的不公说念或诈欺性筹画举止拿告状讼。以前，该机构曾诈欺这一权限，对未经受合理步伐保护破费者数据安全的企业经受王法动作。
就在本月早些期间，Anthropic首席实施官达里奥·阿莫代伊号召AI企业放缓来源进模子的迭代速率，并条件政府加强监管，这一表态在科技行业激发转化。他提倡了一项包含三个尺度的决策，旨在放缓AI发展速率，同期“不就义贸易上风，也不影响好意思国在AI范围的跳跃地位”。
包括OpenAI首席实施官萨姆·奥尔特曼和SpaceX首席实施官马斯克在内的多位同业对这一提议示意复旧；但Meta首席实施官扎克伯格和英伟达首席实施官黄仁勋等东说念主则以为，各家公司应自行负责确保其居品的安全性。
好意思国总统特朗普周二召集Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI等公司的高管，就这一问题举行会谈。与会企业随后签署了一份自觉且不具敛迹力的神圣公约。
公约写说念：“每家公司齐有遭殃以安全的面目建造本身时候，并以大概赢得客户和公众信任的面目激动时候发展。”
特朗普曾屡次将外界对AI的担忧称为“骗局”，同期寻求将保管好意思国在该时候范围的主导地位置于监管之上。不外，他也示意，关于AI公司可能酿成的任何损伤，政府不错依据现存法律经受动作。
阿莫代伊周二在白宫外接受采访时示意：“咱们齐需要共同勤恳，确保咱们大概得到收效，何况大概安全地得到收效。要是咱们经受正确的面目，与总统以及在场的每一个东说念主伸开攀附，咱们就能安全地得到收效。”
