AI安全共4篇
加州AI安全初创CalypsoAI获2300万美元融资,助力AI治理发展-山海云端论坛

加州AI安全初创CalypsoAI获2300万美元融资,助力AI治理发展

加州人工智能(AI)安全初创公司CalypsoAI日前宣布成功完成A-1轮融资,融资金额为2300万美元,旨在加速其AI治理解决方案的开发。此次融资由Paladin Capital Group领投,Lockheed Martin Venture...
凌风的头像-山海云端论坛钻石会员凌风6个月前
0536
OpenAI的超级智能AI研究与挑战-山海云端论坛

OpenAI的超级智能AI研究与挑战

超越人类智能的发展是否能够实现,尚不明确,然而 OpenAI,ChatGPT的创造者,已开始研究防止所谓的“超级智能AI”失控,以防其可能威胁人类生存的情况。尽管这种威胁听起来像是科幻电影的情节,...
凌风的头像-山海云端论坛钻石会员凌风6个月前
03710
微软AI红队:保护AI世界的壁垒与使命-山海云端论坛

微软AI红队:保护AI世界的壁垒与使命

周一,微软披露自2018年起,便组建了一个内部团队,致力于探索如何攻击AI平台,以揭示其弱点。在过去五年中,微软的AI红队已从一个实验性项目发展成一个跨学科团队,团队成员包括机器学习专家、...
凌风的头像-山海云端论坛钻石会员凌风6个月前
05010
暗网上流通的不受监管AI软件助长网络犯罪活动-山海云端论坛

暗网上流通的不受监管AI软件助长网络犯罪活动

不受监管的聊天机器人 FraudGPT 在暗网上广泛传播,被犯罪分子用来撰写网络钓鱼邮件和开发恶意软件。Netenrich 的研究员 Rakesh Krishnan 指出:“随着生成式人工智能模型的兴起,威胁格局发生了...
凌风的头像-山海云端论坛钻石会员凌风6个月前
0479