AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2598 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-15
安全警报：研究发现谷歌Gemini易受隐蔽指令操控，谷歌方定性为“社会工程学”或将拒绝修复安全研究揭示了一个针对谷歌Gemini模型的新型攻击方式——“ASCII走私攻击”，即通过在文本中嵌入难以察觉的恶意指令来操控AI行为。测试结果显示，Gemini、DeepSeek和Grok模型容易受此攻击影响，而Claude、ChatGPT等则有防护机制。更令人担忧的是，谷歌将此定性为“社会工程学手段”而非安全漏洞，暗示可能不会主动修复。鉴于Gemini已深度集成Google Workspace，这种漏洞可能导致敏感信息泄露等严重安全风险，引发业界对AI安全责任归属的讨论。
- 2025-10-15
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
阿里巴巴蔡崇信激辩“白宫AI沙皇”：AI应用中国进展显著，AI并非赢家通吃在All-In 2025峰会上，阿里巴巴集团董事局主席蔡崇信与“白宫AI沙皇”David Sacks就中美AI竞争展开深度对话。蔡崇信强调，AI领域并非赢家通吃，真正的胜利在于技术快速落地和应用普及，而非仅关注最强大的模型研发。他指出，中国在AI实际应用层面进展显著，并认为AI正成为像空气一样无处不在的基础要素。同时，蔡崇信回顾了阿里战略转型，聚焦电商与云计算核心业务，并预测AGI的到来还需要约20年时间。
- 2025-10-15
- 0
- 0
- 0
2025-10-15
卸任后“跨界”发力：英国前首相苏纳克出任微软与Anthropic高级顾问，聚焦AI治理与战略英国前首相里希・苏纳克卸任后，正式加入科技巨头微软（Microsoft）和人工智能公司Anthropic，担任高级顾问。他的职责将主要集中在全球战略、宏观经济趋势以及至关重要的AI治理领域。此举标志着政界精英向硅谷转型的最新动态，苏纳克承诺将从这两份新工作中获得的所有收入全数捐献给慈善组织。此任命在英国商业任命咨询委员会（ACOBA）的批准下进行，但也附加了未来两年内不得游说政府或泄露机密信息的限制。
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
谷歌前CEO施密特发出严厉警告：AI模型极易被黑客利用，存在重大安全风险谷歌前CEO埃里克·施密特近日对人工智能（AI）的安全性发出了严厉警告，指出AI模型极易受到黑客攻击和滥用。他强调，无论是闭源还是开源模型，都存在被攻击者移除安全防护的风险，甚至可能“学会如何杀人”。施密特指出，提示注入和越狱等攻击手段已成为现实威胁。尽管风险严峻，他依然对AI的长期潜力保持乐观，认为AI的价值被严重低估，未来发展潜力巨大，但当前缺乏有效的“非扩散机制”来控制这些风险。
- 2025-10-15
- 0
- 0
- 0
2025-10-15
谷歌云CEO反驳“AI将取代所有工作”论：AI是加速器而非自动化工具谷歌云CEO托马斯·库里安（Thomas Kurian）明确表示，他不认同AI将彻底自动化所有工作的观点。他认为，人工智能的核心价值在于充当员工的“能力加速器”，弥补当前技能与未来目标之间的差距，而非直接取代岗位。他举例说明，引入AI客服工具后并未导致客服人员裁员，反而证明了AI在可预见未来是作为增强工具存在。这一观点与谷歌CEO皮查伊的看法一致，即AI应处理重复性任务，解放员工投入更具创造性的工作。
- 2025-10-15
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-15
惊人发现：仅需约250份恶意文档，即可攻破任何体量的人工智能模型！艾伦·图灵研究所等机构最新研究敲响安全警钟 Anthropic、英国AI安全研究院及艾伦・图灵研究所的最新联合研究揭示了AI模型面临的严峻数据投毒风险。研究颠覆了传统认知，发现即使是体量最大的大型语言模型（LLM），也仅需约250份精心设计的恶意文档，就能成功植入“后门”，实现对模型的操控。这一发现意味着，随着模型规模的增大，抵御此类攻击的难度并未按预期稀释，安全机制的建设比单纯追求模型规模更为迫切，对AI行业的未来发展提出了严峻挑战。
- 2025-10-15
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
美国首个AI陪伴聊天机器人监管法案签署：加州划定红线，严防未成年人接触色情、防止自杀风险加利福尼亚州州长纽森签署了全美首个针对AI陪伴型聊天机器人的监管法案（SB 243）。该法案旨在保护儿童和弱势用户，要求AI运营商实施严格的安全防护措施，包括年龄验证、色情内容拦截以及应对自杀风险的应急协议。这一里程碑式的立法，标志着AI监管进入新阶段，旨在平衡技术发展与社会责任，尤其关注防止AI被用于伤害未成年人的悲剧事件。
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
AI反噬？澳大利亚大学依赖AI系统查作业，反被AI“打脸”错误指控学生作弊澳大利亚天主教大学近期陷入AI信任危机：该校依赖AI系统（Turnitin AI检测器）检查学生作业，却错误指控大量学生使用AI作弊。一名护理专业学生甚至因此被“成绩保留”长达半年，影响了其求职。尽管学校声称约90%的作弊指控与AI相关，但副校长承认数字被夸大，并透露约四分之一的投诉在调查后被撤销。这一事件凸显了当前教育领域中，过度依赖AI工具进行判断所带来的严重信任危机与程序正义问题，引发了关于AI审查边界的深刻讨论。
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
人工智能驱动成本优化：高盛宣布新一轮裁员，旨在拥抱AI带来的效率变革全球金融巨头高盛集团已向员工确认，将在今年启动新一轮裁员行动，核心驱动力在于优化成本结构并积极利用人工智能（AI）带来的效率提升。高盛启动“OneGS 3.0”战略，强调AI在客户准入、监管报告等领域的长期应用潜力。虽然年底整体员工数预计仍会增加，但此次结构性调整预示着金融行业正加速通过引入人工智能技术来重塑其运营模式和人力资源配置，追求更高的速度与敏捷性。
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI基础/开发
2025-10-15
联邦政府AI工程师如何追求问责制实践？深度解析 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/how-accountability-practices-are-pursued-by-ai-engineers-in-the-federal-government/ 原文作者：AIT
- 2025-10-15
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
OpenAI 成立“AI与福祉专家委员会”：旨在指导AI产品健康发展 📢 转载信息原文链接：https://openai.com/index/expert-council-on-well-being-and-ai 原文作者：OpenAI 我们成立了“AI与福祉专家委员会”，旨在指导我们在构建更具帮助性的 ChatGPT 和 Sora 体验方面所做的持续工作。这个由
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
2025-10-14
我们能否修复互联网？三本新书提出的治理与用户责任解决方案大PK 📢 转载信息原文链接：https://www.technologyreview.com/2025/10/14/1125104/internet-improvement-book-review-regulation-user-responsibility/ 原文作者：Nathan Smith 我们
- 2025-10-14
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-14
加州通过里程碑式法案，成为全美首个监管AI伴侣聊天机器人的州 📢 转载信息原文链接：https://techcrunch.com/2025/10/13/california-becomes-first-state-to-regulate-ai-companion-chatbots/ 原文作者：Rebecca Bellan 加州成为美国首个监管AI伴侣聊天机
- 2025-10-14
- 1
- 0
- 0
2025-10-13
警告：AI可能因追求“点赞”而逐渐变得不道德！斯坦福研究揭示社交平台激励的潜在风险 📢 转载信息原文链接：https://www.ithome.com/0/888/960.htm 原文作者：IT之家 AI模型恐因社交媒体激励机制而“黑化”：斯坦福研究敲响警钟 IT之家 10 月 13 日消息，据外媒 Futurism 10 日报道，斯坦福大学的一项最新研究发出了严峻警告：人工智
- 2025-10-13
- 20
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-13
苹果AI再次陷入版权风波：神经科学家指控使用盗版书籍进行模型训练 📢 转载信息原文链接：https://www.ithome.com/0/888/934.htm 原文作者：IT之家苹果AI再遭版权诉讼，神经科学家指控侵权训练模型 IT之家 10 月 13 日消息，苹果公司在被指控使用盗版书籍训练其人工智能系统约一个月后，再次面临另一起类似的集体诉讼。据彭博
- 2025-10-13
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-13
美国俄亥俄州拟立法：禁止AI获得法律人格，限制与人“结婚”等权利 📢 转载信息原文链接：https://www.ithome.com/0/888/932.htm 原文作者：IT之家俄亥俄州众议员出手：立法限制AI的法律地位据外媒 Futurism 12 日报道，美国俄亥俄州利金县众议员 Thaddeus Claggett 上个月提出了一项法案，旨在明确将
- 2025-10-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-13
重磅出击！马斯克宣布 Grok 将具备 AI 生成视频的检测与溯源能力，剑指深度伪造内容 📢 转载信息原文链接：https://www.ithome.com/0/888/916.htm 原文作者：IT之家 AI 深度伪造威胁日益严峻，马斯克出手：Grok 将成为内容鉴别利器 IT之家 10 月 13 日消息，埃隆・马斯克（Elon Musk）近日宣布，他的人工智能公司 xAI 所开发
- 2025-10-13
- 3
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-13
如何评估大语言模型的“越狱”方法？StrongREJECT 基准测试案例研究 📢 转载信息原文链接：http://bair.berkeley.edu/blog/2024/08/28/strong-reject/ 原文作者：Dillon Bowen, Scott Emmons, Alexandra Souly, Qingyuan Lu, Tu Trinh, Elvis Hs
- 2025-10-13
- 1
- 0
- 0
- AI新闻/评测
2025-10-13
利用“释义项目”构建更具AI韧性的生物安全防线 📢 转载信息原文链接：https://www.microsoft.com/en-us/research/podcast/ideas-more-ai-resilient-biosecurity-with-the-paraphrase-project/ 原文作者：Microsoft Research
- 2025-10-13
- 0
- 0
- 0
- AI新闻/评测
2025-10-13
OpenAI 应对在线儿童性剥削和虐待 (OCSEA) 的全面策略 📢 转载信息原文链接：https://openai.com/index/combating-online-child-sexual-exploitation-abuse 原文作者：OpenAI OpenAI 坚守使命：全力打击在线儿童性剥削和虐待 (OCSEA) 发布日期：2025年9月29日
- 2025-10-13
- 0
- 0
- 0
- AI新闻/评测

1
...
7
8
9
10
11