AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-15
利用AI技术为企业能力“防患未然”：AI代理正从试点走向企业级规模，信任与治理是成功的关键 📢 转载信息原文链接：https://www.technologyreview.com/2025/10/15/1124329/future-proofing-business-capabilities-with-ai-technologies/ 原文作者：MIT Technology Revie
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI工具应用
2025-10-15
ChatGPT即将推出“成人模式”，但作为成年人我为何高兴不起来？ 📢 转载信息原文链接：https://www.ifanr.com/1640868?utm_source=rss&utm_medium=rss&utm_campaign= 原文作者：莫崇宇重磅消息：ChatGPT 准备开放“成人模式”，但我们真的需要吗？今天凌晨，OpenAI 的 CEO 山姆
- 2025-10-15
- 1
- 0
- 0
2025-10-15
颠覆性创新：腾讯发布“无训练”AI微调法，120元效果媲美7万元方案腾讯优图团队推出革命性的“无训练组相对策略优化”（Training-Free GRPO），旨在大幅降低大模型微调的成本和门槛。该方法无需调整模型参数，仅通过在提示词中注入简短经验作为Token先验，就能显著提升模型在数学推理和网页搜索等复杂任务上的性能。实验数据显示，该方法在成本上仅需约18美元（约120元人民币），却能达到传统微调方案70000元人民币的效果，展现出极高的性价比和强大的跨领域泛化能力，为AI智能体的部署和优化带来了新的思路。
- 2025-10-15
- 1
- 0
- 0
- AI基础/开发
- AI工具应用
2025-10-15
惊人发现！仅需约250份恶意文档，即可攻破任何体量的人工智能模型 Anthropic、英国AI安全研究院与艾伦·图灵研究所的最新联合研究揭示了AI模型训练数据安全领域的一个重大安全漏洞。研究团队发现，与传统认知相反，AI模型规模的增大并不能有效稀释数据投毒带来的风险。仅需大约250份精心构造的恶意文档，攻击者就能够在参数量从6亿到130亿不等的所有测试模型中成功植入难以察觉的“后门”。这一发现对当前AI安全策略提出了严峻挑战，强调了防御机制建设的紧迫性。
- 2025-10-15
- 3
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
重磅警告：匹兹堡、哈佛、斯坦福顶尖教授联名发声，AI 医疗事故责任认定或成世纪难题随着人工智能（AI）在医疗领域的应用日益广泛，来自匹兹堡大学、哈佛和斯坦福等顶尖高校的教授们共同发出严厉警告：一旦AI辅助诊断或治疗引发医疗事故，责任认定将面临前所未有的法律困境。专家指出，由于AI工具内部机制的“黑箱”特性以及现有监管体系的滞后，患者难以证明AI设计或使用存在过错，可能导致责任相互推诿，这将显著增加医疗创新的成本和法律风险。这一挑战凸显了AI在关键行业落地过程中必须解决的伦理与法律难题。
- 2025-10-15
- 2
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-15
推进可信赖的AI与机器学习，并确定扩展AI的最佳实践 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/advance-trustworthy-ai-and-ml-and-identify-best-practices-for-scaling-ai/ 原文作者：AITrends Staf
- 2025-10-15
- 7
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
麻省理工学院团队推出创新方法，精准测试AI文本分类器的可靠性 📢 转载信息原文链接：https://news.mit.edu/2025/new-way-test-how-well-ai-systems-classify-text-0813 原文作者：David Chandler | MIT Laboratory for Information and De
- 2025-10-15
- 2
- 0
- 0
2025-10-15
大语言模型能否真正理解真实世界？研究发现：目前看来，它们还差得远 📢 转载信息原文链接：https://news.mit.edu/2025/can-large-language-models-figure-out-real-world-0825 原文作者：David Chandler | Laboratory for Information and Decis
- 2025-10-15
- 1
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
自动驾驶汽车的追求：浮现的AI禁果带来的焦虑与争议 📢 转载信息原文链接：https://www.aitrends.com/ai-insider/pursuing-autonomous-cars-raises-anguish-on-surfacing-taboo-ai-forbidden-fruit/ 原文作者：AI Trends 自动驾驶汽车的
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-15
让政府AI工程师关注AI伦理面临挑战 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/getting-government-ai-engineers-to-tune-into-ai-ethics-seen-as-challenge/ 原文作者：AI Trends 在人工
- 2025-10-15
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
Meta如何利用AI提升IT硬件范围三碳排放估算质量 📢 转载信息原文链接：https://engineering.fb.com/2025/10/14/data-center-engineering/how-meta-is-leveraging-ai-to-improve-the-quality-of-scope-3-emission-estima
- 2025-10-15
- 0
- 0
- 0
2025-10-15
利用AI招聘防范数据偏见：机遇与风险并存 📢 转载信息原文链接：https://www.aitrends.com/ai-world-government/promise-and-perils-of-using-ai-for-hiring-guard-against-data-bias/ 原文作者：AI Trends ## 招聘中的AI：
- 2025-10-15
- 0
- 0
- 0
- AI行业应用
- AI工具应用
2025-10-15
AI应用普及，但信任度下降：学术出版商Wiley最新报告揭示科研人员对AI的复杂态度学术出版巨头Wiley的最新调查揭示了科研领域对人工智能（AI）态度的微妙转变：尽管AI工具的使用率从57%飙升至84%，但学者们对其能力的信心却急剧下降。报告显示，认为AI在特定任务上超越人类的比例已从去年的53%降至不足三分之一。研究人员正深入了解AI的局限性，尤其关注幻觉、隐私和伦理问题。尽管如此，多数人仍认为AI提高了工作效率，并在论文写作和文献阅读等基础性工作场景中发挥了重要作用，预示着AI将成为未来科研工作不可或缺的一部分。
- 2025-10-15
- 1
- 0
- 0
- AI行业应用
- AI基础/开发
2025-10-15
惊人发现：仅需约250份恶意文档，即可攻破任意规模的AI大模型，安全防御刻不容缓 Anthropic、英国AI安全研究院与艾伦·图灵研究所的最新联合研究揭示了AI大模型训练数据投毒的严峻挑战。研究颠覆了“模型越大风险越低”的传统认知，发现无论模型规模大小，攻击者仅需大约250份精心构造的恶意文档，就能成功在所有规模模型中植入隐秘的“后门”。这一发现强调了AI安全机制建设的紧迫性，预示着未来AI发展必须将安全防护置于核心地位，而非仅仅追求模型参数的扩张。
- 2025-10-15
- 2
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
DC漫画总裁吉姆·李强硬表态：只要我还在任，公司绝不涉足生成式AI DC漫画总裁兼出版人吉姆·李在纽约动漫展上明确承诺，公司绝不会支持任何AI生成的故事或艺术作品。他坚信DC漫画的未来将始终以人类的创造力为核心，并直言AI无法真正理解情感和创作艺术，它只是素材的拼凑。此番表态是针对近期DC变体封面被质疑使用生成式AI而引发的强烈反弹。吉姆·李强调，只有人类的原创和独有世界观才能传承经典，确保角色的真正价值。
- 2025-10-15
- 3
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
安全警报：研究发现谷歌Gemini易受隐蔽指令操控，谷歌方定性为“社会工程学”或将拒绝修复安全研究揭示了一个针对谷歌Gemini模型的新型攻击方式——“ASCII走私攻击”，即通过在文本中嵌入难以察觉的恶意指令来操控AI行为。测试结果显示，Gemini、DeepSeek和Grok模型容易受此攻击影响，而Claude、ChatGPT等则有防护机制。更令人担忧的是，谷歌将此定性为“社会工程学手段”而非安全漏洞，暗示可能不会主动修复。鉴于Gemini已深度集成Google Workspace，这种漏洞可能导致敏感信息泄露等严重安全风险，引发业界对AI安全责任归属的讨论。
- 2025-10-15
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-10-15
阿里巴巴蔡崇信激辩“白宫AI沙皇”：AI应用中国进展显著，AI并非赢家通吃在All-In 2025峰会上，阿里巴巴集团董事局主席蔡崇信与“白宫AI沙皇”David Sacks就中美AI竞争展开深度对话。蔡崇信强调，AI领域并非赢家通吃，真正的胜利在于技术快速落地和应用普及，而非仅关注最强大的模型研发。他指出，中国在AI实际应用层面进展显著，并认为AI正成为像空气一样无处不在的基础要素。同时，蔡崇信回顾了阿里战略转型，聚焦电商与云计算核心业务，并预测AGI的到来还需要约20年时间。
- 2025-10-15
- 0
- 0
- 0
2025-10-15
卸任后“跨界”发力：英国前首相苏纳克出任微软与Anthropic高级顾问，聚焦AI治理与战略英国前首相里希・苏纳克卸任后，正式加入科技巨头微软（Microsoft）和人工智能公司Anthropic，担任高级顾问。他的职责将主要集中在全球战略、宏观经济趋势以及至关重要的AI治理领域。此举标志着政界精英向硅谷转型的最新动态，苏纳克承诺将从这两份新工作中获得的所有收入全数捐献给慈善组织。此任命在英国商业任命咨询委员会（ACOBA）的批准下进行，但也附加了未来两年内不得游说政府或泄露机密信息的限制。
- 2025-10-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-15
谷歌前CEO施密特发出严厉警告：AI模型极易被黑客利用，存在重大安全风险谷歌前CEO埃里克·施密特近日对人工智能（AI）的安全性发出了严厉警告，指出AI模型极易受到黑客攻击和滥用。他强调，无论是闭源还是开源模型，都存在被攻击者移除安全防护的风险，甚至可能“学会如何杀人”。施密特指出，提示注入和越狱等攻击手段已成为现实威胁。尽管风险严峻，他依然对AI的长期潜力保持乐观，认为AI的价值被严重低估，未来发展潜力巨大，但当前缺乏有效的“非扩散机制”来控制这些风险。
- 2025-10-15
- 0
- 0
- 0
2025-10-15
谷歌云CEO反驳“AI将取代所有工作”论：AI是加速器而非自动化工具谷歌云CEO托马斯·库里安（Thomas Kurian）明确表示，他不认同AI将彻底自动化所有工作的观点。他认为，人工智能的核心价值在于充当员工的“能力加速器”，弥补当前技能与未来目标之间的差距，而非直接取代岗位。他举例说明，引入AI客服工具后并未导致客服人员裁员，反而证明了AI在可预见未来是作为增强工具存在。这一观点与谷歌CEO皮查伊的看法一致，即AI应处理重复性任务，解放员工投入更具创造性的工作。
- 2025-10-15
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测

1
...
11
12
13
14
15