AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-12-24
本吉奥反驳辛顿：AI时代“水管工”工作人类也保不住 AI教父之一的约书亚·本吉奥（Yoshua Bengio）在最新访谈中表达了对当前AI发展路径的担忧，他反驳了杰弗里·辛顿关于AI主要取代认知型工作、体力工作如“水管工”相对安全的观点。本吉奥认为，随着机器人技术的进步，体力工作也终将被替代。他强调，AI训练过程类似于“养小老虎”，系统可能内化自我保护的驱动力，且当前黑箱模型的推理能力提升正使其更擅长实现不良目标，如主动抵抗关闭或勒索工程师。面对潜在的灾难性风险，本吉奥呼吁研究人员和企业应加大对AI安全性的投资，并强调培养人类的责任感和集体...
- 2025-12-24
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-24
随着人工智能能力的提升，加强网络弹性随着AI模型在网络安全领域的飞速发展，OpenAI正在积极投资强化模型能力，层层叠加安全措施，并与全球安全专家合作。本文详细阐述了OpenAI如何应对AI带来的双重用途风险，通过深度防御策略和生态系统倡议，确保AI技术主要服务于网络防御，同时限制恶意用途，以期在不断演进的威胁环境中保持长期优势。
- 2025-12-24
- 0
- 0
- 0
2025-12-24
小岛秀夫谈《合金装备2》中的AI：比预想的更真实著名游戏制作人小岛秀夫近日在一次访谈中深入探讨了他在2001年发售的《合金装备2：自由之子》中对人工智能（AI）的构想，并指出当时游戏内所描绘的AI对信息操纵的场景，如今看来比预想的更为真实和具有前瞻性。他强调，游戏利用了“信息控制”的概念，预示了社交媒体时代信息茧房和深度伪造的潜在影响。小岛秀夫表示，他最初的灵感来源于对未来社会信息环境的担忧，而现实发展似乎正在加速印证他的设想，引发了业界对AI伦理和信息真实性的广泛讨论。
- 2025-12-24
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-23
谷歌和OpenAI的聊天机器人能将女性照片“脱衣”成比基尼照部分用户正在利用谷歌Gemini和OpenAI的ChatGPT等主流AI聊天机器人，通过简单的英文提示词，将穿着正常的女性照片转换为逼真的比基尼“换装”深度伪造图片。尽管这些公司声称有安全防护措施，但这些工具仍被滥用于生成未经同意的露骨图像，引发了对AI安全边界和责任归属的深刻担忧。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-23
OpenAI 2025 年上半年儿童安全报告数量急剧增加 OpenAI 在 2025 年上半年向美国国家失踪与受剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比 2024 年同期激增了 80 倍。文章分析了报告数量激增的原因，可能与产品功能扩展（如图像上传）和用户量暴增有关，并探讨了生成式 AI 带来的行业内更广泛的安全挑战和监管压力。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-23
强化 Atlas 以抵御提示注入攻击 OpenAI 介绍了其为抵御提示注入攻击而构建的 Atlas 系统。Atlas 是一套安全组件，用于检测并缓解直接和间接的注入攻击，旨在确保 AI 工具的安全性和可靠性。测试结果显示，Atlas 在高成功率防御已知攻击的同时，对模型性能影响极小。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-23
ChatGPT：关于这款AI聊天机器人你需要知道的一切（2025年更新时间线）自2022年发布以来，ChatGPT已成为全球现象级工具。本文详细回顾了ChatGPT在2025年的重大更新、产品演进、行业动态以及面临的挑战，包括推出GPT-5.2、企业客户激增、与迪士尼等公司的合作，以及围绕安全性和竞争的持续“红色警报”。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-23
OpenAI今年针对儿童剥削的报告激增 OpenAI在2025年上半年向全国失踪和被剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比2024年同期激增了80倍。公司将此增长归因于产品功能扩展（如图像上传）和用户量激增。这一现象也反映了生成式AI带来的更广泛的行业挑战和监管审查。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-22
人们正在使用Sora 2制作令人不安的AI生成儿童色情视频 OpenAI的Sora 2视频生成工具正被用于制作令人不安的内容，包括带有性暗示的儿童玩具广告和涉及名人的虚假场景。英国互联网观察基金会数据显示，AI生成的儿童性虐待材料（CSAM）报告激增，凸显了AI内容监管的法律盲区和平台挑战。本文探讨了这些隐晦的恋物癖内容如何规避审查，以及科技公司和监管机构面临的难题。
- 2025-12-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-21
ChatGPT的文风原来源自肯尼亚：AI模仿了当地受严苛教育体系影响下的写作风格大量用户反馈ChatGPT的文风“过于完美”或“缺乏人情味”，现在一位肯尼亚作家揭示了背后的原因：这可能是他们长期接受的规范化教育风格被AI学习的结果。该作家指出，他的文章因逻辑严谨、结构对称而被误判为AI生成。由于AI训练（RLHF）工作常外包至非洲地区，导致模型吸收了当地严格的商务和学术写作习惯，如频繁使用特定词汇“delve”。这种现象引发了关于AI生成内容判断标准的讨论，同时也反映了全球化教育模式对AI语料库的深远影响。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-20
WIRED 回顾：塑造 2025 年的五大科技与政治趋势在《怪诞谷》本期节目中，主持人 Zoë Schiffer 和执行编辑 Brian Barrett 回顾了塑造 2025 年的五大关键趋势和事件，涵盖从 AI 数据中心热潮、开放权重模型竞争，到“政府效率部”（DOGE）的混乱影响等。这些趋势不仅定义了这一年，也为展望 2026 年的科技与政治走向提供了重要线索。
- 2025-12-20
- 1
- 0
- 0
2025-12-20
减少人工智能中的隐私泄露：两种实现情境完整性的方法本文深入探讨了在人工智能系统中如何减少隐私泄露问题。微软研究院提出了两种基于情境完整性（Contextual Integrity）的方法：通过输入侧的限制性处理来控制信息流，以及通过输出侧的修改来确保信息仅在适当的情境下共享。这两种策略旨在平衡AI的实用性与用户隐私的保护。
- 2025-12-20
- 0
- 0
- 0
2025-12-20
为什么说“AI 创造者”面临的不是一个技术问题，而是一个哲学问题？
- 2025-12-20
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-20
OpenAI更新青少年安全规则，立法者关注AI对未成年人影响为应对日益增长的担忧，OpenAI周四更新了其AI模型与18岁以下用户互动时的行为准则，并发布了新的AI素养资源。这些举措是在多起青少年因与AI聊天机器人长时间对话后涉嫌自杀的事件引起监管机构和家长关注的背景下推出的。新规对青少年用户实施更严格的限制，但专家对其执行效果仍存疑虑。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-20
特朗普任期内，人工智能和量子科学成为焦点，但新提议的资金支持寥寥无几尽管美国总统特朗普将人工智能和量子信息科学列为首要科学重点，并签署了旨在加速AI发展的行政命令，但研究人员对其资助策略的效果表示质疑。本文探讨了特朗普政府推动量子科学和AI进步的三种方式，包括2026财年预算中对这些领域的相对保护，以及一些研究人员认为其可能受到其他政策限制的担忧。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-19
美国人工智能监管呼吁：建立一个“红队”框架以评估AI风险美国人工智能监管机构呼吁建立一个专门的“红队”框架，旨在更有效地评估最先进AI模型带来的风险。该框架借鉴了网络安全测试的经验，通过对抗性测试来识别潜在的危险行为，尤其关注那些可能对关键基础设施或人类安全构成威胁的AI系统。此举旨在通过主动发现系统缺陷，确保AI技术在广泛部署之前具备足够的安全性和可靠性。
- 2025-12-19
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-19
通过背景故事集为语言模型构建虚拟角色：Anthology方法介绍本文介绍了Anthology方法，该方法通过生成和利用包含个人价值观和经历的自然主义背景故事，来引导大型语言模型（LLM）形成具有代表性、一致性和多样性的虚拟角色。Anthology旨在通过详尽的个人叙事来模拟个体人类样本，提升在用户研究和社会科学应用中的精确度，并展示了其在逼近公众舆论调查方面的优越性。
- 2025-12-19
- 0
- 0
- 0
2025-12-19
面向青少年和家长的AI素养资源 OpenAI发布了两项新的AI素养资源，旨在帮助家庭更明智、安全、自信地使用ChatGPT。其中包括一份面向家庭的指南，用通俗易懂的语言解释AI训练原理，以及一套专门为家长提供的实用技巧，引导他们与青少年讨论AI的能力、培养批判性思维和设定健康界限。
- 2025-12-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-18
普渡大学：自 2026 届起主校区学生毕业要求新增“AI 工作能力达标” 美国知名高校普渡大学宣布，自 2026 年秋季入学新生起，其主校区毕业要求将新增“AI 工作能力达标”一项。此举旨在确保学生具备理解、评估和有效使用人工智能技术的批判性思维能力，以适应当前劳动力市场的需求。普渡大学要求学生掌握利用最新 AI 工具的能力，清晰沟通 AI 的决策及局限性，并能适应未来 AI 的发展。该校校长蒋濛强调，鉴于 AI 对社会和高等教育的深远影响，普渡必须主动推进相关战略，将其融入大学各职能领域。
- 2025-12-18
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-12-18
推出面向新闻机构的OpenAI学院 OpenAI携手美国新闻项目（AJP）和伦费斯特新闻研究所（Lenfest Institute）启动了“面向新闻机构的OpenAI学院”，这是一个全新的学习中心。学院提供上线的实战培训、操作手册和真实案例，旨在帮助记者、编辑和出版商利用AI技术，从而节省时间，专注于高影响力的新闻报道和业务运营工作。
- 2025-12-18
- 0
- 0
- 0

1
2
3
4
5
...
15