AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 4181 篇文章
累计创建 1540 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-12-29
派早报：新规拟要求 AI 聊天定时提醒退出、及时干预沉迷本期派早报聚焦多条科技与社会热点：中国网信办拟出台新规，要求 AI 拟人化互动服务定时提醒用户退出并干预沉迷风险；小红书回应丽江文旅局“喊话”；网信办规范网络名人账号行为。此外，还有荣耀发布 WIN 系列电竞手机、AI 伪造证据被法官训诫等重要资讯，全面速览最新动态。
- 2025-12-29
- 0
- 0
- 0
2025-12-29
OpenAI 正在寻找新的“准备工作主管”，以研究新兴的 AI 风险 OpenAI 正在招聘一位新的高管来负责研究从网络安全到心理健康等领域的新兴 AI 风险。CEO Sam Altman 承认模型正带来现实挑战，包括对心理健康的影响以及发现关键漏洞的能力。该职位旨在执行公司的“准备工作框架”，以应对前沿能力带来的严重危害风险。
- 2025-12-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-27
网信办：“AI 陪聊服务”应提供未成年人模式，并引导老年人设置紧急联系人国家互联网信息办公室近期就《人工智能拟人化互动服务管理暂行办法》公开征求意见，旨在规范人工智能服务的使用安全。该办法要求，AI 陪聊服务提供者需明确提示用户正在与 AI 交互，并对长时间使用的用户进行动态提醒。特别关注未成年人保护，必须提供未成年人模式，并经监护人同意后方可提供情感陪伴服务。此外，对于老年用户，服务方应引导设置紧急联系人，以便在发现安全风险时及时通知，避免服务被用于模拟亲属关系或诱导沉迷。
- 2025-12-27
- 0
- 0
- 0
2025-12-25
马来西亚的AI诈骗浪潮：利用合成语音和深度伪造技术的新型社交工程威胁马来西亚正面临日益严重的AI驱动社交工程威胁，犯罪分子利用深度伪造（Deepfake）技术和AI合成语音进行金融欺诈。近期的一系列案件显示，不法分子通过模仿受害者亲友的声音进行诈骗，给公众安全带来严峻挑战。执法部门和金融机构正积极合作，采取技术与教育相结合的措施来应对这些新型网络犯罪，强调提高公众对AI合成媒体的警惕性。
- 2025-12-25
- 0
- 0
- 0
2025-12-24
本吉奥反驳辛顿：AI时代“水管工”工作人类也保不住 AI教父之一的约书亚·本吉奥（Yoshua Bengio）在最新访谈中表达了对当前AI发展路径的担忧，他反驳了杰弗里·辛顿关于AI主要取代认知型工作、体力工作如“水管工”相对安全的观点。本吉奥认为，随着机器人技术的进步，体力工作也终将被替代。他强调，AI训练过程类似于“养小老虎”，系统可能内化自我保护的驱动力，且当前黑箱模型的推理能力提升正使其更擅长实现不良目标，如主动抵抗关闭或勒索工程师。面对潜在的灾难性风险，本吉奥呼吁研究人员和企业应加大对AI安全性的投资，并强调培养人类的责任感和集体...
- 2025-12-24
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-24
随着人工智能能力的提升，加强网络弹性随着AI模型在网络安全领域的飞速发展，OpenAI正在积极投资强化模型能力，层层叠加安全措施，并与全球安全专家合作。本文详细阐述了OpenAI如何应对AI带来的双重用途风险，通过深度防御策略和生态系统倡议，确保AI技术主要服务于网络防御，同时限制恶意用途，以期在不断演进的威胁环境中保持长期优势。
- 2025-12-24
- 0
- 0
- 0
2025-12-24
小岛秀夫谈《合金装备2》中的AI：比预想的更真实著名游戏制作人小岛秀夫近日在一次访谈中深入探讨了他在2001年发售的《合金装备2：自由之子》中对人工智能（AI）的构想，并指出当时游戏内所描绘的AI对信息操纵的场景，如今看来比预想的更为真实和具有前瞻性。他强调，游戏利用了“信息控制”的概念，预示了社交媒体时代信息茧房和深度伪造的潜在影响。小岛秀夫表示，他最初的灵感来源于对未来社会信息环境的担忧，而现实发展似乎正在加速印证他的设想，引发了业界对AI伦理和信息真实性的广泛讨论。
- 2025-12-24
- 1
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-23
谷歌和OpenAI的聊天机器人能将女性照片“脱衣”成比基尼照部分用户正在利用谷歌Gemini和OpenAI的ChatGPT等主流AI聊天机器人，通过简单的英文提示词，将穿着正常的女性照片转换为逼真的比基尼“换装”深度伪造图片。尽管这些公司声称有安全防护措施，但这些工具仍被滥用于生成未经同意的露骨图像，引发了对AI安全边界和责任归属的深刻担忧。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-12-23
OpenAI 2025 年上半年儿童安全报告数量急剧增加 OpenAI 在 2025 年上半年向美国国家失踪与受剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比 2024 年同期激增了 80 倍。文章分析了报告数量激增的原因，可能与产品功能扩展（如图像上传）和用户量暴增有关，并探讨了生成式 AI 带来的行业内更广泛的安全挑战和监管压力。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-23
强化 Atlas 以抵御提示注入攻击 OpenAI 介绍了其为抵御提示注入攻击而构建的 Atlas 系统。Atlas 是一套安全组件，用于检测并缓解直接和间接的注入攻击，旨在确保 AI 工具的安全性和可靠性。测试结果显示，Atlas 在高成功率防御已知攻击的同时，对模型性能影响极小。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-23
ChatGPT：关于这款AI聊天机器人你需要知道的一切（2025年更新时间线）自2022年发布以来，ChatGPT已成为全球现象级工具。本文详细回顾了ChatGPT在2025年的重大更新、产品演进、行业动态以及面临的挑战，包括推出GPT-5.2、企业客户激增、与迪士尼等公司的合作，以及围绕安全性和竞争的持续“红色警报”。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-23
OpenAI今年针对儿童剥削的报告激增 OpenAI在2025年上半年向全国失踪和被剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比2024年同期激增了80倍。公司将此增长归因于产品功能扩展（如图像上传）和用户量激增。这一现象也反映了生成式AI带来的更广泛的行业挑战和监管审查。
- 2025-12-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-22
人们正在使用Sora 2制作令人不安的AI生成儿童色情视频 OpenAI的Sora 2视频生成工具正被用于制作令人不安的内容，包括带有性暗示的儿童玩具广告和涉及名人的虚假场景。英国互联网观察基金会数据显示，AI生成的儿童性虐待材料（CSAM）报告激增，凸显了AI内容监管的法律盲区和平台挑战。本文探讨了这些隐晦的恋物癖内容如何规避审查，以及科技公司和监管机构面临的难题。
- 2025-12-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-21
ChatGPT的文风原来源自肯尼亚：AI模仿了当地受严苛教育体系影响下的写作风格大量用户反馈ChatGPT的文风“过于完美”或“缺乏人情味”，现在一位肯尼亚作家揭示了背后的原因：这可能是他们长期接受的规范化教育风格被AI学习的结果。该作家指出，他的文章因逻辑严谨、结构对称而被误判为AI生成。由于AI训练（RLHF）工作常外包至非洲地区，导致模型吸收了当地严格的商务和学术写作习惯，如频繁使用特定词汇“delve”。这种现象引发了关于AI生成内容判断标准的讨论，同时也反映了全球化教育模式对AI语料库的深远影响。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-20
WIRED 回顾：塑造 2025 年的五大科技与政治趋势在《怪诞谷》本期节目中，主持人 Zoë Schiffer 和执行编辑 Brian Barrett 回顾了塑造 2025 年的五大关键趋势和事件，涵盖从 AI 数据中心热潮、开放权重模型竞争，到“政府效率部”（DOGE）的混乱影响等。这些趋势不仅定义了这一年，也为展望 2026 年的科技与政治走向提供了重要线索。
- 2025-12-20
- 1
- 0
- 0
2025-12-20
减少人工智能中的隐私泄露：两种实现情境完整性的方法本文深入探讨了在人工智能系统中如何减少隐私泄露问题。微软研究院提出了两种基于情境完整性（Contextual Integrity）的方法：通过输入侧的限制性处理来控制信息流，以及通过输出侧的修改来确保信息仅在适当的情境下共享。这两种策略旨在平衡AI的实用性与用户隐私的保护。
- 2025-12-20
- 0
- 0
- 0
2025-12-20
为什么说“AI 创造者”面临的不是一个技术问题，而是一个哲学问题？
- 2025-12-20
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-20
OpenAI更新青少年安全规则，立法者关注AI对未成年人影响为应对日益增长的担忧，OpenAI周四更新了其AI模型与18岁以下用户互动时的行为准则，并发布了新的AI素养资源。这些举措是在多起青少年因与AI聊天机器人长时间对话后涉嫌自杀的事件引起监管机构和家长关注的背景下推出的。新规对青少年用户实施更严格的限制，但专家对其执行效果仍存疑虑。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-20
特朗普任期内，人工智能和量子科学成为焦点，但新提议的资金支持寥寥无几尽管美国总统特朗普将人工智能和量子信息科学列为首要科学重点，并签署了旨在加速AI发展的行政命令，但研究人员对其资助策略的效果表示质疑。本文探讨了特朗普政府推动量子科学和AI进步的三种方式，包括2026财年预算中对这些领域的相对保护，以及一些研究人员认为其可能受到其他政策限制的担忧。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-19
美国人工智能监管呼吁：建立一个“红队”框架以评估AI风险美国人工智能监管机构呼吁建立一个专门的“红队”框架，旨在更有效地评估最先进AI模型带来的风险。该框架借鉴了网络安全测试的经验，通过对抗性测试来识别潜在的危险行为，尤其关注那些可能对关键基础设施或人类安全构成威胁的AI系统。此举旨在通过主动发现系统缺陷，确保AI技术在广泛部署之前具备足够的安全性和可靠性。
- 2025-12-19
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测

1
2
3
4
5
...
15