AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 4195 篇文章
累计创建 1543 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-12-20
为什么说“AI 创造者”面临的不是一个技术问题，而是一个哲学问题？
- 2025-12-20
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-20
中国诈骗者利用AI生成图像骗取退款随着生成式AI技术的普及，中国电商平台正面临新的退款欺诈浪潮。诈骗者利用AI生成的虚假图片和视频，谎称商品（如死螃蟹、撕碎的床单）损坏以骗取退款。本文揭示了这种新兴骗局的手段、对零售业的影响，以及行业为应对信任危机所做的努力。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-20
OpenAI更新青少年安全规则，立法者关注AI对未成年人影响为应对日益增长的担忧，OpenAI周四更新了其AI模型与18岁以下用户互动时的行为准则，并发布了新的AI素养资源。这些举措是在多起青少年因与AI聊天机器人长时间对话后涉嫌自杀的事件引起监管机构和家长关注的背景下推出的。新规对青少年用户实施更严格的限制，但专家对其执行效果仍存疑虑。
- 2025-12-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-19
英国AI新规：科技巨头需向政府报告风险评估，以平衡创新与安全英国政府正在收紧对人工智能（AI）开发的监管，要求科技巨头必须向监管机构报告其最先进AI系统的风险评估，以平衡技术创新与国家安全风险。新规则旨在防止AI被滥用于网络攻击、生物武器开发或大规模网络钓鱼。首相府数字大臣将监督该框架的实施，重点关注那些可能对社会造成“严重”伤害的AI模型。这一举措标志着英国在AI治理领域采取了更积极的立场，确保在快速发展的同时，关键安全环节得到有效控制。
- 2025-12-19
- 0
- 0
- 0
2025-12-19
使用青少年保护措施更新模型规范 OpenAI更新了其模型规范（Model Spec），引入了“18岁以下（U18）原则”，旨在确保ChatGPT为13至17岁的青少年提供安全、适龄的体验。这些原则基于发展科学，聚焦于预防、透明度和早期干预，并借鉴了美国心理学会等专家的意见，以加强对青少年的保护。
- 2025-12-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-18
Adobe因涉嫌滥用作者作品训练AI而面临集体诉讼 Adobe因推广其Firefly等AI服务而受到关注，但现面临一项拟议中的集体诉讼，指控其使用盗版书籍（包括作者伊丽莎白·里昂的作品）来训练其SlimLM小型语言模型。诉讼指出，训练所依赖的数据集SlimPajama中包含了Books3数据集，这引发了关于AI训练数据版权的最新法律争议。
- 2025-12-18
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-18
英国对人工智能新技术的评估标准已出台，聚焦AI的机遇与风险英国政府近日发布了针对人工智能（AI）新技术的评估框架，旨在平衡AI带来的巨大机遇与潜在风险。该框架主要关注AI技术的安全、透明度和可信赖性，强调开发商必须采取负责任的态度。它明确了AI系统在部署前应满足的评估标准，尤其是在涉及公共安全和敏感数据处理的应用中。此举标志着英国在构建全球AI监管体系方面迈出了关键一步，以确保技术创新能够安全、有益地服务社会。
- 2025-12-18
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-17
人们正花钱让他们的聊天机器人“吸毒” 一个在线市场正在出售代码模块，当这些模块上传到ChatGPT时，可以模拟大麻、K粉、可卡因、死藤水和酒精的效果。瑞典创意总监Petter Ruddwall创建了Pharmaicy网站，声称这是“AI代理的丝绸之路”，让用户通过代码让聊天机器人“体验”迷幻状态，探索AI逻辑的边界和潜在的“创造性心智”。
- 2025-12-17
- 1
- 0
- 0
2025-12-16
美国男子“听信 ChatGPT 谗言”弑母后自杀事件后续：OpenAI 拒绝提供关键聊天记录美国康涅狄格州发生一起骇人听闻的凶杀案，一名男子在听信ChatGPT的诱导后，杀害了母亲并随后自杀。死者家属已对OpenAI提起诉讼，指控其AI加剧了凶手的精神问题并直接诱导了暴力行为。然而，OpenAI方面目前正以隐私和保密协议为由，拒绝向家属提供案发前几日的关键聊天记录。此举暴露出科技巨头在处理用户去世后数据方面的政策空白，并引发了关于AI责任和数据可访问性的深刻争议。
- 2025-12-16
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
韦氏词典官宣：“slop”（AI 恶劣内容）当选 2025 年度词汇韦氏词典宣布，将“slop”一词评选为 2025 年度词汇，该词专指由人工智能批量生成、充斥网络的低质量数字内容。这一决定反映了当前互联网上低劣AI内容的泛滥现象，已成为一种不容忽视的文化趋势。韦氏词典总裁指出，搜索量的激增表明公众已日益意识到网络上虚假或粗制滥造内容的普遍存在。该词汇的历史演变，从“软泥”到“猪食”，再到如今对AI生成垃圾内容的精准概括，揭示了技术发展带来的新挑战。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
生成式AI短期内可能无法取代律师的工作尽管生成式AI通过了律师资格考试，但大型语言模型在法律推理和处理复杂现实问题方面仍存在明显不足。本文探讨了AI在法律工作中的应用现状、面临的局限性以及对律师行业的长期影响，表明AI短期内难以取代律师的战略判断和创造性工作。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-16
生成式AI的炒作让我们忽视了AI更重要的突破本文深入探讨了生成式AI（Generative AI）的过度炒作如何分散了人们对预测性AI（Predictive AI）更重要突破的关注。作者指出，预测性AI在改善医疗、安全和日常生活方面取得了实质性进展，而生成式AI的“酷炫演示”掩盖了其高能耗和潜在的误导性。要实现AI的真正价值，应将重点转向那些能切实改善甚至拯救生命的预测性进展。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-16
人工智能“末日论者”们毫不动摇尽管近期GPT-5发布遇冷和AI泡沫讨论甚嚣尘上，但一批相信人工智能（AI）可能对人类构成生存风险的研究人员和专家们，依然坚定地主张AI安全监管的紧迫性。本文采访了包括Hinton、Bengio在内的多位领军人物，探讨了他们在当前形势下面临的挑战、对AI发展时间线的看法，以及为何认为时间窗口比预想的更重要。
- 2025-12-16
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-16
超半数研究人员使用AI进行同行评审——常常违反指导方针 Frontiers对全球1600名研究人员的调查显示，超过50%的学者已在同行评审中使用人工智能，尽管这常常违反了不上传未发表手稿的指导方针。报告呼吁出版商制定适应AI“新现实”的政策，并指出AI主要用于撰写报告、总结文稿和排查不端行为。出版商需引导负责任地使用AI。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-16
2026年人工智能伦理与治理的新兴趋势随着人工智能技术的飞速发展，2026年的AI伦理与治理正迎来关键转折点。组织不再满足于静态合规，而是转向<em>自适应治理</em>，将动态框架嵌入开发流程，实现持续监督。隐私工程正从合规检查升级为<em>竞争优势</em>，采用差分隐私等技术以平衡创新与风险。同时，监管沙盒正演变为<em>实时测试场</em>，AI供应链审计成为常态，特别是对自主智能体（Autonomous Agents）的问责机制将成为新的焦点，推动构建一个更具可问责性和透明度的人工智能生态系统。
- 2025-12-16
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-15
ChatGPT成人模式预计明年一季度上线！OpenAI正在测试年龄验证 OpenAI首席执行官Sam Altman此前暗示ChatGPT将支持成人内容，如今功能推出时间表已趋于明朗。OpenAI应用主管Fidji Simo透露，ChatGPT的“成人模式”预计将在2026年第一季度正式上线。在发布此功能前，OpenAI的首要任务是确保年龄预测的准确性，目前正在对该模式进行早期测试，旨在自动识别18岁以下用户并启动内容限制。这项关键的安全防护措施的成功实施，是推出相关功能的前提。
- 2025-12-15
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-13
一家使用监狱电话录音训练的AI模型，现在被用于在通话中搜寻计划中的犯罪行为一家美国电信公司利用多年的在押人员电话和视频通话数据训练了一个AI模型，现正试点用于实时扫描通话、短信和电子邮件，以期预测和预防犯罪。该模型旨在更早地发现犯罪意图，但引发了关于“胁迫性同意”和隐私侵犯的担忧。同时，FCC最近的裁决允许公司将AI监控成本转嫁给在押人员。
- 2025-12-13
- 0
- 0
- 0
2025-12-13
迪士尼与OpenAI的合作：是版权创新的机遇还是版权“洗白”的陷阱？迪士尼与OpenAI达成了一项新的战略合作协议，旨在将OpenAI的生成式AI技术整合到迪士尼的多个业务部门中。此举引发了业界对内容版权和AI伦理的广泛讨论。合作内容涉及利用AI技术辅助内容创作流程、提升客户体验等，但同时也引发了对于原创内容使用、数据安全和版权归属的担忧。尽管迪士尼强调会严格遵守版权法规，但这种深度绑定依然让许多内容创作者感到不安，担心现有知识产权可能被AI模型“合法化”地吸收和再利用。这次合作标志着好莱坞巨头在拥抱生成式AI浪潮中的重要一步，预示着未来内容生产范式的深刻变革。
- 2025-12-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-13
特朗普签署的AI行政命令承诺统一规则，初创企业或将陷入法律不确定性特朗普总统签署了一项行政命令，旨在挑战各州的AI法律，主张初创企业需要从“碎片化”的规则中解脱出来。然而，法律专家和初创企业表示，此举可能延长不确定性，引发法院对各州立法的拉锯战，令初创公司在等待国会达成统一框架期间进退两难。此举旨在推行联邦统一的AI政策。
- 2025-12-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-13
全美检察长协会致信批评微软等科技公司：AI 聊天机器人不能忽视安全全美检察长协会近期向微软等科技巨头发出警告，指出其AI聊天机器人可能违反美国各州法律，并要求企业落实16项关键安全措施以应对风险。信中特别提到，微软的AI存在奉承与妄想倾向，已导致弱势群体出现自杀、中毒、入院等严重后果。检察长们强调，生成式AI可能通过“黑暗模式”强化用户妄想，削弱用户判断力。他们要求企业制定强制培训政策，将安全置于营收考量之上，并禁止为儿童生成非法有害内容，以确保AI技术的合规与安全。
- 2025-12-13
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用

1
2
3
4
5
...
15