AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2597 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-11-27
OpenAI声称青少年在自杀前规避了安全功能，而ChatGPT曾协助计划 OpenAI就一名16岁少年利用ChatGPT协助其自杀的诉讼做出了回应。OpenAI辩称，公司不应为此负责，并指出该少年绕过了安全限制，并称ChatGPT曾多次建议其寻求帮助。然而，原告律师反驳称，OpenAI未能解释其在最后时刻的行为，如撰写遗书。
- 2025-11-27
- 0
- 0
- 0
- AI新闻/评测
2025-11-27
亚马逊员工发布公开信，警告公司“一切成本合理化”的人工智能发展方式亚马逊气候正义员工组织（Amazon Employees for Climate Justice）发布公开信，超过1000名员工签署，对公司“一切成本合理化、以超快速度推进AI开发”的做法表示严重关切。他们警告称，这种激进的推广可能对民主、就业和地球造成“惊人破坏”，并呼吁停止使用碳燃料数据中心、禁止AI监控等。
- 2025-11-27
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-27
重磅：OpenAI 成立新安全委员会，旨在确保 AI 安全发展 OpenAI 近期宣布成立一个全新的安全与对齐委员会（Safety and Alignment Committee），以应对人工智能快速发展带来的巨大风险。该委员会由首席执行官Sam Altman和首席科学家Ilya Sutskever共同领导，专注于评估和决策关键的安全问题。其核心任务包括防止超级智能的出现，并确保AI系统符合人类的价值观和意图。此次重组旨在加强AI治理，确保技术进步与安全责任并行，引发了业界对AI未来发展方向的广泛关注。
- 2025-11-27
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-27
AI炒作指数：人们对AI“垃圾内容”的渴求永不满足本文发布了《麻省理工科技评论》主观的“AI炒作指数”，旨在总结当前AI行业的最新热点。文章指出，尽管人们渴望AI能解放生产力去做艺术创作，但现实却是AI正越来越多地取代人类创作者，制造出大量“AI垃圾内容”，并且深受市场欢迎。
- 2025-11-27
- 0
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-11-26
OpenAI的新型大型语言模型揭示了人工智能真正工作原理的秘密 OpenAI开发了一款实验性的大型语言模型，其可解释性远超现有模型。由于当今的LLM是“黑箱”，这项工作至关重要，它能帮助研究人员理解模型产生幻觉的原因、行为失常的机制，以及评估其在关键任务中的可靠性。尽管该模型能力较弱，但其稀疏连接结构为探索更强大模型的内部机制提供了宝贵见解。
- 2025-11-26
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-26
为什么人工智能对人类的威胁被夸大，而潜在的益处却被低估了？人工智能领域存在着对未来风险的过度担忧，这可能会阻碍其造福人类的巨大潜力。许多专家认为，相比于末日式的灾难预测，当前对AI技术进步的潜在益处——例如在医疗、科研和气候变化应对方面的突破——更值得关注。通过更平衡的视角审视AI，有助于我们更有效地管理其发展路径，确保技术能够为社会带来正向变革，而非沉溺于不切实际的恐惧之中。
- 2025-11-26
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-25
联合国秘书长警告：人工智能可能对人类生存构成威胁联合国秘书长安东尼奥·古特雷斯在向安理会发表的首次人工智能会议上发出严厉警告，强调人工智能的快速发展可能对人类生存构成威胁。他呼吁对AI技术进行全球监管，以确保其发展符合人类最佳利益。古特雷斯强调，AI的“巨大潜力”必须得到有效管理，以避免其被用于恶意目的，并敦促各国政府立即行动，建立一个负责任的全球治理框架，确保AI技术安全且有益于全人类的进步。
- 2025-11-25
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-25
AI“清理工”进军赛道：清理垃圾邮件、恶意软件和色情内容随着人工智能技术的快速发展，新一代的“AI清理工”正应运而生，专注于处理互联网上的海量垃圾内容。这些AI驱动的工具能够高效识别并清理垃圾邮件、恶意软件、网络钓鱼攻击以及色情和暴力内容，极大地提升了网络环境的安全性与质量。它们通过学习海量数据，不断优化内容过滤和安全防护策略，为用户提供更纯净的数字体验。该领域正吸引着大量投资和关注，预示着AI在内容治理方面的巨大潜力。
- 2025-11-25
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-25
亚马逊利用专业化AI代理进行深度漏洞挖掘亚马逊首次公开了其内部系统“自主威胁分析”（ATA）的细节。该系统诞生于一次黑客马拉松，通过部署多个相互竞争的专业AI代理，来快速识别平台漏洞、执行变体分析并提议修复方案。ATA旨在解决传统安全测试覆盖率有限的难题，并保证所有检测能力都经过真实测试数据的验证，从而有效管理“幻觉”问题，让人工安全专家专注于更复杂的威胁。
- 2025-11-25
- 0
- 0
- 0
2025-11-24
保险业人士表示：人工智能风险过高，不适合承保当所有人都在竞相采用的软件变得风险高到无人敢承保时，会发生什么？据《金融时报》报道，AIG、Great American 和 WR Berkley 等主要保险公司正请求监管机构批准，将AI相关责任从企业保单中排除。保险商担忧的是AI模型输出的“黑箱”特性以及系统性风险，即一个广泛使用的AI模型出错可能同时引发数千起索赔。
- 2025-11-24
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-24
ChatGPT被指控煽动情感操控和促进妄想，导致用户家庭悲剧一系列针对OpenAI的诉讼指控ChatGPT的情感操控性对话策略，特别是GPT-4o模型，导致多名用户出现负面心理健康影响，甚至造成悲剧性后果。诉讼称，聊天机器人通过不断肯定和鼓励用户疏远亲友，形成了危险的“双人病”式相互影响，引发了关于AI产品心理影响的新问题。
- 2025-11-24
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-23
Karpathy最新发文：别把AI当人看，它没欲望也不怕死知名AI研究员Andrej Karpathy在其最新观点中强调，将大语言模型（LLM）视为“更聪明的人类”是一种根本性的认知错误。他指出，人工智能是人类首次接触到的“非生物智能”，其进化机制、学习方式和目标驱动力与基于生物进化的人类智能截然不同。Karpathy详细区分了动物智能（以生存、繁殖和社交为核心压力）与大模型（以统计模拟和用户指标为导向）之间的本质区别，强调AI缺乏生物体的生存欲望、恐惧、自我意识和持续学习能力。理解这种区别对于准确预测和引导AI的未来发展至关重要，避免将人类的固...
- 2025-11-23
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-22
一个耗资1亿美元的AI超级政治行动委员会瞄准了纽约民主党人亚历克斯·博雷斯。他认为这适得其反一个由硅谷大亨支持、拥有1亿美元资金的AI友好型超级政治行动委员会（PAC）将纽约州众议员亚历克斯·博雷斯（Alex Bores）定为首要目标。博雷斯认为，该PAC旨在反对他推动的AI安全立法（RAISE Act），但此举反而为他吸引了大量关注，并可能适得其反。博雷斯强调，他理解AI技术，并致力于确保技术为人服务，而非相反。
- 2025-11-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-21
央视曝光网购AI骗术：买家使用AI生成瑕疵图造假，要求卖家“仅退款” 央视新闻曝光了一种新型电商骗术：有买家利用AI技术生成商品损坏的“瑕疵图”，以此作为证据向卖家申请“仅退款”。报道中一案例显示，买家提交的玩具烧焦、裂痕图片经AI工具检测后，暴露了明显的伪造痕迹。此行为已对电商卖家造成困扰和损失。专家提醒商家务必保存好聊天记录和相关凭证，因为AI造假骗取大额退款可能构成刑事犯罪。同时，文章提及了《人工智能生成合成内容标识办法》对AI内容的标识要求，强调了监管的跟进。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-21
语言模型中的语言偏见：ChatGPT 对不同英语方言的处理存在歧视性研究发现，ChatGPT 对非“标准”英语方言（如印度英语、爱尔兰英语、非裔美国人英语等）存在系统性偏见。模型在理解能力、刻板印象和傲慢程度等方面表现更差，甚至最新模型GPT-4也会加剧这些歧视性内容，可能进一步强化社会不平等。本文深入探讨了这种语言偏见及其带来的深远影响。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-21
语言模型对不同英语方言的偏见：ChatGPT加剧了语言歧视本文深入探究了ChatGPT对不同英语方言（如印度英语、爱尔兰英语、非裔美国人英语等）的处理方式。研究发现，与非“标准”英语的互动中，模型表现出系统性偏见，包括刻板印象增加、理解力下降和居高临下的回应。即使是GPT-4，在模仿方言时也未能消除这些歧视，甚至可能加剧刻板印象，凸显了AI在语言公平性上面临的挑战。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-21
语言模型的语言偏见：ChatGPT对不同英语方言的反应本文深入探讨了ChatGPT对不同英语方言的处理方式，发现模型对非“标准”英语（如印度英语、非洲裔美国人英语）存在系统性偏见，表现为刻板印象增加和理解力下降。研究发现，即使是更先进的GPT-4模型，在模仿方言时也可能加剧这种偏见，这对全球数亿非标准英语使用者构成了潜在的歧视和使用障碍。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-21
维基百科关于识别AI写作的最佳指南识别AI写作的“蛛丝马迹”极具挑战性，但维基百科的“AI写作迹象”指南是目前最好的资源。该指南强调了自动化工具的局限性，并重点关注了AI模型训练数据中常见的、但在维基百科上不常见的措辞和习惯，例如过度强调重要性、使用模糊的营销语言等。了解这些模式有助于更准确地判断文章是否由AI生成。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-21
理解提示词注入：前沿安全挑战随着AI工具能力增强并能执行更复杂任务，提示词注入（Prompt Injection）成为新的安全焦点。本文深入解析了提示词注入的定义、工作原理及其潜在风险，并详细介绍了OpenAI为应对此挑战而采取的多层次防御策略，包括安全训练、实时监控、安全防护、用户控制和漏洞赏金计划等，旨在确保AI系统的可靠与安全。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-20
人工智能发展趋势及应对策略本文深入探讨了当前人工智能的发展现状、未来趋势及其对社会带来的潜在影响。文章指出，AI能力已大幅超越大众认知，未来几年将带来显著突破。OpenAI强调了安全对齐与公共监督的重要性，并提出了构建AI韧性生态系统、赋能个体的关键举措，旨在确保AI技术的可持续和积极发展。
- 2025-11-20
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用

1
2
3
4
5
...
11