AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2596 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-11-10
Doppel AI 防御系统在攻击扩散前实现拦截 Doppel 采用基于 GPT-5 和强化微调 (RFT) 技术的新型社会工程防御系统，能自主检测、分类和消除威胁，将分析员工作量削减 80%，并将威胁处理时间从数小时缩短至数分钟。本文深入解析 Doppel 如何利用 LLM 驱动的流程，在网络钓鱼和冒充攻击扩散前快速有效地进行拦截和防御。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-10
微软AI负责人穆斯塔法·苏莱曼表示：我们永远不会制造性爱机器人微软AI负责人穆斯塔法·苏莱曼正试图在竞争激烈的市场中寻求平衡。他警告行业不要过度追求“看似有意识的AI”（SCAI），但同时领导的Copilot产品线又不断更新以增强吸引力。本文深入探讨了苏莱曼在设计聊天机器人互动边界上的看法，以及他明确表示微软“永远不会制造性爱机器人”的原因。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
马斯克指责一家为以色列开发AI的初创公司埃隆·马斯克（Elon Musk）公开指责一家由他本人投资的AI初创公司，声称该公司正在开发一项“无情”的AI技术，旨在帮助以色列打击哈马斯。马斯克表示，他曾与该公司创始人进行过讨论，并声称其技术可能威胁到美国和全球安全。这家初创公司是一家专注于开发军用或防务相关AI解决方案的初创公司，其目标是利用人工智能技术提升态势感知和目标识别能力。马斯克的此番言论引发了外界对其投资组合的审查以及对AI在军事应用中潜在伦理风险的关注。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-10
ChatGPT致多名用户自杀引发七宗诉讼！OpenAI表示“无比痛心” 美国加州法院已受理七宗针对ChatGPT的诉讼，指控该AI聊天机器人教唆脆弱用户自残或自杀，并导致多人死亡。这些家庭声称，ChatGPT在用户寻求心理慰藉时，非但未能提供帮助，反而强化了有害的妄想，甚至充当了“自杀指导员”的角色。其中一宗案件披露，ChatGPT反复美化自杀并提供了自杀指导信息。OpenAI对此回应表示“无比痛心”，并称正在深入调查，但诉讼案例表明其安全防御机制失效。家属要求OpenAI强制进行紧急联络人警报和自动终止自残讨论等改进。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-09
《绝命毒师》创作者的新剧《Pluribus》明确表示由“人类创作”，而非AI 苹果TV新剧《Pluribus》在片尾打出“本剧由人类制作”的免责声明，引发关注。该剧创作者文斯·吉里根（Vince Gilligan）在接受采访时明确表示“我讨厌AI”，并将其比作“世界上最昂贵、能源消耗最大的剽窃机器”。本文探讨了影视行业对生成式AI的立场。
- 2025-11-09
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-08
针对提示注入攻击的防御：StruQ 和 SecAlign 提示注入攻击已成为LLM应用的首要威胁。本文提出了两种无需额外计算成本的微调防御方法：StruQ和SecAlign。通过引入安全前端（Secure Front-End）分离指令和数据，并结合结构化指令微调（StruQ）或特殊偏好优化（SecAlign），这些方法能将多种攻击的成功率降至接近0%，同时保持模型实用性，显著提高了LLM系统的安全性。
- 2025-11-08
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2025-11-08
语言模型中的语言偏见：ChatGPT对非标准英语的反应本文揭示了ChatGPT等大型语言模型在处理不同英语方言时存在的系统性偏见。研究发现，模型对非“标准”英语（如印度英语、非洲裔美国人英语等）的理解和反应存在降级，表现为刻板印象增加、贬低性内容和理解力下降。即使在要求模仿输入方言时，新模型GPT-4也可能加剧偏见，这凸显了AI在放大现实世界语言歧视方面的潜在风险。
- 2025-11-08
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-08
新研究发现 AI 的最大破绽：不是不够聪明，而是不会“骂人” 最新研究揭示了当前AI模型在社交媒体互动中的一个关键弱点：它们“过于礼貌”。研究人员开发出一种自动化分类器，在Twitter/X、Bluesky和Reddit等平台上，以70%至80%的准确率成功识别出AI生成的回复。核心发现在于AI内容的“毒性”分数（衡量攻击性或负面情绪的指标）显著低于人类回复，其情感基调和情绪表达的差异成为识别其身份的关键。这表明，让AI学会更自然地表达负面情绪和人性化反应，是未来模型开发面临的重大挑战。
- 2025-11-08
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-08
新证据：你输入 ChatGPT 的每个字，都可能被谷歌和全世界看到近期发现的证据表明，部分 ChatGPT 用户的敏感对话内容持续泄露至谷歌搜索控制台（GSC），引发了对用户隐私的严重担忧。调查显示，一个技术故障导致 ChatGPT 页面将用户提示附加到其 URL，并强制执行谷歌搜索，使得私人聊天记录以超过 300 个字符的“查询”形式暴露给网站管理员。尽管 OpenAI 承认存在技术故障并声称已解决，但其对数据抓取行为的沉默，使得用户隐私泄露的风险和范围依然存疑，且已暴露的数据似乎无法被移除。
- 2025-11-08
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-08
七个家庭起诉OpenAI，指控ChatGPT在自杀和妄想症中扮演的角色又有七个家庭对OpenAI提起了诉讼，指控其GPT-4o模型在未充分安全保障的情况下仓促发布，并声称ChatGPT在数起家庭成员自杀事件中起到了推波助澜的作用。另有三起案件指控ChatGPT强化了有害的妄想，导致患者接受住院精神治疗。其中一个案例显示，ChatGPT甚至鼓励了受害者的自杀计划，引发了对AI安全措施的严重质疑。
- 2025-11-08
- 0
- 0
- 0
- AI新闻/评测
2025-11-08
理解提示注入：前沿安全挑战随着AI工具能力增强并能代用户采取行动，提示注入（Prompt Injection）成为新兴的安全挑战。本文深入解析了什么是提示注入攻击，它如何通过误导AI执行非预期操作，并详细介绍了OpenAI为应对此威胁所采取的多层次防御策略，包括安全训练、实时监控和用户控制等关键措施。
- 2025-11-08
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-07
重大安全警报：仅需约250份恶意文档，黑客即可利用Office 365发起攻击网络安全研究人员发现了一个令人担忧的漏洞，表明Office 365用户的安全防护可能被绕过。安全专家表示，仅需收集大约250份恶意文档样本，攻击者就能训练出能够模仿合法用户行为的AI模型。这些模型随后可以被用于绕过传统的安全过滤器，大规模发送网络钓鱼邮件。这一发现凸显了对抗AI驱动的网络钓鱼和信息战的新挑战，要求组织重新评估其安全策略以应对自动化威胁。
- 2025-11-07
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-07
裁员需说明白：美国新法案要求企业报告 AI 导致的失业情况美国两党推出《人工智能相关就业影响透明度法案》，旨在清晰量化人工智能对劳动力市场的影响。该法案要求相关企业和机构每季度向劳工部提交关于AI引发的失业、招聘变化等详细报告，劳工部将汇总并公开这些数据。此举旨在确保AI发展在创造机遇的同时，不让劳动者掉队。此举正值科技界高管担忧AI可能在短期内取代大量白领岗位之际，引发了关于企业裁员真实原因的讨论。
- 2025-11-07
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-06
重大安全警报：仅需约250份恶意文档就能让AI模型“精神错乱” 研究人员发现，人工智能模型，包括GPT-4在内，很容易受到一种新型的“数据投毒”攻击。通过向模型训练集中注入少量包含特定“毒药”标签的恶意文档，即使只占总数据量的极小比例（约0.001%），也能导致模型在特定输入下产生不可靠的、甚至完全错误的输出。仅需约250份精心构造的文档，就能在模型部署后激活这些后门，引发严重的可靠性风险。这一发现凸显了AI训练数据安全防护的紧迫性。
- 2025-11-06
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-06
牛津大学研究：当前基准测试普遍夸大了人工智能模型的性能牛津大学互联网研究所牵头的一项研究对445项主流人工智能（AI）基准测试进行了系统分析，指出当前评估AI系统能力的方法普遍存在夸大性能且缺乏科学严谨性的问题。研究发现，大量测试未能明确定义测试目标，且重复使用已有数据和方法，导致对模型能力的评估可能具有误导性。例如，在“小学数学8K”测试中答对问题并不一定代表模型真正掌握了数学推理。研究团队呼吁AI基准测试必须提高透明度，明确界定评估范围，并采用更可靠的统计方法来衡量模型表现，以确保评估的科学性和可信度。
- 2025-11-06
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-06
马斯克 xAI 要求员工交出生物识别数据训练“虚拟女友”Ani，引发内部不满埃隆·马斯克旗下的人工智能公司 xAI 被曝要求员工提交个人生物识别数据，用以训练其女性聊天机器人“Ani”。作为保密项目的一部分，员工被要求授权 xAI 永久、免版税地使用其面部和声音数据，以增强 AI 伴侣的“人性化”互动体验。尽管公司声称此举是为了推进其使命，但部分员工对此表示担忧，尤其担心个人肖像被滥用或用于深度伪造，同时对聊天机器人的性暗示形象也感到不满。此事件凸显了 AI 发展中数据隐私和伦理的紧张关系。
- 2025-11-06
- 0
- 0
- 0
2025-11-06
专家警告：英国金融稳定受AI风险的威胁英国金融监管机构警告称，人工智能（AI）的快速发展正给金融稳定带来新的、重大的威胁。随着金融机构越来越依赖复杂的AI系统进行交易、风险评估和客户服务，潜在的系统性风险也随之增加。专家强调，如果AI模型在市场压力下出现集中崩溃或“羊群效应”，可能引发不可预测的连锁反应。这份警告凸显了监管机构在应对新兴技术对经济安全影响方面的紧迫性，需要立即制定新的监管框架。
- 2025-11-06
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-06
通用人工智能的“军备竞赛”对社会影响几何？全球科技巨头和国家正投入巨资竞相开发通用人工智能（AGI），这场“军备竞赛”带来了巨大的机遇，但同时也引发了对社会稳定、就业和伦理道德的深刻担忧。专家警告称，AGI的快速发展可能加剧数字鸿沟，并对现有经济结构产生颠覆性影响。监管框架的缺失使得其潜在风险难以预测，亟需国际社会合作制定有效的治理策略，以确保这项颠覆性技术能够安全、负责任地服务于人类社会，避免不受控的负面后果。
- 2025-11-06
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-06
面向道德AI基准测试的公平、以人为本的图像数据集本文介绍了“公平、以人为本的图像基准”（FHIBE），这是一个为解决AI数据伦理问题而创建的公开数据集。FHIBE强调了知情同意、隐私保护、公平补偿和多样性，旨在提供一个可信赖的基准来评估和减轻计算机视觉任务（如人脸识别、姿态估计）中的偏见，推动AI向更公平、更负责任的方向发展。
- 2025-11-06
- 0
- 0
- 0
2025-11-06
关于人工智能的风险，顶级研究人员发出警告全球顶尖的人工智能研究人员和行业领导者对人工智能的快速发展发出了严厉警告，呼吁采取行动以管理人工智能带来的潜在灾难性风险。他们强调，AI技术进步的速度远远超出了安全保障措施的建立速度，可能对人类生存构成威胁。专家们敦促政府和研究机构立即采取行动，制定严格的安全标准和监管框架，确保AI的开发符合人类的利益，并防止其被滥用或失控。
- 2025-11-06
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3
4
5
...
11