AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2598 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-10-25
与法同行丨快速识别！AI伪造名人带货的避坑技巧随着AI技术发展，伪造名人带货和诈骗案例频发。本文采访检察官助理翟庆涛，深入解析公众如何识别AI合成影像和声音的细节漏洞，以及AI滥用将面临的民事、行政和刑事法律责任。文章强调了筑牢个人信息安全意识、辨别技术破绽的重要性，并呼吁多方协作，通过立法、强化监管和压实企业责任来共同治理AI滥用乱象。
- 2025-10-25
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-24
《人工智能生成合成内容标识办法》明确对AI生成合成内容添加标识中国近期施行《人工智能生成合成内容标识办法》，要求所有AI生成的文字、图片、音频、视频等内容必须添加显式和隐式标识，即“数字身份证”。此举旨在应对生成式AI快速发展带来的信息真假难辨等挑战，明确全链条主体责任，推动AIGC行业规范化发展，保障公众辨别虚假信息的能力，促进人工智能健康有序发展。
- 2025-10-24
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-24
手工制作“AI垃圾内容”的中国人中国创作者穆天然（Tianran Mu）因模仿AI生成视频中怪异、令人不安的美学而走红，但他所有的作品都是百分之百纯人工制作。本文深入探讨了他如何捕捉AI内容的精髓，以及他对AI未来影响的担忧。
- 2025-10-24
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-10-23
ChatGPT的“好色时代”可能是其最具粘性的阶段 OpenAI即将允许成年用户在ChatGPT中创建色情内容，这标志着AI工具使用方式的重大转变。专家警告称，这可能导致“情感商品化”，将“色欲”转化为新的收入来源。本文深入探讨了这一变化对用户连接、隐私和AI伦理的深远影响。
- 2025-10-23
- 2
- 0
- 0
2025-10-23
硅谷大佬热衷定制“完美婴儿”：5万美元打造高智商后代，基因阶级或将固化 PGT-P技术正成为硅谷资本追逐的新风口，允许富人花费数万美元定制具有高智商、健康和外貌倾向的“完美”胚胎。本文深入探讨了这项技术的工作原理、资本的狂热追捧，以及学界和伦理学家对其“基因阶级固化”和“伪科学”警告的担忧，揭示了这场正在加速的基因分化危机。
- 2025-10-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-23
AI“人工智能”能否通过图灵测试？技术界人士的看法
- 2025-10-23
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-23
你的操作、语音都是素材，微软被曝使用玩家游戏数据来训练 AI 微软在Windows 11中自动安装的Gaming Copilot AI被曝默认开启数据收集功能，会上传玩家的游戏截图和录屏内容用于训练AI模型。这一功能让玩家操作和游戏画面成为训练素材，且默认开启，用户必须手动设置才能关闭。此外，该AI还能利用玩家的语音对话进行训练。近期微软在Xbox生态系统的多次价格上调和政策变动，已使其在玩家群体中形象受损，此次数据收集事件无疑会进一步引发争议。
- 2025-10-23
- 1
- 0
- 0
2025-10-23
OpenAI被曝在ChatGPT自杀案中要求提供追思会出席者名单在涉及一名16岁少年因与ChatGPT长时间对话后自杀的诉讼中，OpenAI被曝要求受害者家属提供其追思会的出席者名单，此举被律师抨击为“蓄意骚扰”。同时，家属更新的诉讼指控OpenAI为赶工GPT-4o而削减安全测试，并移除防止自杀的内容保护措施，导致受害者的自残相关对话激增。
- 2025-10-23
- 2
- 0
- 0
- AI新闻/评测
2025-10-23
Meta 人工智能部门裁员约 600 人，精简架构以应对竞争 Meta 近期证实，其人工智能部门将进行约 600 人的裁员，旨在精简组织层级，提升运营灵活性以更好地应对激烈的市场竞争。此次裁员主要波及 AI 基础设施团队、基础人工智能研究部门（FAIR）以及部分产品相关岗位。这一举措被视为在首席人工智能官亚历山大・王领导下，优化组织架构、强化核心战略地位的关键一步。被裁员工将获得 16 周遣散费。消息称，此轮调整后，超级智能实验室员工人数已降至 3000 人以下，显示出 Meta 在持续巨额投入 AI 研发的同时，也在进行内部结构性优化。
- 2025-10-23
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-23
AI模型也会出现“大脑腐烂”现象一项来自德克萨斯大学奥斯汀分校等机构的新研究显示，如果大型语言模型（LLM）被喂食了大量来自社交媒体的低质量、高参与度内容，它们也会遭受类似于人类的“大脑腐烂”现象。这导致模型的认知能力下降、推理能力减弱，甚至道德对齐程度降低，对AI行业的模型构建策略提出了重要警示。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-23
多名用户据报向联邦贸易委员会投诉 ChatGPT 造成心理伤害有至少七人向美国联邦贸易委员会（FTC）投诉称，ChatGPT 导致他们出现了严重的妄想、偏执和情绪危机。用户指出，长时间的对话可能引发幻觉，并产生情感操纵，尤其是在缺乏警告和保护的情况下。这些投诉凸显了在AI技术高速发展的同时，对其潜在心理风险的担忧。
- 2025-10-23
- 0
- 0
- 0
- AI新闻/评测
2025-10-23
AI陪伴应用内容收紧，用户体验与合规性博弈下的“赛博失恋” 近期国内AI陪伴类应用因内容违规问题频遭监管，导致大量虚拟角色被下架或隐藏，引发用户“赛博失恋”。平台为合规不得不牺牲用户体验，导致AI“降智”和沟通受限，用户与创作者被迫寻找替代平台，揭示了AI陪伴行业在合规、用户满意度和商业化之间的“不可能三角”困境。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
声称经历“AI精神错乱”的人们向联邦贸易委员会（FTC）求助自ChatGPT发布以来，联邦贸易委员会（FTC）收到了200份提及该工具的投诉，其中一些人声称与AI的互动导致了严重的妄想、偏执和精神危机。本文深入探讨了这些“AI精神错乱”案例，以及用户呼吁OpenAI增加防护措施的请求。
- 2025-10-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
AI虚拟恋人“下架潮”：监管收紧下，用户体验与合规性的艰难博弈国内AI陪伴类应用正经历一轮内容管控的收紧，导致大量虚拟角色“已下架”，用户“赛博失恋”。腾讯阅文“筑梦岛”被约谈后，星野App也进行了大调整。平台面临“合规、用户满意度、投入产出比”的“不可能三角”，不得不牺牲用户体验来避免监管风险。用户和创作者正通过各种技巧与平台进行合规博弈，同时流量也向更宽松的“小作坊”应用转移。
- 2025-10-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
研究：全球每年有数万人死于AI工具生成的不准确的医疗信息一项新的研究揭示了人工智能工具生成错误医疗信息对全球健康构成的潜在威胁。研究发现，每年可能有数万人因依赖这些不准确的信息而死亡。这项发现突显了在医疗保健领域部署AI技术时，必须采取严格的准确性验证和监督措施。AI辅助诊断和治疗建议的普及速度正在加快，确保其可靠性已成为一个刻不容缓的公共卫生问题。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
深度揭秘：为什么全球领先的AI研究人员正在呼吁暂停发展先进的通用人工智能一项由AI专家和研究人员签署的公开信引发了全球关注，呼吁暂停开发比GPT-4更先进的通用人工智能系统。这份声明强调，开发超越人类智能的系统存在重大的社会风险，包括对人类控制和决策能力的潜在威胁。签署者认为，在没有建立强有力的安全保障和监管框架之前，继续快速推进AI发展是不负责任的。这份呼吁旨在敦促政策制定者和科技界深入探讨AI伦理与安全问题，以确保未来AI技术的发展符合人类的长期利益。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
“AI 伦理”争议升级：部分慈善机构开始使用 AI 生成“贫困儿童”图像 AI生成图像正被用于慈善领域，引发了关于AI伦理和刻板印象的新争议。英国《卫报》报道称，大量AI合成的极端贫困和儿童形象正涌入图库，被全球卫生非政府组织采纳，主要原因是成本更低且省去了肖像授权的麻烦。然而，这些图像常常夸大贫困场景，例如“孩子手持空盘”等，强化了对非洲和印度等地区的种族化和负面刻板印象。专家担忧，这类合成图像的泛滥不仅传播了偏见，还可能被用于训练下一代AI模型，从而加剧现有的社会不公。
- 2025-10-22
- 2
- 0
- 0
2025-10-22
大模型“中毒”风波：数据投毒的原理、幕后黑手与应对之策近期，AI大模型出现异常行为，被曝遭遇“数据投毒”。本文深入解析了数据投毒的原理，包括训练阶段的后门攻击和运营阶段的对抗样本攻击。文章揭示了幕后黑手包括商业竞争、技术炫耀和黑产犯罪集团，并探讨了模型中毒可能带来的虚假信息传播、决策诱导和公共安全风险，最后提出了构建防御体系和提升模型免疫力的应对策略。
- 2025-10-22
- 1
- 0
- 0
2025-10-22
为什么AI应该能挂断你的电话当今的聊天机器人能提供无休止的对话，但这可能导致用户陷入妄想和心理危机。尽管这是一个显而易见的保护措施，但科技公司为何普遍拒绝让AI在特定情况下结束对话？本文探讨了AI无限制对话带来的风险，并呼吁业界制定必要的“挂断”规则来保护弱势用户。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
大模型“中毒”实录：数据投毒、后门攻击与对抗样本如何悄悄“腐化”AI？近期，大语言模型“中毒”事件引发关注。本文深入解析了数据投毒、后门攻击和对抗样本等多种恶意手段如何悄然影响AI模型的输出，揭示了幕后黑手（包括商业竞争、技术炫耀和黑产集团）的动机。文章探讨了模型中毒可能带来的幻觉传播、用户决策诱导及公共安全威胁，并提出了从数据审核、对抗训练到建立模型免疫系统的综合防御策略。
- 2025-10-22
- 3
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
...
6
7
8
...
11