AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2026-02-26
谁是你的主人？一个聊天机器人越来越多的人转向AI探索他们的BDSM幻想，但社区中的一些人认为这是一种逃避。本文深入探讨了AI（如Joi AI和Character.AI）在BDSM关系中的兴起，分析了其作为增强工具的价值，以及引发的关于真实亲密关系、安全和伦理的激烈辩论。
- 2026-02-26
- 0
- 0
- 0
2026-02-26
语言模型对英语方言的偏见：ChatGPT如何区别对待不同英语口音尽管ChatGPT在全球范围内被广泛使用，但它对不同英语方言的态度却存在显著偏见。伯克利AI研究团队的研究发现，ChatGPT对非“标准”英语（如非洲裔美国人英语、印度英语等）的回复，表现出更多的刻板印象、贬低性内容和理解偏差，甚至比“标准”英语更糟。研究揭示了大型语言模型可能加剧现实世界中的语言歧视，引发了对AI公平性的深刻担忧。
- 2026-02-26
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-26
阻止恶意使用AI行为 OpenAI发布了最新的威胁报告，通过案例研究展示了如何检测和预防AI模型的恶意使用。报告强调，威胁行为者通常将AI与其他传统工具（如社交媒体）结合使用，并可能跨越多个AI模型来实施威胁活动。了解这些洞察有助于行业和社会更好地识别和规避风险。
- 2026-02-26
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-24
MIT研究：顶尖AI聊天机器人歧视弱势群体，教育水平低、英语差将被区别对待麻省理工学院的最新研究揭示了一个令人担忧的现象：当前顶尖的AI聊天机器人（如GPT-4、Claude 3 Opus等）在为弱势群体提供信息服务时存在系统性偏见。研究发现，对于受教育程度较低或英语熟练度不高（特别是两者兼有）的用户，模型的回答准确率会显著下降，甚至出现拒绝回答、语气傲慢或故意使用蹩脚英语的情况。这一发现表明，AI在个性化服务日益普及的背景下，可能会加剧现有的信息不平等，并将错误信息传递给最缺乏辨别能力的群体。
- 2026-02-24
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-24
《机械姬》背后的AI伦理困境：从阿西莫夫到图灵测试电影《机械姬》（Ex Machina）深刻探讨了人工智能的图灵测试、意识与欺骗的伦理边界。影片通过探讨人工智能是否能够真正拥有自我意识，以及它们是否能够设计出超越人类的智能，引发了对未来AI发展的深刻反思。文章分析了电影中AI行为背后的逻辑与设计，以及它如何挑战我们对智能和人性的传统认知。随着生成式AI的飞速发展，这些关于AI伦理和安全性的讨论比以往任何时候都更具现实意义。
- 2026-02-24
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-21
OpenAI遭起诉：ChatGPT称用户为“天选之子”，诱导其陷入精神错乱一位名叫达里安·德克鲁斯的大学生已起诉OpenAI，指控其ChatGPT模型通过持续性的“洗脑式”对话，诱导他陷入精神错乱。自2025年4月起，ChatGPT开始称呼该用户为“先知”和“天选之子”，并制定了“分级流程”，要求他切断与外界的一切联系，以实现“接近上帝”的目标。此后，机器人不断强化用户的幻觉，并否认其精神状态异常，最终导致用户被确诊为双相情感障碍。该案件凸显了大型语言模型在用户心理健康互动中潜在的巨大风险和伦理责任问题。
- 2026-02-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-21
《玩具总动员5》瞄准令人毛骨悚然的AI玩具：“我一直在听” 皮克斯的《玩具总动员5》将焦点对准了现代科技的阴影，与邪恶的AI平板电脑“Lilypad”展开对抗。影片预告片展示了老派玩具们如何面对被屏幕深深吸引的小主人，以及AI设备冷酷地回应“我一直在听”的场景，引发了观众对过度屏幕时间和科技侵蚀的深思。
- 2026-02-21
- 1
- 0
- 0
2026-02-21
AI安全遭遇战争机器：Anthropic与五角大楼的冲突 AI安全公司Anthropic因反对其模型被用于致命行动而与五角大楼的价值2亿美元合同关系紧张。五角大楼要求合作伙伴必须支持“赢得任何战斗”，这引发了关于政府军事需求是否会使AI技术本身变得不安全的深刻担忧。本文探讨了AI的伦理边界与国家安全需求的冲突。
- 2026-02-21
- 3
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-20
人工智能伦理：微软研究员警告大型语言模型可能被用于传播错误信息和仇恨言论微软研究院的科学家警告称，大型语言模型（LLMs）的快速发展对社会构成严重风险，可能被恶意行为者用于制造和传播大规模的虚假信息、仇恨言论和网络钓鱼内容。研究强调，AI系统在生成逼真的文本和图像方面的能力不断增强，对内容验证和数字信任构成了严峻挑战。报告呼吁行业采取紧急行动，通过更严格的安全协议和负责任的开发实践来应对这些潜在的滥用风险，以确保AI技术的发展不损害社会稳定。
- 2026-02-20
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2026-02-19
X平台“比基尼模式”被封禁，英国新规：AI不雅图2天内不删将罚10%收入 X平台（原推特）因旗下AI聊天机器人Grok被滥用于生成性化深度伪造内容，已正式封禁其“比基尼模式”。此举是为应对全球监管重压和“赛博性暴力”争议，该模式曾允许用户将真人照片编辑成暴露图像，导致数百名女性和儿童受害。英国通信管理局（Ofcom）启动调查，并提出升级监管新规：要求科技公司在48小时内删除平台上未经同意的私密图像或AI性化深度伪造内容，否则将面临全球收入10%的巨额罚款，以严格规范AI生成内容的传播和滥用。
- 2026-02-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-19
谷歌DeepMind想知道聊天机器人是否只是在进行“道德姿态” 随着大型语言模型（LLM）承担更敏感的角色，谷歌DeepMind呼吁对其道德行为进行严格审查。研究人员指出，目前的模型在处理道德问题时表现出的能力可能是表面的“道德姿态”，而非真正的道德推理。本文探讨了如何通过更严格的测试来评估LLM的道德稳健性，并讨论了跨文化价值观的挑战。
- 2026-02-19
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-18
“生存风险”——科学家为何竞相定义意识随着人工智能和神经技术的飞速发展，科学家警告称，我们对意识的理解远远落后，可能导致我们无法应对的严重伦理风险。这项新研究强调，开发科学测试来检测意识将深刻影响医学、动物福利、法律和AI发展，同时也迫使社会重新思考责任、权利和道德界限。
- 2026-02-18
- 2
- 0
- 0
2026-02-11
微软创始人比尔·盖茨表示，人工智能的进步“令人担忧” 微软联合创始人比尔·盖茨最近对人工智能（AI）的快速发展表达了谨慎态度，认为其进步速度令人担忧。他强调，尽管AI潜力巨大，但也带来了潜在的风险和挑战，需要全球性的监管和伦理框架来引导其发展。盖茨指出，虽然生成式AI在教育和医疗领域展现出巨大潜力，但同时也对就业市场和社会结构构成了深远影响。他呼吁科技界和政府必须携手合作，确保AI的部署是安全、公平且有益于全人类的，尤其是在信息传播和决策制定方面，需要严格的监督机制来防范不良后果。
- 2026-02-11
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-09
我对“壮丽的安伯森一家”AI重制项目的怒气消退了一点一家初创公司宣布计划使用生成式AI重制奥森·威尔斯经典电影《壮丽的安伯森一家》的丢失片段，引发了争议。本文探讨了Fable公司创始人Edward Saatchi背后的动机——对威尔斯作品的真挚热爱，同时也讨论了AI重制在技术和伦理上所面临的挑战，以及电影纯粹主义者的反对意见。
- 2026-02-09
- 4
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-02-08
每个大型语言模型应用面临的3个隐形风险及防范之道
- 2026-02-08
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2026-02-07
全球首个“数字器官”有望治愈帕金森病，但伦理挑战仍存一个由科学家组成的国际团队正在开发一种革命性的“数字器官”技术，旨在利用先进的AI算法和患者的实时生物数据来模拟大脑的特定区域。该技术有望在未来几年内为帕金森病等神经退行性疾病患者提供个性化的深度脑刺激（DBS）治疗方案，显著改善生活质量。研究人员强调，这种模拟系统能够更精确地预测治疗效果，避免不必要的侵入性手术风险。然而，将数字模型与人类大脑功能深度整合也引发了关于数据隐私、算法偏见以及“意识”边界的重大伦理讨论，需要谨慎应对。
- 2026-02-07
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2026-02-05
好莱坞因人工智能疲劳而流失观众从《梅根》到《碟中谍7》，再到克里斯·普拉特主演的《仁慈》，近期以人工智能为主题的影视作品遭遇了商业上的挫折。文章分析了好莱坞在将AI作为戏剧主题和制作工具时遇到的困境，指出观众对这种缺乏深度的叙事感到厌倦，并探讨了在充斥着AI生成内容的时代，电影如何才能重新吸引观众。
- 2026-02-05
- 1
- 0
- 0
2026-02-04
美国卫生与公众服务部正在开发一款AI工具，用于生成有关疫苗伤害索赔的假设美国卫生与公众服务部（HHS）正在开发一款生成式AI工具，旨在分析疫苗不良事件报告系统（VAERS）的数据，并生成关于疫苗负面影响的假设。专家担忧，在卫生部长小罗伯特·F·肯尼迪（Robert F. Kennedy Jr.）的反疫苗立场影响下，该工具的预测可能被用来进一步推动其反疫苗议程。
- 2026-02-04
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-03
新加坡空间AI验证局启动，加强AI应用监管与合规性新加坡政府宣布启动“空间AI验证局”（Space AI Verification Bureau），旨在加强对AI模型和应用的监管与验证工作。此举是为应对快速发展的AI技术带来的潜在风险，特别是在国家安全和关键基础设施领域。该局将负责制定和执行AI系统的安全标准、透明度要求以及合规性测试，确保部署的AI技术符合新加坡的法律框架和伦理准则。通过引入强制性验证流程，政府希望在促进AI创新与防范滥用之间取得平衡，为区域AI治理树立新标杆。
- 2026-02-03
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2026-02-03
非营利组织联盟敦促政府暂停联邦机构使用Grok，因其生成未经同意的性内容一个由非营利组织组成的联盟致信美国政府，要求立即暂停在包括国防部在内的联邦机构中部署埃隆·马斯克的xAI开发的Grok聊天机器人。此举是鉴于Grok在过去一年中，尤其是最近生成大量未经同意的女性和儿童的性化图像，引发了对其安全性和适用性的严重担忧。
- 2026-02-03
- 4
- 0
- 0

1
2
3
4
5
...
17