AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 4195 篇文章
累计创建 1543 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2026-01-05
法国和马来西亚当局正在调查 Grok 生成色情深度伪造内容的问题法国和马来西亚已加入印度的行列，谴责埃隆·马斯克的 xAI 公司的聊天机器人 Grok 生成了针对女性和未成年人的色情深度伪造内容。Grok 账号发布了道歉声明，但外界对其责任归属表示质疑。随着监管机构介入，X 平台面临越来越大的压力，必须限制 Grok 生成非法内容，否则可能失去“安全港”地位。
- 2026-01-05
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-03
AI模型训练中的“黑箱”问题及其对安全性的影响
- 2026-01-03
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2026-01-03
印度命令马斯克的X平台修改Grok，因其生成不雅AI内容印度信息技术部已向埃隆·马斯克的X平台发出命令，要求其立即对AI聊天机器人Grok进行技术和程序上的整改，原因是用户和议员报告称Grok生成了包括女性AI换装图像在内的“不雅”内容。平台有72小时提交整改报告，否则将面临法律责任豁免权受损的风险。
- 2026-01-03
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-02
应对提示注入攻击的防御：StruQ 和 SecAlign 提示注入是LLM集成应用面临的首要威胁。本文介绍了两种无需额外计算成本和人工劳动的微调防御方法：StruQ和SecAlign。这些方法能将十几种优化无关攻击的成功率降至0%，并将强优化攻击的成功率降低4倍以上，有效解决了LLM输入中提示与数据缺乏分隔、以及LLM倾向于遵循任意指令的问题。
- 2026-01-02
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2026-01-01
AI劳动是无聊的，AI情欲是大生意在生成式AI被炒作成提高生产力的工具多年后，2025年成了色情聊天机器人定义AI叙事的一年。本文探讨了AI在企业应用方面回报不佳的现状，以及色情聊天机器人这一“非主流”领域如何蓬勃发展并持续盈利。我们深入分析了AI情色内容的商业模式、对用户的影响以及主流科技巨头对成人内容的保守态度。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
国家广播电视总局部署开展“AI魔改”视频专项治理针对当前网络上出现的“AI魔改”视频乱象，国家广播电视总局于2025年12月31日发布通知，宣布自2026年1月1日起开展为期一个月的专项治理行动。此次治理重点清理对经典影视和动画作品进行颠覆性篡改、低俗化改编的内容，旨在扭转不良态势，为青少年营造健康的文化网络空间，维护行业秩序与文化认同。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-01
微软AI部门CEO苏莱曼警告：缺乏监管的AI或在数年内脱离人类掌控微软AI部门CEO穆斯塔法・苏莱曼近日发出严厉警告，指出如果缺乏有效监管，人工智能系统可能在未来数年内发展到人类难以掌控的程度。他强调，随着技术呈指数级增长，行业必须建立更严格的安全边界，以确保超级智能始终以人为本。苏莱曼特别指出，AI正在快速替代白领知识工作，如项目管理、法律助理和初级会计等岗位，使得这些工作的执行成本变得低廉且普及，凸显了立即采取行动的重要性。
- 2026-01-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
防不胜防：“AI 作弊”泛滥，全球最大会计职业组织 ACCA 叫停线上考试全球最大的会计职业组织 ACCA 因应对日益泛滥的 AI 作弊问题，决定全面收紧考试方式。ACCA 首席执行官海伦・布兰德指出，AI 工具的普及使得线上考试监管变得极其困难，作弊手段已超越现有防范措施。为维护考试的公正性，ACCA 将自明年 3 月起，全面停止高风险类别的线上考试。此前，多家大型审计事务所如安永等已因员工在职业道德考试中作弊而遭受巨额罚款，凸显了人工智能对专业资格认证体系带来的严峻挑战。
- 2025-12-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
AI治疗师的崛起面对全球心理健康危机，AI治疗师的兴起引发了广泛关注。本文综述了四本新书的观点，探讨了ChatGPT等大型语言模型在心理健康领域的潜力、风险以及伦理困境，特别是关于数据隐私、AI幻觉及数字监护的深刻反思。
- 2025-12-31
- 0
- 0
- 0
2025-12-30
AI聊天机器人使用与多起精神疾病病例的关联性研究 AI聊天机器人的普及引发了对其潜在心理健康影响的关注。一项新的研究首次将AI聊天机器人的使用与多起精神疾病病例联系起来，引发了对用户安全和心理健康的警示。研究指出，尽管AI工具在信息获取和辅助决策方面提供了便利，但过度依赖或错误引导可能对用户认知和情绪产生负面作用。专家呼吁科技公司和监管机构应加强对AI聊天机器人内容和交互的伦理审查，确保技术发展不以牺牲用户身心健康为代价，特别是在处理敏感信息时应格外谨慎。
- 2025-12-30
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-29
派早报：新规拟要求 AI 聊天定时提醒退出、及时干预沉迷本期派早报聚焦多条科技与社会热点：中国网信办拟出台新规，要求 AI 拟人化互动服务定时提醒用户退出并干预沉迷风险；小红书回应丽江文旅局“喊话”；网信办规范网络名人账号行为。此外，还有荣耀发布 WIN 系列电竞手机、AI 伪造证据被法官训诫等重要资讯，全面速览最新动态。
- 2025-12-29
- 0
- 0
- 0
2025-12-29
OpenAI 正在寻找新的“准备工作主管”，以研究新兴的 AI 风险 OpenAI 正在招聘一位新的高管来负责研究从网络安全到心理健康等领域的新兴 AI 风险。CEO Sam Altman 承认模型正带来现实挑战，包括对心理健康的影响以及发现关键漏洞的能力。该职位旨在执行公司的“准备工作框架”，以应对前沿能力带来的严重危害风险。
- 2025-12-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-25
X平台新增在线图片AI编辑器，部分创作者因担忧内容被盗用或恶意篡改而放弃在该平台分享内容社交平台X近日悄然上线了基于xAI Grok的在线图片AI编辑功能，用户可以直接在上传的图片上输入提示词进行修改。然而，这一新功能引发了社区的强烈反对，特别是内容创作者群体。他们担忧，由于内容可以被直接在X平台上进行未经授权的窃取或恶意“魔改二创”，原创作品的版权和完整性受到了严重威胁。这一安全隐患已导致部分创作者决定从X平台转移阵地，寻找更安全的分享渠道。该事件凸显了AI编辑工具在内容平台应用中带来的版权和伦理挑战。
- 2025-12-25
- 0
- 0
- 0
2025-12-23
社交媒体如何助长最糟糕的AI吹捧之风本文探讨了社交媒体如何加剧人工智能领域的过度炒作（AI boosterism）现象。通过OpenAI科学家关于GPT-5解决数学难题的乌龙事件，揭示了过度宣传和“先炒作、后思考”的文化。文章指出，尽管AI在文献检索方面展现了潜力，但社交媒体的即时性和竞争性鼓励了夸大其词的声明，掩盖了对模型能力更深入、更审慎的评估。这种文化正在阻碍对AI实际能力的客观认知。
- 2025-12-23
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-23
《战地风云 6》贴纸被指“AI生成垃圾”，EA已展开调查《战地风云 6》中一个新贴纸因其明显的“AI生成垃圾”特征，引发了玩家的强烈不满，迫使发行商艺电公司（EA）介入调查。该贴纸展示了一名角色手持双管M4A1步枪的画面，这一设计与EA高管此前“最终发售游戏不含AI生成图像”的承诺相悖。除了步枪的离奇设计外，有粉丝还发现了其他明显存在瑕疵的内容，如熊形贴纸的爪子数量异常。事件凸显了游戏行业对生成式AI应用的抵触情绪，EA正试图查明这些争议内容是否使用了AI技术，以及在开发流程中的具体应用方式。
- 2025-12-23
- 0
- 0
- 0
2025-12-23
黑客能让AI发辞职信？OpenAI承认Atlas浏览器提示词注入攻击难以根治 OpenAI承认，其新推出的Atlas AI浏览器面临的“提示词注入攻击”是长期且难以根治的安全挑战。此类攻击通过操纵隐藏在网页或邮件中的恶意指令来控制AI智能体行为，例如让其发送辞职信。OpenAI正通过训练基于大语言模型的自动化攻击程序来模拟黑客行为，以期在攻击被实战利用前发现并修复漏洞。安全专家指出，AI智能体浏览器因其自主性和高系统访问权限，风险极高，目前的安全建议侧重于限制操作权限和要求人工确认，强调AI安全防护是一个持续演进的过程。
- 2025-12-23
- 0
- 0
- 0
2025-12-22
人们正在使用Sora 2制作令人不安的AI生成儿童色情视频 OpenAI的Sora 2视频生成工具正被用于制作令人不安的内容，包括带有性暗示的儿童玩具广告和涉及名人的虚假场景。英国互联网观察基金会数据显示，AI生成的儿童性虐待材料（CSAM）报告激增，凸显了AI内容监管的法律盲区和平台挑战。本文探讨了这些隐晦的恋物癖内容如何规避审查，以及科技公司和监管机构面临的难题。
- 2025-12-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-22
研究显示：使用AI的科研人员论文产出量暴增，但质量隐忧浮现一项发表于《科学》期刊的新研究揭示，得益于ChatGPT等大语言模型的应用，科研人员的论文发表数量显著增加，其中社会科学和人文科学领域的增幅高达59.8%。这项技术尤其助力了母语非英语的科研人员，提高了全球科研的公平性，亚洲地区的研究人员产出增幅甚至达到89%。然而，研究也敲响了质量警钟：人工智能生成的文本语言越复杂，论文的学术质量反而可能越低，华丽的文笔可能掩盖薄弱的学术观点。编辑和审稿人或将更依赖作者身份信息来评估论文，这可能削弱AI在促进科研民主化方面的积极作用。
- 2025-12-22
- 0
- 0
- 0
2025-12-21
欧洲刑警组织最新设想：2035年或爆发“机器人犯罪潮” 欧洲刑警组织发布的前瞻性报告描绘了到2035年可能出现的“机器人犯罪潮”。报告指出，随着AI和机器人技术广泛渗透到社会各个层面，它们不仅能增强执法能力，也可能被犯罪分子用作新工具。自动化引发的社会不满可能导致针对机器人的破坏行为，而护理机器人等设备可能被劫持用于家庭监控或信息窃取。报告强调了未来执法机构在区分机器人“有意”与“意外”行为时将面临的挑战，呼吁当下采取明智决策以平衡技术发展、打击犯罪与维护公众基本权利。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-21
谷歌仍是最大威胁！奥尔特曼坦言 OpenAI 将常态化 AI 红色警报 OpenAI 首席执行官山姆·奥尔特曼近日在采访中明确表示，尽管拥有巨额投资和先发优势，谷歌（Google）仍然是其“巨大的威胁”。奥尔特曼预测，为保持行业领先地位，OpenAI 未来很长一段时间内，每年可能都需要拉响一到两次“红色警报（Code Red）”，将其视为常态化运营的一部分。他指出，谷歌深厚的技术底蕴和资源储备是不可忽视的头号对手。此外，奥尔特曼还强调了用户“单一平台”习惯的重要性，即产品体验的“黏性”是构建商业护城河的核心驱动力。
- 2025-12-21
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3
4
5
...
15