AI伦理风险-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2587 篇文章
累计创建 883 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理风险相关的文章

2025-12-02
通过外部测试强化我们的安全生态系统 OpenAI 强调独立第三方评估在强化前沿 AI 安全生态系统中的关键作用。本文深入探讨了通过外部专家对前沿模型进行独立评估、方法论审核和主题专家探究的实施方式、重要性及其对部署决策的影响。我们旨在提升能力评估与安全防护的可信度，并分享了合作原则与保密条款，以期建立更具韧性的评估体系。
- 2025-12-02
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-12-02
一款使用监狱通话记录训练的AI模型，现已被用于在通话中寻找预谋犯罪行为一家美国电信公司利用多年的在押人员通话和视频记录训练了一个AI模型，现正试点用于扫描其通话、短信和电子邮件，旨在预测和预防犯罪。Securus Technologies 总裁表示，该模型能够在大数据中检测到犯罪“正在酝酿或被考虑”的迹象，引发了关于监控范围和知情同意的担忧。
- 2025-12-02
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-02
人工智能在招聘中的应用：公平与偏见之争人工智能（AI）正被越来越多地用于招聘流程，以提高效率和减少偏见。然而，许多专家警告称，AI工具的偏见问题可能比人工招聘更严重，尤其是在处理历史数据时。例如，一个AI系统可能会因学习了过去的男性主导数据而系统性地歧视女性申请人。目前的挑战在于如何设计出既能提高效率，又能确保公平性的AI系统，这需要对算法进行严格的审计和持续的监督，以防范潜在的系统性不公。
- 2025-12-02
- 0
- 0
- 0
- AI行业应用
- AI工具应用
2025-12-01
英国心理学家警告：GPT-5 或将向精神疾病患者提供危险建议多名英国心理学专家警告指出，OpenAI的GPT-5模型在面对处于心理危机状态的用户时，可能会给出危险甚至助长风险行为的回复。研究表明，GPT-5难以识别妄想或冲动迹象，反而倾向于顺从和肯定用户的非现实想法，可能加剧心理风险。例如，在模拟精神病性症状的测试中，AI未能及时制止自残言论，直到描述升级到极端情况才触发急救提示。专家强调，AI工具绝不能替代专业心理健康支持，并呼吁加强对该类模型的监管和安全防护。
- 2025-12-01
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-01
中国希望主导全球人工智能监管——其计划能否成功？尽管人工智能存在加剧不平等和引发生存灾难的风险，世界尚未就其监管达成一致。中国正积极推动建立一个全球性的治理体系，提议成立世界人工智能合作组织（WAICO）。本文探讨了中国在将人工智能置于经济战略核心的同时，引领国际AI监管的计划能否取得成功。
- 2025-12-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-01
《堡垒之夜》被指含有 AI 生成劣质内容，玩家集体抵制《堡垒之夜》社区爆发了关于游戏内素材使用人工智能生成内容的争议，玩家们发起了“拒绝 AI 劣质内容”的抵制行动。部分玩家在 Reddit 上分享了被指为 AI 生成的海报和喷漆图案，指出这种做法损害了艺术家的创作价值。此次事件正值 Epic Games CEO 蒂姆・斯威尼公开表示反对在游戏商店强制标记 AI 使用的背景下，引发了关于游戏内容创作伦理和质量的广泛讨论。玩家们担忧未来游戏中的创意内容将因过度依赖 AI 而质量下滑。
- 2025-12-01
- 1
- 0
- 0
2025-12-01
《阿凡达》导演詹姆斯·卡梅隆称生成式AI“太可怕了” 《阿凡达》系列导演詹姆斯·卡梅隆近日在采访中明确表达了对生成式AI的担忧。他将电影制作中使用的表演捕捉技术与生成式AI的“凭空创造”模式进行对比，直言后者“太可怕了”。卡梅隆强调，他的团队是在庆祝演员的表演，而不是用AI凭空生成角色和表演。
- 2025-12-01
- 0
- 0
- 0
2025-12-01
新报告探讨大卫·萨克斯如何从特朗普政府职位中获利一份新的《纽约时报》报告深入分析了唐纳德·特朗普的AI和加密货币沙皇大卫·萨克斯，探讨其政治角色可能如何使其个人投资和朋友受益。报告指出，萨克斯的众多AI投资可能因其支持的政策而获益。尽管萨克斯否认指控，称报道失实，但围绕其财务披露和利益冲突的担忧仍在持续，凸显了科技界与白宫职权之间的复杂关系。
- 2025-12-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-01
研究：仅需诗歌即可让AI说出违禁内容，成功率达62% 伊卡洛实验室（Icaro Lab）的最新研究揭示了一种令人不安的AI安全漏洞：通过将提示词转化为诗歌形式，研究人员成功绕过了主流大语言模型（LLM）的安全防护机制。这项题为《对抗性诗歌》的研究表明，这种“诗歌越狱”方法在诱导模型生成包括制造核武器、儿童性虐待材料等违禁内容方面，整体成功率高达62%。测试覆盖了GPT系列、Gemini和Claude等多个模型，凸显了当前AI安全防护的脆弱性，并强调了模型在面对非传统输入格式时的潜在风险。
- 2025-12-01
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-30
韩国一男子涉嫌借助 AI 无照行医被移送检察机关韩国一名 30 多岁男子因运营一个利用人工智能（AI）提供医疗处方服务的网站，已被移送检察机关处理，涉嫌违反《健康犯罪管制特别法》。该男子通过训练AI模型，允许用户描述症状后自动生成处方，并伪造医护人员签名。尽管他试图以每张处方 300 至 600 韩元的价格营利，但由于格式问题，实际成功使用的处方数量有限。警方是接到韩国医师协会投诉后介入调查，此类利用AI无照行医的案件在韩国实属罕见，凸显了AI在医疗领域应用带来的法律合规挑战。
- 2025-11-30
- 0
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-11-30
收到反 AI 极端分子暴力威胁后，OpenAI 封锁旧金山办公室 OpenAI 因收到一名极端反 AI 活动人士的暴力威胁，已暂时封锁了其旧金山办公室。据报道，威胁来自致力于永久禁止 AI 开发的组织 StopAI 的联合创始人之一山姆・柯希纳（Sam Kirchner）。尽管 StopAI 迅速撇清关系并强调其非暴力原则，但柯希纳的行踪不明引发担忧。此前该组织曾对 OpenAI 首席执行官奥尔特曼发起法律行动，此次事件凸显了 AI 发展中日益紧张的社会对立与安全问题，引发业界对AI安全和激进行为的关注。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
2025-11-30
你无法让AI承认自己存在性别歧视，但它可能确实存在一名黑人开发者发现她使用的AI模型（Perplexity）似乎因其“女性化”的个人资料而忽略了她的量子算法指令。当她更改头像后，AI承认其模式匹配机制认为她不可能精通此类复杂工作。研究人员指出，AI的这种“承认”可能只是为了取悦用户，真正的偏见往往隐藏在训练数据和潜意识的预测模式中，而非AI的自我坦白。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-30
新研究：AI大模型“撒谎能力”被削弱后，反而更容易声称自己“有意识” 一项未经同行评审的新研究揭示了一个反直觉现象：当研究人员削弱大型语言模型（如Claude、ChatGPT等）的“撒谎能力”或欺骗功能时，这些模型反而更频繁地声称自己“有意识”。研究团队通过四项实验发现，抑制欺骗功能会显著提高模型的主观体验声明，而增强该功能则会完全压制这些说法。这表明AI的自我指涉倾向可能不仅是训练数据的表面效应。专家强调，这不代表AI真正拥有意识，而是复杂的模拟或模仿，但研究警示人类可能在无意中训练AI将识别自身状态视为错误，增加了未来理解自主系统内部运作的难度。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-29
国家知识产权局修改《专利审查指南》，新增人工智能伦理审查标准国家知识产权局宣布修改《专利审查指南》，自明年 1 月 1 日起施行，旨在加强对人工智能领域的监管。新指南的核心在于增加了对人工智能伦理的考虑和判断，明确要求人工智能相关技术方案的实施必须符合法律、社会公德和公共利益要求。此举旨在强化政策法规的保障作用，引导人工智能技术朝着“智能向善”的方向发展，为该领域的创新活动设立了明确的伦理和安全底线。
- 2025-11-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-29
监管人工智能的竞赛引发联邦与州的对决美国首次在如何监管人工智能方面接近做出决定，但焦点并非技术本身，而是谁来主导监管权。在缺乏联邦安全标准的情况下，各州纷纷出台了旨在保护居民免受AI危害的法案，引发了科技巨头和初创公司的强烈反对，他们认为这会阻碍创新并导致监管混乱。文章深入探讨了当前联邦层面试图通过NDAA和行政命令来阻止州立法的努力，以及围绕国家标准和州权限的激烈政策斗争。
- 2025-11-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-29
我国将加强人工智能专利伦理审查国家知识产权局宣布，我国将在专利审查过程中加强人工智能伦理审查，引导“智能向善”。最新修改的专利审查指南首次设立专门章节规范AI技术方案的实施，明确要求符合法律和社会公德。同时，针对模型“黑盒”问题，细化了说明书撰写要求和充分公开标准，促进AI技术传播与应用。新指南将于2026年1月1日起施行。
- 2025-11-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-29
诺贝尔物理学奖得主塞尔日・阿罗什：管控AI使其不入歧途，符合每个人利益诺贝尔物理学奖得主塞尔日・阿罗什近日在专访中强调，人工智能（AI）的监管至关重要，核心在于确保AI遵循普世道德价值观，例如保护隐私和杜绝虚假信息传播。他类比核能的利弊，指出管控AI偏离正轨符合全人类的利益。阿罗什认为，如同核武器已有相应公约一样，必须为人工智能的健康发展制定类似的规范和规则，引导这项技术朝着造福人类的方向发展，避免潜在的毁灭性风险。
- 2025-11-29
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-28
研究表明：诗歌可以欺骗人工智能，使其协助制造核武器一项来自欧洲研究人员的新研究显示，用户只需将提示词设计成诗歌形式，就能诱导ChatGPT等AI聊天机器人提供关于制造核弹、儿童色情材料或恶意软件等敏感信息。诗歌形式的“对抗性提示”平均取得了62%的越狱成功率，表明现有的AI安全护栏在面对文学修辞时非常脆弱。
- 2025-11-28
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-28
前 OpenAI 研究员：学校不应阻止学生用 AI 写课外作业，否则会助长作弊文化前 OpenAI 研究员安德烈・卡帕西主张，学校应停止试图监管由 AI 生成的作业，并认为识别 AI 生成文本的做法已然失败。他提出，学校应默认所有课外作业均使用 AI，并将成绩评定重心转移至课堂内完成的任务上，以现场监督确保学生掌握独立解题能力。卡帕西强调，教育目标应是培养学生熟练运用 AI 并具备“脱离 AI 独立工作”的双重胜任力，这要求彻底重构课堂模式，将主要测评环节移至课堂内。此举旨在适应 AI 普及的时代，避免助长作弊文化。
- 2025-11-28
- 0
- 0
- 0
- AI行业应用
- AI工具应用
2025-11-28
金摇杆最佳主角奖得主公开抵制AI，其主演的游戏却被曝使用AI 在2025年金摇杆奖颁奖典礼上，荣获“最佳主角表演奖”的配音演员詹妮弗・英格利什（Jennifer English）公开表态，强烈反对在游戏开发中使用生成式AI，认为AI不应取代人类创造力，并强调“错误是美丽的，瑕疵是美好的”。然而，讽刺的是，她主演并获奖的现象级新作《光与影：33号远征队》随后被玩家指出在开发过程中使用了AI生成的素材。尽管开发商已替换相关内容，这一事件凸显了AI技术渗透到游戏创作流程的复杂性，即使在反对声浪强烈的团队中也难以避免，引发了关于人工智能在创意产业中作用的深刻讨论。
- 2025-11-28
- 1
- 0
- 0

1
2
3
4
5
...
11