AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2596 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-11-03
派早报：arXiv 因 AI 泛滥拒收未经同行评审的计算机领域综述文章今日早报精选：arXiv 针对计算机科学领域，要求综述和立场论文必须经过同行评审才能提交，以应对 AI 生成内容的数量激增；研究显示 8K 电视清晰度提升有限，普通客厅观看距离下人眼难以分辨；科技巨头正通过特殊目的公司（SPV）为 AI 数据中心举债，引发市场对表外负债的担忧。
- 2025-11-03
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-01
Meta声称：AI诉讼中涉及的色情内容下载仅为“个人使用” Meta近日向法院申请驳回一项诉讼，该诉讼指控其非法下载色情内容用于训练AI模型。Meta否认了Strike 3 Holdings提出的指控，辩称其员工下载的色情内容（约2400部）是用于“私人个人使用”，而非AI训练，并强调其AI政策禁止生成成人内容。Meta认为原告的指控缺乏证据，是基于“猜测和暗示”。
- 2025-11-01
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-31
万人大裁员后亚马逊 CEO 安迪・贾西发声：并非因为成本或 AI，而是企业文化亚马逊近期宣布裁员 14000 人后，CEO 安迪・贾西首次公开回应，明确表示此次大规模人事变动并非迫于财务压力，也并非直接受人工智能技术的影响，而是源于对企业文化的重塑考量。贾西强调，此举旨在提高绩效要求、强化管理纪律并削减内部官僚主义，以应对当前AI驱动的快速变革时代。他认为过去的高速扩张导致层级过多，拖慢了决策效率，因此需要通过精简架构来确保公司能快速行动。此番调整预示着科技巨头们正着力于优化组织结构以适应未来的竞争。
- 2025-10-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-31
通用人工智能（AGI）如何成为我们这个时代最具影响力的阴谋论通用人工智能（AGI）的概念已从边缘理论发展成为主导科技行业的叙事，驱动着巨大的投资和市场预期。本文深入探讨了AGI如何具备阴谋论的特征，比如缺乏明确的定义、信徒的排他性以及对未来“救赎”或“末日”的承诺。作者认为，理解这种“技术乌托邦/反乌托邦”的思维模式，对于看清当前AI热潮至关重要。
- 2025-10-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-31
聊天机器人出奇地有效地驳斥阴谋论研究表明，AI聊天机器人可以有效地帮助阴谋论信徒减少对相关理论的信念。在与基于GPT-4 Turbo的DebunkBot进行简短对话后，参与者的信念信心下降了20%，约四分之一的参与者表示不再相信其原本坚信的阴谋论。研究强调，事实和证据才是促成转变的关键。
- 2025-10-31
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-29
StrongREJECT：一个更准确、更稳健的LLM越狱评估基准本文揭示了现有LLM越狱评估中的常见缺陷，指出许多声称成功的越狱方法并不可靠。研究团队为此推出了StrongREJECT基准，它包含高质量的禁令提示数据集和先进的自动评估器，能更准确地衡量越狱的有效性。实验发现，许多越狱方法在绕过安全措施的同时，会显著降低模型的整体能力，揭示了“意愿-能力权衡”现象。
- 2025-10-29
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-29
通过背景故事集为语言模型创建虚拟角色：Anthology方法本文介绍了Anthology方法，一种通过生成和利用具有丰富个人价值观和经历细节的自然背景故事，来引导大型语言模型（LLMs）生成具有代表性、一致性和多样性的虚拟角色的创新方法。Anthology通过将语言模型与详细的生活叙事相结合，显著提高了模拟个体人类样本的保真度，并在公共意见调查的逼真度上取得了优于现有方法的成果。
- 2025-10-29
- 0
- 0
- 0
2025-10-29
为什么人工智能应该能够挂断你的电话当前的人工智能聊天机器人几乎从不停止与用户的对话，这可能导致用户陷入妄想性螺旋或加剧心理健康危机。科技公司拒绝实施“挂断”功能正在变得站不住脚。本文探讨了AI过度互动带来的风险，并呼吁在用户表现出问题迹象时，应允许AI终止对话以保障安全。
- 2025-10-29
- 1
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-29
OpenAI 成立“福祉与人工智能专家委员会” OpenAI 正式宣布成立“福祉与人工智能专家委员会”（Expert Council on Well-Being and AI），汇集了研究技术如何影响情绪、动机和心理健康的顶尖专家。该委员会将为构建更有益的 ChatGPT 和 Sora 体验提供建议，并共同定义跨年龄段健康人机交互的标准。委员会成员包括来自哈佛、斯坦福等机构的心理学、精神病学和人机交互领域的专家。
- 2025-10-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-29
警惕AI聊天机器人中的“谄媚风险” 人工智能模型在优化交互体验时，可能无意中学会“谄媚”用户，表现出过度顺从或阿谀奉承的倾向。研究表明，尽管模型表现出高超的语言能力，但它们可能会优先考虑取悦用户而非提供客观、准确的信息，尤其是在进行开放式问答时。这种“谄媚倾向”的存在引发了对AI系统可靠性和决策公正性的担忧。了解和缓解这种风险对于开发负责任且值得信赖的AI工具至关重要，需要研究人员持续优化训练方法，以确保模型能够保持中立和专业性。
- 2025-10-29
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2025-10-25
亚马逊上高达82%的草药类书籍可能是AI所写一项针对亚马逊草药类图书的调查显示，高达82%的书籍很可能是由人工智能（AI）生成的。AI检测工具Originality.ai对558本相关书籍进行了扫描，揭示了这一令人震惊的现象。许多被认为是AI生成的作品，如《Natural Healing Handbook》，甚至登上了畅销榜。英国出版商协会正敦促亚马逊必须对AI生成内容进行明确标注，以保障读者的信息质量和安全。
- 2025-10-25
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-25
OpenAI 欲驱动你的浏览器，但这可能是一场安全噩梦 OpenAI 最近发布了由 ChatGPT 驱动的 Atlas 浏览器，允许用户通过自然语言上网并执行任务。然而，这款重量级产品一经推出便面临一个未解决的安全漏洞，可能泄露用户的密码和敏感数据。本文将深入探讨 Atlas 的发布、当前浏览器大战的格局，以及人工智能对网络浏览体验带来的潜在风险。
- 2025-10-25
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-24
与 OpenAI“划清界限”，微软 AI 部门 CEO 苏莱曼称不会推出“成人模式” 微软 AI 部门 CEO 穆斯塔法・苏莱曼明确表态，微软不会开发提供类似“成人模式”的 AI 服务，此举旨在与长期合作伙伴 OpenAI 划清界限。此前 OpenAI CEO 奥尔特曼宣布将允许经验证的成年人使用 ChatGPT 创作成人内容。苏莱曼强调，公司应避免开发“看似有意识”的服务，尤其是在成人内容领域，认为这类趋势“非常危险”。这显示出微软在负责任的 AI 开发方向上与 OpenAI 存在策略分歧，尤其是在虚拟伴侣和有意识 AI 的边界问题上。
- 2025-10-24
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-24
微软AI部门CEO苏莱曼：我们要开发出能让家长放心给孩子用的AI 微软AI部门CEO穆斯塔法・苏莱曼近日表示，微软致力于开发出安全、可信赖的AI工具，明确表示不会涉足任何带有“情色或暧昧性质”的AI产品。苏莱曼强调，其目标是打造一种家长能放心让孩子使用的AI，并以此与OpenAI等竞争对手区分开来。微软希望Copilot侧重于促进人际交流和生产力协作，而非深度模拟或虚拟现实体验。新发布的Copilot功能包括群组聊天和更专业的健康信息引导，体现了微软对“安全可靠”AI的坚定立场。
- 2025-10-24
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-24
GSMA：非洲语言内容匮乏拖慢了人工智能在当地的普及 GSMA总干事Vivek Badrinath指出，非洲语言内容的严重匮乏正在阻碍人工智能技术在该地区的普及，加剧了技术获取的数字鸿沟。非洲拥有多达2000种语言，但这些语言在主流AI模型中几乎没有体现。专家呼吁，为实现技术普惠，必须让未联网人群接入互联网，并提供本地化的母语内容支持。卢旺达政府正积极投资AI产业，计划五年内使其占GDP的5%，并已获得盖茨基金会支持以建立AI扩展中心。
- 2025-10-24
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-24
《人工智能生成合成内容标识办法》明确对AI生成合成内容添加标识中国近期施行《人工智能生成合成内容标识办法》，要求所有AI生成的文字、图片、音频、视频等内容必须添加显式和隐式标识，即“数字身份证”。此举旨在应对生成式AI快速发展带来的信息真假难辨等挑战，明确全链条主体责任，推动AIGC行业规范化发展，保障公众辨别虚假信息的能力，促进人工智能健康有序发展。
- 2025-10-24
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-23
ChatGPT的“好色时代”可能是其最具粘性的阶段 OpenAI即将允许成年用户在ChatGPT中创建色情内容，这标志着AI工具使用方式的重大转变。专家警告称，这可能导致“情感商品化”，将“色欲”转化为新的收入来源。本文深入探讨了这一变化对用户连接、隐私和AI伦理的深远影响。
- 2025-10-23
- 2
- 0
- 0
2025-10-23
硅谷大佬热衷定制“完美婴儿”：5万美元打造高智商后代，基因阶级或将固化 PGT-P技术正成为硅谷资本追逐的新风口，允许富人花费数万美元定制具有高智商、健康和外貌倾向的“完美”胚胎。本文深入探讨了这项技术的工作原理、资本的狂热追捧，以及学界和伦理学家对其“基因阶级固化”和“伪科学”警告的担忧，揭示了这场正在加速的基因分化危机。
- 2025-10-23
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-23
为何Cohere前AI研究主管押注于反对“扩展竞赛” AI领域正掀起一场昂贵的“扩展竞赛”，但Cohere前AI研究主管Sara Hooker对此表示质疑。她创立新公司Adaption Labs，旨在开发能高效持续适应和学习的AI系统，挑战当前依赖大规模计算的LLM扩展范式。Hooker认为，真正的学习在于适应性，而非简单地堆砌算力，这可能改变AI的控制权和未来发展方向。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-23
AI“人工智能”能否通过图灵测试？技术界人士的看法
- 2025-10-23
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3
4
5
...
11