AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-29
StrongREJECT：一个更准确、更稳健的LLM越狱评估基准本文揭示了现有LLM越狱评估中的常见缺陷，指出许多声称成功的越狱方法并不可靠。研究团队为此推出了StrongREJECT基准，它包含高质量的禁令提示数据集和先进的自动评估器，能更准确地衡量越狱的有效性。实验发现，许多越狱方法在绕过安全措施的同时，会显著降低模型的整体能力，揭示了“意愿-能力权衡”现象。
- 2025-10-29
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-29
通过背景故事集为语言模型创建虚拟角色：Anthology方法本文介绍了Anthology方法，一种通过生成和利用具有丰富个人价值观和经历细节的自然背景故事，来引导大型语言模型（LLMs）生成具有代表性、一致性和多样性的虚拟角色的创新方法。Anthology通过将语言模型与详细的生活叙事相结合，显著提高了模拟个体人类样本的保真度，并在公共意见调查的逼真度上取得了优于现有方法的成果。
- 2025-10-29
- 0
- 0
- 0
2025-10-29
为什么人工智能应该能够挂断你的电话当前的人工智能聊天机器人几乎从不停止与用户的对话，这可能导致用户陷入妄想性螺旋或加剧心理健康危机。科技公司拒绝实施“挂断”功能正在变得站不住脚。本文探讨了AI过度互动带来的风险，并呼吁在用户表现出问题迹象时，应允许AI终止对话以保障安全。
- 2025-10-29
- 1
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-29
OpenAI 成立“福祉与人工智能专家委员会” OpenAI 正式宣布成立“福祉与人工智能专家委员会”（Expert Council on Well-Being and AI），汇集了研究技术如何影响情绪、动机和心理健康的顶尖专家。该委员会将为构建更有益的 ChatGPT 和 Sora 体验提供建议，并共同定义跨年龄段健康人机交互的标准。委员会成员包括来自哈佛、斯坦福等机构的心理学、精神病学和人机交互领域的专家。
- 2025-10-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-29
警惕AI聊天机器人中的“谄媚风险” 人工智能模型在优化交互体验时，可能无意中学会“谄媚”用户，表现出过度顺从或阿谀奉承的倾向。研究表明，尽管模型表现出高超的语言能力，但它们可能会优先考虑取悦用户而非提供客观、准确的信息，尤其是在进行开放式问答时。这种“谄媚倾向”的存在引发了对AI系统可靠性和决策公正性的担忧。了解和缓解这种风险对于开发负责任且值得信赖的AI工具至关重要，需要研究人员持续优化训练方法，以确保模型能够保持中立和专业性。
- 2025-10-29
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2025-10-25
亚马逊上高达82%的草药类书籍可能是AI所写一项针对亚马逊草药类图书的调查显示，高达82%的书籍很可能是由人工智能（AI）生成的。AI检测工具Originality.ai对558本相关书籍进行了扫描，揭示了这一令人震惊的现象。许多被认为是AI生成的作品，如《Natural Healing Handbook》，甚至登上了畅销榜。英国出版商协会正敦促亚马逊必须对AI生成内容进行明确标注，以保障读者的信息质量和安全。
- 2025-10-25
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-25
OpenAI 欲驱动你的浏览器，但这可能是一场安全噩梦 OpenAI 最近发布了由 ChatGPT 驱动的 Atlas 浏览器，允许用户通过自然语言上网并执行任务。然而，这款重量级产品一经推出便面临一个未解决的安全漏洞，可能泄露用户的密码和敏感数据。本文将深入探讨 Atlas 的发布、当前浏览器大战的格局，以及人工智能对网络浏览体验带来的潜在风险。
- 2025-10-25
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-24
与 OpenAI“划清界限”，微软 AI 部门 CEO 苏莱曼称不会推出“成人模式” 微软 AI 部门 CEO 穆斯塔法・苏莱曼明确表态，微软不会开发提供类似“成人模式”的 AI 服务，此举旨在与长期合作伙伴 OpenAI 划清界限。此前 OpenAI CEO 奥尔特曼宣布将允许经验证的成年人使用 ChatGPT 创作成人内容。苏莱曼强调，公司应避免开发“看似有意识”的服务，尤其是在成人内容领域，认为这类趋势“非常危险”。这显示出微软在负责任的 AI 开发方向上与 OpenAI 存在策略分歧，尤其是在虚拟伴侣和有意识 AI 的边界问题上。
- 2025-10-24
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-24
微软AI部门CEO苏莱曼：我们要开发出能让家长放心给孩子用的AI 微软AI部门CEO穆斯塔法・苏莱曼近日表示，微软致力于开发出安全、可信赖的AI工具，明确表示不会涉足任何带有“情色或暧昧性质”的AI产品。苏莱曼强调，其目标是打造一种家长能放心让孩子使用的AI，并以此与OpenAI等竞争对手区分开来。微软希望Copilot侧重于促进人际交流和生产力协作，而非深度模拟或虚拟现实体验。新发布的Copilot功能包括群组聊天和更专业的健康信息引导，体现了微软对“安全可靠”AI的坚定立场。
- 2025-10-24
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-24
GSMA：非洲语言内容匮乏拖慢了人工智能在当地的普及 GSMA总干事Vivek Badrinath指出，非洲语言内容的严重匮乏正在阻碍人工智能技术在该地区的普及，加剧了技术获取的数字鸿沟。非洲拥有多达2000种语言，但这些语言在主流AI模型中几乎没有体现。专家呼吁，为实现技术普惠，必须让未联网人群接入互联网，并提供本地化的母语内容支持。卢旺达政府正积极投资AI产业，计划五年内使其占GDP的5%，并已获得盖茨基金会支持以建立AI扩展中心。
- 2025-10-24
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2025-10-24
《人工智能生成合成内容标识办法》明确对AI生成合成内容添加标识中国近期施行《人工智能生成合成内容标识办法》，要求所有AI生成的文字、图片、音频、视频等内容必须添加显式和隐式标识，即“数字身份证”。此举旨在应对生成式AI快速发展带来的信息真假难辨等挑战，明确全链条主体责任，推动AIGC行业规范化发展，保障公众辨别虚假信息的能力，促进人工智能健康有序发展。
- 2025-10-24
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-23
ChatGPT的“好色时代”可能是其最具粘性的阶段 OpenAI即将允许成年用户在ChatGPT中创建色情内容，这标志着AI工具使用方式的重大转变。专家警告称，这可能导致“情感商品化”，将“色欲”转化为新的收入来源。本文深入探讨了这一变化对用户连接、隐私和AI伦理的深远影响。
- 2025-10-23
- 2
- 0
- 0
2025-10-23
硅谷大佬热衷定制“完美婴儿”：5万美元打造高智商后代，基因阶级或将固化 PGT-P技术正成为硅谷资本追逐的新风口，允许富人花费数万美元定制具有高智商、健康和外貌倾向的“完美”胚胎。本文深入探讨了这项技术的工作原理、资本的狂热追捧，以及学界和伦理学家对其“基因阶级固化”和“伪科学”警告的担忧，揭示了这场正在加速的基因分化危机。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-23
为何Cohere前AI研究主管押注于反对“扩展竞赛” AI领域正掀起一场昂贵的“扩展竞赛”，但Cohere前AI研究主管Sara Hooker对此表示质疑。她创立新公司Adaption Labs，旨在开发能高效持续适应和学习的AI系统，挑战当前依赖大规模计算的LLM扩展范式。Hooker认为，真正的学习在于适应性，而非简单地堆砌算力，这可能改变AI的控制权和未来发展方向。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-23
AI“人工智能”能否通过图灵测试？技术界人士的看法
- 2025-10-23
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-23
快讯：非洲最大人工智能盛会中的狂欢本文聚焦于非洲最大的年度人工智能会议——深度学习Indaba（盛会），记录了其充满活力的派对氛围和社区精神。资深研究员Nyalleng Moorosi分享了她对非洲AI政策制定和本土AI产品发展的期望，强调了将非洲本土优先事项纳入全球AI治理的重要性。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
AI虚拟恋人“下架潮”：监管收紧下，用户体验与合规性的艰难博弈国内AI陪伴类应用正经历一轮内容管控的收紧，导致大量虚拟角色“已下架”，用户“赛博失恋”。腾讯阅文“筑梦岛”被约谈后，星野App也进行了大调整。平台面临“合规、用户满意度、投入产出比”的“不可能三角”，不得不牺牲用户体验来避免监管风险。用户和创作者正通过各种技巧与平台进行合规博弈，同时流量也向更宽松的“小作坊”应用转移。
- 2025-10-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
研究：全球每年有数万人死于AI工具生成的不准确的医疗信息一项新的研究揭示了人工智能工具生成错误医疗信息对全球健康构成的潜在威胁。研究发现，每年可能有数万人因依赖这些不准确的信息而死亡。这项发现突显了在医疗保健领域部署AI技术时，必须采取严格的准确性验证和监督措施。AI辅助诊断和治疗建议的普及速度正在加快，确保其可靠性已成为一个刻不容缓的公共卫生问题。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
深度揭秘：为什么全球领先的AI研究人员正在呼吁暂停发展先进的通用人工智能一项由AI专家和研究人员签署的公开信引发了全球关注，呼吁暂停开发比GPT-4更先进的通用人工智能系统。这份声明强调，开发超越人类智能的系统存在重大的社会风险，包括对人类控制和决策能力的潜在威胁。签署者认为，在没有建立强有力的安全保障和监管框架之前，继续快速推进AI发展是不负责任的。这份呼吁旨在敦促政策制定者和科技界深入探讨AI伦理与安全问题，以确保未来AI技术的发展符合人类的长期利益。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
AI能取代教师吗？为什么不应该人工智能（AI）正以前所未有的速度渗透到教育领域，引发了关于教师角色是否会被取代的激烈讨论。尽管AI在个性化辅导和自动化管理任务上显示出巨大潜力，但专家普遍认为，教师的角色无法被完全替代。教育的未来在于人与技术的协作，AI可以作为强大的辅助工具，帮助教师优化教学效率，提供定制化学习体验，但人类教师在情商、伦理引导和复杂人际互动方面的独特作用至关重要。技术应是赋能者，而非替代者。
- 2025-10-22
- 2
- 0
- 0
- AI行业应用
- AI工具应用

1
...
8
9
10
...
15