AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-22
可口可乐2025年第三季度财报深度解读：销量重回正增长，无糖汽水爆发，AI驱动效率提升可口可乐公布2025年第三季度财报，表观营收同比增长5.1%，内生营收增长6%，核心亮点在于销量告别负增长，主要得益于小罐装和环保包装的积极推广。无糖可乐同比高增14%，持续爆发式增长。公司强调AI在广告、物流等流程中的应用，有效提升了运营效率，推动核心经营利润率达到32%，超出市场预期。
- 2025-10-22
- 3
- 0
- 0
- AI行业应用
2025-10-22
通用人工智能（AGI）能否拯救人类？专家观点与未来展望通用人工智能（AGI）的出现引发了全球性的讨论，其潜力不仅在于取代现有工作，更在于解决人类面临的复杂挑战，如气候变化和疾病治疗。专家们认为，如果AGI能够真正实现，它将对社会结构、经济模式乃至人类文明产生深远影响。然而，这种变革也伴随着巨大的风险，包括失控、偏见放大以及潜在的生存威胁。如何安全、负责任地开发和管理AGI，成为当前科技界和政策制定者亟需面对的核心议题。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
Cloudflare 首席执行官敦促英国监管机构拆分谷歌的搜索和 AI 爬虫继推出允许网站向 AI 机器人收费的网络抓取市场后，Cloudflare 首席执行官 Matthew Prince 正在敦促英国监管机构对谷歌在 AI 领域的竞争施加更严格的规定。他认为，谷歌利用其搜索主导地位和统一的爬虫来为其 AI 产品获取内容，构成了不公平竞争优势，并呼吁英国竞争与市场管理局（CMA）采取行动，要求谷歌将其搜索和 AI 爬虫拆分。
- 2025-10-22
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
大模型“中毒”事件频发，数据投毒攻击正成为AI江湖新暗战近期，AI大模型出现异常行为，被揭示是“数据投毒”攻击所致。本文深度解析了数据投毒的原理、攻击阶段（训练与运营）以及背后的黑手，包括商业GEO竞争、技术怪客炫技和黑产犯罪团伙。同时，文章探讨了中毒带来的严重后果，并提出了构建防御体系和增强模型免疫力的多维解决方案。
- 2025-10-22
- 4
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
为什么AI应该能挂断你的电话当今的聊天机器人能提供无休止的对话，但这可能导致用户陷入妄想和心理危机。尽管这是一个显而易见的保护措施，但科技公司为何普遍拒绝让AI在特定情况下结束对话？本文探讨了AI无限制对话带来的风险，并呼吁业界制定必要的“挂断”规则来保护弱势用户。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
Anthropic 首席执行官回应特朗普政府官员的指控，否认公司在散布AI恐惧 Anthropic 首席执行官 Dario Amodei 发布声明，驳斥了特朗普政府官员关于公司散布AI恐惧以损害行业的指控。Amodei强调公司致力于AI造福人类进步，并列举了与政府合作的实例，重申其在AI安全和政策方面的建设性立场。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
成立人工智能与福祉专家委员会 OpenAI宣布成立“人工智能与福祉专家委员会”，汇集了研究技术如何影响情感、动机和心理健康的顶尖专家。该委员会将为OpenAI构建更具帮助性的ChatGPT和Sora体验提供建议，并探讨AI健康互动的标准，特别关注青少年用户群体的福祉。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
阿根廷的人工智能机遇 OpenAI正与Sur Energy合作，计划在阿根廷建设拉丁美洲首个Stargate项目。该项目将由清洁能源驱动，旨在使阿根廷成为区域乃至全球AI领导者。文章探讨了阿根廷强大的ChatGPT使用率、开发者生态，以及AI在政府部门的应用潜力。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
StrongREJECT：一种更准确、更可靠的LLM越狱评估基准研究人员发现许多已发表的LLM越狱成功案例并不可靠，现有评估方法存在严重缺陷。本文介绍了StrongREJECT基准，它提供了一套高质量的禁用提示数据集和先进的自动评估器，能更准确地衡量越狱方法的有效性，并揭示了“意愿-能力权衡”现象，即成功的越狱往往以牺牲模型能力为代价。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-21
通过背景故事集为大型语言模型创建虚拟角色：Anthology 方法介绍伯克利AI研究所介绍了一种名为<strong>Anthology</strong>的新方法，通过利用包含丰富个人价值观和生活经历的自然主义背景故事来条件化大型语言模型（LLM），使其能够生成具有代表性、一致性和多样性的虚拟角色。Anthology旨在更精确地模拟个体人类受众，提升LLM在用户研究和社会科学领域的应用潜力，同时提高了对公众意见调查的逼真度。
- 2025-10-21
- 1
- 0
- 0
2025-10-21
欧洲AI新星Nexos.ai完成3000万欧元A轮融资，旨在加速企业AI采用立陶宛知名创业二人组创立的Nexos.ai近期完成了3000万欧元的A轮融资，旨在解决企业在AI部署中面临的安全和落地难题。该公司提供一个充当员工与AI系统之间中间人的平台，确保数据安全合规，加速企业AI落地。
- 2025-10-21
- 3
- 0
- 0
2025-10-21
利用故事集为语言模型创建虚拟角色：Anthology 方法介绍伯克利BAIR团队提出了“Anthology”方法，通过生成和利用包含丰富个人价值观和经历的自然主义背景故事，来引导大型语言模型（LLMs）生成具有代表性、一致性和多样性的虚拟角色。该方法提高了LLMs模拟个体人类样本的保真度，在模拟公众舆论民意调查方面表现优异，有望为用户研究和社会科学领域带来成本效益高且更具伦理性的替代方案。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
打击网络儿童性剥削和虐待 OpenAI 致力于通过严格的使用政策、负责任的模型训练以及与政府和行业的合作，积极预防、检测和阻止任何利用其模型进行儿童性剥削和虐待（CSAM/CSEM）的行为。文章详细阐述了禁止的使用情形、报告机制以及为应对新型滥用模式所做的安全措施。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
OpenAI：人工智能可能导致人类大规模失业 OpenAI的首席执行官Sam Altman和其他AI领域领导者在致信美国国会时发出了一个严峻的警告：未来人工智能技术的发展，特别是通用人工智能（AGI），可能在短期内对全球劳动力市场造成巨大冲击，甚至引发大规模失业。信中强调，AI的进步速度远超社会适应能力，因此需要政府立即采取行动制定监管框架和缓解措施。虽然AI的潜力巨大，但其对就业的颠覆性影响不容忽视，这呼吁社会各界对未来工作模式进行深入探讨和准备。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
通过背景故事集为语言模型构建虚拟角色：Anthology 方法介绍本文介绍了Anthology方法，它通过生成并利用包含个人价值观和经验的自然主义背景故事，来引导大型语言模型（LLM）形成具有代表性、一致性和多样性的虚拟角色。Anthology能够更精确地模拟个体人类样本，提高在公共意见调查等社会科学研究中的表现，同时引发了关于潜在偏见和隐私保护的伦理讨论。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
当AI遇见生物学：机遇、风险与责任微软研究院的专家们在最新一期Ideas播客中深入探讨了AI与生物学交叉领域。本次讨论聚焦于AI在生物安全方面的机遇、潜在风险，以及如何通过Paraphrase项目等方式负责任地推进创新，确保技术安全可靠地服务于人类福祉。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
Crescent 库为数字身份系统带来隐私保护本文介绍了微软研究院推出的Crescent隐私保护库，旨在解决数字身份系统中的隐私泄露风险。Crescent集成了零知识证明和安全多方计算等技术，使系统能在验证身份时仅使用必要信息，有效保护用户数据。了解Crescent如何革新金融、医疗等领域的身份验证安全。
- 2025-10-21
- 1
- 0
- 0
- AI基础/开发
- AI行业应用
2025-10-21
负责任地推出 Sora OpenAI 宣布推出 Sora 2 及 Sora 应用，重点强调了安全性和联合创作的新方式。文章详细介绍了五大核心安全措施：使用可见/不可见信号区分 AI 内容、基于同意使用肖像权（Cameo 出镜秀）、增强的青少年保护机制、多层级有害内容过滤（包括音频安全）、以及完善的用户控制与追索权，确保内容生成和分享的安全性。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2025-10-21
美国联邦贸易委员会（FTC）删除关于AI风险和开源的博文美国联邦贸易委员会（FTC）已悄悄删除了三篇关于开源AI和AI对消费者风险的博文，这些博文发布于前主席Lina Khan任期内。据报道，这些文章涉及了对AI风险的讨论，与现任特朗普政府主导的FTC政策方向不符，后者更倾向于快速增长和监管放松。此举引发了对政府信息记录保留和政策透明度的担忧。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
AI赋能信访，广西启动信访工作法治化“人工智能创新赛” 近日，广西壮族自治区信访局启动“人工智能赋能信访工作法治化创新应用大赛”。大赛设置四条“智慧主题赛道”，旨在利用AI技术提升信访业务的受理、办理、数据分析及文书写作效率，推动信访工作法治化高质量发展。优胜项目将有机会纳入自治区人工智能场景项目储备库。
- 2025-10-21
- 0
- 0
- 0

1
...
9
10
11
...
15