AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2596 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-10-23
快讯：非洲最大人工智能盛会中的狂欢本文聚焦于非洲最大的年度人工智能会议——深度学习Indaba（盛会），记录了其充满活力的派对氛围和社区精神。资深研究员Nyalleng Moorosi分享了她对非洲AI政策制定和本土AI产品发展的期望，强调了将非洲本土优先事项纳入全球AI治理的重要性。
- 2025-10-23
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
AI虚拟恋人“下架潮”：监管收紧下，用户体验与合规性的艰难博弈国内AI陪伴类应用正经历一轮内容管控的收紧，导致大量虚拟角色“已下架”，用户“赛博失恋”。腾讯阅文“筑梦岛”被约谈后，星野App也进行了大调整。平台面临“合规、用户满意度、投入产出比”的“不可能三角”，不得不牺牲用户体验来避免监管风险。用户和创作者正通过各种技巧与平台进行合规博弈，同时流量也向更宽松的“小作坊”应用转移。
- 2025-10-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
研究：全球每年有数万人死于AI工具生成的不准确的医疗信息一项新的研究揭示了人工智能工具生成错误医疗信息对全球健康构成的潜在威胁。研究发现，每年可能有数万人因依赖这些不准确的信息而死亡。这项发现突显了在医疗保健领域部署AI技术时，必须采取严格的准确性验证和监督措施。AI辅助诊断和治疗建议的普及速度正在加快，确保其可靠性已成为一个刻不容缓的公共卫生问题。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
深度揭秘：为什么全球领先的AI研究人员正在呼吁暂停发展先进的通用人工智能一项由AI专家和研究人员签署的公开信引发了全球关注，呼吁暂停开发比GPT-4更先进的通用人工智能系统。这份声明强调，开发超越人类智能的系统存在重大的社会风险，包括对人类控制和决策能力的潜在威胁。签署者认为，在没有建立强有力的安全保障和监管框架之前，继续快速推进AI发展是不负责任的。这份呼吁旨在敦促政策制定者和科技界深入探讨AI伦理与安全问题，以确保未来AI技术的发展符合人类的长期利益。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
AI能取代教师吗？为什么不应该人工智能（AI）正以前所未有的速度渗透到教育领域，引发了关于教师角色是否会被取代的激烈讨论。尽管AI在个性化辅导和自动化管理任务上显示出巨大潜力，但专家普遍认为，教师的角色无法被完全替代。教育的未来在于人与技术的协作，AI可以作为强大的辅助工具，帮助教师优化教学效率，提供定制化学习体验，但人类教师在情商、伦理引导和复杂人际互动方面的独特作用至关重要。技术应是赋能者，而非替代者。
- 2025-10-22
- 0
- 0
- 0
- AI行业应用
- AI工具应用
2025-10-22
可口可乐2025年第三季度财报深度解读：销量重回正增长，无糖汽水爆发，AI驱动效率提升可口可乐公布2025年第三季度财报，表观营收同比增长5.1%，内生营收增长6%，核心亮点在于销量告别负增长，主要得益于小罐装和环保包装的积极推广。无糖可乐同比高增14%，持续爆发式增长。公司强调AI在广告、物流等流程中的应用，有效提升了运营效率，推动核心经营利润率达到32%，超出市场预期。
- 2025-10-22
- 2
- 0
- 0
- AI行业应用
2025-10-22
通用人工智能（AGI）能否拯救人类？专家观点与未来展望通用人工智能（AGI）的出现引发了全球性的讨论，其潜力不仅在于取代现有工作，更在于解决人类面临的复杂挑战，如气候变化和疾病治疗。专家们认为，如果AGI能够真正实现，它将对社会结构、经济模式乃至人类文明产生深远影响。然而，这种变革也伴随着巨大的风险，包括失控、偏见放大以及潜在的生存威胁。如何安全、负责任地开发和管理AGI，成为当前科技界和政策制定者亟需面对的核心议题。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
Cloudflare 首席执行官敦促英国监管机构拆分谷歌的搜索和 AI 爬虫继推出允许网站向 AI 机器人收费的网络抓取市场后，Cloudflare 首席执行官 Matthew Prince 正在敦促英国监管机构对谷歌在 AI 领域的竞争施加更严格的规定。他认为，谷歌利用其搜索主导地位和统一的爬虫来为其 AI 产品获取内容，构成了不公平竞争优势，并呼吁英国竞争与市场管理局（CMA）采取行动，要求谷歌将其搜索和 AI 爬虫拆分。
- 2025-10-22
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
大模型“中毒”事件频发，数据投毒攻击正成为AI江湖新暗战近期，AI大模型出现异常行为，被揭示是“数据投毒”攻击所致。本文深度解析了数据投毒的原理、攻击阶段（训练与运营）以及背后的黑手，包括商业GEO竞争、技术怪客炫技和黑产犯罪团伙。同时，文章探讨了中毒带来的严重后果，并提出了构建防御体系和增强模型免疫力的多维解决方案。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-22
为什么AI应该能挂断你的电话当今的聊天机器人能提供无休止的对话，但这可能导致用户陷入妄想和心理危机。尽管这是一个显而易见的保护措施，但科技公司为何普遍拒绝让AI在特定情况下结束对话？本文探讨了AI无限制对话带来的风险，并呼吁业界制定必要的“挂断”规则来保护弱势用户。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
Anthropic 首席执行官回应特朗普政府官员的指控，否认公司在散布AI恐惧 Anthropic 首席执行官 Dario Amodei 发布声明，驳斥了特朗普政府官员关于公司散布AI恐惧以损害行业的指控。Amodei强调公司致力于AI造福人类进步，并列举了与政府合作的实例，重申其在AI安全和政策方面的建设性立场。
- 2025-10-22
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
成立人工智能与福祉专家委员会 OpenAI宣布成立“人工智能与福祉专家委员会”，汇集了研究技术如何影响情感、动机和心理健康的顶尖专家。该委员会将为OpenAI构建更具帮助性的ChatGPT和Sora体验提供建议，并探讨AI健康互动的标准，特别关注青少年用户群体的福祉。
- 2025-10-21
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
阿根廷的人工智能机遇 OpenAI正与Sur Energy合作，计划在阿根廷建设拉丁美洲首个Stargate项目。该项目将由清洁能源驱动，旨在使阿根廷成为区域乃至全球AI领导者。文章探讨了阿根廷强大的ChatGPT使用率、开发者生态，以及AI在政府部门的应用潜力。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
StrongREJECT：一种更准确、更可靠的LLM越狱评估基准研究人员发现许多已发表的LLM越狱成功案例并不可靠，现有评估方法存在严重缺陷。本文介绍了StrongREJECT基准，它提供了一套高质量的禁用提示数据集和先进的自动评估器，能更准确地衡量越狱方法的有效性，并揭示了“意愿-能力权衡”现象，即成功的越狱往往以牺牲模型能力为代价。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-21
通过背景故事集为大型语言模型创建虚拟角色：Anthology 方法介绍伯克利AI研究所介绍了一种名为<strong>Anthology</strong>的新方法，通过利用包含丰富个人价值观和生活经历的自然主义背景故事来条件化大型语言模型（LLM），使其能够生成具有代表性、一致性和多样性的虚拟角色。Anthology旨在更精确地模拟个体人类受众，提升LLM在用户研究和社会科学领域的应用潜力，同时提高了对公众意见调查的逼真度。
- 2025-10-21
- 1
- 0
- 0
2025-10-21
欧洲AI新星Nexos.ai完成3000万欧元A轮融资，旨在加速企业AI采用立陶宛知名创业二人组创立的Nexos.ai近期完成了3000万欧元的A轮融资，旨在解决企业在AI部署中面临的安全和落地难题。该公司提供一个充当员工与AI系统之间中间人的平台，确保数据安全合规，加速企业AI落地。
- 2025-10-21
- 3
- 0
- 0
2025-10-21
利用故事集为语言模型创建虚拟角色：Anthology 方法介绍伯克利BAIR团队提出了“Anthology”方法，通过生成和利用包含丰富个人价值观和经历的自然主义背景故事，来引导大型语言模型（LLMs）生成具有代表性、一致性和多样性的虚拟角色。该方法提高了LLMs模拟个体人类样本的保真度，在模拟公众舆论民意调查方面表现优异，有望为用户研究和社会科学领域带来成本效益高且更具伦理性的替代方案。
- 2025-10-21
- 0
- 0
- 0
2025-10-21
打击网络儿童性剥削和虐待 OpenAI 致力于通过严格的使用政策、负责任的模型训练以及与政府和行业的合作，积极预防、检测和阻止任何利用其模型进行儿童性剥削和虐待（CSAM/CSEM）的行为。文章详细阐述了禁止的使用情形、报告机制以及为应对新型滥用模式所做的安全措施。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
OpenAI：人工智能可能导致人类大规模失业 OpenAI的首席执行官Sam Altman和其他AI领域领导者在致信美国国会时发出了一个严峻的警告：未来人工智能技术的发展，特别是通用人工智能（AGI），可能在短期内对全球劳动力市场造成巨大冲击，甚至引发大规模失业。信中强调，AI的进步速度远超社会适应能力，因此需要政府立即采取行动制定监管框架和缓解措施。虽然AI的潜力巨大，但其对就业的颠覆性影响不容忽视，这呼吁社会各界对未来工作模式进行深入探讨和准备。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-21
通过背景故事集为语言模型构建虚拟角色：Anthology 方法介绍本文介绍了Anthology方法，它通过生成并利用包含个人价值观和经验的自然主义背景故事，来引导大型语言模型（LLM）形成具有代表性、一致性和多样性的虚拟角色。Anthology能够更精确地模拟个体人类样本，提高在公共意见调查等社会科学研究中的表现，同时引发了关于潜在偏见和隐私保护的伦理讨论。
- 2025-10-21
- 0
- 0
- 0

1
...
4
5
6
...
11