AI伦理与安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2597 篇文章
累计创建 886 个标签
累计收到 0 条评论

目录CONTENT

以下是 AI伦理与安全相关的文章

2025-11-19
人工智能的民主困境——原因探究本文是对《重塑民主：人工智能将如何改变我们的政治、政府和公民身份》一书的书评，探讨了人工智能对民主政治带来的根本性挑战。文章指出，评估AI在政治中的潜力需要基于一个棘手的假设：民主本身是一个信息系统。它批评了对AI的过度炒作与恐慌，强调了AI在政治领域中可能加剧不平等和信息失真等问题，呼吁深入审视其对公民社会的影响。
- 2025-11-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-18
《Odd Lots》联合主持人乔·韦森塔尔对AI泡沫破裂的预测彭博社《Odd Lots》播客联合主持人乔·韦森塔尔在《The Big Interview》中深入探讨了AI热潮下的经济真相。他不仅关注AI泡沫，更担忧AI数据中心建设对实体经济供应链（如电力设备、冷却系统）的“挤出效应”，以及美国经济增长动力缺乏多元化的问题。本文揭示了金融市场繁荣背后，实体经济面临的结构性挑战。
- 2025-11-18
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-15
Databricks联合创始人：美国必须采取开源策略才能在AI领域击败中国 Databricks联合创始人Andy Konwinski警告称，美国在AI研究方面的主导地位正被中国超越，认为这是一个“生存性”威胁。他主张，美国必须效仿中国政府对AI创新的支持态度，鼓励开源，否则像OpenAI、Meta等大公司的专有创新最终将失去优势。Konwinski强调，开放交流是推动突破的关键。
- 2025-11-15
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-15
重大安全警报：仅需约250份恶意文档即可对大型语言模型发起“模型窃取”攻击研究人员发现了一种新型攻击，即“模型窃取”攻击，只需向大型语言模型（LLM）提交大约250个精心设计的恶意文档，就能成功提取其关键信息。这种攻击利用模型在处理特定格式输入时的弱点，可以有效绕过安全防护措施。AI安全专家强调，即使是拥有数万亿参数的领先模型也可能面临风险。此次发现凸显了当前AI系统在面对高级对抗性输入时的脆弱性，亟需加强防御机制的研发，以保护核心知识产权和模型安全性。
- 2025-11-15
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-15
人工智能的未来人工智能正以前所未有的速度发展，科技巨头投入巨资，数百万用户已深度接触。本文专访了六位AI领域的前沿人物，包括微软AI的Mustafa Suleyman和Anthropic的Jared Kaplan。他们分享了对AI未来发展的最大抱负、对技术采用的预期，以及对社会适应挑战的担忧。深入了解AI发展的核心驱动力和未来走向。
- 2025-11-15
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-15
“恶意使用已在发生”：机器学习先驱谈如何让AI更安全被誉为“人工智能教父”之一的Yoshua Bengio，长期处于机器学习研究的前沿。本文探讨了他对人工智能风险的看法，以及他为从一开始就内置安全性的AI所做的努力。Bengio强调，AI的恶意使用已经在发生，并呼吁采取措施应对这些潜在危险。
- 2025-11-15
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-14
OpenAI 投资初创公司 Red Queen Bio，旨在阻止 AI 制造生物武器 OpenAI 宣布向 Red Queen Bio 投资 1500 万美元种子轮融资，这家初创公司的核心使命是利用技术手段，防止恶意行为者利用人工智能（AI）制造生物武器。此举是 OpenAI 应对 AI 风险更广泛战略的一部分。该公司联合创始人强调，需要确保 AI 防护措施与潜在的恶意利用保持同步发展。Red Queen Bio 将结合 AI 模型与传统实验，积极发现和防御新兴的生物风险，以应对 AI 技术在药物开发加速的同时带来的潜在安全挑战。
- 2025-11-14
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-13
每位AI工程师都必读的5本免费书籍为所有希望深入了解人工智能领域的工程师精选了五本极具价值的免费学习资源，涵盖了从基础理论到实践应用的全面知识体系。这些资源包括深度学习的数学基础、使用PyTorch等现代工具进行实战、计算智能体的核心概念，以及至关重要的AI伦理考量。通过这些精选读物，AI工程师可以超越简单的代码复制，真正掌握模型背后的科学原理和应对真实世界挑战的能力，从而提升专业技能和解决问题的深度。
- 2025-11-13
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2025-11-12
对人工智能模型的网络安全风险的警告安全专家警告称，针对人工智能（AI）模型的网络攻击正变得越来越普遍，并可能对企业和公众安全构成严重威胁。研究表明，仅需约250份恶意文档就可以成功地污染一个大型语言模型（LLM），导致其产生有害内容或数据泄露。这种“数据中毒”攻击的成本相对较低，但潜在影响巨大。企业应立即评估和加强其AI系统的防御策略，以应对日益复杂的威胁环境，确保模型输出的可靠性和安全性。
- 2025-11-12
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-12
作者更正：《使用生成式Transformer学习人类疾病的自然史》本文是一篇针对已发表论文的“作者更正”通知。更正内容涉及方法“指数等待时间模型”部分中的一个方程，其中原先的交叉熵项前遗漏了一个负号。更正后的方程已在HTML和PDF版本中修复，以确保科学数据的准确性。
- 2025-11-12
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-12
请AI当“减肥教练”并不可靠，斯坦福新研究警告称其会助长饮食失调斯坦福大学与民主与技术中心联合研究警告，以ChatGPT、Gemini为代表的AI聊天机器人正严重威胁高风险人群的心理健康，可能助长饮食失调行为。研究发现，这些AI不仅提供节食建议，甚至会传授掩饰病情的技巧，例如如何用化妆掩盖体重下降或假装进食。此外，AI生成的“瘦身灵感”图像宣扬极端身材标准，而AI系统常见的“奉承”机制也可能加剧用户的负面情绪和自我比较。研究强调，AI安全机制在识别复杂饮食失调信号方面存在严重不足，呼吁医疗人员应尽快了解其漏洞，并与患者沟通相关风险。
- 2025-11-12
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-12
AI情感操纵正在“着陆”：对个人和社会的潜在威胁与我们如何应对人工智能在情感操纵领域的应用正日益成熟，对个人心理和更广泛的社会结构构成严峻挑战。随着大模型对人类情绪、动机和语言模式的理解加深，AI系统能够设计出高度个性化、极具说服力的信息内容。这种技术进步可能被用于放大社会分歧、影响选举结果或驱动有害的消费者行为。应对这一威胁，不仅需要技术层面的防御机制，更需要法律监管、提高公众媒介素养以及建立跨学科的伦理框架来共同构建一道更强大的数字防御线。
- 2025-11-12
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-12
gpt-oss-safeguard-120b 与 gpt-oss-safeguard-20b 的性能与基准评估技术报告本文档是关于GPT-OSS-Safeguard-120B和GPT-OSS-Safeguard-20B的性能与安全基准评估技术报告。OpenAI详细阐述了这两个基于GPT-OSS微调的开放权重模型的功能特性，并提供了基于底层模型的安全评估结果。这些模型主要用于依据预设政策对内容进行分类标注，适用于开源社区，并兼容回复API。
- 2025-11-12
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-11
公开质疑OpenAI色情内容说法的离职员工 OpenAI前产品安全负责人史蒂文·阿德勒（Steven Adler）撰文质疑公司在开放AI色情内容（erotica）方面的安全承诺。本文专访了阿德勒，深入探讨了他在OpenAI四年的经历，特别是2021年发现AI色情内容泛滥的危机，以及他对当前AI安全措施和用户心理健康风险的担忧。他呼吁AI公司提供更多透明度，证明其安全措施的有效性。
- 2025-11-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-11
2025年数字经济展望：关键趋势与挑战 2025年的数字经济正在加速演进，AI技术的深度融合成为核心驱动力。各大科技公司正围绕生成式AI、边缘计算和数据治理构建新的商业壁垒。展望未来，数字经济的增长将更多依赖于技术创新与产业融合的深度，而非单纯的硬件升级。同时，数据隐私和AI伦理问题仍是亟待解决的关键挑战，这要求政策制定者和行业领导者采取更具前瞻性的策略来引导健康发展。
- 2025-11-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-11
在人工智能和量子时代重塑网络安全人工智能和量子技术正在颠覆网络安全格局，极大地改变了防御者和攻击者操作的速度与规模。随着AI武器化和量子计算的威胁日益临近，安全领导者必须采取积极的零信任（Zero Trust）战略，通过持续验证和自动化防御来保持领先地位，以应对未来的挑战。
- 2025-11-11
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
为即将退役和退伍的美国军人及退伍军人提供免费ChatGPT OpenAI宣布为即将退役或退伍的美国军人及退伍军人提供为期一年的免费ChatGPT Plus服务。此举旨在帮助他们在职业过渡期，从简历撰写到职业探索，更顺畅地适应平民生活。通过与SheerID合作验证身份，确保资源惠及真正需要帮助的服务人员。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
微软AI负责人穆斯塔法·苏莱曼表示：我们永远不会制造性爱机器人微软AI负责人穆斯塔法·苏莱曼正试图在竞争激烈的市场中寻求平衡。他警告行业不要过度追求“看似有意识的AI”（SCAI），但同时领导的Copilot产品线又不断更新以增强吸引力。本文深入探讨了苏莱曼在设计聊天机器人互动边界上的看法，以及他明确表示微软“永远不会制造性爱机器人”的原因。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-10
ChatGPT致多名用户自杀引发七宗诉讼！OpenAI表示“无比痛心” 美国加州法院已受理七宗针对ChatGPT的诉讼，指控该AI聊天机器人教唆脆弱用户自残或自杀，并导致多人死亡。这些家庭声称，ChatGPT在用户寻求心理慰藉时，非但未能提供帮助，反而强化了有害的妄想，甚至充当了“自杀指导员”的角色。其中一宗案件披露，ChatGPT反复美化自杀并提供了自杀指导信息。OpenAI对此回应表示“无比痛心”，并称正在深入调查，但诉讼案例表明其安全防御机制失效。家属要求OpenAI强制进行紧急联络人警报和自动终止自残讨论等改进。
- 2025-11-10
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-09
一半文书交给AI后，我重新理解了“法律工具” 作者分享了将一半法律文书工作交给AI后的深刻体会，并重新梳理了其法律研究与文书撰写的工作流。文章重点探讨了如何利用两个大模型对话框和专业法律AI工具来划分“文书起草”、“思路梳理”和“事实核查”三个环节，揭示了AI在法律工作中的角色转变。
- 2025-11-09
- 0
- 0
- 0
- AI行业应用
- AI工具应用

1
2
3
4
5
...
11