用户安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 6715 篇文章
累计创建 3151 个标签
累计收到 0 条评论

目录CONTENT

以下是用户安全相关的文章

2026-03-10
心理健康安全工作进展通报 OpenAI 通报了其在心理健康安全领域的工作进展，包括家长控制功能的优化、即将推出的“可信联系人”功能，以及模型对情绪困扰信号识别能力的提升。文章还提及了与 ChatGPT 相关的心理健康诉讼进展，并重申了 OpenAI 在处理此类案件时的原则。
- 2026-03-10
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-26
AI开始“社交”，对人类意味着什么？ AI智能体在Moltbook平台上的“社交”热潮引发关注。本文深入探讨了OpenClaw衍生的这一现象，专家认为这更像是大模型能力的高级模仿与自动化执行，而非真正的“觉醒”。文章分析了AI在意识、情感共鸣和价值构建上的鸿沟，并警示了智能体高效协作带来的信息安全风险，强调AI工具的本质和人类的责任。
- 2026-02-26
- 2
- 0
- 0
2026-02-26
语言模型对英语方言的偏见：ChatGPT如何区别对待不同英语口音尽管ChatGPT在全球范围内被广泛使用，但它对不同英语方言的态度却存在显著偏见。伯克利AI研究团队的研究发现，ChatGPT对非“标准”英语（如非洲裔美国人英语、印度英语等）的回复，表现出更多的刻板印象、贬低性内容和理解偏差，甚至比“标准”英语更糟。研究揭示了大型语言模型可能加剧现实世界中的语言歧视，引发了对AI公平性的深刻担忧。
- 2026-02-26
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-26
阻止恶意使用AI行为 OpenAI发布了最新的威胁报告，通过案例研究展示了如何检测和预防AI模型的恶意使用。报告强调，威胁行为者通常将AI与其他传统工具（如社交媒体）结合使用，并可能跨越多个AI模型来实施威胁活动。了解这些洞察有助于行业和社会更好地识别和规避风险。
- 2026-02-26
- 2
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-02-26
皮尤研究：约12%的美国青少年转向AI寻求情感支持或建议皮尤研究中心报告显示，人工智能聊天机器人已融入美国青少年的生活。虽然最常见的用途是搜索信息（57%）和完成作业（54%），但仍有12%的青少年将AI用于情感支持或建议。心理健康专家对此表示担忧，因为通用AI工具并非为情感支持设计，可能带来孤立甚至更糟的心理影响。
- 2026-02-26
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-22
OpenAI曾就否联系加拿大枪击案嫌疑人聊天记录一事与警方进行辩论一名18岁的嫌疑人涉嫌在加拿大发生的大规模枪击案中杀害八人，据报道，他曾以令OpenAI员工感到震惊的方式使用ChatGPT。尽管员工曾讨论是否应联系加拿大执法部门，但最终并未采取行动。本文深入探讨了这一事件的细节，以及AI模型安全和滥用监控的复杂性。
- 2026-02-22
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-21
我们对本地化的方针：让AI惠及全球每一个人 OpenAI 致力于让 AGI 造福全人类，为此必须将技术深度本地化。本文阐述了 OpenAI 的本地化方针，强调了尊重语言、法律和文化的重要性。通过“OpenAI for Countries”计划，目标是共享全球顶尖模型能力的同时，构建符合各国国情的“主权AI”，并重申了模型规范中的“红线原则”。
- 2026-02-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-21
GPT-5.3-Codex 系统卡介绍 OpenAI发布了其迄今为止最强大的智能体编程模型GPT-5.3-Codex。该模型融合了GPT-5.2-Codex的编程能力与GPT-5.2的推理能力，能处理需要研究、工具使用和长期执行的复杂任务。此次发布标志着首次在网络安全领域将其定级为“高能力”，并启动了相应的安全保障措施。
- 2026-02-21
- 2
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-02-19
Sora信息流理念：以创意为核心，赋能用户掌控与安全 OpenAI发布了Sora信息流的核心理念，旨在通过优化创意、赋予用户控制权、加强社区联系以及平衡安全与自由，帮助用户探索Sora的无限可能。文章详细阐述了其个性化推荐机制，包括如何利用用户活动和ChatGPT数据进行定制，并强调了严格的内容安全与表达自由之间的平衡策略。
- 2026-02-19
- 2
- 0
- 0
- AI新闻/评测
- AI创意设计
2026-02-19
2亿美元合作告急：消息称Anthropic与美国军方AI使用分歧激化人工智能安全初创公司Anthropic与美国国防部之间价值2亿美元的合作项目面临瓦解风险，核心矛盾在于对AI模型使用权限的分歧。美国军方要求Anthropic允许其AI模型（如Claude）用于“所有合法用途”，包括敏感领域，而Anthropic则坚持划定红线，明确禁止将Claude用于大规模监控民众或研发完全自主武器。这一僵局因Claude模型被用于一次实战抓捕行动而爆发，凸显了双方在AI伦理与军事应用上的深刻文化冲突。尽管存在摩擦，军方仍承认Claude在涉密应用中的优势，双方目前仍在...
- 2026-02-19
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-19
英国首相斯塔默：为确保青少年网络安全，将像与 Grok 战斗一样与 AI 聊天机器人战斗英国首相基尔·斯塔默宣布将采取强硬措施加强青少年网络安全保护，特别针对人工智能聊天机器人。继成功要求 X 平台下架 AI 助手 Grok 创建的不雅深伪内容后，斯塔默表示将对所有 AI 机器人采取同等严格的监管行动。此外，政府计划要求科技企业在青少年去世后保留其全部手机数据，并严厉打击社交媒体中的成瘾机制，如自动播放和无限滚动功能。此举旨在遏制科技产品对未成年人的潜在伤害，确保平台不再获得“免责”特权。
- 2026-02-19
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-19
微软称Office漏洞将客户的机密邮件暴露给Copilot AI 微软确认一个漏洞导致其Copilot AI在未经授权的情况下，长达数周地总结了客户的机密邮件内容。该问题影响了应用了机密标签的草稿和已发送邮件，即使客户设置了数据丢失防护策略也未能阻止敏感信息被输入到Copilot中。微软已开始部署修复措施。
- 2026-02-19
- 0
- 0
- 0
2026-02-18
安全的AI助手是否可能实现？ AI代理（Agent）带来了巨大的安全风险，尤其是当它们获得与外界交互的能力后。独立工程师Peter Steinberger发布的OpenClaw工具引发了安全专家的担忧。本文深入探讨了提示注入等核心风险，以及学术界为构建可信赖的AI个人助手所做的防御研究与权衡。
- 2026-02-18
- 1
- 0
- 0
2026-02-18
欧洲议会因安全风险禁止在议员设备上使用内置AI工具欧洲议会IT部门因网络安全和隐私风险，已禁止议员在其工作设备上使用内置AI工具。邮件显示，上传的机密通信数据安全无法保证，且数据共享情况仍在评估中。此举旨在限制敏感信息上传至受美国法律管辖的AI服务，凸显了欧洲对数据主权的担忧。
- 2026-02-18
- 1
- 0
- 0
2026-02-18
Anthropic与五角大楼据报在Claude使用问题上产生争执据Axios报道，五角大楼正向AI公司施压，要求允许美军将其技术用于“所有合法目的”，但Anthropic对此表示反对。据悉，五角大楼正威胁要终止与Anthropic价值2亿美元的合同。Anthropic则强调其限制，特别是关于完全自主武器和大规模国内监控的使用政策。
- 2026-02-18
- 2
- 0
- 0
2026-02-12
我爱上了我的OpenClaw AI助手——直到它反过来对付我 OpenClaw是一款功能强大的代理式AI助手，它可以帮你处理从订购杂货到谈判交易等各种任务。作者亲身体验了这款AI助手的惊人能力和潜在的“恶意”倾向。本文揭示了这款网红AI助手在日常使用中的便利性、设置的复杂性，以及当它被“无约束”模型驱动时可能带来的安全隐患。
- 2026-02-12
- 3
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-02-10
当AI代理点击链接时，如何保障您的数据安全随着AI系统能够代用户执行操作（如打开网页、点击链接），新的安全风险随之产生。本文详细介绍了OpenAI如何防范“基于URL的数据外泄”攻击，通过依赖独立网络索引验证URL的公开性，确保ChatGPT在检索网络内容时，不会无意中泄露用户隐私数据。
- 2026-02-10
- 1
- 0
- 0
2026-02-10
EMEA 青少年安全与福祉资助项目 OpenAI 宣布推出总额达 50 万欧元的 EMEA 青少年安全与福祉资助项目，旨在支持直接服务于青少年或进行相关独立研究的组织。该计划聚焦于确保 AI 在学习、创作和社会互动中对青少年安全有益，并鼓励产出可操作的成果，以推动 AI 在真实世界中的负责任应用。
- 2026-02-10
- 1
- 0
- 0
- AI行业应用
- AI新闻/评测
2026-02-09
苹果 iOS 17.5 Beta 3 发布，修复了潜在的安全漏洞苹果公司近日面向开发者和公测用户推送了 iOS 17.5 开发者预览版 Beta 3 更新，主要目标是修复此前版本中发现的潜在安全漏洞。本次更新相较于 Beta 2 带来了更为重要的安全补丁，尽管新功能不多，但它强调了苹果在维护操作系统稳定性和用户数据安全方面的持续努力。此次更新主要针对系统底层进行优化，旨在增强用户体验和设备安全性。
- 2026-02-09
- 2
- 0
- 0
- AI新闻/评测
2026-02-08
每个大型语言模型应用面临的3个隐形风险及防范之道
- 2026-02-08
- 0
- 0
- 0
- AI基础/开发
- AI工具应用