治理机制-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 6739 篇文章
累计创建 3161 个标签
累计收到 0 条评论

目录CONTENT

以下是治理机制相关的文章

2026-02-27
联合国成立新的人工智能科学咨询小组：它将做什么？联合国成立了新的“人工智能独立国际科学小组”，旨在分析人工智能的影响，并被一些观察家与气候变化的IPCC相提并论。该小组由来自37个国家的40名研究人员组成，目标是充当“预警系统和证据引擎”，帮助区分炒作与现实，并提供“与政策相关”的报告。
- 2026-02-27
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-26
德国寻求借助AI实现安全机构现代化，打击有组织犯罪德国财政部、内政部和司法部宣布启动核心安全机构现代化改革，重点引入AI技术以加强对有组织犯罪的打击力度。此次改革将聚焦于金融犯罪、洗钱和毒品走私等领域，目标是通过技术赋能切断犯罪分子的资金来源。德国将建立联合数据分析中心，并利用AI技术对海量数据进行筛选，以更高效地锁定犯罪嫌疑人。此举旨在应对联邦刑事警察局数据显示的有组织犯罪所带来的巨大经济损失，并维护法治基础。
- 2026-02-26
- 2
- 0
- 0
- AI行业应用
- AI工具应用
2026-02-20
联合国任命“人工智能问题独立国际科学小组”成员，阿里云创始人王坚、上海交大宋海涛当选联合国秘书长古特雷斯宣布，新设立的“人工智能问题独立国际科学小组”已任命全部40名成员，任期三年。来自中国的两位科学家——阿里云创始人王坚院士和上海交通大学宋海涛院长成功入选。该专家组从全球2600多名候选人中遴选而出，旨在提供独立、公正的科学评估，以支持全球人工智能治理对话。专家组将聚焦人工智能带来的机遇、风险与影响，其首份报告预计将在今年7月日内瓦的治理讨论前发布，为全球AI治理提供重要科学依据。
- 2026-02-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-08
联合国成立科学专家组推进 AI 安全治理，两位中国科学家入选联合国于当地时间 2 月 4 日公布了“人工智能问题独立国际科学小组”的 40 位候选人名单，旨在评估人工智能如何改变全球民众生活并推进全球 AI 安全治理。该专家组的设立旨在应对人工智能技术光速发展带来的紧迫性挑战，帮助世界区分科学与伪科学，构建有效防护栏，释放创新力量。引人注目的是，名单中包含了两位中国科学家：上海交通大学院长宋海涛和中国工程院院士王坚。这表明中国在推动全球人工智能治理和安全标准制定方面发挥着重要作用。
- 2026-02-08
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-05
从护栏到治理：首席执行官保护代理系统的指南本文为首席执行官和企业提供了一份实用的蓝图，旨在通过将控制重点从“提示词调整”转向对身份、工具和数据的硬性控制，从而确保代理系统的安全。它提出了一个八步行动计划，核心在于将AI代理视为具有限制权限的真实用户进行管理。
- 2026-02-05
- 0
- 0
- 0
2026-02-03
新的AI安全策略：美国政府发布首个联邦AI安全评估框架美国政府发布了首个联邦AI安全评估框架，旨在帮助机构安全、负责任地部署人工智能技术。该框架由白宫科技政策办公室牵头制定，强调了在开发和部署AI系统时，必须进行严格的红队测试、风险评估和透明度报告。此举旨在应对AI快速发展带来的潜在风险，同时鼓励负责任的创新。框架要求联邦机构对高风险AI应用进行安全评估，确保其不会对公众造成伤害，并建立了明确的问责机制，标志着美国在AI治理方面迈出了关键一步。
- 2026-02-03
- 2
- 0
- 0
2026-01-22
Netomi 关于将智能体系统扩展到企业级的经验总结 Netomi 利用 GPT-4.1 和 GPT-5.2 构建了企业级智能体系统的蓝图。本文总结了其在将高风险、高负载的AI智能体部署到财富500强客户中积累的三大核心经验：构建应对真实复杂性、全面并行化以满足低延迟要求，以及将治理机制内嵌到运行时，确保安全可靠的规模化应用。
- 2026-01-22
- 1
- 0
- 0
2026-01-13
纽约梅隆银行与 OpenAI 携手打造“人人可享、随处可用的 AI” 纽约梅隆银行（BNY）正与 OpenAI 合作，通过其内部 AI 平台“Eliza”，赋能 20,000 名员工构建 AI 代理，旨在深化客户关系并优化运营。本文揭示了 BNY 如何在高度受监管的环境下，通过内置治理机制和全面的员工培训，安全、负责任地扩展生成式 AI 的应用，实现企业级影响力。
- 2026-01-13
- 0
- 0
- 0
2026-01-09
Netomi 为企业规模化部署智能体系统提供的经验教训 Netomi 使用 GPT-4.1 和 GPT-5.2 构建了安全、可预测的企业级智能体系统。本文总结了其规模化部署的三个关键经验：构建面向真实复杂性而非理想化流程的系统、为满足企业延迟要求而实现万物并行化，以及将治理作为运行时固有部分，为希望将智能体 AI 转化为生产级基础设施的初创公司提供了蓝图。
- 2026-01-09
- 0
- 0
- 0
2026-01-09
快手开展“AI 魔改”视频专项治理：已处置违规内容 1057 条快手平台已启动“AI 魔改”视频专项治理行动，以响应国家广电总局的要求，重点打击利用人工智能技术恶意篡改、低俗解构经典影视和动画作品的行为。自 2026 年 1 月 1 日治理行动开始以来，平台已处置了 1057 条违规内容。此次整治旨在严守内容底线，维护良好的内容传播秩序，并明确禁止对四大名著、历史正剧等经典作品进行扭曲原著精神的改编，力求为用户，特别是青少年群体营造健康的网络空间。
- 2026-01-09
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-31
AI“魔改”视频泛滥，国家广播电视总局出手治理针对当前网络上“AI 魔改”视频泛滥，严重背离经典作品精神内核的乱象，国家广播电视总局已宣布自2026年1月1日起，在全国范围内开展为期一个月的专项治理行动。此举旨在清理那些利用生成式AI技术对影视、动画等内容进行颠覆性篡改和低俗化改编的作品。治理重点关注基于四大名著、历史题材等内容的严重扭曲、宣扬错误价值观以及冲击文化认同的视频，同时清理针对儿童动画形象的邪典改编，以维护网络传播秩序并保护青少年健康成长。
- 2025-12-31
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-16
通用人工智能安全吗？专家们提出了对齐和评估的担忧随着人工智能模型能力的飞速提升，全球范围内的AI安全专家正密切关注“对齐”和“评估”两大核心挑战。对齐问题关乎确保超级智能系统能按人类意图行动，避免产生灾难性后果，但目前技术上尚未完全解决。同时，评估AI系统的能力边界和潜在风险也面临巨大困难，因为现有测试方法可能无法捕捉到未来更复杂、更具适应性的AI系统的威胁。这些担忧凸显了在AI快速发展时期，制定稳健的监管框架和安全协议的迫切性，以保障人工智能的长期可控性。
- 2025-12-16
- 2
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-08
AI 领域“黑客松”活动中出现严重安全漏洞，可能危及数万用户数据一场备受关注的人工智能（AI）黑客松活动中发现了重大的安全漏洞，威胁到可能涉及数万用户数据的安全。研究人员发现，活动中使用的特定 AI 模型和平台存在可被利用的漏洞，允许攻击者进行未经授权的数据访问或模型篡改。这一事件凸显了在快速迭代的 AI 开发环境中，安全协议的不足，对 AI 应用的信任度构成了严峻挑战，急需加强对新技术的安全审查和风险控制。
- 2025-12-08
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-02
评估框架（Evals）如何驱动企业AI的下一个篇章全球已有超过一百万企业利用AI提升效率，但许多组织未能达到预期效果。本文为企业领导者提供了一份关于如何使用“评估框架”（Evals）的入门指南。Evals将模糊的业务目标转化为一致、可衡量的结果，是确保AI系统在特定工作流程中可靠运行、降低风险并实现更高投资回报率的关键工具。
- 2025-12-02
- 0
- 0
- 0
2025-12-01
中国希望主导全球人工智能监管——其计划能否成功？尽管人工智能存在加剧不平等和引发生存灾难的风险，世界尚未就其监管达成一致。中国正积极推动建立一个全球性的治理体系，提议成立世界人工智能合作组织（WAICO）。本文探讨了中国在将人工智能置于经济战略核心的同时，引领国际AI监管的计划能否取得成功。
- 2025-12-01
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-29
我国将加强人工智能专利伦理审查国家知识产权局宣布，我国将在专利审查过程中加强人工智能伦理审查，引导“智能向善”。最新修改的专利审查指南首次设立专门章节规范AI技术方案的实施，明确要求符合法律和社会公德。同时，针对模型“黑盒”问题，细化了说明书撰写要求和充分公开标准，促进AI技术传播与应用。新指南将于2026年1月1日起施行。
- 2025-11-29
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-28
深圳上线国内首个AI智能劳动仲裁系统：111个争议类型全覆盖深圳市劳动人事争议仲裁院正式上线国内首个“全案由覆盖、全流程赋能、全方位支撑”的劳动争议仲裁智能辅助办案系统。该系统通过知识图谱和思维链驱动的算法，覆盖了111种劳动争议类型，有效防范“AI幻觉”。系统深度融入立案、调解、庭审、裁决等关键环节，显著提升了仲裁员的办案效率，阅卷效率提高50%，裁决书制作时间缩短约50%，为提升劳动争议处理的质效和公信力提供了有力技术支撑。
- 2025-11-28
- 0
- 0
- 0
- AI工具应用
- AI行业应用
2025-11-23
博弈论解释了算法如何推高价格最近的研究发现，即使是简单的定价算法也可能导致价格上涨。本文通过博弈论视角，探讨了学习算法如何在没有明确共谋的情况下，通过相互威胁和微妙的策略互动，导致市场价格维持在高位，这对传统的反垄断监管提出了新的挑战。
- 2025-11-23
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-20
从试点走向规模化：BBVA 如何推动 AI 全面落地西班牙对外银行（BBVA）正将AI全面融入其全球业务，从试点走向规模化应用。本文专访了BBVA数据与AI全球主管Antonio Bravo和全球AI应用负责人Elena Alfaro，深入了解其如何建立信任、治理和结构化学习体系，成功推广AI，使员工每周节省约3小时工作时间，并在测试中实现效率最高超80%的提升。
- 2025-11-20
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-20
评估框架如何驱动企业人工智能的下一篇章全球已有超过一百万家企业利用AI提升效率，但许多组织未能达到预期效果。本文为商业领袖提供了如何利用评估框架（Evals）将业务目标转化为一致成果的实用指南。Evals通过“明确-衡量-改进”的循环，帮助企业系统性地评估和优化AI系统的性能，从而在特定业务场景中实现可靠性、降低风险并提高投资回报率。
- 2025-11-20
- 0
- 0
- 0
- AI行业应用
- AI基础/开发

1
2