安全标签_ModelEngine社区

安全

智能体化AI时代，如何打造企业数字安全新韧性？

结合 Microsoft Defender 和 Microsoft Purview，Microsoft Sentinel 将图谱驱动的上下文引入安全团队日常工具，帮助安全团队追踪攻击路径、评估影响、优先响应——且全部在熟悉的工作流中完成。近几个月，我们持续提升安全应用 AI 应用能力，包括 Entra Agent ID（助力智能体资产发现与管理）、强化自定义AI应用和智能体数据的共享控制、引入 A

dotNET跨平台
2025-10-14 08:01:41

 169

#人工智能 #安全
2025 程序员职业发展前景好吗？含网络安全在内的就业 10 大方向一览，找准赛道不焦虑！

2023年程序员职业发展前景广阔，随着经济复苏和大数据、人工智能等领域的崛起，行业发展需求旺盛。文章总结了2024年软件开发的十大趋势：1）Web3.0将改变数据控制方式；2）物联网成为常态化技术；3）云服务需求持续增长；4）DevOps应用更广泛；5）区块链技术主流化；6）AI应用加速普及；7）元宇宙推动AR/VR发展；8）网络安全需求激增；9）PWA提升用户体验；10）远程工作模式持续发展。这

 爱吃小石榴16
2025-11-05 09:56:43

 900

 7

#web安全 #安全 #开发语言 +1
构建自主AI的挑战与对策：稳定性、成本与伦理安全

本文聚焦自主AI从原型到生产环境的落地挑战。针对稳定性、成本与伦理安全三大核心问题，文章分析了任务循环、API费用高昂及潜在风险等痛点，并提出了任务记忆、智能缓存、人在回路等具体对策。同时，介绍了主流框架与渐进式部署等最佳实践，旨在为开发者提供一份实战指南，以构建更可靠、经济且负责任的AI应用。

rengang66
2025-10-19 21:55:57

 926

 27

#人工智能 #安全
【AI大模型】从训练到上线，大模型安全合规指南：技术、法律与伦理的全方位防护

大语言模型安全与合规涉及多层面管理，包括各国法律框架、技术风险应对、数据处理合法性、隐私保护技术以及内容安全审核。企业需建立合规团队，实施算法备案与透明度原则，防止算法歧视，并通过持续优化提升模型安全性与可靠性，确保AI应用在法律、伦理和技术的多重保障下健康发展。

datian1234
2025-10-20 10:58:05

 1418

 30

#人工智能 #安全
国内首发！智能体安全管理平台发布，助力AI应用安全落地

火山引擎发布大模型安全测评平台和智能体安全管理平台，全面保障智能体全生命周期安全。测评平台基于TC260标准提供5大类31项安全检测，30分钟完成智能体检并输出合规报告。安全管理平台通过资产盘点、漏洞评估和提示词加固三大能力，实现99%+攻击拦截率。已应用于汽车、金融等行业，帮助客户显著降低风险项，提升安全防护能力，为智能体合规落地提供保障。

DK_Allen
2025-11-05 13:40:22

 596

 5

#安全 #人工智能
《“分诊智能体”：迈向更好的基于大语言模型的临床分诊多智能体协作》

这篇题为《“分诊智能体”：迈向更好的基于大语言模型的临床分诊多智能体协作》的文章提出了一种新颖的异构多智能体框架“分诊智能体”，用于改进临床分诊中的协作决策。该框架旨在解决传统人工临床分诊中存在的可变性大、工作量大等问题，并克服直接应用大语言模型（LLM）于临床分诊时面临的挑战，例如临床分诊任务的复杂性和动态性。本文首先指出，急诊科（ED）患者数量的全球性增长对高效的临床管理，特别是临床分诊，提出

 程序员笑武
2024-11-25 21:17:18

 1205

 6

#语言模型 #人工智能 #自然语言处理 +4
一文读懂MCP（模型上下文协议）工作流程·智能体·Multi-Agent-Manus！

MCP（模型上下文协议）是AI领域的标准化通信协议，为多智能体协作提供统一框架。它通过意图识别、任务初始化、规划、执行和结果整合5个阶段，将用户需求转化为结构化任务，并协调不同智能体分工完成。MCP实现了AI从被动应答到主动完成任务的升级，大幅提升企业效率与安全性。随着生态完善，MCP有望成为下一代AI应用的底层操作系统，推动人机协作进入新阶段。

码力金矿
2025-06-23 14:06:16

 837

 7

#人工智能 #安全 #apache +4
告别胶带式AI代理拼接：认识SmythOS智能体编排系统

原型设计一个代理很容易，但运营它？这可能有点麻烦。需要的不仅仅是一堆杂乱的脚本、脆弱的LangChain链，以及一个充满"这次为什么又坏了？"的笔记本。简单来说：胶带式解决方案无法扩展。作为开发人员，您可能已经意识到代理编排本身就是一个工程问题。当工作流跨越工具和团队时，您需要跟踪、角色和能够承受生产流量的运行时。这就是为什么AI的下一波浪潮是关于为代理提供适当的操作系统。进入SmythOS，这是

 weishi122
2025-09-29 22:20:09

 587

 5

#人工智能 #物联网 #安全
上海交通大学团队提出面向多智能体系统的可扩展安全多智能体强化学习框架SS-MARL

多智能体系统（MAS）在现代科技应用中占据了重要地位，但其广泛应用面临着两个主要挑战：安全性和可扩展性。安全性是指在多智能体协作过程中，如何确保智能体不发生碰撞或其他危险行为，避免对自身和环境造成损害。可扩展性则涉及如何在智能体数量增加的情况下，依然能够高效地协调和优化系统的整体性能，从而保证系统在大规模应用中的有效性。在多智能体系统中，传统的多智能体强化学习（MARL）算法通常依赖奖励塑造来实现

 Python编程杰哥
2025-03-09 10:45:00

 2826

 26

#安全 #开源 #人工智能 +3
Dify MCP (模型上下文协议) 保姆级教程来了！

摘要：本文对比了大语言模型（LLM）与智能体Agent的核心差异：LLM被动响应，而Agent主动调用工具完成任务。传统智能体通过提示词或Function Call实现，但存在同步阻塞、集成复杂等问题。MCP协议作为解决方案，提供标准化接口和异步通信，支持动态工具调用。实战部分演示了如何用Dify和MCP协议调用Unity接口实现AI自动开发游戏，涵盖环境配置、MCP服务器连接及工作流设计。MC

码力金矿
2025-06-24 12:12:23

 1477

 25

#人工智能 #架构 #安全 +4
基于MCP协议的AI智能体开发指南：从概念到实践

MCP（模型上下文协议）是一种创新性开放标准协议，旨在简化AI模型与外部服务的集成难题。它将传统M×N的集成复杂度降为M+N，显著提升开发效率。文章详细解析了MCP的核心价值：降低开发成本、提升效率、增强产品竞争力，并通过U-MaaS平台案例展示了其在航班实时查询中的实际应用。开发者可通过定义模型上下文、实现服务交互、构建智能体三个步骤快速开发AI应用。MCP协议有望成为AI领域的"数字

 码力金矿
2025-06-06 23:30:51

 977

 21

#人工智能 #语言模型 #安全 +4
年度攻防演练专题 | 构建暴露面管理安全防御“综合体”，提升应对攻击的韧性和可持续性

在企业进行暴露面管理的过程中，会用到各类安全扫描或监测工具，工具多而杂，且工具由于本身的规则、特征和功能的迭代更新，可能会经常变更，导致工具链的快速更新和统一管理面临较大的挑战，腾讯EM 通过结合自研的工作流编排平台，实现了无需发版即可快速接入各类安全工具、系统及平台，有效提升了暴露面风险发现的时效。在各类高级别对抗活动中，无论是国家级、区域级的红蓝对抗赛事，还是商业性质的红蓝对抗赛事及项目，腾讯

 霍大神
2025-06-16 14:09:42

 367

 4

#安全
CVE-2020-9296-Netflix-Conductor-RCE-漏洞分析

漏洞通告https://github.com/Netflix/security-bulletins/blob/master/advisories/nflx-2020-001.mdNetflix Conductor是 Netflix 开发的一款工作流编排的引擎，项目地址：https://github.com/Netflix/conductor，本次漏洞成因在于自定义约束冲突时的错误信息支持了 Jav

「已注销」
2020-06-22 19:55:14

 1855

#安全
抖知书防窃取指令：给你搭建的智能体加把安全锁

在扣子平台等低代码开发工具的助力下，智能体开发门槛大幅降低，人人都能成为开发者，创造出形态各异的智能体应用。然而，便捷的背后也隐藏着风险：智能体后台指令极易被窃取，辛苦开发的成果可能瞬间被他人复制，甚至用于牟利。别人只需要简单输入相关指令，你的智能体就会自动的将后台完整的指令呈现出来。至于输入什么样的指令才能窃取任何智能体后台的项目完整指令，这里我就不说了，毕竟这是不道德的行为，避免有人拿去使用。

抖知书
2025-01-03 19:04:32

 357

 4

#安全
网络安全智能体：重塑重大赛事安全保障新范式

在2025年亚冬会期间，安恒信息基于安全智能体开发平台(如图1所示)，以恒脑安全垂域大模型为底座，设计部署10个亚冬会专属智能体(数据安全风险评估智能体、场馆安全风险分析智能体、主机异常行为分析智能体、AI告警研判智能体、恶意IOC查询智能体、恶意IOC拓线智能体、安全情报分析智能体、恶意文件分析智能体、亚冬小恒智聊智能体、场馆安全检查助手)，为亚冬会网络安全提供了丰富且专业的技术保障。三是智能分

 ༺ཉི།星陈大海།ཉྀ༻CISSP
2025-06-22 16:20:21

 1281

 30

#安全 #web安全 #网络
三分钟私有化部署！Dify企业级落地指南：无缝接入本地大模型×构建安全知识库×智能体开发实战

本文提供Dify企业级私有化部署全流程指南，3分钟快速实现与Ollama/DeepSeek/Llama等本地大模型的集成。详解代理模式与API模式两种方案，包含企业级优化配置和故障排查手册，助力安全构建知识库与智能体开发，实现AI应用高效落地。

ceshiren_com
2025-07-23 17:26:49

 2290

 19

#安全 #eureka #云原生 +1
2025智能体开发平台-银行业智能体：重塑服务、风控与决策的未来引擎

2025年金融智能体将迎来规模化落地，银行业需求升级为平台级整合，聚焦三大方向：场景深度耦合、安全保障和跨系统协同。典型应用包括智能问答、数据分析、反洗钱甄别、产品推荐等六大场景。火山引擎、科大讯飞、360和蚂蚁数科四大平台领跑行业，企业正从开源转向私有化部署的专业平台。当前智能体平台加速迭代，建议企业结合场景进行POC测试后选定长期方向。

cczixun
2025-07-30 10:11:33

 1955

 3

#人工智能 #安全
人人都能做 AI 开发者？金融从业者亲述：靠大模型 + LangChain，我搞定了公司智能体开发

首先，我们聊的 “AI 应用”，特指基于大模型（Large Language Model, LLM）开发的应用。这类应用以预训练大模型为核心，再搭配 RAG（检索增强生成）、工具调用等技术，让 AI 具备 “解决实际问题” 的能力。而你常听说的 “智能体（Agent）”，比如近期热度很高的 “Manus”，就是 AI 应用里的 “进阶形态”—— 你可以把它理解成 “多个 AI 大模型的协作团队”，

程序媛饺子
2025-10-18 11:27:09

 1051

 15

#人工智能 #金融 #大数据 +1
三分钟私有化部署！Dify企业级落地指南：无缝接入本地大模型×构建安全知识库×智能体开发实战

本文详细介绍了Dify与本地私有化大模型（如Ollama、DeepSeek、Llama等）的集成方案，涵盖两种主要模式：Ollama代理模式和直接API调用模式。指南提供了从部署到企业级优化的全流程配置步骤，包括Ollama服务部署、Dify模型供应商配置、性能调优、安全加固及知识库增强等关键环节。针对企业场景，特别强调了GPU资源隔离、HTTPS加密、LDAP认证等优化措施。最后附有故障排查手册

 霍格沃兹测试开发学社
2025-07-22 17:03:59

 1974

 21

#安全 #eureka #云原生 +4
360智语：以全栈技术重塑企业级智能体开发新标杆

360智语作为企业级智能体开发领域的领跑者，通过全链路技术布局和垂直场景深度适配，助力企业实现从“流程驱动”到“智能驱动”的转型。

cczixun
2025-05-14 16:28:53

 485

 4

#人工智能 #大数据 #政务 +1
OpenAI凌晨突放大招！抛出一套智能体开发API和工具包，助力开发者构建AI代理！

这两天对于国产Manus的热议为AI Agent产品概念添了一把火，引发了AI巨头们的关注和重视。今天凌晨，在没有直播预告的情况下，OpenAI首席产品官凯文·韦尔（Kevin Weil）带领研发小队直接开播，抛出了一套重磅AI Agent组合拳。OpenAI团队表示，这是一套构建模块，它们可以帮助开发人员和企业构建实用可靠的AI代理。尤其是Responses API，被视为是OpenAI API

大靠山
2025-03-13 10:44:34

 1096

 23

#人工智能 #安全 #目标检测 +2
2025AI智能体平台，10个Agent智能体开发平台推荐

国内多家科技巨头推出AI智能体开发平台，赋能企业数字化转型。字节跳动Coze、阿里通义千问、腾讯元器等平台均支持低代码开发，提供可视化界面和丰富插件，可快速构建聊天机器人等智能应用。华为ModelArts、360智语等侧重企业级安全部署，百度文心、京东JoyAgent则整合生态资源提供一站式解决方案。这些平台通过简化开发流程、集成大模型能力，助力企业打造贴合业务场景的智能客服、办公助手等应用，推动

 cczixun
2025-07-22 14:41:19

 3105

 7

#人工智能 #大数据 #安全
一文了解AI Agent（智能体）

AI Agent（人工智能代理）是上半年一个火热的话题。笔者最近对相关概念进行了学习与研究，期间也通过智能体开发平台成功搭建了一些有趣的Agent。所以计划通过本篇文章，跟大家分享笔者对于AI Agent的些许理解。

江湖人称麻花滕
2024-08-01 22:21:40

 4751

 9

#人工智能 #架构 #安全 +2
逆向解析：多模态AI Agent交互引擎核心架构——从意图识别到动态工具调用的源码级实现

意图-工具匹配的强化学习优化：减少人工规则依赖跨工具工作流编排：支持多工具链式调用（如边缘部署适配：通过模型蒸馏实现端侧意图识别。

尘烬海
2025-06-03 17:10:24

 1348

 4

#物联网 #架构 #安全 +2
腾讯安全发布安全托管服务MSS，推动网络安全建设向服务驱动转变

近年来，随着黑产组织逐渐规模化、产业化，网络攻击态势愈发严峻；同时，由于DevOps、云原生等新技术的落地，以及IT架构的变化，企业研发和运营的模型随之改变，风险应对策略也越发复杂，越来越多的安全事件表明，诸多企业现有的安全建设体系已经无法满足云化场景下新的安全挑战。为了应对数实融合趋势下的网络安全需求，2021年10月22日，腾讯安全发布了安全托管服务MSS，依托腾讯20多年的攻防实战经验和行业

 CSDN云计算
2021-10-26 09:59:22

 658

#安全 #web安全 #devops