近日，S创上海2024科技创新大会在上海西岸艺术中心成功举办。本届大会汇聚了逾200位全球科技领袖、140+创新企业、1500+投资人及11000+观众，通过主题演讲、圆桌对话、炉边畅谈等多元化形式，深入探讨尖端科技议题和创新理念，旨在引导个人、企业及行业以全新视角审视现状，挖掘未来科技创新的潜在价值，共同探索科技创新的无限可能。
活动现场，四大主题舞台围绕60+议题展开精彩对话研讨，内容涉及人工智能、生物科技、能源转型、可持续发展多领域。全球初创企业路演如火如荼，来自全球20余国家的500多家创业公司参与大赛。此外，现场设置140余前沿科技展位，吸引了众多投资人和全球合作伙伴的关注。
360漏洞云凭借在漏洞治理领域的深厚积累和在漏洞安全技术发展上的前瞻视野，获得了业界的广泛认可。大会主办方特邀360漏洞云作为安全领域唯一的社群合作伙伴，参与到这场科技创新的盛会中。同时，360漏洞云总经理、HackingClub技术社区发起人胡晓娜作为出品人和策划人，组织召开“一场关于AI场景下安全发展的畅想”圆桌对话。
作为21日“引力”舞台首场圆桌对话，“一场关于AI场景下安全发展的畅想”吸引了众多与会嘉宾的关注。主持人胡晓娜在开场中强调，在大模型迅猛发展的今天，尽管我们已经在安全领域迈出关键步伐，但未来的探索之路仍充满未知与挑战。大模型的行业应用场景日益复杂，这要求我们必须高度重视企业整体安全规划，建立全面的安全战略，让安全建设成为企业发展的坚实底座。
随着大模型的快速应用，安全行业正在发生剧变，首当其冲就是人才的角色变化，随之而来的是传统安全服务模式的改变。面对这些变化，360漏洞云积极探索，创新举措：
在人才发展上，360集团联合中国光华科技基金会，特设“数字安全科技人才激励计划”项目，通过税收优惠和榜样评选，对做出贡献的白帽黑客给予肯定和激励，借此提升社会层面对白帽黑客的认可度，同时发掘和激励更多的青年人才投身于网络安全事业；
在创新探索上，360漏洞云不断优化服务模式，借助360众测平台实现了安全劳动力模型的重塑，突破了传统安全服务的局限。通过优化技术生态和生产要素配置，平台帮助客户实现了漏洞发现能力的全面提升和资源的高效利用，使安全测试变得更加灵活和动态。360众测不仅提升了漏洞发现的准确性和效率，还为客户提供了个性化的安全评估和管理建议，增强了企业的安全防护能力，并推动了安全服务模式的升级，带来了全新的安全思路和解决方案。
大模型发展带来的挑战与机遇并存，其为企业带来了效能变革，强大的信息提取、任务编排能力也为安全技术发展提供了新的思路。
然而，训练数据质量低下影响模型的准确性、算法偏见导致信息输出错误甚至违法违规、自动化任务处理为黑产提供更便利的工具、攻击者通过逆向工程窃取数据导致数据泄露等等，诸如此类的安全风险层出不穷，为行业发展带来威胁与挑战。
本次圆桌特邀分析机构、安全创业团队负责人、技术专家、研究机构专家出席，围绕AI安全进行多视角多维度探讨。
德勤网络安全合伙人Jacob表示，GenAi与大模型的快速发展，具有同步的科技基础和社会因素，无需破坏性创新或突破，应兼顾业务场景及数据处理的合规建设。他认为，在网络安全领域，与相较传统的攻防对抗，大模型的引入不仅能帮助企业识别复杂的攻击模式、提升威胁检出效率及准确度，通过智能化分析和响应，也能消减不对等的AI攻击优势。但他也提醒，在某些特定领域，也应审慎评估智能滥用及资源配置不合理等盲目发展的现象，以确保网络安全的可持续性。
金睛云华联合创始人胡文友指出，大模型本质上是一种强大的能力，但需要与其他组件相结合，才能真正发挥作用。他预测，2023年是AI大模型发展的关键一年，这些模型在处理复杂任务方面展现出了强大的能力；而2024年将迎来AI智能体的崛起，AI智能体不仅能够理解指令，还能够在没有明确指示的情况下自主完成任务；未来到2025年，商业化进程将进一步加速，主要是比谁的产品化程度更高、成本更低、性能更好。在网络安全领域，机器学习小模型和各种大模型将会在一段时间内并存，各自发挥独特作用。
TrustAI首席技术官Andrew认为，在频繁的安全事件面前，大模型能够实现一些安全问题如自动化威胁检测和实时响应，但同时也伴随着诸多安全风险。他提出，企业在选择和应用大模型时应重点关注应用栈上的供应链风险、训练数据的清洗和合规风险、应用层的业务越权风险。Andrew认为，我们当前正处于大模型安全范式转移的时代，全新的攻击面正在不断出现。当前，LLMs正处于高速发展的阶段，各个领域都在不断变化，因此很难有任何组织或结构能够明确定义出LLMs整体安全防御的最佳实践。针对LLMs安全，通过高强度、大范围的Red Team测试，尽可能多地发现问题，从而推动行业在解决这些问题的过程中不断前进。
上海计算机软件技术开发中心人工智能研究部部长马泽宇强调了模型开发过程中的数据处理和透明性的重要性。他指出，通过确保原始数据的“干净”和规范化，建立有效的合规检验方法，以及长期监督机制，可以增强用户的信任，从而促进产业的良性发展。
作为漏洞治理领域的先行者，360漏洞云以新质生产力发展为引导，创新安全众测劳动力模型与服务模式，帮助企业应对大模型发展下的安全挑战。未来，360漏洞云将不断打磨技术，深入场景，探索AI时代漏洞安全管理新思路，推动构建互利共赢的AI安全新生态。
