主持人：侍孝祥 /华东政法大学知识产权学院副教授

发言人：孙永和 /仁荷大学AI数据法中心教授

孙永和教授围绕生成式AI与企业经营相关问题进行精彩发言，对生成式AI在企业中的应用及其法律责任、公司法上的问题进行了探讨。孙教授深入分析了内容生成式AI的应用与版权问题、在市场营销中应用生成式AI的法律问题、生成式AI的产品开发及其专利权问题、生成式AI在客户服务中的应用与个人信息保护等方面问题。在公司法上，孙永和教授进一步指出生成式AI在公司中的应用可能产生的与董事会、董事、监察与内部控制制度等相关的法律问题。

发言人：李相佑 /仁荷大学AI数据法中心研究人员，韩中法学会理事

李相佑理事梳理了中国网络安全法制和政策方向的发展变化，以及人工智能治理体系的构建。他首先介绍了中国网络安全立法的动向和治理体系的变化，包括总体国家安全观、三部法律（网络安全法、数据安全法、个人信息保护法）、反间谍法及AI规制等。随后，他探讨了韩国网络安全现况及盲点，包括数据安全的含义与立法方向、应对网络威胁体系的现状及改善任务等。最后，李相佑理事提出了构建理想的人工智能治理体系的建议，包括对表达自由的限制立法和深度伪造技术的法律规制等。

评议人：张金平 /中央财经大学法学院副教授

张教授表示，孙教授对于生成式AI的研究非常具有前瞻性，实地考察了企业运用生成式AI的各种风险并提出了有针对性的建议和措施，对于孙教授提到的AI治理不应该局限于公司内部而应该立足整个供应链实施治理，利用AI提升公司内部效益，张教授表示赞同。张教授认为，李理事对中国网络安全治理范式的研究非常全面深入，系统介绍了整个立法历程的演变和微妙变化，强调了通过顶层设计推进网络安全治理的制度优势，提出了在韩国将网络安全和人工智能双重价值融合的治理体系。对此，张教授对中国立法作出了两点补充说明，对安全的定义进行了详细介绍。

评议人：侍孝祥 /华东政法大学知识产权学院副教授

侍教授表示，孙教授对AI应用的潜力和风险做出了全面广泛的介绍，提出了在企业管理过程当中使用AI可能遇到的法律风险和治理风险，并提出应将AI应用纳入到公司治理体系当中。而李理事从网络安全角度观察和研究AI，也非常具有价值。侍教授认为，在未来AI的开发者身份可能很难被识别，在当前开发者和使用者可识别的逻辑前提下，有三种规制模式，即行为规制、责任规制和风险规制。对于生成式人工智的治理，侍教授认为有三个治理方向，一是AI行为可识别，二是AI结果可识别，三是让AI系统的开发者和应用者承担确保AI可控的法律义务。

主持人：李世刚 /复旦大学法学院副院长，教授

发言人：丁莹镇 /仁荷大学法学院院长，韩中法学会会长

丁莹镇教授围绕公共数据的公开及其法律争议进行了探讨，分阶段介绍了韩国公共数据的利用情况，展现了韩国政府在公共数据开发上的领先经验。丁教授以宪法裁判判决和信息公开法制定作为公共数据公开的模式转换开端。第二阶段以2001年的电子政府法为标志，建立起通过电子化手段实现行政机关高效运行的政府。第三阶段是当前对公共数据的充分利用，丁教授对2013年的公共数据法和2021年“我的公共数据”做了深入介绍，探讨了韩国对信息自决权的规定，并对公共机构信息和公共数据进行比较，描绘了数字平台政府的构建。

发言人：赵精武 /北京航空航天大学法学院副教授

赵精武教授以已公开个人信息为例，围绕AI训练数据的交易合规问题，从平台产业发展数据交易需求以及现有的法律问题、中国法院基本的裁判立场和逻辑以及在世界范围内已公开个人信息交易的合法性边界三个部分进行发言。赵精武教授指出对已公开个人数据的收集、处理可能超出自然人对个人信息使用的合理预期，他以广州互联网法院所做的判决为例，讲解了在司法实践中对个人信息权利造成负面影响的信息处理行为的法律限制，说明了明确拒绝和合理使用的界限。立法与司法需要对已公开的信息做更加精细化的法律分析，确保已公开个人信息的信息主体有相应的救济方式。

评议人：张继红 /上海政法学院教授

张教授表示，两位嘉宾分别从公共数据的开发与应用以及公开个人信息的保护角度进行了精彩的演讲。丁教授从历史演变角度进行了详细梳理，从宪法权利再到信息公开再到公共数据法的框架性内容，从比较法视角来看，我国也经历了类似的历程。中国的公共数据的开发和利用主要聚焦在两个问题上，第一，什么是公共数据，这需要从主体要素、内容要素和行为要素进行判断，第二，公共数据的开放和利用形式，特别是公共数据的利用。对于已公开个人信息的保护问题，赵老师对司法实践和相关条款做了具体的解释和说明。其中涉及价值保护的利益博弈，一方面是信息主体的个人信息保护利益，另一方面是个人信息的利用价值。赵老师对明确拒绝、合理使用等概念的讨论，为我们提供了很好的学习素材。

评议人：陈吉栋 /同济大学法学院副教授

陈教授提出，在中国公共数据开放的实践中有三个层级：绝对开放、有条件开放、禁止开放。信息公开和公共数据开放的关系尚未厘清，但公共数据开放本身具有很多问题，一是公共数据开放主体积极性不高，二是公共数据开放活动质量不高。中国一直在探寻公共数据授权运营。不同国家对于公共数据应用的基本架构不同，导致数据公开的推进模式不同。信息自决权在我国并没有成为一种实在的权利。对于赵教授提到的明确拒绝，陈教授认为应该处理好主观和客观的关系，在判断明确拒绝时，既要结合意思表示的内心真意，也要结合具体行为的样态和场景。

主持人：彭诚信 /上海交通大学法学院院长，教授

发言人：鄭燦模 /仁荷大学AI数据法中心教授

鄭燦模教授围绕大语言模型（LLM）与个人信息保护的主题，从韩国的案例入手，进行了精彩的发言。鄭教授探讨了人工智能大语言模型、个人信息保护委员会审结案例、CLAVA X的个人信息处理方针和现实、立法及政策响应以及未来展望。其中，个人信息保护委员会审结案例涉及Scattery Lab和CHATGPT案，强调个人信息处理者需确保匿名信息不包含可识别特定个人的信息。立法及政策方面，鄭教授提出对自动化决定的信息主体的权利、人工智能时代安全的个人信息运用政策方向、事前妥当性审查制和激发自查制等措施。未来展望则关注个人信息治理结构与制度、已公开个人信息的搜集和利用以及个人信息处理方针与惯例。

发言人：金耀 /宁波大学法学院副教授

金耀教授进行了题为《〈个保法〉实施两周年的考察与反思》的精彩发言，在GDPR生效五周年的背景下，提出从《个保法》出台前3年和出台后2年相对比，结合数百个司法案例进行实效考察，考察内容包括立法目的事实情况、我国个人信息司法实践中呈现出的趋势以及问题和完善方式。金教授通过实证分析，指出了当前《个保法》司法实践的特点趋势，并进行了理论反思，指出存在《个保法》与《民法典》适用关系尚未厘清、个人信息侵权救济规则适用不明、个人信息主体权利性质与行使条件仍待明确等问题并提出相应观点。

评议人：金枫梁 /华东政法大学副教授

就韩国郑教授报告，金老师首先从个人信息泄漏的类型、数量与处罚的角度，比较了韩国个人信息保护委员会最新的两个案件，认为两个案件的处理与平等适用、比例原则等法理存在抵触。金教授认为，Sactter Lab案件中信息泄露程度较Open AI案件轻。从两者比价而言，Sactter Lab的案件却被施加1亿韩元重的处罚，而Open AI案却仅处罚360万韩元。其次，金教授指出，只要大语言模型运营商已采取了有效的匿名化技术、安全保障措施等，且这些匿名化技术与安全保障技术是符合当时的技术要求，在实际上是具有效果的，应该对它持有更加宽容的态度。韩国个人信息保护委员会对Sactter Lab的处罚后，该公司完全删除了之前存在问题的数据库，但新推出的产品却导致对话水平下降。因此，不符合比例原则的处罚有可能导致韩国人工智能产业发展的后退。 

评议人：吴玄 /上海师范大学政法学院副教授

吴教授表示，两位报告人从具体案例出发，介绍中韩两国个人信息保护法的适用情况，郑教授以大型语言模型与个人信息保护为题，带来了最新的有关韩国的大语言模型应用当中涉及个人信息的案件，具有代表性和现实性。在大语言模型应用场景下，精准告知个人信息的收集处理是困难的，且很难知道实际效果。个人信息保护伴随人工智能模型应用的全流程，但全流程的差异化设计，可能导致个人信息保护规则的碎片化。大模型需要不断循环训练和微调，人工智能模型设计应用和个人信息保护的阶段难以明确界分，可能导致设计者和运营者承担过多的法律责任。一方面企业需要增强个人信息保护，另一方面每个个体也要提升个人信息保护的意识。金教授的实证分析，说明了司法对于个人信息保护的重视和个人信息保护法的成效，但也揭示了公民较少通过司法途径解决个人信息权益被侵犯的问题，其可能原因有二，一是行政监管途径解决了大部分个人信息保护问题，二是互联网平台已经建立用户权益受损解决处理的机制。

会议最后，高富平教授对本次第二届中韩数据智能法律论坛进行了闭幕总结，对今天的四场主题汇报进行了总结和提炼，并对第三届论坛作出展望。本次论坛实现了中韩法律之间的成功对话，五位韩国学者对韩国的经验做了详细介绍，多位中国学者进行了评议学习。丁莹镇教授在闭幕总结中对为本次会议成功举办作出努力的各位专家学者表示感谢。

至此，第二届中韩数据智能法律论坛圆满结束。