近日，清华大学‑四川大学数智时代工程管理创新与发展论坛暨联合开放日于四川大学商学院举办。活动由两校 MEM 教育中心联合主办，百余名考生与学员到场参会。清华软件学院罗平教授作《AI识别工具应用风险与防控措施》专题分享，围绕AI前沿方向、安全风险、AIGC 规范应用及学院学科建设展开讲解。

罗平教授表示，脑科学启发算法、强化深度学习、大模型等是当下AI重点研究方向。大模型应用广泛，但仍存在安全隐患，推理能力不足、结果不可解释、AI 幻觉等问题亟待解决，可解释人工智能、AI安全等将成为未来核心研究领域。

他将 AI 安全划分为三大层面：一是数据与使用安全，要防范数据泄露、隐私侵害，警惕将涉密信息上传 AI 工具造成泄密；二是算法偏见与误用，AI 不可替代人类思考，只能作为思维辅助工具；三是非法滥用，利用生成工具伪造音图视频等虚假内容。同时数据投毒、模型窃取等模型攻击手段同样值得警惕。对此，他提出应对举措：做好敏感信息脱敏，选用认证 AI 工具，对 AI 输出结果交叉核验，开展漏洞检测，保护隐私数据，规避各类风险。AIGC 能够提升创作效率，但也带来版权、内容造假、信息偏见等问题，需要规范使用。

软件学院现有教师 41 人，下设四个研究所，拥有五大国家级、省部级科研平台，累计培养毕业生六千余人。各研究所深耕不同领域：信息系统与工程研究所研发工业大数据软件栈，服务 C919 等重大工程，气象大模型实现业务落地，同时攻坚大模型安全技术；软件系统与工程研究所研发可信软件验证工具，多次斩获国际竞赛佳绩；可信网络与系统研究所完成工业互联网技术验证，实现多款大模型端侧适配；计算机辅助设计图形学与可视化研究所研发医学、口腔正畸智能系统，切实赋能医疗行业。

罗平教授以“顶天立地”概括学院办学理念：理论研究勇攀国际前沿，科研成果务求落地实用。学院以青年学者为骨干，既产出高水平学术成果，也深耕工程实践。他结合云南支教经历，勉励学子传承清华服务国家的使命担当，并欢迎优秀学子报考清华软件学院MEM。

撰写：秦颖超

编辑：秦颖超

审核：MEM教育中心