爱游戏ayx体育:硕士生汪佳玮获评ICNLP 2026最佳论文

爱游戏ayx体育登录:

  跟着天然语言处理模型的继续不断的开展，信息安全问题逐步暴露，例如后门进犯。研讨天然语言处理模型进行后门防护，有助于保护人民产业安全、信息安全，可以在必定程度上协助信息剖析、安稳网络言论等。现如今，文本后门防护存在着核算成本高、防护通用性受限的问题，本作业通过在模型中刺进中间层并仅练习中间层，完成了低核算成本的通用文本后门防护算法研讨。

  因为后门进犯可以成功导致输出犯错的原因是触发器和标签强联络，网络学到一条核算最少的外表特征，直接给出高置信度的答案，因而本作业引进中间层嵌入优化，规划丢失函数进行练习，因为这不针对一种特定的进犯设定办法，而是依据触发器的原理设置防护，因而该办法在面临不知道的进犯时会具有防护通用性。在规划丢失函数时，本作业通过鼓舞模型对正确类别的猜测概率的方法，坚持模型对洁净样本的使命能正常进行，一起赏罚输出的反常高置信度，使触发器和标签断联，促进网络不通过这样的方式输出，到达防护的意图。

  刘伟锋教授团队研讨方向主要为机器学习、人工智能、智能信息处理算法等。现有教授1人，副教授3人，讲师4人。团队的青年人才教育训练作业近两年取得很大发展，2022年至今团队青年教师现已取得国家天然基金青年基金4项，山东省国家海外青年人才项目1项，山东省泰山学者青年专家1项等多个国家和省级项目。此外，团队青年教师现已屡次在IEEE TPAMI、IEEE TIP、IEEE TKDE、ICML、ICLR、CVPR、AAAI、IJCAI等人工智能尖端期刊和会议宣布相关研讨作业，遭到范畴的广泛重视。