
探索教育创新与实践
一、背景介绍
杨智尧,男,四川大学化学学院2018级硕士研究生,在攻读硕士学位期间,他不仅专注于科学研究,还积极探索教育创新与实践,致力于将理论知识转化为实际应用。
二、教育创新与实践
1. 基于实例对比学习的无监督领域自适应研究
杨智尧在无监督领域自适应领域进行了深入研究,提出了低类别不确定性和高训练潜力实例学习(LUHP)方法,该方法通过减少正样本与锚间的距离,增加负样本与锚间的距离,学习目标样本的判别特征表示,针对传统方法中存在的不确定数据标记错误和低训练潜力数据利用问题,LUHP设计了类别不确定性权重和重用策略,提高了模型的稳健性,基于权重的多样本三重损失优化了目标函数,减少了锚与具有高训练潜力的正样本之间的距离,同时增加了锚与具有较高训练潜力的负样本之间的间距,实验结果表明,LUHP在多个数据集上均达到了最优性能,尤其对于Office-Home数据集实现了显著的性能提升。
2. 黑盒领域自适应中的少数类遗忘问题研究
针对黑盒领域自适应中存在的少数类遗忘问题,杨智尧提出了重新认识遗忘类的RFC方法,该方法包含选择训练和邻域聚类两个模块,旨在缓解少数类遗忘问题,选择训练模块根据模型的学习状态选择容易遗忘的类,并利用小损失准则获取所选类的干净样本进行增强训练,邻域聚类模块则使模型学习更加均衡,进一步缓解少数类遗忘问题,他还提出了带有双缓冲区的CEM-TD3方法,通过构建行动者缓冲区和评论家缓冲区,实现了更高效的进化和更充分的探索。
3. 多维用户建模与推荐系统研究
杨智尧在多维用户建模方面也取得了显著成果,他设计了一种专门针对推荐任务的Transformer层,利用自注意力机制捕捉用户与商品之间的序列化交互模式,提出了一种组门控网络,能够有效识别和划分用户群体,从而在多个Transformer层中层次化地发现用户群体,并精准捕捉其多维兴趣,为了扩展数据应用范围并进一步增强多维用户建模,他还将该方法应用于联邦学习框架,支持在保护隐私的前提下使用用户隐私数据集。

4. 对话情感识别研究
在对话情感识别(ERC)方面,杨智尧提出了一种有效的ERC粗粒度标记策略——DERC,该策略为每个对话分配一组情绪,作为弱监督学习重新制定ERC预测因子,以优化ERC的潜在候选,为了验证这一策略的有效性,他提出了一个简单而灵活的渐进式学习的DERC框架(DERC-PL),该框架以自我训练的方式联合更新伪话语级情绪和ERC预测器,逐步从低噪声密度的训练子集更新到高噪声密度的训练子集。
5. 多模态关系抽取研究
在多模态关系抽取(MRE)领域,杨智尧强调了包含细粒度类别的语义不变实体属性的重要性,他提出了一种基于实体属性的全新原型引导的多模态关系抽取(PG-MRE)框架,该框架首先利用大语言模型(LLMs)生成详细的实体解释,以补充属性语义,通过属性原型模块(APM)对属性类别进行精炼,并将分散的实体属性特征凝聚为簇级原型,关系原型模块(RPM)通过原型对齐的属性特征,引导多样化的视觉外观特征,生成紧凑且区分性强的多模态表示。
杨智尧在研究生期间取得了丰硕的研究成果,不仅在无监督领域自适应、黑盒领域自适应、多维用户建模、对话情感识别和多模态关系抽取等领域提出了创新性的方法和策略,还通过实验验证了这些方法的有效性和优越性,他的研究工作不仅推动了相关领域的发展,也为未来的研究提供了重要的参考和启示,展望未来,杨智尧将继续在科研道路上不断前行,探索更多未知领域,为科技进步和社会发展贡献自己的力量。