10月13日,由字节跳动举办的2022安全AI挑战赛成绩新鲜出炉,学院概况网络空间安全学院密码分析与大数据安全实验室黄征老师指导2名学生邓鑫瑞、马可凡组成Anya战队参赛。Anya战队在基于文本和多模态数据的风险识别赛道中与200余支战队同场竞技,最终在初赛、复赛榜单和决赛答辩中均排名第一,夺得冠军。
Anya战队成绩排名
战队在复赛的Emoji复杂文本识别赛题中提出了基于机器翻译和文本纠错的解决方案,对大数据时代下的网络信息内容安全研究具有重大意义。在短视频、自媒体高度发达的背景下,各大网络平台中出现了海量以Emoji表情通过谐音、字形等指代其他含义的内容。利用Emoji表情文本的灵活性,不法团伙可以绕过现有的基于规则或语义的策略模型发布不良信息,严重危害网络环境的内容安全与生态健康。战队以Emoji表情的原始含义作为辅助信息,通过机器翻译和文本纠错任务,将Emoji表情文本转换为适用于通用模型的规范文本,大大提升了对不规范文本的风险识别能力。
基于机器翻译和文本纠错的Emoji复杂文本识别方案
本次挑战赛由字节跳动安全中心主办,与上海交通大学、复旦大学、浙江大学等高校合作举办,结合学术界前沿研究挑战和工业界实际落地难点,围绕基于文本和多模态数据的风险识别(Track I)和文本对抗攻击(Track II)两个赛道展开,吸引了来自190余所高校、科研院所的500多支战队参赛。赛题不仅需要选手对学术领域前沿研究有深入的理解,也要求针对实际场景数据提出独到的改进,极具挑战性。
密码分析与大数据安全实验室负责人为邱卫东教授(电院网络空间安全学院副院长,中国中文信息学会大数据与隐私计算专委会副主任委员、入选教育部“新世纪优秀人才计划”、上海市优秀技术带头人,荣获中央网信办全国网络安全优秀教师),实验室长期从事密码分析/密码工程、大数据安全分析&隐私保护,囊括自然场景文本处理、互联网测量,图像视频多媒体智能化分析技术,AI安全/隐私保护和金融大数据分析等领域的研究,承担了包括国家重点研发计划、科技部863计划专项、科技部科技支撑计划、国家自然科学基金、国防预研等一系列国家级项目,研究成果荣获上海市科技进步一等奖。近年来在IEEE Transaction on Industrial Electronics、Knowledge-Based Systems、JOC、FSE、Information Sciences、Computer&Security等发表了100余篇学术论文。
来源丨网络空间安全学院
文稿丨徐燕虹