鲁棒性是谁翻译出来的鲁棒性是什么意思 _鲁棒性原则

【鲁棒性是谁翻译出来的鲁棒性是什么意思】近年来，随着自然语言处理技术的不断突破，深度学习模型在各项 NLP 任务中的表现正在稳步攀升。2018 年 1 月，在斯坦福大学发起的 SQuAD 阅读理解评测任务中，来自微软亚洲研究院的自然语言计算组所提出的算法率先赶超了人类。短短三年后，微软的 DeBERTa 和谷歌的 T5+Meena 模型在包含了多种自然语言处理任务的综合评测集合 SuperGLUE 上再次超越了人类。近日 IBM 号称 “首个能在复杂话题上与人类辩论的 AI 系统” 的 Project Debater 登上了 Nature 杂志的封面，该系统在 78 类辩题中获得了接近人类专业辩手的平均评分。我们不禁要问，人类真的被打败了吗？
事实上，纵使这些 NLP 模型在实验数据集上的表现十分惊人，在实际应用中我们却很难感知到自然语言处理系统 “超越人类” 的语言理解水平。难倒这些看似 “聪明” 的模型，只需要一个简单的“逗号”，即便是基于赫赫有名的预训练语言模型 BERT 的算法也不例外。
例如，“汉堡很好吃薯条一般”对汉堡的评价是正面的，但当我们插入 “，” 时，一些模型就会将 “汉堡很好吃，薯条一般” 判别为对汉堡的负面评价。一个微小且无关紧要的改动就能使自然语言处理系统失效，诸如此类的例子屡见不鲜。

文章插图

鲁棒性何为
为何大杀四方的优秀模型在纷繁复杂的现实场景中纷纷折戟沉沙？其中一个很重要的原因是此前缺乏对模型鲁棒性的重视和深入探讨，导致模型只能在特定语料中圈地为王，在模型的效果评测中也仅仅关心在特定测试语料上的性能。如何帮助模型走出这样的困局，给自然语言处理领域带来质的飞跃，是实现下一步技术发展的紧要任务。
鲁棒性是机器学习模型的一项重要评价指标，主要用于检验模型在面对输入数据的微小变动时，是否依然能保持判断的准确性，也即模型面对一定变化时的表现是否稳定。鲁棒性的高低直接决定了机器学习模型的泛化能力。在研究领域中，许多模型只能在某一特定的数据集上呈现准确的结果，却不能在其他数据集上复刻同样优异的表现，这就是由于模型对新数据中的不同过于敏感，缺乏鲁棒性。
在现实世界的应用场景中，模型要面对的是更加纷繁复杂的语言应用方式，待处理的数据里包含着更加庞杂的变化。一旦缺乏鲁棒性，模型在现实应用中的性能就会大打折扣。在测试数据集上获得高分是远远不够的，机器学习模型的设计目标是让模型在面对新的外部数据时依然维持精准的判断。因此，为了确保模型的实际应用价值，对模型进行鲁棒性评测是不可或缺的。
方法 & 实验
目前已有一些正在关注模型鲁棒性的工作，但大多只针对单个的 NLP 任务，或是只使用了少量的数据变形方法，缺乏系统性的工具集合。针对这一问题，复旦大学自然语言处理实验室展开了大规模的鲁棒性测评工作，在桂韬博士、王枭博士、张奇教授、黄萱菁教授的主导下，20 余位博士生和硕士生共同参与，历时 9 个月，开发了面向自然语言处理的多语言鲁棒性测评一站式平台TextFlint 。
TextFlint 包含针对12 项 NLP 任务，设计了80 余种数据变形方法（20 余种任务通用变形、60 余种领域特有变形），涵盖了领域相关黑盒变形、领域无关黑盒变形、白盒变形、分组抽样、分析报告等等一系列功能。为了确保数据变形方法符合语言使用，针对不同任务上的所有变形选取约 10 万条变形后的语料进行了语言合理性（Plausibility）和语法正确性（Grammaticality）人工评测，确保了变形方法的可用性。使用者仅仅需要添加几行代码，就可以完成模型鲁棒性的详细检测。

文章插图

对于绝大多数的研究人员，使用 TextFlint 默认参数就可以一键化生成全方位的鲁棒性验证数据，几乎没有任何学习成本。对于有复杂定制需求的用户（例如对数据进行多个变形的组合操作），通过编写配置文件即可满足需求。此外，TextFlint 还提供便捷的鲁棒性可视化报告功能，多维度的鲁棒性分析报告，可以为开发者指引了模型进一步优化方向。用户可以根据报告结果，为模型生成扩展样本或对抗样本，从而直接提升 NLP 模型鲁棒性。
利用 TextFlint，复旦大学自然语言处理实验室还对包括分词、词性标注、句法分析、命名实体识别等在内的 12 项自然语言处理任务的约 100 个模型进行了复现和验证。部分任务还验证了 Microsoft、Amazon 以及 Google 的商业 API 接口结果，共计花费了2 万多个 GPU 小时，完成了6.7 万余次实验（全部评测结果可访问 TextFlint.io 获取）。

鲁棒性是谁翻译出来的 鲁棒性是什么意思

秒懂生活扩展阅读

鲁棒性是谁翻译出来的鲁棒性是什么意思