认知颠覆 · COGNITIVE OVERTURN
NLP任务的"统一"与"分化"同时发生
预训练模型(尤其是T5的Text-to-Text框架)试图将所有NLP任务统一为文本到文本的格式——这是"统一"。但实际工程中,每个任务仍有其独特的数据处理、评估指标和部署需求——这是"分化"。真正的高手是既理解统一框架的威力,又尊重每个任务的独特性。
来自这本书的解读报告
《自然语言处理:基于预训练模型的方法》
这本书回答了NLP如何从任务驱动转向预训练驱动的问题,答案是用预训练-微调范式统一解决各类语言任务。
阅读完整解读报告 →