理解困惑度得分

这部分内容有帮助吗？

参考文献

Speech and Language Processing (3rd ed. draft), Daniel Jurafsky and James H. Martin, 2025 - 一本内容全面的教材，提供语言模型的基础知识，包括困惑度的定义、计算和详细解释。
CrossEntropyLoss, PyTorch Developers, 2023 - PyTorch CrossEntropyLoss 函数的官方文档，阐明了其与负对数似然的关系及其在困惑度计算中的应用。
CS224N: Natural Language Processing with Deep Learning - Course Website, Stanford University, 2023 - 备受推崇的课程材料，讨论语言模型、困惑度及其在深度学习语境中的实际意义、解释和局限性。
A Survey of Large Language Models, Wayne Xin Zhao, Kun Zhou, Junyi Li, Tianyi Tang, Xiaolei Wang, Yupeng Hou, Yingqian Min, Beichen Zhang, Junjie Zhang, Zican Dong, Yifan Du, Chen Yang, Yushuo Chen, Zhipeng Chen, Jinhao Jiang, Ruiyang Ren, Yifan Li, Xinyu Tang, Zikang Liu, Peiyu Liu, Jian-Yun Nie, Ji-Rong Wen, 2023 arXiv preprint arXiv:2303.18223 DOI: 10.48550/arXiv.2303.18223 - 一份大型语言模型的全面调查报告，讨论了包括困惑度在内的多种评估指标及其在当代研究中的作用和局限性。