![腾讯NLP一面面经](https://imgs.xnip.cn/cj/jy2/2024-03-29/7b877bc3-21be-4aa6-89cf-8f25da4df7df.jpg)
面试时间:3.28
流程:自我介绍—>项目/八股穿插—>手撕代码(本地IDE)——>反问
时长:约70分钟
八股:
RoBERTa的改进
中文RoBERTa的分词(不过这点面试官说不了解也没关系)
focal loss
lora原理
什么情况下适合全参数微调,什么情况下适合lora微调(我答的数据量少、单一任务时更适合lora,因为lora更新的参数少,原论文没有对FFN更新,任务单一数据少时直接全参数微调容易出现灾难性遗忘/原始能力丧失。不清楚是否准确)
对知识蒸馏的了解
代码:
beam search 先说原理再写伪代码(只需要写出搜索部分)
编辑距离
面的是微信输入法的岗位,业务偏传统nlp,项目问的比较多