《NLP》专题

一面/技术面 2024/8/6 晚上19:40-20:20 自我介绍 介绍最新的一篇在投的论文，问了几个问题 介绍NeurIPS论文 介绍腾讯实习 数据集构造？ 怎么微调的 尝试了哪些模型，为什么选择这个 尝试了哪些策略，为什么选择这个 还知道哪些长文本技术策略 除了微调还知道哪些流程（对齐） 说说提示压缩 介绍快手实习 了解哪些位置编码 偏好对齐的理解，有哪些方式 进来后你主要想做哪方面的应用

8.27 1.自我介绍 2.项目(llava的训练，qwen和clip层如何拼接，对多模态的了解，prompt词是怎么设计，如何微调的模型，数据量是多少，评估指标，浅浅问了rag) 3.手撕 括号匹配(优化版，如果考虑括号的优先级应该怎么做) 无八股，也没有问一些基础的东西，几乎40分钟都在聊项目，10分钟写算法，还叫提前实习 已约hr面

问项目问的很奇怪，比如预训练模型初始化怎么做的，模型多少层，嵌入维度怎么样，权重捆绑。 问了一堆深度学习的八股，bert，transformer，梯度消失梯度爆炸，BNLN之类的。 代码做了两题，lc.200 岛屿数量 和 lc.16 最接近的三数之和，手撕了，后面问了三数之和时间复杂度优化策略和n数之和思路。 反问问了对方业务，主要是百度APP首页搜广推。 第二天告知一面已过 #百度求职进展汇总

8.22 全程70分钟，不折磨，略聊天 手撕： 上来直接手撕2题，30分钟，没开摄像头 自己处理输入输出 回文链表判断，升序列表的旋转点 实习： 面试官启动摄像头 拷打业务，使用场景，上线情况，系统设计，难点解决 大模型搜推和传统搜推的区别，trade-off等 八股： 搜推算法：不熟，用的不多，不问了 分类任务统计学评价指标，F1-score等 文章偏CV，自己选一个模型和任务讲讲 手撕Tran

十道选择，两道简答题，三道编程 整体不算难，但是建议大家提前准备下 编程题第一道是很简单的算法。 第二道是要求用opencv从零开始写一个目标检测程序。 第三道是给了一个transformer做二分类的代码要求补全。#秋招经验分享#

（笑，随便投的算法，居然简历没被挂） 面试官一眼就是特别好，会理解人的 1.自我介绍 2.实习为什么是后端 3.介绍一下你的论文 4.说说你论文的贡献，idea是怎么来的 5.对比学习的公式是啥（论文用到了） 6.对比学习公式里的 \tau 作用是什么 7.GCN解决了什么问题 8.介绍一下GAT 9.图神经网络里面的 Transductive 和 Inductive 是什么 10.介绍一下Tra

一面 介绍一下预训练数据处理 数据配比有什么经验 介绍一作的文章 你们有用大模型做数学推理吗？主要用什么方法 手撕：链表重排 二面 讲一下论文，拷打细节，你觉得还需要在哪些方面提升 拷打项目，讲一下数据清洗 模型训练发生的一些异常如何处理？如loss突然上升 训练数据有问题如何检查出来 用过哪些bert类型的小模型，他们用什么预训练任务 讲一下位置编码 长文本问题怎么处理的 手撕：最长无重复子串

1.自我介绍 2.项目拷打 3.实习拷打 4.微调的显存需求，如何估算？经典的Deepspeed举例 5.deepspeed 原理 （ZeRO三阶段、offload） 5.多标签文本分类，怎么选大模型，loss怎么设计（不太会传统的NLP任务，每个文本可能有多个标签，只回答了一个交叉熵损失） 6.z字螺旋矩阵生成（感觉不能叫螺旋矩阵）： 具体为给定一个正整数N，生成下面形式的NxN的矩阵 N=4为

一般好像没人写hr面的内容，但是鉴于我面之前比较想知道飞星hr面问什么，顺便写一下之前的疑点，所以面完索性记录下来 全程24分钟 1.不用自我介绍，直接开始 2.开始问我实习相关的东西，问我有几段，我说两段，她说第一段问什么没写简历上，是因为不相关吗，我说不是，简历位置有限，还没写上；问我实习期间有没有佩服的人，我讲了一下我mentor的事迹；问我跟非技术对接有没有什么矛盾，我就编了点；问我这两段

地图出行服务业务部-T联合 (一面已凉 投递时间：7.11（第一次投递的挂掉了） 变更岗位：7.26 测评邮件：7.26 面试时间：7.30 15:00，挂得很快，吃完饭回来就挂了 总时长：80min，其中项目40min 1、之前在百度做的岗位信息爬取和我的论文有什么关系，为什么离职了？ 2、论文里的损失解释一下，设计的模型是微调的 or 预训练的？ 3、比赛是自己做的还是组里合作的 4、tran

7.30一面 1.自我介绍 2.纯问项目，主要就是让讲项目，做这个项目的背景，以及具体思路。 3.手撕，(给一个有问题的路径，返回正确路径)

全程30分钟 无手撕 1.自我介绍 2.介绍一下论文的项目，我直接共享屏幕开始讲，讲完问我论文里认识推理是怎么做的，然后问我基于哪个模型做的，然后让我讲一下我的研究方向，然后让我说一下未来这个方向会怎么发展，最后问了我其他几篇论文的情况 3.介绍一下实习的经历，我讲了一下智能npc相关的，然后让我详细讲一下，我就说了人设对话、模型训练、模型推理几部分 4.让我说自己的优缺点，我就说优点是抗压能力强

1 自我介绍 2 问了一些问题细节 Bert内部的架构是什么样的？ 注意力机制是怎么回事，如何计算？ 简单回答了下KQV啥的，具体的矩阵运算记不得了 为什么Bert内部采用batch layer(没听太清)？ 不知道没答上来 Bert和GPT结构上有什么区别？ 3 经历问题 问到了项目中做语义匹配的时候使用Bert什么标记的输出 4 闲聊 有没有接触过实体抽取和知识图谱？ 为什么学管理的来搞算法？

全程四十多分钟，无手撕 1.自我介绍，介绍完先问家是哪的看来离得远还减分了；然后问为什么要面讯飞，我直接开始拍马屁 2.介绍第一个项目，我的是一个rag的项目，先介绍了大概思路，然后问我rag的核心思想是什么，我答了一下我的理解，说到embedding他问我维度，我答了一下，他说会不会影响计算速度什么的，我答了我的理解；问我数据的存储方式，我说向量数据库；问我如何优化这个过程，我答了几个方面；问我

1.问项目 2.八股 因为在项目里面涉及了多模态的工作，问的时候也问了一点关于多模态的八股 CLIP的损失，图像和文本是怎么编码的？ BLIP的损失 transformer为什么要用layernorm QK为什么要除dk Lora的原理 llama和chatglm的区别#面试经验##算法面试经验分享#