地狱一样的理论问询,今年秋招最难的一场……
数学问了中心极限定理,大数定理,Γ分布和κ分布关系……
机器学习问了特征选择,特征归一化,马尔科夫链,gibbs采样,集成学习,选择性偏差,决策树并行计算,xgboost和adaboost样本权重……
深度学习问了卷积原理,梯度传播稳定性,BN本质,torch和tensorflow的图理论……
大模型问了很多工程上的问题,出现loss spike啦,波峰波谷啦,训练到一半出现异常值啦怎么处理……
还有很多理论上的,flash attention v1/v2/v3是怎么解决访存瓶颈的,位置编码外推,从0开始训长文本模型,4D并行通信开销,zero,megatron和deepspeed应用场景,MLA的实践问题……
GPU集群问了架构方式,k8s,坏点检测,负载均衡……
python问了线程锁,线程池,资源分配,垃圾回收……
以上只是我听的懂的问题里的一部分,还有好多已经忘记的和根本没听过的概念
感觉微步确实很看重理论基础,应该是相当技术导向的,面试官人也很不错,只是感觉我答的不太好,对我有点无语hh。
--------------------------------------------------------------------------------------------------------------------------
本来准备说凉经的,但刚写到这被hr告知过了二面了,感谢面试官大哥