当前位置: 首页 > 知识库问答 >
问题:

ai开发 - 哪一个大模型最适合个人开发者私有化部署使用 ?

燕野
2024-06-04

是这样的,我想部署个大模型,需要用到的电脑配置低,部署简单,我会给他一些中文语料,主要以我的语料为准,不能乱答问题。

共有2个答案

沃念
2024-06-04

模型越小,遵循指令的能力越差。

私部署可以看下 ollama ,phi-3系列模型对配置的要求比较低。

https://ollama.com/

https://ollama.com/library/phi3:3.8b

芮博厚
2024-06-04

如果是学习用,可以通过Ollama 部署,提供了一套简单的工具和命令,可以使用流行的LLM,也可以自己训练。

如果是业务用:可以使用百度文心大模型,通过百度智能云千帆大模型平台,上传你的中文语料。
1.直接web界面,不用懂代码都可以做训练操作;
2.有完善的API提供,方便实际业务场景使用;
3.价格也不贵,而且越来越便宜了;
4.小应用自己部署没有性价比,服务器成本高,没有接口,没有稳定性。

 类似资料:
  • 前面章节中,已经对几个常见的 Linux 发行版做了简单的介绍,那么对于初学者来说,选择哪个发行版的性价比更高呢? 通常情况下,初学者学习 Linux,是为了找一份和 Linux 相关的工作,那么问题来了,你知道大多数企业用哪一个 Linux 发行版搭建服务器吗?虽然没有官方统计,但凭借多年的工作经验来分析,国内大多数企业使用的都是 RHEL 或者 CentOS 作为服务器操作系统。 我们知道,R

  • Android官网上有Like Executor,ThreadPool和FutureTask,因为AsyncTask被弃用了。关于我以后应该使用哪个API。现在不能使用Kotlin并发,因为我正在学习Java。

  • 开放性问题,没有预设太多条件,可以基于直觉回答

  • 主要内容:启用Struts2开发模式,禁用Struts 2的开发模式,参考在Struts2开发中,这应该是第一个学习配置的值。为了启用 Struts 2 的开发模式,可以通过自动配置显著增加Struts2的开发速度和属性文件加载,以及额外的日志和调试功能。 注:自动重新加载功能真的是一个方便的功能。 每次修改属性或XML配置文件更改,应用程序不再需要重启才能生效。 默认情况下,Struts 2的开发模式是禁用的。 启用Struts2开发模式 将“struts.devMo

  • 如果一个页面只是一个按钮点击事件或者一个function的话,是没有必要进行模块化处理的。 而如果一个页面有两个按钮或者两个function的话,是需要进行考虑模块化处理了。 模块化不是必须的,它是业务膨胀的必然结果。 比如一个常见的表单提交: 表单验证 => 数据包装 => ajax提交 => 响应处理 => 显示对话框 无论上述的哪一个步骤,都不是一个function可以解决的, 将上述每一

  • Introduction When we say an application is modular, we generally mean it’s composed of a set of highly decoupled, distinct pieces of functionality stored in modules. As you probably know, loose coupli