当前位置: 首页 > 知识库问答 >
问题:

ai开发 - 哪一个大模型最适合个人开发者私有化部署使用 ?

燕野
2024-06-04

是这样的,我想部署个大模型,需要用到的电脑配置低,部署简单,我会给他一些中文语料,主要以我的语料为准,不能乱答问题。

共有2个答案

沃念
2024-06-04

模型越小,遵循指令的能力越差。

私部署可以看下 ollama ,phi-3系列模型对配置的要求比较低。

https://ollama.com/

https://ollama.com/library/phi3:3.8b

芮博厚
2024-06-04

如果是学习用,可以通过Ollama 部署,提供了一套简单的工具和命令,可以使用流行的LLM,也可以自己训练。

如果是业务用:可以使用百度文心大模型,通过百度智能云千帆大模型平台,上传你的中文语料。
1.直接web界面,不用懂代码都可以做训练操作;
2.有完善的API提供,方便实际业务场景使用;
3.价格也不贵,而且越来越便宜了;
4.小应用自己部署没有性价比,服务器成本高,没有接口,没有稳定性。

 类似资料:
  • 前面章节中,已经对几个常见的 Linux 发行版做了简单的介绍,那么对于初学者来说,选择哪个发行版的性价比更高呢? 通常情况下,初学者学习 Linux,是为了找一份和 Linux 相关的工作,那么问题来了,你知道大多数企业用哪一个 Linux 发行版搭建服务器吗?虽然没有官方统计,但凭借多年的工作经验来分析,国内大多数企业使用的都是 RHEL 或者 CentOS 作为服务器操作系统。 我们知道,R

  • Android官网上有Like Executor,ThreadPool和FutureTask,因为AsyncTask被弃用了。关于我以后应该使用哪个API。现在不能使用Kotlin并发,因为我正在学习Java。

  • 主要内容:启用Struts2开发模式,禁用Struts 2的开发模式,参考在Struts2开发中,这应该是第一个学习配置的值。为了启用 Struts 2 的开发模式,可以通过自动配置显著增加Struts2的开发速度和属性文件加载,以及额外的日志和调试功能。 注:自动重新加载功能真的是一个方便的功能。 每次修改属性或XML配置文件更改,应用程序不再需要重启才能生效。 默认情况下,Struts 2的开发模式是禁用的。 启用Struts2开发模式 将“struts.devMo

  • 如果一个页面只是一个按钮点击事件或者一个function的话,是没有必要进行模块化处理的。 而如果一个页面有两个按钮或者两个function的话,是需要进行考虑模块化处理了。 模块化不是必须的,它是业务膨胀的必然结果。 比如一个常见的表单提交: 表单验证 => 数据包装 => ajax提交 => 响应处理 => 显示对话框 无论上述的哪一个步骤,都不是一个function可以解决的, 将上述每一

  • Introduction When we say an application is modular, we generally mean it’s composed of a set of highly decoupled, distinct pieces of functionality stored in modules. As you probably know, loose coupli

  • 在模板项目中,所有的路由组件页面都放在 src/pages 下。我们以 NotFound 页面为例,介绍一下页面开发的基本步骤。 添加路由 模板项目使用异步懒加载路由对象的方式,减少首屏请求大小,所以需要在 src/router.js 中定义代码切割点。 然后向 vue-router 的路由列表中添加页面对应的路由对象,代码如下: const NotFound = () => import('@/

  • A-Frame的 实体-组件框架 中的组件是在可以被混合、匹配和组合到实体上的JavaScript模块(module),来构建外观、行为和功能。我们可以使用JS注册组件并使用声明式语法在DOM中使用它。组件是可配置,可重用和可分享的。A-Frame应用程序的代码应该尽可能放在组件里面。 Image by Ruben Mueller from vrjump.de 注意组件必须被定义在 <a-scen

  • 几个月前,我决定开发一个可以真正使用的编程语言。语言的目标是这样的: 可以和C一样编译成 native 机器码,并能用于游戏开发。 语言和java/C# 类似,并且尽量减少业务代码开发的复杂度。 兼容全平台、开源。 国产、全中文支持。 有完整的 IDE、文档、工具支持。 有一个社区支持。 这是一个很伟大的事情,如果你有兴趣和时间,欢迎加入我们的开源团队。 不会做没关系,这是一个学习机会。 联系方式