Dalai

本地运行 LLaMA 的简单方法
授权协议 未知
开发语言 JavaScript
所属分类 神经网络/人工智能、 自然语言处理
软件类型 开源软件
地区 不详
投 递 者 齐宗清
操作系统 跨平台
开源组织
适用人群 未知
 软件概览

Dalai 是一种在本地机器上运行 LLaMA 超级简单的方法,无需费心构建 cpp 文件、克隆 GitHub 以及下载文件等。一切都是自动化的。用户只需要:“npx dalai llama”

运行

得到

快速开始

安装 7B 模型(默认)并启动 Web UI:

npx dalai llama
npx dalai serve

然后去 http://localhost:3000

以上两个命令执行以下操作:

  1. 首先安装 7B 模块(默认)
  2. 然后在端口 3000 启动一个 web/API 服务器

安装

基础安装(仅限 7B 模型)

npx dalai llama

安装所有模型

npx dalai llama 7B 13B 30B 65B
 相关资料
  • 问题内容: 我有一个包含sqlplus特定脚本的sql文件:它包含/或; 作为语句终止符,执行存储过程的EXEC等。 我需要从Java(jdbc)执行此脚本,而无需sqlplus。 sql ant task / maven sql插件无法处理不同的终止符或EXEC命令。 您知道不运行sqlplus的任何好方法吗? 问题答案: 我们遇到了同样的问题…简而言之,目前还没有现成的解决方案:如果打开Ant

  • 问题内容: 我是个新手,我只是想在浏览器中运行一个最简单的react js文件。但是我无法 请注意,我不想创建-react-app,我只想在本地系统上尝试。 我照做了 在我的中,我创建了2个文件 clock.html 和 clock.js 然后在Chrome浏览器中,输入。我希望看到我的时钟,但我不知道 我做错了什么? 我对JS还是反应很新,刚刚开始阅读,因此请向我提供逐步说明。 这是我的档案 c

  • 本文向大家介绍jsp获得本地及serverIP的简单方法,包括了jsp获得本地及serverIP的简单方法的使用技巧和注意事项,需要的朋友参考一下 如下所示: InetAddress addr = InetAddress.getLocalHost(); String ip = addr.getHostAddress().toString();//获得本机IP //访问的server的ip是:Sys

  • 本地运行模式 本地运行模式主要用于测试功能是否正确。目前本地运行模式仅支持一个Worker(可以有多个Task)和一个PS。可以通过配置选项angel.deploy.mode来使用本地运行模式,具体的参数配置可参考Angel系统参数 1. 运行环境准备 Java >= 1.8 Angel发布包 angel-\-bin.zip 配置好HADOOP_HOME和JAVA_HOME环境变量,解压Angel

  • 问题内容: 我正在尝试学习新的Swift编程语言。看起来不错,但是我很难做一些事情,就像读取本地.txt文件的内容一样简单。 我尝试了一些可以通过Google找到的示例,但是它们会产生编译错误,例如此处的答案:从文本文件读取和写入数据 如果我稍稍修改一下代码,它就可以工作,但只能从内部的特殊位置读取该项目。 为什么用Swift读取.txt文件不像使用Ruby这样简单?我将如何读取位于的文件的内容?

  • 我有一些C#Azure函数,它们使用定时器触发器按计划运行。我是这样设置的,引用应用程序设置中的cron表达式: 在开发过程中,我经常希望使用 Azure Functions Tools for Visual Studio Azure Functions Core Tools 在本地运行函数。但是当我按 F5 在本地调试函数时,它(通常)不会立即运行。相反,它开始根据计时器计划等待下一次发生。例如