热门标签
更多>
Java
(39556)
python
(32336)
mysql
(18517)
int
(18371)
android
(12233)
linux
(11908)
public
(10045)
javascript
(9605)
--
(8450)
C++
(8056)
Redis
(7974)
数据库
(7876)
string
(7726)
算法
(7099)
安装
(6804)
js
(6730)
文件
(6610)
name
(6609)
jQuery
(6507)
php
(6479)
SQL
(6385)
源码
(5933)
new
(5620)
system
(5620)
函数
(5604)
线程
(5432)
print
(5290)
return
(5272)
id
(5083)
spring
(4787)
vue
(4743)
数据
(4565)
前端
(4468)
import
(4409)
root
(4321)
学习
(4284)
数组
(4177)
nginx
(4149)
out
(4101)
c#
(4027)
方法
(3966)
字符串
(3937)
对象
(3873)
https
(3802)
10
(3694)
data
(3678)
println
(3678)
com
(3610)
编程
(3556)
select
(3516)
oracle
(3442)
面试
(3415)
windows
(3408)
docker
(3341)
内存
(3284)
key
(3212)
ios
(3133)
服务器
(3132)
笔记
(3111)
list
(3105)
node
(3104)
代码
(3076)
节点
(3059)
查询
(3056)
元素
(2995)
void
(2835)
变量
(2831)
null
(2817)
include
(2816)
__
(2807)
log
(2713)
server
(2678)
var
(2625)
命令
(2599)
语句
(2564)
html
(2534)
class
(2529)
vue.js
(2481)
程序员
(2469)
索引
(2466)
搜索结果
查询Tags标签： 模型推理框架，共有 1条记录-
安卓机上 4G 内存跑 alpaca，欢迎试用轻量级 LLM 模型推理框架 InferLLM
从 LLM 火爆以来，社区已经出现了非常多优秀的模型，当然他们最大的特点就是体积大，最近为了让大模型可以在更低端的设备上运行，社区做了非常多的工作， gptq 实现了将模型进行低比特量化，因此降低了运行大模型对CPU内存，GPU显存的要求，llama.cpp 实现了在本地 CPU/G…
2023/5/8 18:52:04 人评论 次浏览
