Skip to content

分类:编程生涯

记录编程生涯

centos 7 部署llama.cpp

背景 最近生成式AI,chatgpt 已经火到不能在火,但是在国内存在网络问题以及费用(如何缴费)等等问题,一直断断续续的在使用,最近发现llma.cpp项目很火,能在普通的设备上运行。虽然效率不太高,但是能满足基本要求。 搭建 服务器我使用的centos 7,内存划分48G,CPU分配了24核。 …

Leave a Comment

rsync文件同步-解决scp传输中断问题

场景说明 在linux间传输文件通常使用scp传输文件,对于文件较小、文件数量较少的情况scp比较方便快捷;但是在大文件或者文件数量较多的情况下,scp对网络稳定性要求较高,如果过程中出现网络中断,则无法续传。 问题分析 scp 对网络稳定性要求较高,且无续传机制,故在传输较多或者较大文件时,应寻找…

Leave a Comment