月青悠

青青子衿,悠悠我心

读hugging face文档有感

单GPU优化 Resource: Hugging Face Doc Method/tool Improves training speed Optimizes memory utilization Batch size choice Yes Yes Gradient accumulation No Yes Gradient checkpointing No Yes Mixed precision training Yes (No) Optimizer choice Yes Yes Data preloading Yes No DeepSpeed Zero No Yes torch.compile Yes No Parameter-Efficient Fine Tuning (PEFT) No Yes FP16 If your model doesn’t work well with...

2024-03-11    2024-03-14    1668 字    4 分钟    月青悠

非root用户安装新版本cuda以及配置nlp环境

非ROOT用户配置远程CUDA服务器的深度学习环境,下面以Pytorch为例。 CUDA驱动 查看服务器已经安装的CUDA版本: 1 nvcc -V 我这里显示...

2024-03-10    2024-03-21    1292 字    3 分钟    月青悠

安卓Root抓包星穹铁道抽卡链接

前言 在编辑本文内容之前,看到发现有一些介绍如何在安卓抓包获取星穹铁道抽卡链接的文章(通过ADB或者电脑辅助进行),感谢微信公众号 星穹铁道工坊...

2023-05-06    1457 字    3 分钟    月青悠

切换Xcode以编译未适配的theos插件

前言 最近需要重新编译一个名为 PassBy 的iOS越狱插件,发现在我的新设备上频频报错,于是将探索经过与解决过程记录在下。 由于我并不专业,甚至对iOS开...

2023-04-24    2090 字    5 分钟    月青悠

Brew安装R内核的Notebook

前言 我的另一篇文章介绍了在Linux远程服务器上使用conda配置r内核的jupyter notebook ,但我发现conda对于各种依赖冲突处理得并不好,...

2023-01-16    2024-03-15    879 字    2 分钟    月青悠

Unix终端安装配置Oh My Zsh

介绍 Oh My Zsh 是什么 Oh My Zsh 是一款社区驱动的命令行工具,正如它的主页上说的,Oh My Zsh 是一种生活方式。它基于 zsh 命令行,提供了主题配置,插件机制,已经...

2022-12-07    2024-03-21    1738 字    4 分钟    月青悠