在hf-mirror下载数据集的方式
·
假设要下载如下的数据集:
- https://hf-mirror.com/datasets/sradc/chunked-shuffled-wikipedia20220301en-bookcorpusopen
需要使用hf-mirror提供的工具hfd来下载,具体使用命令如下:
wget https://hf-mirror.com/hfd/hfd.sh
chmod a+x hfd.sh
export HF_ENDPOINT=https://hf-mirror.com
./hfd.sh sradc/chunked-shuffled-wikipedia20220301en-bookcorpusopen --dataset --tool aria2c -x 4
这样就能将数据集下载到当前目录。
可能会报错缺少aria2c之类的工具,就用linux命令安装一下。
其他下载方法可参考:https://hf-mirror.com/
下载大模型的其他方式见:https://blog.csdn.net/ybdesire/article/details/134204332
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐

所有评论(0)