假设要下载如下的数据集:

  • https://hf-mirror.com/datasets/sradc/chunked-shuffled-wikipedia20220301en-bookcorpusopen

需要使用hf-mirror提供的工具hfd来下载,具体使用命令如下:

wget https://hf-mirror.com/hfd/hfd.sh
chmod a+x hfd.sh
export HF_ENDPOINT=https://hf-mirror.com
./hfd.sh sradc/chunked-shuffled-wikipedia20220301en-bookcorpusopen --dataset --tool aria2c -x 4

这样就能将数据集下载到当前目录。

可能会报错缺少aria2c之类的工具,就用linux命令安装一下。

其他下载方法可参考:https://hf-mirror.com/

下载大模型的其他方式见:https://blog.csdn.net/ybdesire/article/details/134204332

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐